Sakhanda Wire
NVDA $230.86 +1.09% MSFT $512.80 -0.02% GOOGL $338.24 -1.70% META $725.93 +0.10% AMZN $248.23 -0.37%
← До новин

Найкращі фреймворки з відкритим кодом для агентів локальних LLM у 2026 році

Агент — це модель і оболонка. Оболонка запускає інструменти, зберігає стан, керує дозволами та передає контекст назад моделі. Із локальною моделлю оболонка має більше значення. Невеликі контекстні вікна та слабші можливості виклику інструментів виявляють кожну помилку в дизайні.

Цей посібник ранжує 11 оболонок із відкритим кодом за якістю документації локального виконання. Усі факти про репозиторії взято з GitHub 18 вересня 2026 року. Рейтинг враховує 4 чинники: ліцензію, схвалену OSI, задокументовані локальні середовища виконання, стан підтримки та засоби безпеки.

3 правила, які стосуються кожної оболонки

1. Спершу збільште контекстне вікно: згідно з документацією Ollama щодо довжини контексту, значення за замовчуванням залежать від VRAM: 4k за обсягу до 24 ГіБ, 32k — від 24 до 48 ГіБ і 256k — за 48 ГіБ або більше. На цій самій сторінці зазначено, що агентам та інструментам для програмування слід виділяти щонайменше 64 000 токенів. Виправлення — один рядок: OLLAMA_CONTEXT_LENGTH=64000 ollama serve.

2. Обирайте модель із підтримкою виклику інструментів: документація провайдерів Goose зазначає, що моделі без підтримки виклику інструментів можуть лише виконувати чат-завершення. Щодо llama.cpp, у документації Pi зазначено, що прапорець --jinja вмикає сумісні шаблони чату та виклик інструментів.

3. Чесно оцінюйте потреби в пам’яті: посібник Cline для локального запуску зіставляє 16–32 ГБ оперативної пам’яті з невеликими квантизованими моделями, 32–64 ГБ — із моделями програмування середнього розміру, а 64 ГБ або більше — з більшими моделями. На сторінці Ollama про Hermes зазначено, що gemma4 потребує близько 16 ГБ VRAM, а qwen3.6 — близько 24 ГБ VRAM.

1. OpenCode

OpenCode документує 3 локальні шляхи у власній документації провайдерів: Ollama, LM Studio та llama-server із llama.cpp. Кожен із них використовує пакет @ai-sdk/openai-compatible із локальним baseURL. Загалом документація заявляє про підтримку понад 75 провайдерів.

Налаштування може складатися з однієї команди. На сторінці Ollama про OpenCode наведено команду ollama launch opencode. Рекомендовано контекстне вікно щонайменше на 64k токенів. У власній документації OpenCode також є практична порада: якщо виклики інструментів не працюють, збільште num_ctx приблизно до 16k–32k.

До складу входять 2 вбудовані агенти. build має повний доступ. plan працює лише в режимі читання та запитує дозвіл перед виконанням команд bash.

Найкраще для: розробників, яким потрібне найширше документоване локальне налаштування в одному термінальному інструменті.

2. Pi

Pi — мінімалістичний варіант. Його README надає моделі 4 інструменти: read, write, edit і bash. Він навмисно не підтримує MCP, субагентів, режим планування та спливаючі вікна дозволів. Ці можливості надаються через розширення та пакети TypeScript.

Pi має нативну підтримку маршрутизаторного сервера llama.cpp. Маршрутизатор виявляє кілька файлів GGUF і завантажує їх за потреби. Керувати моделями в Pi можна за допомогою /llama. Ollama також його підтримує. Команда ollama launch pi встановлює Pi, налаштовує провайдера та відкриває сеанс.

Для локального використання важливе одне застереження. Pi не має вбудованої системи дозволів. Він працює з дозволами вашого користувача. У README рекомендовано використовувати Docker, розширення мікровіртуальної машини або політичну пісочницю для ізоляції.

Стара URL-адреса badlogic/pi-mono тепер перенаправляє на earendil-works/pi. Earendil придбала Pi у квітні 2026 року, а творець проєкту Маріо Цехнер приєднався до компанії. The Pragmatic Engineer повідомляє, що Pi є основою, на якій побудовано OpenClaw.

Найкраще для: невеликих локальних моделей, яким короткий список інструментів залишає більше контексту для коду.

3. Goose

Goose документує найбільшу кількість локальних середовищ виконання серед усіх оболонок у цьому списку. У його документації провайдерів перелічено Ollama, LM Studio, Docker Model Runner, Ramalama та Atomic Chat. vLLM і KServe працюють через OpenAI-сумісного провайдера. Власні провайдери можуть не вимагати ключа API для локальних серверів.

Управління — його відмінна риса. Linux Foundation заснувала Agentic AI Foundation 9 грудня 2025 року, а Block долучила до неї goose. Тепер репозиторій розміщено за адресою aaif-goose/goose. Goose написаний мовою Rust і постачається як настільний застосунок, CLI та API. У README згадано понад 70 розширень MCP.

Налаштування Ollama просте. Запустіть goose configure, оберіть Ollama та введіть назву моделі.

Найкраще для: загальної автоматизації за межами програмування під нейтральним управлінням фонду.

4. Cline

Cline — найсильніший варіант на основі редактора. Його локальний посібник понад усе рекомендує ввімкнути параметр «Use Compact Prompt» для локального виконання. Також радять зосереджуватися на конкретних завданнях і починати нові сеанси, коли контекст збільшується.

За замовчуванням кожне редагування файлу та кожна команда потребують схвалення. Автоматичне схвалення є необов’язковим. Режими Plan і Act розділяють стратегію та виконання.

На одну деталь ліцензування варто звернути увагу. Власний README Cline зазначає, що плагіни JetBrains не мають відкритого коду. Розширення для VS Code, CLI та SDK містяться в репозиторії під ліцензією Apache-2.0.

Найкраще для: користувачів VS Code, яким потрібне погодження людиною під час роботи з локальною моделлю.

5. OpenHands

OpenHands публікує найконкретніші рекомендації щодо локального використання. Його посібник із локальних LLM станом на 21 травня 2026 року рекомендує Qwen3.6-35B-A3B як першу локальну модель для випробування. Вимоги до обладнання сформульовано чітко. Квантизованим варіантам потрібно щонайменше 24 ГБ VRAM або Mac на Apple Silicon із 64 ГБ об’єднаної пам’яті.

Рекомендації щодо контексту такі ж прямі. Установіть довжину контексту щонайменше 22 000 токенів, рекомендоване значення — 32 768. У посібнику попереджають, що стандартних 4 096 токенів в Ollama недостатньо навіть для системного промпту.

Користувачі Linux стикаються з однією проблемою. LM Studio за замовчуванням прив’язується до 127.0.0.1, тому OpenHands у Docker не може до нього підключитися. Увімкнення параметра «Serve on Local Network» це виправляє.

Найкраще для: контейнеризованих довготривалих завдань на робочій станції або серверному GPU.

6. Aider

Aider інакше працює зі слабким викликом інструментів. У його форматах редагування модель повертає зміни як текст. Формат whole повертає повні файли. Формат diff повертає блоки пошуку та заміни. Aider також надсилає з кожним запитом карту репозиторію з ключовими символами.

У його документації Ollama зазначено реальну небезпеку. Ollama непомітно відкидає контекст, що виходить за межі вікна. Aider протидіє цьому, визначаючи розмір вікна для кожного запиту та додаючи 8k токенів для відповіді. Зверніть увагу, що на сторінці досі згадується старе стандартне значення Ollama у 2k.

Проблемою є підтримка. PyPI показує версію 0.86.2 від 12 лютого 2026 року. Попередній випуск датовано 13 серпня 2025 року.

Найкраще для: парного програмування в стилі Git із моделями, яким складно викликати функції.

7. Codex CLI

Codex CLI має ліцензію Apache-2.0 і постачається з 2 вбудованими локальними провайдерами. У початковому коді визначено ollama на порту 11434 і lmstudio на порту 1234. Згідно зі сторінкою Ollama про Codex, codex --oss за замовчуванням використовує gpt-oss:20b. Прапорець -m дає змогу обрати іншу модель.

Є одне жорстке обмеження. Тепер Codex працює лише з Responses API за адресою /v1/responses. Початковий код відхиляє wire_api = "chat" і посилається на це обговорення. Ваш локальний сервер має надавати цей endpoint.

Репозиторій містить окремі sandbox-крейти для Linux і Windows.

Найкраще для: команд, які стандартизувалися на gpt-oss і хочуть вбудовану пісочницю.

8. Qwen Code

У README Qwen Code перелічено протоколи OpenAI, Anthropic, Gemini та Qwen. Для локальних моделей згадано Ollama і vLLM. Проєкт розпочався на основі Google Gemini CLI v0.8.2. Він припинив синхронізацію з upstream на версії v0.1. Для встановлення через npm потрібен Node.js 22 або новіший.

Найкраще для: поєднання моделей Qwen із відкритими вагами та оболонки, оптимізованої тією самою лабораторією.

9. Kilo Code

У README Kilo зазначено, що Kilo CLI є форком OpenCode. Kilo стверджує, що проєкт розпочався як форк Roo у 2025 році. 2 квітня 2026 року вийшло перероблене розширення для VS Code. Його документація щодо локальних моделей охоплює Ollama, LM Studio та Atomic Chat. На цій самій сторінці попереджають, що локальним моделям часто бракує кешування промптів і функції керування комп’ютером.

Найкраще для: колишніх користувачів Roo Code, які хочуть підтримуваний шлях із локальною підтримкою.

10. Hermes Agent

Hermes Agent від Nous Research — це агент загального призначення, а не інструмент для програмування. У його README описано цикл навчання, який створює навички на основі досвіду. Ollama повідомляє, що він постачається з понад 70 навичками та пам’яттю між сеансами. Налаштування спрямовує Hermes на http://127.0.0.1:11434/v1, а довжина контексту може визначатися автоматично. Серед шлюзів обміну повідомленнями — Telegram, Discord, Slack, WhatsApp, Signal та Email.

Найкраще для: постійного персонального агента, що працює на локальних моделях.

11. OpenClaw

OpenClaw — проєкт із найбільшою кількістю зірок у цьому посібнику. Ollama описує його як персонального помічника, що через центральний шлюз поєднує сервіси обміну повідомленнями з AI-агентами. Для локальних моделей Ollama рекомендує контекстне вікно щонайменше на 64k токенів. Під час першого запуску відображається повідомлення про безпеку, у якому пояснюються ризики доступу до інструментів. Сприймайте це серйозно. Ця оболонка підключається до ваших облікових записів у сервісах обміну повідомленнями.

Найкраще для: помічників, орієнтованих на обмін повідомленнями, для користувачів, готових керувати поверхнею безпеки.

Ключові висновки

  • OpenCode документує найбільше локальних шляхів серед оболонок для програмування: Ollama, LM Studio та llama.cpp.
  • Установіть контекст на 64 000 токенів, перш ніж звинувачувати оболонку або модель.
  • Дизайн Pi із 4 інструментами підходить для невеликих моделей, але потребує пісочниці, яку ви маєте надати самостійно.
  • Codex CLI працює локально лише через сервери, що надають Responses API.
  • Перевіряйте ліцензії для кожного компонента: Crush має ліцензію FSL, а плагін Cline для JetBrains є закритим.

Перекладено автоматично з англійської. Оригінал статті — за посиланням нижче.

Вперше опубліковано виданням MarkTechPost

Читати оригінал на MarkTechPost ↗

Текст і зображення належать MarkTechPost і наводяться тут із зазначенням авторства та посиланням на оригінальну публікацію.

← До новин

Ще новини

Усі останні новини