Sakhanda Wire
NVDA $230.86 +1.09% MSFT $512.80 -0.02% GOOGL $338.24 -1.70% META $725.93 +0.10% AMZN $248.23 -0.37%
← Към новините

Най-добрите фреймуърци с отворен код за агенти за локални LLM през 2026 г.

Агентът се състои от модел и обвивка. Обвивката изпълнява инструменти, съхранява състоянието, управлява разрешенията и подава контекст обратно към модела. При локален модел обвивката е още по-важна. Малките контекстни прозорци и по-слабото извикване на инструменти разкриват всеки недостатък в дизайна.

Това ръководство класира 11 обвивки с отворен код според това колко добре документират локалното изпълнение. Всички факти за хранилищата са проверени в GitHub на 18 септември 2026 г. Класацията оценява 4 неща: лиценз, одобрен от OSI, документирани локални среди за изпълнение, състояние на поддръжката и контроли за сигурност.

3 правила, които важат за всяка обвивка

1. Увеличете контекстния прозорец първо: Според документацията на Ollama за дължината на контекста стойностите по подразбиране зависят от VRAM: 4k при по-малко от 24 GiB, 32k от 24 до 48 GiB и 256k при 48 GiB или повече. На същата страница се казва, че агентите и инструментите за програмиране трябва да получават поне 64 000 токена. Решението е един ред: OLLAMA_CONTEXT_LENGTH=64000 ollama serve.

2. Изберете модел, който поддържа извикване на инструменти: Документацията на Goose за доставчиците посочва, че моделите без извикване на инструменти могат да извършват само чатови завършвания. При llama.cpp документацията на Pi отбелязва, че флагът --jinja активира съвместими шаблони за чат и извикване на инструменти.

3. Преценете честно необходимата памет: Ръководството на Cline за локално изпълнение свързва 16 до 32 GB RAM с малки квантизирани модели, 32 до 64 GB със средни по размер модели за програмиране, а 64 GB или повече с по-големи модели. Страницата на Ollama за Hermes посочва около 16 GB VRAM за gemma4 и около 24 GB VRAM за qwen3.6.

1. OpenCode

OpenCode документира 3 локални начина в собствената си документация за доставчиците: Ollama, LM Studio и llama-server на llama.cpp. Всеки от тях използва пакета @ai-sdk/openai-compatible с локален baseURL. В документацията се твърди, че като цяло се поддържат над 75 доставчици.

Настройката може да стане с една команда. Страницата на Ollama за OpenCode показва ollama launch opencode. Препоръчва се контекстен прозорец от поне 64k токена. Собствената документация на OpenCode добавя практичен съвет. Ако извикванията на инструменти се провалят, увеличете num_ctx до около 16k–32k.

Той се доставя с 2 вградени агента. build има пълен достъп. plan е само за четене и пита преди изпълнение на bash команди.

Най-подходящ за: Разработчици, които искат най-широко документираната локална настройка в един терминален инструмент.

2. Pi

Pi е минималистичният избор. Неговият README предоставя на модела 4 инструмента: read, write, edit и bash. Той умишлено не включва MCP, подагенти, режим за планиране и изскачащи прозорци за разрешения. Тези функции се добавят чрез разширения и пакети на TypeScript.

Pi има вградена поддръжка за рутерния сървър на llama.cpp. Рутерът открива множество GGUF файлове и ги зарежда при поискване. Управлявате моделите в Pi чрез /llama. Ollama също го поддържа. ollama launch pi инсталира Pi, конфигурира доставчика и отваря сесия.

Една уговорка е важна при локална употреба. Pi няма вградена система за разрешения. Той работи с разрешенията на вашия потребител. README препоръчва Docker, разширение за микро-VM или пясъчник с политики за изолиране.

Старият URL адрес badlogic/pi-mono вече пренасочва към earendil-works/pi. Earendil придоби Pi през април 2026 г., а създателят Марио Цехнер се присъедини към компанията. The Pragmatic Engineer съобщава, че Pi е основата, върху която е изграден OpenClaw.

Най-подходящ за: Малки локални модели, при които краткият списък с инструменти оставя повече контекст за кода.

3. Goose

Goose документира най-много локални среди за изпълнение от всички обвивки тук. Неговата документация за доставчиците изброява Ollama, LM Studio, Docker Model Runner, Ramalama и Atomic Chat. vLLM и KServe работят чрез доставчика, съвместим с OpenAI. При локални сървъри персонализираните доставчици могат да пропуснат API ключа.

Управлението е отличителна черта. Linux Foundation създаде Agentic AI Foundation на 9 декември 2025 г., като Block допринесе Goose. Хранилището вече се намира на адрес aaif-goose/goose. Goose е написан на Rust и се предлага като настолно приложение, CLI и API. README посочва над 70 MCP разширения.

Настройката на Ollama е кратка. Изпълнете goose configure, изберете Ollama и въведете име на модел.

Най-подходящ за: Обща автоматизация извън програмирането, под неутрално управление от фондация.

4. Cline

Cline е най-силната опция, базирана на редактор. Неговото ръководство за локално изпълнение препоръчва една настройка преди всички останали: активирайте „Use Compact Prompt“ за локално изпълнение. То също съветва да се работи по фокусирани задачи и да се започват нови сесии при нарастване на контекста.

По подразбиране всяка редакция на файл и всяка команда изискват одобрение. Автоматичното одобрение е по избор. Режимите Plan и Act разделят стратегията от изпълнението.

Един лицензионен детайл заслужава внимание. Собственият README на Cline казва, че приставките за JetBrains не са с отворен код. Разширението за VS Code, CLI и SDK се намират в хранилището с лиценз Apache-2.0.

Най-подходящ за: Потребители на VS Code, които искат одобрения от човек в процеса при работа с локален модел.

5. OpenHands

OpenHands публикува най-конкретните указания за локална употреба. Неговото ръководство за локални LLM препоръчва Qwen3.6-35B-A3B като първия локален модел за изпробване към 21 май 2026 г. Хардуерните изисквания са посочени ясно. Квантизираните варианти се нуждаят от поне 24 GB VRAM или от Mac с Apple Silicon и 64 GB обединена памет.

Указанията за контекста са също толкова директни. Задайте дължина на контекста от поне 22 000 токена, като се препоръчват 32 768. В ръководството се предупреждава, че стандартните 4 096 токена на Ollama дори не са достатъчни за системния prompt.

Потребителите на Linux се сблъскват с един капан. По подразбиране LM Studio се свързва към 127.0.0.1, така че OpenHands, работещ в Docker, не може да го достигне. Активирането на „Serve on Local Network“ решава проблема.

Най-подходящ за: Контейнеризирани, по-продължителни задачи на работна станция или сървърен GPU.

6. Aider

Aider се справя със слабите възможности за извикване на инструменти по различен начин. Неговите формати за редактиране карат модела да връща редакциите като текст. Форматът whole връща цели файлове. Форматът diff връща блокове за търсене и замяна. Aider също изпраща карта на хранилището с ключови символи при всяка заявка.

Неговата документация за Ollama посочва реална опасност. Ollama тихомълком изхвърля контекста извън границите на прозореца. Aider противодейства на това, като определя размера на прозореца за всяка заявка плюс 8k токена за отговора. Имайте предвид, че страницата все още посочва по-старата стойност по подразбиране от 2k за Ollama.

Поддръжката е повод за притеснение. PyPI показва версия 0.86.2 от 12 февруари 2026 г. Предишното издание е било на 13 август 2025 г.

Най-подходящ за: Програмиране по двойки с Git, използващо модели, които изпитват затруднения с извикването на функции.

7. Codex CLI

Codex CLI е с лиценз Apache-2.0 и се доставя с 2 вградени локални доставчика. Изходният код дефинира ollama на порт 11434 и lmstudio на порт 1234. Според страницата на Ollama за Codex codex --oss използва по подразбиране gpt-oss:20b. Флагът -m избира друг модел.

Има едно строго ограничение. Codex вече използва само Responses API на адрес /v1/responses. Изходният код отхвърля wire_api = "chat" и препраща към тази дискусия. Локалният ви сървър трябва да предоставя тази крайна точка.

Хранилището включва специални пясъчни crate-ове за Linux и Windows.

Най-подходящ за: Екипи, стандартизирали работата си с gpt-oss и желаещи вграден пясъчник.

8. Qwen Code

README на Qwen Code изброява протоколите OpenAI, Anthropic, Gemini и Qwen. Той посочва Ollama и vLLM за локални модели. Проектът започва от Google Gemini CLI v0.8.2. Синхронизирането с upstream спира при v0.1. Инсталацията чрез npm изисква Node.js 22 или по-нова версия.

Най-подходящ за: Съчетаване на модели Qwen с отворени тегла с обвивка, оптимизирана от същата лаборатория.

9. Kilo Code

README на Kilo посочва, че Kilo CLI е разклонение на OpenCode. Kilo казва, че е започнал като разклонение на Roo през 2025 г. На 2 април 2026 г. е публикувано преработено разширение за VS Code. Неговата документация за локални модели обхваща Ollama, LM Studio и Atomic Chat. На същата страница се предупреждава, че локалните модели често не поддържат кеширане на prompt-а и използване на компютъра.

Най-подходящ за: Бивши потребители на Roo Code, които искат поддържан път с локална поддръжка.

10. Hermes Agent

Hermes Agent от Nous Research е агент с общо предназначение, а не инструмент за програмиране. Неговият README описва цикъл на обучение, който създава умения от натрупания опит. Ollama посочва, че той се доставя с над 70 умения и памет между сесиите. Настройката насочва Hermes към http://127.0.0.1:11434/v1, а дължината на контекста може да се открива автоматично. Порталите за съобщения включват Telegram, Discord, Slack, WhatsApp, Signal и имейл.

Най-подходящ за: Постоянен личен агент, работещ с локални модели.

11. OpenClaw

OpenClaw е проектът с най-много звезди в това ръководство. Ollama го описва като личен асистент, който свързва услугите за съобщения с AI агенти чрез централен шлюз. За локални модели Ollama препоръчва контекстен прозорец от поне 64k. При първото стартиране се показва известие за сигурността, което обяснява рисковете от достъпа до инструменти. Отнесете се към него сериозно. Тази обвивка се свързва с вашите акаунти за съобщения.

Най-подходящ за: Асистенти, ориентирани към съобщенията, за потребители, готови да управляват рисковете за сигурността.

Основни изводи

  • OpenCode документира най-много локални пътища сред обвивките за програмиране: Ollama, LM Studio и llama.cpp.
  • Задайте контекст от 64 000 токена, преди да обвинявате обвивката или модела.
  • Дизайнът на Pi с 4 инструмента е подходящ за малки модели, но изисква пясъчник, който трябва да осигурите сами.
  • Codex CLI работи локално само чрез сървъри, предоставящи Responses API.
  • Проверявайте лицензите за всеки компонент: Crush е с лиценз FSL, а приставката на Cline за JetBrains е затворена.

Преведено автоматично от английски. Оригиналната статия е на връзката по-долу.

Първоначално публикувано от MarkTechPost на

Прочетете оригинала в MarkTechPost ↗

Текстът и изображенията са собственост на MarkTechPost и са възпроизведени тук с посочване на авторството и връзка към оригиналната публикация.

← Към новините

Още новини

Всички последни новини