Създавайте специализирани мултимодални модели с LFM3

LFM3 е новото поколение Liquid Foundation Models (LFM) — създадено да бъде отправната точка за специализиран интелект. То обединява текстови, визуални, аудио, omni и модели за вземане на решения в една обща основа, като всички са в диапазона от 2 милиарда параметъра. Това означава, че можете да изберете модела за вашата модалност, да го дообучите със собствените си данни на един GPU и да го внедрите там, където работи приложението ви.

LFM3 въвежда четири основни промени в сравнение с предишното ни семейство LFM2:

• Повече възможности на параметър: нова трихибридна архитектура и методика за обучение позволяват на LFM3-1.7B да надмине LFM2.5-2.6B, използвайки с 35% по-малко параметри.
• Всяка модалност върху една основа: шест модела от клас 2B (текст, визия, аудио, omni и решения), обучени от LFM3-1.7B-Base, включително първия ни omni модел и видео вход за визуалния ни модел.
• Създаден за периферни устройства: текстовият модел заема около 1 GB при 4-битова точност, новите ни вътрешни визуални и аудио енкодери ускоряват обработката, а контекстовият прозорец от 256K на текстовия модел позволява на агентите да работят на устройството.
• Създаден за специализация: всеки модел се дообучава на един GPU, така че можете да го адаптирате към собствените си данни, терминология и среда за внедряване.

Как създадохме по-изразителна основа

LFM2 показа, че хибрид от кратки свертки и внимание може да работи бързо на устройството, без да жертва качеството. За LFM3 използвахме архитектурно търсене с включен хардуер, за да преработим тази архитектура за агентни случаи на употреба, които изискват повече възможности на параметър и бързо извеждане при дълги контексти. Търсенето вече обхваща 14 комбинации от устройства и бекендове — от телефони и Raspberry Pi 5 до лаптопи, облачни CPU, GPU и NPU Qualcomm Hexagon.

LFM3-1.7B-Base има 24 слоя и четири основни промени:

1. Трихибридна комбинация от слоеве: 13 кратки свертки с гейтиране, 5 слоя за внимание с плъзгащ се прозорец (SWA) с прозорец от 256 токена и 6 слоя за глобално внимание. Свертките използват размер на ядрото 7 вместо 3 при LFM2.
2. Внимание с гейтиране по глави: сигмоиден гейт мащабира изхода на всяка глава, така че тя може да се изключи, когато няма какво да добави. Това може да помогне за потискане на отклоненията в активациите, които влошават квантизацията.
3. Частичен RoPE: слоевете за глобално внимание завъртат само половината с най-висока честота на всяка глава, така че другата половина да съвпада по съдържание независимо от разстоянието. Слоевете SWA запазват пълния RoPE.
4. Sandwich нормализация: всеки блок нормализира както входа, така и изхода си, за да поддържа активациите добре мащабирани.

Ползата се проявява при дълъг контекст. На параметър LFM3-1.7B съответства на LFM2-1.2B при кратки подкани на периферни устройства, а при 8K токена в контекста е с около 25% по-бърз. LFM3-1.7B-Base е предварително обучен върху 22T токена със същия речник от 128K като LFM2.5-8B-A1B. Последните 3.5T токена представляват етап на междинно обучение върху подбрани данни с по-голям дял агентни следи и извиквания на инструменти, което също разширява контекстовия прозорец до 256K токена.

Една основа за шест модела

Всеки модел LFM3 произлиза от LFM3-1.7B-Base. Вместо да използвате един голям универсален модел, избирате този, който отговаря на входовете ви, персонализирате го и го стартирате на устройството.

Визуалните и аудио моделите получават и два нови вътрешно разработени енкодера:

• Визуален енкодер: той комбинира свертка и внимание и използва 3 пъти по-малко изчислителни ресурси от енкодера SigLIP2 в предишните LFM VL модели. Нашият енкодер с 164M параметъра постига точност, сравнима с визуалния енкодер на Qwen3.5-2B, като изисква 2,2 пъти по-малко FLOP (и двете измервания са направени със същата езикова основа LFM2.5-230M). За видео той вгражда всяка двойка семплирани кадри в един времеви сегмент, като наполовина намалява дължината на времевата последователност.
• Аудио енкодер и LiquidCodec: аудио енкодерът комбинира внимание с плъзгащ се прозорец и кратки свертки и е изцяло каузален, така че моделът може да започне предварителното попълване, докато говорите, с време до първия токен от едва 50 ms. LiquidCodec, новият ни аудио токенизатор, превръща генерираните токени в реч с около 87 пъти по-висока от реалната скорост на едно CPU ядро на Apple M4 Max и поддържа поточно декодиране.

Как да използвате моделите LFM3

Всеки модел работи в transformers. Фрагментите по-долу са взети от картите на моделите, в които са изброени и другите инференс енджини, поддържани от всеки модел.

LFM3-1.7B

Изберете LFM3-1.7B, когато имате нужда от локални агенти, извикване на инструменти, структурирани изходи или основа за специфично за даден домейн дообучаване. Той е дообучен за работа в агентни среди като Hermes Agent, Pi и OpenClaw. Надминава предшественика си LFM2.5-2.6B с 35% по-малко параметри, а най-големите подобрения са при агентните задачи: в WebArena-Verified постига 38.42 спрямо 3.02 и дори надминава Qwen3.5-9B при дълги задачи в браузъри и бизнес приложения. Повече подробности ще намерите в картата на модела LFM3-1.7B.

За да стартирате LFM3-1.7B, инсталирайте най-новата версия на transformers:

pip install -U transformers

След това заредете и стартирайте модела:

from transformers import pipeline

generator = pipeline(
    "text-generation",
    model="LiquidAI/LFM3-1.7B",
    trust_remote_code=True,
)

messages = [{"role": "user", "content": "What is C. elegans?"}]
output = generator(
    messages,
    do_sample=True,
    temperature=0.1,
    top_k=50,
    repetition_penalty=1.1,
    max_new_tokens=2048,
)
print(output[0]["generated_text"][-1]["content"])

За настройка на локален агент вижте ръководството за агентни среди.

LFM3-VL-2B

Изберете LFM3-VL-2B, когато имате нужда от визуално разбиране на устройството. Това е първият визуален модел LFM, който приема видео като вход; той разсъждава стъпка по стъпка, преди да отговори, намира обекти и разсъждава за тяхното разположение — стабилна основа за роботика. В сравнение с LFM2.5-VL-3B той има по-малко параметри (1,9B спрямо 3,1B), но повишава средния резултат от 57,6 на 71,4 в 62 визуални бенчмарка, наравно с Gemma 4 12B — модел, който е над шест пъти по-голям. Повече подробности ще намерите в картата на модела LFM3-VL-2B.

За да стартирате LFM3-VL-2B, инсталирайте transformers>=5.21.0 със зависимостите за визия:

pip install "transformers>=5.21.0" torch torchvision pillow

След това заредете и стартирайте модела: