Aleph Alpha випустила Kolibri — німецько-англійську мовну модель із 78 мільярдами параметрів, близько трьох мільярдів із яких активуються для кожного токена завдяки архітектурі суміші експертів. Aleph Alpha стверджує, що Kolibri перебуває на фронті Парето за якістю та операційною вартістю в обох мовах, перевершуючи порівнювані моделі з подібною архітектурою, деякі з яких значно старші (березень, квітень 2026 року), за одним із цих показників. На німецьку мову припадає 21,3 відсотка навчальних даних; для проєкту компанія створила спеціалізований конвеєр німецькомовних даних. Для створення синтетичних навчальних даних також використовувалися китайські моделі.
Kolibri набирає 71% у німецькомовних бенчмарках, водночас декодуючи швидше за порівнювані моделі, такі як GPT OSS A5B, Qwen 3.6 A3B і Gemma 4 A4B. | Зображення: Aleph Alpha
Aleph Alpha повідомляє, що Kolibri орієнтована на державне управління, авіацію та промисловість. Модель розробляли відповідно до європейського законодавства з урахуванням Закону ЄС про штучний інтелект, вона підтримує контекстні вікна обсягом до одного мільйона токенів, а навчання проводилося на 768 графічних процесорах B200 у Німеччині та Фінляндії, згідно з технічним звітом. Ваги доступні за ліцензією Apache 2.0 на платформі Hugging Face.
Новини ШІ без ажіотажу — відібрані людьми
Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.