Amazon випустила власний клон Jev на тлі напливу в мережі моделей ухвалення рішень

Amazon Web Services випустила модель прийняття рішень із відкритим кодом, натхненну Jev від TypeSafe, оскільки розробники ШІ дедалі частіше шукають інтелект, більше пристосований до комп’ютерної автоматизації, ніж передові LLM.

Strands Decider 2B від Amazon, випущена того ж тижня, коли OpenAI анонсувала схожу пропозицію, — це швидкий і недорогий спосіб обирати між заздалегідь визначеними варіантами та надавати оцінку впевненості у своєму виборі. Модель повністю має відкритий код, уже доступна й достатньо мала для локального запуску.

Інженер Amazon із видатними технічними досягненнями Марк Брукер започаткував цей проєкт після того, як побачив Jev і спробував створити власну версію такої моделі. Доморобний проєкт виявився достатньо успішним — він ненадовго посів перше місце в рейтингу Jevbench серед моделей такого розміру, — тож інженери Amazon доопрацювали його й випустили як продукт своєї Strands Labs — організації, що розробляє нові інструменти й протоколи для розгортання ШІ-агентів.

Брукер каже, що потреба в такому інструменті виникла під час розмов із клієнтами AWS, чиї агентні робочі процеси не завжди потребували можливостей або вартості повнофункціональної LLM.

«Спочатку мій інтерес до цього класу моделей викликало те, що вони ідеально підходять для ухвалення рішень на окремому етапі робочого процесу — “що мені робити далі, зважаючи на те, де я перебуваю?”» — розповів Брукер TechCrunch. За його словами, це дає клієнтам «етап робочого процесу, який можна структурувати надійніше завдяки оцінкам упевненості, завдяки замкненій області відповідей, [а також забезпечує] меншу затримку й потенційно нижчу вартість».

Як і інші моделі прийняття рішень, Strands Decider побудована на «торсі» LLM — у цьому випадку Qen3.5-2B, — але замість генерування тексту вона видає калібровані варіанти вибору. TypeSafe назвала свою модель Jev на честь економіста Вільяма Стенлі Джевонса, сподіваючись таким чином викликати асоціацію з його теорією про те, що зниження вартості чогось — наприклад, комп’ютерного інтелекту — насправді може збільшити попит на це.

Той факт, що після представлення TypeSafe своєї ідеї дослідники створили десятки подібних моделей, свідчить про значний інтерес, але водночас порушує питання про те, наскільки цінними вони можуть бути. Брукер припускає, що виклик полягатиме в оптимізації швидкого ухвалення рішень моделлю без шкоди для її інтелекту.

«Потрібно знайти дуже тонкий баланс: підвищувати її точність і калібрування під час виконання таких завдань, не погіршуючи здатність розуміти різні мови та володіти необхідними знаннями — саме це робить її універсальною, цікавою й корисною», — сказав він TechCrunch.

Водночас він не обов’язково очікує, що передові лабораторії домінуватимуть у цій сфері, особливо з огляду на те, що на менших ринках створення чогось цікавого коштує сотні або тисячі доларів.

Зі свого боку, керівники TypeSafe кажуть, що вони не привертають до себе зайвої уваги й удосконалюють майбутні моделі.

«Я розумію, що люди вважають це золотою лихоманкою, але вони можуть недооцінювати складність створення справді розумних моделей», — розповів TechCrunch генеральний директор і засновник компанії Діогу Алмейда, додавши, що наразі не бачить реальної конкуренції для своєї компанії.

«Нинішня група моделей більше схожа на спробу фахівців із машинного навчання реалізувати круту архітектуру, ніж на роботу команди, глибоко відданої тому, щоб зробити інтелект корисним».