Amazon пусна собствен клонинг на Jev, докато моделите за вземане на решения заливат мрежата

Amazon Web Services пусна модел с отворен код за вземане на решения, вдъхновен от Jev на TypeSafe, тъй като разработчиците на изкуствен интелект все по-често търсят интелигентност, по-подходяща за компютърна автоматизация от тази на водещите LLM модели.

Strands Decider 2B на Amazon, пуснат през същата седмица, в която OpenAI обяви подобно предложение, е високоскоростен и евтин начин за избор между предварително зададени опции и предоставя оценка на увереността си в направения избор. Моделът е изцяло с отворен код, вече е достъпен и е достатъчно малък, за да работи локално.

Изтъкнатият инженер на Amazon Марк Брукър създава проекта, след като вижда Jev и се опитва да изгради собствена версия на подобен модел. Проектът, разработен в свободното време, се оказва достатъчно успешен — за кратко заема първото място в класацията Jevbench сред моделите с неговия размер — и инженерите на Amazon го доработват и пускат като предложение от своята организация Strands Labs, която разработва нови инструменти и протоколи за внедряване на AI агенти.

Брукър казва, че необходимостта от подобен инструмент е станала очевидна в разговори с клиенти на AWS, чиито агентни работни процеси не винаги изискват възможностите или разходите на пълнофункционален LLM.

„Това, което първоначално привлече интереса ми към този клас модели, беше, че те са перфектен механизъм за вземане на решение в дадена стъпка от работния процес — „какво трябва да направя следващо тук според текущото ми състояние?““, каза Брукър пред TechCrunch. По думите му това предлага на клиентите „стъпка от работния процес, която може да бъде структурирана по по-надежден начин благодарение на оценките за увереност и затворения домейн от отговори, [както и да осигури] по-ниска латентност и потенциално по-ниски разходи“.

Подобно на други модели за вземане на решения, Strands Decider е изграден върху „торса“ на LLM — в този случай Qen3.5-2B, — но вместо да генерира текст, предоставя калибрирани избори. TypeSafe е кръстила своя модел Jev на икономиста Уилям Стенли Джевънс, надявайки се да се позове на теорията му, че намаляването на цената на нещо — например компютърната интелигентност — всъщност може да увеличи търсенето му.

Фактът, че изследователи са създали десетки подобни модели, откакто TypeSafe представи идеята си, показва широкия интерес към нея, но също така повдига въпроса доколко ценни могат да бъдат те. Брукър предполага, че предизвикателството ще бъде да се оптимизира бързото вземане на решения от модела, без да се прави компромис с интелигентността му.

„Трябва да се намери много прецизен баланс: да подобрите представянето му по отношение на точността и калибрирането при такива задачи, без да влошавате способността му да разбира различни езици и да разполага със знанията, които го правят универсален, интересен и полезен“, каза той пред TechCrunch.

Въпреки това той не очаква непременно водещите лаборатории да доминират в тази област, особено тъй като при по-малки пазари разходите за създаване на нещо интересно възлизат на стотици или хиляди долари.

От своя страна ръководителите на TypeSafe казват, че не се разсейват и работят по подобряването на бъдещите модели.

„Разбирам, че хората смятат, че това е златна треска, но може би подценяват колко е трудно моделите действително да станат интелигентни“, каза пред TechCrunch главният изпълнителен директор и основател Диого Алмейда, като добави, че засега не вижда появата на реална конкуренция за компанията му.

„Настоящата поредица изглежда по-скоро като опит на хора от сферата на машинното обучение да реализират готина архитектура, отколкото като работа на екип, дълбоко посветен на това да направи интелигентността полезна.“