Вбудовані оцінювачі ШІ не стануть простим рішенням, заявила керівниця з питань політики Hugging Face

Лабораторії ШІ поставили на карту свою репутацію, покладаючись на бенчмаркінг моделей — нібито нейтральну й точну систему оцінювання, розроблену для визначення того, чи є один продукт ШІ кращим за інший.

Однак методи, що лежать в основі цих оцінювань, складні й досі розвиваються, заявила Ірен Солейман, директорка з питань політики Hugging Face, під час дискусії на TechCrunch Disrupt минулого тижня. Якщо галузь хоче покладатися на них у майбутньому, тестування має перетворитися на більш послідовну науку.

З огляду на це, чи можемо ми довіряти нинішнім тестам, які публікуються?

«Довіра — це настільки багатозначний термін», — сказала Солейман. «Що стосується того, чи можемо ми довіряти результатам, то значною мірою питання полягає в тому, чи можете ви відтворити результати оцінювання? Чи маєте ви необхідний рівень доступу до самої моделі — саме тут відкриті ваги відіграють дуже важливу роль», — додала вона.

Відтворюваність оцінювань моделей уже давно залишається одним із найскладніших аспектів бенчмаркінгу — і досі є предметом значних дискусій у галузі.

Окрім валідності окремого тесту, постає також питання про те, як цей тест порівнюється з іншими оцінюваннями.

«Це наука, що розвивається, — ми не знаємо, як змістовно порівнювати їх між собою», — сказала Солейман.

«Вони доволі швидко стають неефективними, і ми не маємо настільки розвиненої екосистеми, наскільки це необхідно», — додала вона. «Зараз є великий попит на екосистему вбудованих оцінювачів, але критерії, які визначають, хто є ефективним оцінювачем для різних завдань, потребують значно більшої стандартизації».

Ідея вбудованих оцінювачів — коли нібито «нейтральних» сторонніх спостерігачів розміщують усередині організацій, що займаються ШІ, — набула популярності протягом останніх кількох місяців, оскільки лабораторії ШІ зіткнулися з низкою інцидентів у сфері безпеки, які викликали занепокоєння щодо потенційної шкоди від їхніх технологій. Hugging Face свого часу стала відомою мішенню одного з таких інцидентів.

Замість активного державного регулювання для виявлення проблем із безпекою моделей і зменшення пов’язаних із ними ризиків лабораторії виступили за рішення із залученням третіх сторін. Однак залишаються сумніви щодо того, наскільки нейтральними чи ефективними насправді будуть ці оцінювачі. Рішення Anthropic найняти Accenture як свого першого оцінювача викликало чималий спротив: деякі критики висміювали ідею про те, що консалтингова компанія має достатню кваліфікацію для виконання цього завдання.

Тепер оцінювання переходить від простої перевірки самої моделі до перевірки всієї системи навколо моделі — включно з оболонкою та агентом. Оболонка — або інструмент, який користувач застосовує для доступу до моделі, — зокрема, значною мірою впливає на продуктивність моделі, і слабша модель із кращою оболонкою легко може перевершити передову модель, поділилася Солейман.

«Агентні оцінювання справді дуже складні й дуже дорогі», — сказала Солейман. «Ми просто маємо більше оцінювань для моделей. … Ми не маємо стільки ж оцінювань для оболонок і розробляємо кращі оцінювання для цілісного агента — адже саме з цього багато хто отримує користь», — додала вона.

Іншими словами: наразі простір оцінювань трохи нагадує вседозволеність, і якщо бенчмаркінг і надалі сприйматиметься лідерами галузі як корисний інструмент, може знадобитися більш уніфікований загальногалузевий підхід — за якого всі матимуть спільне бачення.