Base Labs запускає партнерство з безпеки ШІ для моделей із відкритими вагами з Hugging Face та Goodfire

Baseten у середу запустила новий стандарт інфраструктури безпеки спільно зі своїм дослідницьким підрозділом Base Labs, об’єднавшись із Hugging Face та Goodfire AI для створення інфраструктури оцінювання й моніторингу безпеки моделей із відкритими вагами.

Оголошення пролунало на тлі дискусій щодо безпеки моделей із відкритими вагами — адже їх можна зробити небезпечними, видаливши засоби захисту за допомогою поширеного методу, відомого як аблітерація. Масштаб проблеми величезний: Hugging Face, де розміщуються моделі ШІ з відкритим кодом, наразі містить понад 6 000 аблітерованих моделей. 

Base Labs, дослідницька група, яку Baseten заснувала на початку цього року, розроблятиме й публікуватиме методи навчання та моніторингу відкритих моделей. Компанія позиціонує свою майбутню роботу як «стандарт» для відкритих моделей — прозорий і вбудований у процес навчання та розгортання моделей, а не доданий постфактум. 

«Ми вважаємо відкритість перевагою для безпеки ШІ», — заявила компанія в X. «Відкритість забезпечує більшу видимість поведінки моделей і, що найважливіше, ширші можливості перетворювати дослідження безпеки на практичні й прозорі засоби контролю, ніж у випадку із закритим кодом».

Компанії не розкрили технічних деталей співпраці, хоча Goodfire окреслила її мету у відповіді на допис Baseten: «Безпека має бути вбудована у відкриті моделі та забезпечуватися тими, хто їх обслуговує». Goodfire, яка спеціалізується на відкритті «чорної скриньки» ШІ для пояснення того, як моделі ухвалюють рішення, найімовірніше, відповідатиме саме за компонент «вбудованої» безпеки.

Baseten, постачальник інфраструктури для інференсу ШІ, у червні залучила $1,5 млрд у межах раунду Series F, збільшивши свою оцінку до $13 млрд. Її партнер Goodfire AI також має значне фінансування: на початку цього року компанія залучила $150 млн у межах раунду Series B під керівництвом B Capital для розвитку своєї платформи інтерпретованості моделей.  

У перспективі Baseten закликає ширшу спільноту розробників долучитися до створення цієї системи. «Разом ми будуємо екосистему відкритих моделей, безпечних і доступних для всіх», — зазначила компанія.