Base Labs запускает партнёрство в сфере безопасности ИИ для моделей с открытыми весами с Hugging Face и Goodfire

Baseten в среду запустила новый стандарт инфраструктуры безопасности совместно со своим исследовательским подразделением Base Labs, объединившись с Hugging Face и Goodfire AI для создания инфраструктуры оценки и мониторинга безопасности моделей с открытыми весами.

Объявление прозвучало на фоне дискуссий о безопасности моделей с открытыми весами — их можно сделать опасными, удалив встроенные средства защиты с помощью набирающего популярность метода, известного как аблитерация. Масштаб проблемы огромен: Hugging Face, где размещаются модели ИИ с открытым исходным кодом, сейчас содержит более 6000 моделей, подвергшихся аблитерации. 

Base Labs, исследовательская группа, которую Baseten создала в начале этого года, будет разрабатывать и публиковать методы обучения и мониторинга открытых моделей. Компания представляет свою будущую работу как «стандарт» для открытых моделей — прозрачный и встроенный в процесс обучения и развертывания моделей, а не добавляемый впоследствии. 

«Мы считаем, что открытость является преимуществом для безопасности ИИ», — заявила компания в X. «Открытость обеспечивает большую прозрачность поведения моделей и, что самое важное, дает больше возможностей превращать исследования в области безопасности в практические и прозрачные средства контроля, чем закрытый исходный код».

Компании не раскрыли технические детали партнерства, хотя Goodfire сформулировала цель в ответе на публикацию Baseten: «Безопасность должна быть встроена в открытые модели и обеспечиваться теми, кто их обслуживает». Goodfire, специализирующаяся на раскрытии «черного ящика» ИИ для объяснения того, как модели принимают решения, вероятнее всего, будет отвечать за компонент «встроенности».

Baseten, поставщик услуг ИИ-инференса, привлекла в июне $1,5 млрд в рамках раунда Series F, увеличив свою оценку до $13 млрд. Партнер Goodfire AI также хорошо обеспечен капиталом: в начале этого года компания привлекла $150 млн в рамках раунда Series B под руководством B Capital для развития своей платформы интерпретируемости моделей.  

В перспективе Baseten призывает более широкое сообщество разработчиков внести свой вклад в создание этой системы. «Вместе мы создаем экосистему открытых моделей, безопасных и доступных для всех», — отметила компания.