Base Labs объединилась с Hugging Face и Goodfire для защиты моделей
Исследовательская группа Base Labs, созданная компанией Baseten, запустила вместе с Hugging Face и Goodfire AI инициативу по созданию инфраструктуры безопасности. Партнеры намерены разработать средства оценки и мониторинга моделей с открытыми весами. Base Labs также будет создавать и публиковать методы их обучения и контроля.
Инициатива появилась на фоне дискуссий о рисках таких моделей. С помощью техники, известной как abliteration, из них можно удалять встроенные ограничения. На платформе Hugging Face сейчас указано более 6 000 моделей, подвергшихся этой процедуре. Baseten описывает будущую систему как стандарт, в котором безопасность будет прозрачной частью обучения и развертывания моделей, а не добавлением на позднем этапе. Компания считает, что открытость повышает видимость поведения моделей и облегчает превращение исследований в практические прозрачные средства контроля.
Технические детали партнерства пока не раскрыты. Goodfire специализируется на объяснении того, как модели принимают решения, а Baseten предоставляет услуги AI-инференса. Baseten пригласила разработчиков участвовать в создании рамки. В июне компания привлекла $1.5 миллиарда в раунде Series F, достигнув оценки $13 миллиардов; Goodfire AI ранее в этом году привлекла $150 миллионов в Series B.
Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.