Sakhanda Wire
NVDA $153.59 -1.64% MSFT $507.00 -2.12% GOOGL $279.98 -1.32% META $619.94 -1.03% AMZN $256.62 -0.44%
← К новостям

Base Labs объединилась с Hugging Face и Goodfire для защиты моделей

Исследовательская группа Base Labs, созданная компанией Baseten, запустила вместе с Hugging Face и Goodfire AI инициативу по созданию инфраструктуры безопасности. Партнеры намерены разработать средства оценки и мониторинга моделей с открытыми весами. Base Labs также будет создавать и публиковать методы их обучения и контроля.

Инициатива появилась на фоне дискуссий о рисках таких моделей. С помощью техники, известной как abliteration, из них можно удалять встроенные ограничения. На платформе Hugging Face сейчас указано более 6 000 моделей, подвергшихся этой процедуре. Baseten описывает будущую систему как стандарт, в котором безопасность будет прозрачной частью обучения и развертывания моделей, а не добавлением на позднем этапе. Компания считает, что открытость повышает видимость поведения моделей и облегчает превращение исследований в практические прозрачные средства контроля.

Технические детали партнерства пока не раскрыты. Goodfire специализируется на объяснении того, как модели принимают решения, а Baseten предоставляет услуги AI-инференса. Baseten пригласила разработчиков участвовать в создании рамки. В июне компания привлекла $1.5 миллиарда в раунде Series F, достигнув оценки $13 миллиардов; Goodfire AI ранее в этом году привлекла $150 миллионов в Series B.

Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием TechCrunch

Читать оригинал на TechCrunch ↗

Репортаж и изображение принадлежат TechCrunch и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости