Base Labs об’єдналася з Hugging Face і Goodfire заради безпеки моделей
Дослідницька група Base Labs, створена компанією Baseten, оголосила про ініціативу з розбудови інфраструктури безпеки разом із Hugging Face та Goodfire AI. Партнери розроблятимуть засоби оцінювання й моніторингу моделей із відкритими вагами. Base Labs також створюватиме та публікуватиме методи їхнього навчання і контролю.
Оголошення пролунало на тлі дискусій про безпеку таких моделей. Техніка, відома як abliteration, дає змогу прибирати з них вбудовані запобіжники. На платформі Hugging Face нині перелічено понад 6 000 моделей, оброблених у такий спосіб. Baseten називає майбутній підхід стандартом, який має зробити безпеку прозорою частиною навчання та розгортання моделей, а не додатковим етапом після цього. Компанія вважає, що відкритість покращує видимість поведінки моделей і допомагає перетворювати дослідження на прозорі засоби контролю.
Технічні деталі партнерства не розкрито. Goodfire спеціалізується на поясненні того, як моделі ухвалюють рішення, а Baseten надає послуги AI-інференсу. Baseten запросила розробників долучатися до створення рамки. У червні компанія залучила $1.5 мільярда в раунді Series F, досягнувши оцінки $13 мільярдів; Goodfire AI на початку цього року залучила $150 мільйонів у Series B.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.