Sakhanda Wire
NVDA $153.59 -1.64% MSFT $507.00 -2.12% GOOGL $279.98 -1.32% META $619.94 -1.03% AMZN $256.62 -0.44%
← До новин

Base Labs об’єдналася з Hugging Face і Goodfire заради безпеки моделей

Дослідницька група Base Labs, створена компанією Baseten, оголосила про ініціативу з розбудови інфраструктури безпеки разом із Hugging Face та Goodfire AI. Партнери розроблятимуть засоби оцінювання й моніторингу моделей із відкритими вагами. Base Labs також створюватиме та публікуватиме методи їхнього навчання і контролю.

Оголошення пролунало на тлі дискусій про безпеку таких моделей. Техніка, відома як abliteration, дає змогу прибирати з них вбудовані запобіжники. На платформі Hugging Face нині перелічено понад 6 000 моделей, оброблених у такий спосіб. Baseten називає майбутній підхід стандартом, який має зробити безпеку прозорою частиною навчання та розгортання моделей, а не додатковим етапом після цього. Компанія вважає, що відкритість покращує видимість поведінки моделей і допомагає перетворювати дослідження на прозорі засоби контролю.

Технічні деталі партнерства не розкрито. Goodfire спеціалізується на поясненні того, як моделі ухвалюють рішення, а Baseten надає послуги AI-інференсу. Baseten запросила розробників долучатися до створення рамки. У червні компанія залучила $1.5 мільярда в раунді Series F, досягнувши оцінки $13 мільярдів; Goodfire AI на початку цього року залучила $150 мільйонів у Series B.

Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням TechCrunch

Читати оригінал на TechCrunch ↗

Репортаж і зображення належать TechCrunch і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини