Sakhanda Wire
NVDA $153.59 -1.64% MSFT $507.00 -2.12% GOOGL $279.98 -1.32% META $619.94 -1.03% AMZN $256.62 -0.44%
← Към новините

Base Labs създава партньорство за безопасност на отворени модели

Baseten стартира инициатива за инфраструктура за безопасност чрез изследователската си група Base Labs, в партньорство с Hugging Face и Goodfire AI. Компаниите ще разработват инфраструктура за оценяване и наблюдение на модели с отворени тегла, а Base Labs ще създава и публикува методи за тяхното обучение и мониторинг.

Инициативата идва на фона на спорове за безопасността на моделите с отворени тегла. Техниката, известна като abliteration, може да се използва за премахване на защитите им. В момента Hugging Face изброява над 6000 модела, обработени по този начин. Baseten заяви, че бъдещият подход трябва да превърне безопасността в прозрачна част от обучението и внедряването, вместо тя да се добавя след това. Според компанията отвореността дава по-добра видимост върху поведението на моделите и улеснява превръщането на изследванията в прозрачни контроли.

Партньорите не са разкрили техническите подробности за сътрудничеството. Goodfire разработва технологии за обяснение на решенията на моделите, а Baseten предоставя услуги за AI инференс. Baseten отправи открита покана към разработчици да допринесат към рамката. Компанията набра $1.5 милиарда в Series F през юни и достигна оценка от $13 милиарда; Goodfire AI набра $150 милиона в Series B по-рано тази година.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от TechCrunch на

Прочетете оригинала в TechCrunch ↗

Репортажът и изображението принадлежат на TechCrunch и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини