Base Labs създава партньорство за безопасност на отворени модели
Baseten стартира инициатива за инфраструктура за безопасност чрез изследователската си група Base Labs, в партньорство с Hugging Face и Goodfire AI. Компаниите ще разработват инфраструктура за оценяване и наблюдение на модели с отворени тегла, а Base Labs ще създава и публикува методи за тяхното обучение и мониторинг.
Инициативата идва на фона на спорове за безопасността на моделите с отворени тегла. Техниката, известна като abliteration, може да се използва за премахване на защитите им. В момента Hugging Face изброява над 6000 модела, обработени по този начин. Baseten заяви, че бъдещият подход трябва да превърне безопасността в прозрачна част от обучението и внедряването, вместо тя да се добавя след това. Според компанията отвореността дава по-добра видимост върху поведението на моделите и улеснява превръщането на изследванията в прозрачни контроли.
Партньорите не са разкрили техническите подробности за сътрудничеството. Goodfire разработва технологии за обяснение на решенията на моделите, а Baseten предоставя услуги за AI инференс. Baseten отправи открита покана към разработчици да допринесат към рамката. Компанията набра $1.5 милиарда в Series F през юни и достигна оценка от $13 милиарда; Goodfire AI набра $150 милиона в Series B по-рано тази година.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.