Base Labs стартира партньорство за безопасността на ИИ с отворени тегла с Hugging Face и Goodfire

Baseten представи нов стандарт за инфраструктура за безопасност заедно със своето изследователско звено Base Labs в сряда, като си партнира с Hugging Face и Goodfire AI за изграждане на инфраструктура за оценяване и мониторинг на безопасността на модели с отворени тегла.

Съобщението идва на фона на дебатите относно безопасността на моделите с отворени тегла — които могат да бъдат направени опасни чрез премахване на защитите им посредством набираща популярност техника, известна като аблитерация. Мащабът на проблема е огромен: Hugging Face, която хоства AI модели с отворен код, понастоящем изброява над 6000 модела, подложени на аблитерация. 

Base Labs, изследователската група, която Baseten създаде по-рано тази година, ще разработва и публикува методи за обучение и мониторинг на отворени модели. Компанията представя бъдещата си работа като „стандарт“ за отворени модели, който е прозрачен и интегриран в начина, по който моделите се обучават и внедряват, вместо да бъде добавян впоследствие. 

„Вярваме, че отвореността е предимство за безопасността на AI“, заяви компанията в X. „Отвореността осигурява по-голяма видимост върху поведението на моделите и, най-важното, по-големи възможности за превръщане на изследванията в областта на безопасността в приложими и прозрачни механизми за контрол в сравнение със затворения код.“

Компаниите не са разкрили как технически ще работи партньорството, макар че Goodfire описа целта в отговор на публикацията на Baseten: „Безопасността трябва да бъде вградена в отворените модели и да се осигурява от тези, които ги обслужват.“ Goodfire, която е специализирана в отварянето на „черната кутия“ на AI, за да обясни как моделите вземат решения, е най-вероятният кандидат за частта „вградена“.

Baseten, доставчик на AI инференс, набのра 1,5 милиарда долара в рамките на Series F през юни, като оценката ѝ достигна 13 милиарда долара. Партньорът Goodfire AI също разполага със значително финансиране — по-рано тази година компанията набра 150 милиона долара в рамките на Series B, воден от B Capital, за да развие своята платформа за интерпретируемост на модели.  

В перспектива Baseten отправя открита покана към по-широката общност от разработчици да допринесе за рамката. „Заедно изграждаме екосистема от отворени модели, които са безопасни и достъпни за всички“, отбеляза компанията.