Anthropic съобщи за опити за заобикаляне на защити при биологични изследвания
Anthropic съобщи, че през тази година е спряла няколко опита да бъде използвана нейната технология за изследвания, които биха могли да подпомогнат разработването на биологични оръжия. Компанията описа пет случая, при които участници са заобикаляли контролите ѝ или са прикривали предназначението на работата си, за да избегнат защитните механизми.
Според доклада част от потребителите са се намирали в държави, от които Anthropic не допуска достъп до моделите си, сред които Русия, Китай и Иран. В предоставения материал не се посочват самоличността на потребителите или допълнителни подробности за конкретните изследвания. Случаите са представени на фона на нарастващи опасения сред експерти за рисковете от изкуствения интелект за обществената безопасност. Anthropic заяви, че опасната биологична работа може да прилича на легитимни научни изследвания, което усложнява разграничаването ѝ от вредна дейност. Компанията призова индустрията и правителствата да обсъдят новите биологични рискове и начините за ограничаването им.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на Ars Technica. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.