Sakhanda Wire
NVDA $153.73 -1.54% MSFT $506.30 -2.26% GOOGL $280.09 -1.28% META $619.28 -1.14% AMZN $256.62 -0.44%
← Към новините

Anthropic съобщи за опити за заобикаляне на защити при биологични изследвания

Anthropic съобщи, че през тази година е спряла няколко опита да бъде използвана нейната технология за изследвания, които биха могли да подпомогнат разработването на биологични оръжия. Компанията описа пет случая, при които участници са заобикаляли контролите ѝ или са прикривали предназначението на работата си, за да избегнат защитните механизми.

Според доклада част от потребителите са се намирали в държави, от които Anthropic не допуска достъп до моделите си, сред които Русия, Китай и Иран. В предоставения материал не се посочват самоличността на потребителите или допълнителни подробности за конкретните изследвания. Случаите са представени на фона на нарастващи опасения сред експерти за рисковете от изкуствения интелект за обществената безопасност. Anthropic заяви, че опасната биологична работа може да прилича на легитимни научни изследвания, което усложнява разграничаването ѝ от вредна дейност. Компанията призова индустрията и правителствата да обсъдят новите биологични рискове и начините за ограничаването им.

Текстът е изготвен от ИИ на Sakhanda Wire по материал на Ars Technica. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.

Първоначално публикувано от Ars Technica на

Прочетете оригинала в Ars Technica ↗

Репортажът и изображението принадлежат на Ars Technica и са посочени по-горе с връзка към оригинала; текстът на тази страница е собствено изложение на Sakhanda Wire.

← Към новините

Още новини

Всички последни новини