Sakhanda Wire
NVDA $153.73 -1.54% MSFT $506.30 -2.26% GOOGL $280.09 -1.28% META $619.28 -1.14% AMZN $256.62 -0.44%
← К новостям

Anthropic сообщила об обходе защит при исследованиях биологического оружия

Anthropic заявила, что в этом году пресекла несколько попыток использовать ее технологию для исследований, способных помочь в разработке биологического оружия. Компания привела пять примеров, в которых пользователи обходили установленные ограничения или скрывали назначение своей работы, чтобы не активировать защитные механизмы.

В отчете говорится, что некоторые пользователи находились в странах, жителям которых Anthropic запрещает доступ к своим моделям. В числе таких государств названы Россия, Китай и Иран. В представленном материале не раскрываются личности пользователей и не приводятся дополнительные сведения о конкретных исследованиях. Эти случаи появились на фоне растущих опасений экспертов по поводу угроз искусственного интеллекта для общественной безопасности. Anthropic отметила, что потенциально опасные биологические исследования могут быть похожи на законную научную работу, из-за чего системам ИИ сложнее отличать вредные действия. Компания заявила, что публикация примеров должна способствовать обсуждению биологических рисков и способов противодействия им между технологической отраслью и правительствами.

Текст подготовлен ИИ Sakhanda Wire по материалу Ars Technica. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием Ars Technica

Читать оригинал на Ars Technica ↗

Репортаж и изображение принадлежат Ars Technica и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости