Sakhanda Wire
NVDA $153.73 -1.54% MSFT $506.30 -2.26% GOOGL $280.09 -1.28% META $619.28 -1.14% AMZN $256.62 -0.44%
← До новин

Anthropic повідомила про обхід захисту під час досліджень біозброї

Anthropic заявила, що цього року зупинила кілька спроб використати її технологію для досліджень, які могли б допомогти у створенні біологічної зброї. Компанія навела п’ять випадків, коли користувачі обходили встановлені обмеження або приховували справжню мету своєї роботи, щоб уникнути спрацювання захисних механізмів.

У звіті зазначено, що деякі користувачі перебували в країнах, громадянам яких Anthropic не дозволяє доступ до своїх моделей. Серед них названо Росію, Китай та Іран. У наданому матеріалі не розкрито особи користувачів і не наведено додаткових деталей про конкретні дослідження. Ці випадки описано на тлі дедалі більшого занепокоєння експертів щодо загроз штучного інтелекту для громадської безпеки. Anthropic зазначила, що небезпечна біологічна діяльність може бути схожою на легітимні наукові дослідження, що ускладнює її відмежування від безпечної роботи. Компанія заявила, що оприлюднення прикладів має започаткувати обговорення нових біологічних ризиків і способів протидії їм між індустрією ШІ та урядами.

Текст підготовлено ШІ Sakhanda Wire за матеріалом Ars Technica. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням Ars Technica

Читати оригінал на Ars Technica ↗

Репортаж і зображення належать Ars Technica і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини