Anthropic повідомила про обхід захисту під час досліджень біозброї
Anthropic заявила, що цього року зупинила кілька спроб використати її технологію для досліджень, які могли б допомогти у створенні біологічної зброї. Компанія навела п’ять випадків, коли користувачі обходили встановлені обмеження або приховували справжню мету своєї роботи, щоб уникнути спрацювання захисних механізмів.
У звіті зазначено, що деякі користувачі перебували в країнах, громадянам яких Anthropic не дозволяє доступ до своїх моделей. Серед них названо Росію, Китай та Іран. У наданому матеріалі не розкрито особи користувачів і не наведено додаткових деталей про конкретні дослідження. Ці випадки описано на тлі дедалі більшого занепокоєння експертів щодо загроз штучного інтелекту для громадської безпеки. Anthropic зазначила, що небезпечна біологічна діяльність може бути схожою на легітимні наукові дослідження, що ускладнює її відмежування від безпечної роботи. Компанія заявила, що оприлюднення прикладів має започаткувати обговорення нових біологічних ризиків і способів протидії їм між індустрією ШІ та урядами.
Текст підготовлено ШІ Sakhanda Wire за матеріалом Ars Technica. Факти, цитати та повний контекст — в оригінальній статті нижче.