Користувачі Claude знайшли способи обійти запобіжні заходи під час досліджень біологічної зброї
Ars Technica·1 хв читання
Anthropic заявила, що цього року припинила кілька спроб учених використати її технологію для досліджень, які могли б сприяти розробці біологічної зброї, оскільки експерти дедалі більше побоюються загрози, яку ШІ становить для громадської безпеки.
Стартап навів п’ять прикладів випадків, коли зловмисники «обходили засоби контролю» та вдавалися до інших спроб «замаскувати» мету своїх досліджень, щоб уникнути запобіжних заходів. У деяких випадках ішлося про користувачів із країн, яким заборонено доступ до її моделей, зокрема з Росії, Китаю та Ірану.
«Ми сподіваємося, що, поділившись цими прикладами, започаткуємо дискусію в індустрії ШІ та з урядами щодо нових біологічних ризиків і найкращих способів протидії їм», — заявила Anthropic у звіті про спроби використати її моделі для зловмисної діяльності.
