Anthropic ослабляет ограничения на биологию в Fable 5, но сохраняет защитные меры для вирусологии и токсикологии

Anthropic примерно на 85 процентов сократила количество ложных срабатываний фильтров биологической безопасности в Fable 5. Ранее почти все запросы по биологии блокировались и перенаправлялись в менее способную модель Opus 5, что вызвало резкую критику со стороны учёных. Теперь пользователи могут выполнять с помощью Fable 5 гораздо больше задач в области биологии, например интерпретировать результаты лабораторных анализов, разбираться в симптомах и отвечать на медицинские вопросы.

Ограничения сохраняются для тем «двойного назначения», таких как вирусология, токсикология и молекулярный дизайн: по словам Anthropic, Fable 5 может предоставить злоумышленникам возможности, недоступные в других местах. Компания также создаёт программы доступа, чтобы исследователи в конечном итоге могли использовать эти функции с ограничениями.

Обоснование Anthropic: биологические риски может быть сложнее сдерживать, чем кибератаки. Выпущенный на свободу вирус невозможно отключить, а разработка контрмер требует времени. Анализ американских разведывательных ведомств, изучение чатов ChatGPT с запросами инструкций по созданию биологического оружия, совместные предупреждения исследователей и проект Стэнфордского университета, в рамках которого ИИ использовался для разработки полностью синтетических вирусов, все указывают на то, что угроза реальна, а не является очередным проявлением тревожности Anthropic.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный обзор передовых разработок «AI Radar» шесть раз в год, полный доступ к архиву и возможность оставлять комментарии.