Anthropic выявила почти годовой сбой фильтров биологической безопасности
В отчёте по безопасности Anthropic говорится, что классификаторы, блокирующие материалы о биологическом и химическом оружии, не работали с мая 2025 года по апрель 2026 года. Эти механизмы должны не допускать использования моделей для получения опасных знаний о таком оружии. В течение сбоя без фильтров обрабатывался весь трафик внешних подрядчиков, предоставлявших человеческую обратную связь.
В затронутую группу входили около 50 000 человек; вместе они провели с моделями примерно 133 миллиона чатов. По данным Anthropic, проверкой подрядчиков занимались только внешние поставщики, чьи процедуры нередко были недостаточными. Внутреннее расследование компании не обнаружило признаков фактического злоупотребления. После этого Anthropic ужесточила требования к подрядчикам. Кроме того, компания недавно ослабила классификаторы в Fable 5 после жалоб исследователей на то, что фильтры препятствуют легитимным исследованиям.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.