Anthropic разкри почти едногодишен пропуск в защитните филтри
Доклад за безопасността на Anthropic показва, че класификаторите за блокиране на съдържание, свързано с биологични и химически оръжия, не са работили от май 2025 г. до април 2026 г. Тези системи трябва да ограничават използването на моделите за извличане на опасни знания за подобни оръжия. През този период трафикът от външни изпълнители, които предоставят човешка обратна връзка, е преминавал без филтрите.
Засегнатата група е включвала около 50 000 души, извършили приблизително 133 милиона разговора с моделите. Anthropic посочва, че изпълнителите са били проверявани единствено от външни доставчици, чиито процедури често са били недостатъчни. Вътрешното разследване на компанията не е открило доказателства за реална злоупотреба. След това Anthropic е затегнала изискванията към изпълнителите. Компанията наскоро е смекчила и класификаторите на Fable 5, след като изследователи са заявили, че те блокират легитимни изследвания.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на The Decoder. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.