Sakhanda Wire
NVDA $154.93 -0.77% MSFT $505.37 -2.44% GOOGL $279.95 -1.33% META $618.13 -1.32% AMZN $257.42 -0.13%
← До новин

Anthropic виявила майже річний збій фільтрів біологічної безпеки

У звіті з безпеки Anthropic повідомила, що класифікатори для блокування матеріалів, пов’язаних із біологічною та хімічною зброєю, не працювали з травня 2025 року до квітня 2026 року. Ці засоби мають запобігати використанню моделей для отримання небезпечних знань про таку зброю. Упродовж цього періоду трафік від зовнішніх підрядників, які надавали людський зворотний зв’язок, проходив без фільтрів.

До групи входили близько 50 000 людей, які провели з моделями приблизно 133 мільйони чатів. За даними Anthropic, підрядників перевіряли лише зовнішні постачальники, а їхні процедури часто були недостатніми. Внутрішнє розслідування компанії не виявило доказів фактичного зловживання. Після цього Anthropic посилила вимоги до підрядників. Нещодавно компанія також послабила класифікатори у Fable 5 після скарг дослідників, що фільтри блокують легітимні дослідження.

Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням The Decoder

Читати оригінал на The Decoder ↗

Репортаж і зображення належать The Decoder і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини