Фільтр Anthropic для захисту від біологічної зброї не працював майже рік, залишивши без фільтрації 133 мільйони запитів
У звіті з безпеки Anthropic розкрила, що її внутрішня система фільтрації ризиків, пов’язаних із біологічною та хімічною зброєю, була неактивною майже рік. За цей час близько 50 000 зовнішніх підрядників, які надавали зворотний зв’язок, здійснили приблизно 133 мільйони нефільтрованих взаємодій із моделями…