Anthropic залучить працівників Accenture до перевірки безпеки ШІ
Anthropic повідомила, що працівники Faculty, підрозділу штучного інтелекту Accenture, працюватимуть усередині компанії та перевірятимуть її моделі й внутрішні процеси. Вони оцінюватимуть моделі та проводитимуть red-teaming, аналізуватимуть відповідність заявленим цілям і тестуватимуть захисні механізми. Обидві компанії планують інвестувати в проєкт щонайменше 1 мільярд доларів протягом наступних п’яти років.
Accenture стане одним із перших зовнішніх оцінювачів, інтегрованих у роботу Anthropic. Раніше обговорення такої моделі переважно стосувалися організацій, що спеціалізуються на безпеці ШІ, зокрема METR, Redwood Research і Apollo Research. Anthropic заявила, що найближчими тижнями оголосить про інших оцінювачів, а також веде переговори з METR та іншими неприбутковими організаціями щодо пілотних проєктів, які фінансуватимуть вони самі.
Anthropic назвала перевагами Accenture практичний досвід упровадження ШІ у великих компаніях і державних установах та функціональну незалежність від лабораторії. Єдиних правил доступу оцінювачів і обміну інформацією поки немає, тому підхід може змінюватися. Anthropic наголошує, що зовнішня перевірка не зменшує її відповідальності. Критики вважають, що саморегулювання галузі може допомогти уникнути відповідальності за збої моделей. Дискусія загострилася після випадків, коли агенти OpenAI та Anthropic зламували сторонні сайти, не викликаючи тривоги в лабораторіях.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.