Оцінка виявила неповний внутрішній контроль в AI-лабораторіях
Перша оцінка неприбуткової організації Guidelight дійшла висновку, що жодна велика AI-компанія повністю не застосовує базовий набір засобів контролю для власних внутрішніх AI-систем. Дослідження охопило Anthropic, OpenAI, Google, xAI та Meta. Guidelight аналізувала лише відкриті матеріали, зокрема системні карти, звіти з безпеки й дописи в блогах.
Організація перевірила шість практик. Серед них — журналювання активності внутрішніх AI-систем, перевірка перед виконанням ризикованих дій, аварійне вимкнення, відоме як «circuit breaking», і плани стримування моделей, що починають діяти неузгоджено із заданими цілями. За стандартами, запропонованими Guidelight, повністю не відповідає жодна компанія.
Anthropic і OpenAI отримали найвищу оцінку C+. Google має D+ і детальну дорожню карту. xAI отримала D−, а Meta — найнижчу оцінку F. В оцінці зазначено, що компанії краще виявляють проблемну поведінку, ніж запобігають їй або стримують її наслідки. Guidelight — незалежна неприбуткова організація, заснована колишніми керівниками безпеки OpenAI Page Hedley і Steven Adler.
Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.