Sakhanda Wire
NVDA $150.96 -2.89% MSFT $508.29 +0.40% GOOGL $282.44 +0.80% META $616.38 -0.40% AMZN $267.74 +3.82%
← До новин

Оцінка виявила неповний внутрішній контроль в AI-лабораторіях

Перша оцінка неприбуткової організації Guidelight дійшла висновку, що жодна велика AI-компанія повністю не застосовує базовий набір засобів контролю для власних внутрішніх AI-систем. Дослідження охопило Anthropic, OpenAI, Google, xAI та Meta. Guidelight аналізувала лише відкриті матеріали, зокрема системні карти, звіти з безпеки й дописи в блогах.

Організація перевірила шість практик. Серед них — журналювання активності внутрішніх AI-систем, перевірка перед виконанням ризикованих дій, аварійне вимкнення, відоме як «circuit breaking», і плани стримування моделей, що починають діяти неузгоджено із заданими цілями. За стандартами, запропонованими Guidelight, повністю не відповідає жодна компанія.

Anthropic і OpenAI отримали найвищу оцінку C+. Google має D+ і детальну дорожню карту. xAI отримала D−, а Meta — найнижчу оцінку F. В оцінці зазначено, що компанії краще виявляють проблемну поведінку, ніж запобігають їй або стримують її наслідки. Guidelight — незалежна неприбуткова організація, заснована колишніми керівниками безпеки OpenAI Page Hedley і Steven Adler.

Текст підготовлено ШІ Sakhanda Wire за матеріалом The Decoder. Факти, цитати та повний контекст — в оригінальній статті нижче.

Вперше опубліковано виданням The Decoder

Читати оригінал на The Decoder ↗

Репортаж і зображення належать The Decoder і зазначені вище з посиланням на оригінал; текст на цій сторінці — власний виклад Sakhanda Wire.

← До новин

Ще новини

Усі останні новини