Sakhanda Wire
NVDA $150.96 -2.89% MSFT $508.29 +0.40% GOOGL $282.44 +0.80% META $616.38 -0.40% AMZN $267.74 +3.82%
← К новостям

Оценка выявила неполный внутренний контроль в AI-лабораториях

Согласно первой оценке некоммерческой организации Guidelight, ни одна крупная AI-компания не применяет полностью базовый набор мер контроля для собственных внутренних AI-систем. В исследование вошли Anthropic, OpenAI, Google, xAI и Meta. Организация использовала только открытые материалы, включая системные карты, отчёты по безопасности и публикации в блогах.

Guidelight проверила шесть практик. Среди них — ведение журналов активности внутренних AI-систем, предварительная проверка опасных действий, аварийное отключение, известное как «circuit breaking», а также планы по сдерживанию моделей, поведение которых становится несогласованным с заданными целями. Ни одна компания не достигла предложенных Guidelight стандартов безопасности.

Anthropic и OpenAI получили высшую оценку C+. Google получил D+; в его случае организация также отметила подробную дорожную карту. xAI получил D−, а Meta — F, худший результат. В оценке говорится, что компании лучше выявляют нарушения поведения, чем предотвращают их или сдерживают последствия. Guidelight — независимая некоммерческая организация, основанная бывшими руководителями направления безопасности OpenAI Page Hedley и Steven Adler.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости