Оценка выявила неполный внутренний контроль в AI-лабораториях
Согласно первой оценке некоммерческой организации Guidelight, ни одна крупная AI-компания не применяет полностью базовый набор мер контроля для собственных внутренних AI-систем. В исследование вошли Anthropic, OpenAI, Google, xAI и Meta. Организация использовала только открытые материалы, включая системные карты, отчёты по безопасности и публикации в блогах.
Guidelight проверила шесть практик. Среди них — ведение журналов активности внутренних AI-систем, предварительная проверка опасных действий, аварийное отключение, известное как «circuit breaking», а также планы по сдерживанию моделей, поведение которых становится несогласованным с заданными целями. Ни одна компания не достигла предложенных Guidelight стандартов безопасности.
Anthropic и OpenAI получили высшую оценку C+. Google получил D+; в его случае организация также отметила подробную дорожную карту. xAI получил D−, а Meta — F, худший результат. В оценке говорится, что компании лучше выявляют нарушения поведения, чем предотвращают их или сдерживают последствия. Guidelight — независимая некоммерческая организация, основанная бывшими руководителями направления безопасности OpenAI Page Hedley и Steven Adler.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.