Sakhanda Wire
NVDA $153.59 -1.64% MSFT $507.00 -2.12% GOOGL $279.98 -1.32% META $619.94 -1.03% AMZN $256.62 -0.44%
← К новостям

Лидеры ИИ поддержали независимый надзор за разработкой

Глава OpenAI Сэм Альтман, Илон Маск и бывший руководитель DeepMind Демис Хассабис частично поддержали предложения главы Anthropic Дарио Амодеи о замедлении развития искусственного интеллекта. Все трое также согласились с необходимостью независимой оценки и надзора внутри лабораторий ИИ. Амодеи связывает такой подход с контролем рисков по мере роста возможностей систем.

В интервью Fortune Альтман сообщил, что OpenAI не выйдет на биржу в этом году, сославшись на соображения безопасности. В июне он уже объявил об этом решении внутри компании, а запланированное IPO переносится на 2027 год. В статье рассматривается и другое возможное объяснение: финансовые показатели OpenAI сейчас могут уступать показателям Anthropic. При этом оба фактора могут действовать одновременно.

Исследователь Google Пейман Миланфар не согласился с предложенным Амодеи ограничением темпов развития. По его мнению, представление о рекурсивном самоулучшении слишком упрощает проблему, поскольку цепочки обратной связи могут быть нестабильными. Надёжно улучшающиеся системы, считает Миланфар, будут работать медленно и в широких пределах безопасности из-за требований стабильности. Достоверные подтверждения их поведения, по его словам, следует получать в реальном мире, а не только по результатам тестов.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости