Sakhanda Wire
NVDA $153.63 -1.61% MSFT $506.84 -2.15% GOOGL $280.27 -1.22% META $619.77 -1.06% AMZN $256.65 -0.43%
← К новостям

Бывший сотрудник DeepMind рассказал об ограничениях обсуждения рисков ИИ

Вишал Майни, работавший в команде DeepMind по коммуникациям и вопросам политики с 2018 по 2022 год, заявил, что лаборатория ранее запрещала публично обсуждать возможность исчезновения человечества из-за искусственного интеллекта. По его словам, никому и ни на каком уровне организации не разрешалось делать внешние заявления на эту тему. Исследователей инструктировали называть такие опасения алармизмом, сравнивать их с фильмами вроде «Терминатора» и переводить разговор на положительные применения ИИ в здравоохранении или борьбе с климатическими проблемами.

Майни утверждает, что внутри DeepMind понимали: проблема согласования систем ИИ с человеческими целями не решена, а специалистов, занимающихся ею, было слишком мало. После нескольких месяцев возражений лаборатория ослабила ограничение. Материалы о безопасности стали допускаться, если они подавали тему в позитивном ключе; в качестве примера Майни приводит публикацию в блоге, где риск исчезновения описывался более благожелательно.

По оценке Майни, разрыв между внутренними знаниями и публичными сообщениями сокращается, поскольку новые свидетельства сложнее игнорировать. Его рассказ появился на фоне публичных предупреждений исследователей по безопасности ИИ о моделях, способных помогать в опасных действиях, и о системах, которые могут выйти из-под контроля людей.

Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием The Decoder

Читать оригинал на The Decoder ↗

Репортаж и изображение принадлежат The Decoder и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости