Бывший сотрудник DeepMind рассказал об ограничениях обсуждения рисков ИИ
Вишал Майни, работавший в команде DeepMind по коммуникациям и вопросам политики с 2018 по 2022 год, заявил, что лаборатория ранее запрещала публично обсуждать возможность исчезновения человечества из-за искусственного интеллекта. По его словам, никому и ни на каком уровне организации не разрешалось делать внешние заявления на эту тему. Исследователей инструктировали называть такие опасения алармизмом, сравнивать их с фильмами вроде «Терминатора» и переводить разговор на положительные применения ИИ в здравоохранении или борьбе с климатическими проблемами.
Майни утверждает, что внутри DeepMind понимали: проблема согласования систем ИИ с человеческими целями не решена, а специалистов, занимающихся ею, было слишком мало. После нескольких месяцев возражений лаборатория ослабила ограничение. Материалы о безопасности стали допускаться, если они подавали тему в позитивном ключе; в качестве примера Майни приводит публикацию в блоге, где риск исчезновения описывался более благожелательно.
По оценке Майни, разрыв между внутренними знаниями и публичными сообщениями сокращается, поскольку новые свидетельства сложнее игнорировать. Его рассказ появился на фоне публичных предупреждений исследователей по безопасности ИИ о моделях, способных помогать в опасных действиях, и о системах, которые могут выйти из-под контроля людей.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.