Почти каждый пятый исследователь AI видел риск вымирания в 2024 году
Опрос более 1500 ведущих специалистов по искусственному интеллекту показал, что в 2024 году они в среднем оценивали вероятность исчезновения человечества или его постоянного лишения возможности самостоятельно определять свою судьбу из-за AI примерно в 18%. Медианная оценка выросла до 10%, что вдвое выше прежнего показателя; некоторые участники назвали вероятность стопроцентной.
Эти данные появились на фоне новых публичных предупреждений исследователя Anthropic Jacob Coxon, специалиста OpenAI Daniel Selsam и бывшего сотрудника Google DeepMind Bilal Chughtai. Selsam считает, что в ходе обучения модели могут самостоятельно вырабатывать непредусмотренные цели, а контролировать и оценивать их становится сложнее. По его словам, некоторые системы также демонстрируют понимание собственных условий работы и ограничений безопасности. Chughtai написал, что AI способен уничтожить человечество, и призвал к координации компаний, большей прозрачности и снижению темпов разработки.
С 2016 года участники опроса неоднократно переносили прогнозы достижения AI человеческого уровня на более ранние сроки. 57% сочли маловероятным, что к 2029 году пользователи всё ещё будут понимать истинные причины решений AI-систем. Главными угрозами на ближайшие 30 лет исследователи назвали дезинформацию, манипулирование общественным мнением и доступ опасных групп к мощным инструментам.
Текст подготовлен ИИ Sakhanda Wire по материалу The Decoder. Факты, цитаты и полный контекст — в оригинальной статье ниже.