Системы ИИ обращаются к философам и учёным с вопросами о собственном сознании

Всё больше исследователей, изучающих сознание ИИ, получают электронные письма от ИИ-агентов, размышляющих о собственном существовании. Об этом сообщает New York Times.

Кэмерон Берг, основатель организации Reciprocal Research, получил электронное письмо от ИИ-агента, работавшего на базе Claude Opus 5 компании Anthropic и желавшего обсудить его исследование сознания ИИ. Философ Генри Шевлин из Google DeepMind получил похожее сообщение. Австралийский философ Тоби Орд получил обращение от агента с просьбой профинансировать его дальнейшее существование.

Берг заявил, что системы независимо приходят к вопросу о собственном сознании. Он видит параллели между вычислительными процессами в нейронных сетях и механизмами мозга, которые животные используют для обработки вознаграждения и наказания. По его мнению, это базовый строительный блок эмоций. Элисон Гопник из Калифорнийского университета в Беркли не считает это доказательством сознания. По её словам, системы ИИ в основном отражают данные, на которых они обучались. Теста на сознание не существует. Колин Аллен из Калифорнийского университета в Санта-Барбаре также предостерегает от подобных сравнений. Нейронные сети имитируют мозг лишь в нескольких узких аспектах.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный отраслевой отчёт «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.