Почему знаменитый ход AlphaGo был рассуждением, а не интуицией
В марте 2016 года AlphaGo поставила камень на пятую линию во второй партии матча с Ли Седолом. Ход, позднее получивший название «ход 37», выглядел настолько необычно, что некоторые наблюдатели сочли его программной ошибкой. AlphaGo выиграла эту партию и весь матч из пяти игр со счетом 4:1. Ли назвал ход свидетельством творческого подхода, однако Торе Грэпел, бывший ключевой участник команды AlphaGo, считает, что он стал результатом целенаправленного поиска, а не машинной интуиции.
AlphaGo объединяла нейросеть политики, оценивавшую ходы, которые мог выбрать сильный человек, с поисковым механизмом. Он изучал тысячи вариантов продолжения в игровом дереве. Нейросеть предлагала перспективные варианты, а поиск проверял их долгосрочные последствия. По словам Грэпела, такая схема напоминает различие между быстрой интуицией и медленным обдумыванием у людей.
Современные большие языковые модели, отмечает он, в основном последовательно выбирают следующий токен. Системы с цепочкой рассуждений могут показывать промежуточные шаги, но они по-прежнему создаются тем же механизмом предсказания и иногда формулируются уже после получения ответа. Грэпел считает, что надежному ИИ нужны явные и проверяемые сведения о его убеждениях, доказательствах, неопределенности и пересмотре выводов. По его мнению, такой подход важен для медицины, науки, инженерии, разработки лекарств и климатических исследований.
Текст подготовлен ИИ Sakhanda Wire по материалу MIT Tech Review. Факты, цитаты и полный контекст — в оригинальной статье ниже.