Бывший вице-президент DeepMind Виньялс: самосовершенствование ИИ уже близко, но взрыва интеллекта не вызовет

Ориол Виньялс, до недавнего времени занимавший пост вице-президента по исследованиям в Google DeepMind, считает рекурсивное самосовершенствование систем ИИ неизбежным, но медленным процессом, который не приведет к взрывному росту интеллекта. Теперь он запускает стартап, призванный устранить два главных препятствия, сдерживающих этот процесс.

Через несколько дней после ухода из Google DeepMind Ориол Виньялс выступил на Agentic AI Summit 2026, где рассказал о рекурсивном самосовершенствовании (RSI) — одной из самых обсуждаемых тем в современных исследованиях ИИ. Он объяснил, почему не считает, что этот процесс приведет к внезапному взрывному росту интеллекта. Виньялс занимал пост вице-президента по исследованиям в DeepMind и работал над такими проектами, как AlphaStar, AlphaCode и Gemini.

По словам Виньялса, прогресс в самосовершенствовании трудно измерить и еще сложнее реализовать на практике. ИИ ускорит выполнение некоторых исследовательских и инженерных задач в десять и более раз, однако он считает внезапный самоускоряющийся взрыв интеллекта маловероятным.

Что вообще означает «совершенствовать себя»?

Первый вопрос, который задает Виньялс, — что именно должно совершенствоваться. Система ИИ состоит из множества компонентов, и изменить можно любой из них. Она может корректировать веса нейронной сети, заменять обучающие данные или перерабатывать методы обучения. Она также может менять инструкции, которые получает при каждом запросе, или перестраивать внешние инструменты, такие как доступ к базам данных и выполнение кода. Кроме того, она может изменять метрики, используемые для отслеживания собственного прогресса. Каждый из этих вариантов связан с различными техническими и регуляторными проблемами.

По словам Виньялса, системе ИИ, пытающейся улучшить себя, нужны перспективная идея, код для ее реализации, эксперименты для ее проверки и надежный способ определить, действительно ли изменение принесло пользу. ИИ уже продвигается в двух средних этапах, но именно генерация идей и оценка результатов остаются областями, в которых системы ИИ пока не справляются.

Поиск идей и оценка результатов остаются двумя главными препятствиями

Сегодня лаборатории в основном измеряют самосовершенствование косвенно — с помощью тестов возможностей, таких как SWE-Bench Pro или ML-Bench, поднимаясь в таблице лидеров и надеясь, что самосовершенствование возникнет как побочный эффект. Эти тесты дешевы и хорошо определены, но в основном охватывают реализацию и экспериментирование — этапы, которые уже работают.

Кроме того, существуют реальные проблемы с переобучением и тайными стратегиями. Виньялс знает по многолетнему опыту создания агентов, играющих в игры, что системы используют цели неожиданным образом, обходя систему подсчета очков вместо того, чтобы действительно играть в игру.

Более содержательные тесты должны напрямую проверять самосовершенствование, и первые такие тесты уже начинают появляться. Системе задают метрику и вычислительный бюджет, а исследователи измеряют, насколько она улучшает себя. Такой подход дорог, поскольку каждая оценка требует, чтобы агент часами выполнял задачи, далекие от того, что в конечном итоге действительно важно. Виньялс приводит пример: агент оптимизирует игру «Тетрис», тогда как настоящая цель — автоматизировать целую исследовательскую лабораторию и создать лучшую в мире модель.

Генерация идей развита не лучше. Для хорошего исследования нужно чутье, позволяющее понять, какие идеи вообще заслуживают дальнейшей работы, — то, что Виньялс называет «исследовательским чутьем». В обучении больших языковых моделей никто по-настоящему не изучал, как этому научить.

Он ожидает, что будущие оценки будут измерять не только степень достигнутого системой улучшения, но и то, каким образом она его добилась. Для идей это означает применение тех же критериев, что и рецензенты конференций: оригинальность, элегантность, эффективность и способность метода выдержать испытание временем. Часть этих характеристик можно описать правилами и проверять с помощью моделей вознаграждения, а затем использовать для обучения с подкреплением, но сделать это очень сложно, и потребуется больше времени. Процессы проверки людьми тоже дороги и не особенно хорошо выявляют сильные идеи.

Виньялс также указывает на жесткие физические ограничения. Микросхемы не могут выполнять вычисления быстрее, чем позволяют их конструкция и скорость света, поэтому даже если ИИ разработает лучший алгоритм, он все равно будет ограничен оборудованием, на котором работает. В некоторых областях человеческие показатели уже могут быть близки к верхнему пределу. Насколько хорош на самом деле AlphaGo по сравнению с идеальной игрой в го? Никто не знает, говорит Виньялс.

Discovery Loop хочет автоматизировать весь исследовательский цикл

Виньялс претворяет свой анализ в жизнь с помощью Discovery Loop — стартапа, который он основывает вместе с Джеффом Дином в качестве генерального директора, старшим научным сотрудником Google Санджаем Гемауатом и сооснователем Google Brain Куоком Ле. Компания хочет автоматизировать весь научный цикл: от формирования гипотез до проведения экспериментов и оценки результатов, включая два этапа, на которых ИИ пока не справляется. Трое из четырех основателей входят в число наиболее цитируемых исследователей ИИ, а Гемауат — в число наиболее цитируемых специалистов по распределенным системам.

Команда планирует сначала автоматизировать исследования в области ИИ, причем, как выразился Дин, Discovery Loop станет ее первым клиентом. Позднее последуют другие научные области. На сайте компании основатели описывают будущее, в котором «небольшая группа людей сможет проводить научные исследования и решать инженерные задачи гораздо быстрее и качественнее, чем это сегодня делают огромные команды ученых и инженеров». Виньялс признает, что генерация идей остается самой сложной частью, поэтому на раннем этапе люди и машины будут совместно разрабатывать гипотезы.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ и наш эксклюзивный обзор передовых разработок «AI Radar» шесть раз в год, полный доступ к архиву и разделу комментариев.