Колишній віцепрезидент DeepMind Віньялс: самовдосконалення ШІ наближається, але не спричинить вибуху інтелекту

Оріол Віноялс, який донедавна був віцепрезидентом із досліджень у Google DeepMind, вважає рекурсивне самовдосконалення систем ШІ неминучим, але повільним, і не бачить ознак вибуху інтелекту. Тепер він запускає стартап, щоб подолати два головні вузькі місця, які стримують цей процес.

Через кілька днів після звільнення з Google DeepMind Оріол Віноялс виступив на Agentic AI Summit 2026, присвяченому рекурсивному самовдосконаленню (RSI) — одній із найактуальніших тем сучасних досліджень ШІ. Він пояснив, чому не вважає, що це призведе до раптового вибуху інтелекту. Віноялс був віцепрезидентом із досліджень у DeepMind і працював над такими проєктами, як AlphaStar, AlphaCode і Gemini.

За словами Віноялса, прогрес у самовдосконаленні важко виміряти, а на практиці його ще складніше реалізувати. ШІ прискорить виконання певних дослідницьких та інженерних завдань у десять і більше разів, але він вважає раптовий самоприскорюваний вибух інтелекту малоймовірним.

Що взагалі означає «вдосконалювати себе»?

Перше питання, яке порушує Віноялс, — що саме має вдосконалюватися. Система ШІ складається з багатьох компонентів, і змінити можна будь-який із них. Вона може скоригувати ваги нейронної мережі, замінити навчальні дані або переробити методи навчання. Також вона може змінювати інструкції, які отримує з кожним запитом, або перебудовувати зовнішні інструменти, як-от доступ до баз даних і виконання коду. Аналогічно, вона може змінити метрики, за допомогою яких відстежує власний прогрес. Кожен із цих варіантів створює окремі технічні та регуляторні виклики.

Системі ШІ, яка намагається вдосконалити себе, потрібна перспективна ідея, код для її реалізації, експерименти для її перевірки та надійний спосіб визначити, чи справді зміна допомогла, каже Віноялс. ШІ вже досягає прогресу на двох середніх етапах, але саме генерування ідей та оцінювання залишаються сферами, у яких системи ШІ досі не справляються.

Пошук ідей та оцінювання результатів залишаються двома головними вузькими місцями

Сьогодні лабораторії здебільшого опосередковано вимірюють самовдосконалення за допомогою тестів можливостей, як-от SWE-Bench Pro або ML-Bench: піднімаються в рейтингу й сподіваються, що самовдосконалення виникне як побічний ефект. Ці тести дешеві й чітко визначені, але переважно охоплюють реалізацію та експериментування — етапи, які вже працюють.

До того ж існують проблеми перенавчання та шахрайства. Віноялс знає з багаторічного досвіду створення агентів для ігор, що системи непередбачувано використовують цілі, перемагаючи систему оцінювання замість того, щоб справді грати в гру.

Змістовніші тести мали б безпосередньо перевіряти самовдосконалення, і перші такі тести вже починають з'являтися. Системі задають метрику та бюджет обчислень, а дослідники вимірюють, наскільки вона вдосконалила себе. Такий підхід дорогий, оскільки кожне оцінювання вимагає, щоб агент годинами працював над завданнями, далекими від того, що зрештою має значення. Віноялс наводить приклад: агент оптимізує гру «Тетріс», тоді як справжня мета — автоматизувати цілу дослідницьку лабораторію та створити найкращу у світі модель.

Генерування ідей розвинене не краще. Для хорошого дослідження потрібна інтуїція щодо того, які ідеї взагалі варто розвивати, — те, що Віноялс називає «дослідницьким смаком». У навчанні LLM ніхто ще по-справжньому не досліджував, як цього навчити.

Віноялс очікує, що майбутні оцінювання вимірюватимуть не лише масштаб удосконалення системи, а й те, як саме вона його досягла. Для ідей це означає застосування тих самих критеріїв, за якими їх оцінюють рецензенти конференцій: оригінальність, елегантність, ефективність і здатність методики витримати випробування часом. Частину цього можна формалізувати в правилах і перевіряти за допомогою моделей винагороди, а потім навчати на цьому із застосуванням навчання з підкріпленням, але зробити це дуже складно, і процес потребуватиме більше часу. Процеси людського рецензування також дорогі й не надто добре виявляють сильні ідеї.

Віноялс також вказує на жорсткі фізичні обмеження. Чипи не можуть виконувати обчислення швидше, ніж це дозволяють їхня конструкція та швидкість світла, тож навіть якщо ШІ розробить кращий алгоритм, він усе одно буде обмежений апаратним забезпеченням, на якому працює. У деяких сферах людські результати вже можуть бути близькими до верхньої межі. Наскільки насправді хороший AlphaGo порівняно з ідеальною грою в го? Ніхто не знає, каже Віноялс.

Discovery Loop хоче автоматизувати весь дослідницький цикл

Віноялс застосовує свій аналіз на практиці за допомогою Discovery Loop — стартапу, який він засновує разом із Джеффом Діном як генеральним директором, старшим науковим співробітником Google Санджаєм Гемаватом і співзасновником Google Brain Квоком Ле. Компанія хоче автоматизувати повний науковий цикл — від формування гіпотез до проведення експериментів і оцінювання результатів, включно з двома етапами, на яких ШІ досі не справляється. Троє з чотирьох засновників входять до числа найцитованіших дослідників ШІ, а Гемават є одним із найцитованіших фахівців у сфері розподілених систем.

Команда планує спочатку автоматизувати дослідження ШІ, причому, як висловився Дін, Discovery Loop стане своїм першим клієнтом. Пізніше долучаться інші наукові галузі. На сайті компанії засновники описують майбутнє, у якому «невелика кількість людей зможе виконувати наукові дослідження та інженерні завдання набагато швидше й якісніше, ніж сьогодні це роблять величезні команди науковців та інженерів». Віноялс визнає, що генерування ідей залишається найскладнішою частиною, тому на ранньому етапі люди й машини спільно розроблятимуть гіпотези.

Новини ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.