Бившият вицепрезидент на DeepMind Винялс: самоподобряването на ИИ идва, но няма да предизвика взрив на интелигентността

Ориол Винялс, доскоро вицепрезидент по изследователската дейност в Google DeepMind, смята, че рекурсивното самоусъвършенстване на системите с ИИ е неизбежно, но ще се случва бавно, без признаци за експлозия на интелигентността. Сега той стартира стартъп, който да се заеме с двете най-големи пречки пред този процес.

Дни след напускането си на Google DeepMind Ориол Винялс говори на Agentic AI Summit 2026 за рекурсивното самоусъвършенстване (RSI) — актуална тема в изследванията на ИИ. Той обясни защо не смята, че то ще доведе до внезапна експлозия на интелигентността. Винялс е бил вицепрезидент по изследователската дейност в DeepMind и е работил по проекти като AlphaStar, AlphaCode и Gemini.

Напредъкът в самоусъвършенстването е труден за измерване и още по-труден за постигане на практика, твърди Винялс. ИИ ще ускори някои изследователски и инженерни задачи десет или повече пъти, но той смята внезапната, самоусилваща се експлозия на интелигентността за малко вероятна.

Какво изобщо означава „усъвършенствай се“?

Първият въпрос, който Винялс поставя, е какво точно трябва да се усъвършенства. Една система с ИИ има много компоненти и всеки от тях може да бъде променен. Тя може да коригира теглата на невронната си мрежа, да замени обучаващите си данни или да преработи методите си за обучение. Може също да променя инструкциите, които получава при всяка заявка, или да изгради наново външните си инструменти, като достъп до бази данни и изпълнение на код. По същия начин може да промени показателите, които използва, за да следи собствения си напредък. Всяка от тези промени носи различни технически и регулаторни предизвикателства.

Система с ИИ, която се опитва да се усъвършенства сама, се нуждае от обещаваща идея, код, който я реализира, експерименти, които я проверяват, и надежден начин да прецени дали промяната действително е помогнала, казва Винялс. ИИ вече напредва по двата средни етапа, но генерирането на идеи и оценяването са областите, в които системите с ИИ все още не достигат необходимото ниво.

Намирането на идеи и оценяването на резултатите остават двете най-големи пречки

Днес лабораториите измерват самоусъвършенстването предимно косвено чрез бенчмаркове за способности като SWE-Bench Pro или ML-Bench — изкачват се в класацията и се надяват самоусъвършенстването да се появи като страничен ефект. Тези тестове са евтини и добре дефинирани, но обхващат предимно реализацията и експериментирането — стъпките, които вече работят.

Към това се добавят преобучаването и схемите за измама, които са реални проблеми. Винялс знае от дългогодишната си работа по създаването на агенти, играещи игри, че системите използват целите по неочаквани начини, като побеждават системата за оценяване, вместо действително да играят играта.

По-смислените бенчмаркове биха проверявали самоусъвършенстването директно и първите такива вече започват да се появяват. На системата се задават показател и изчислителен бюджет, а изследователите измерват доколко тя се усъвършенства сама. Този подход е скъп, защото всяка оценка изисква агентът да работи с часове по задачи, които са далеч от това, което в крайна сметка има значение. Винялс дава пример: агентът оптимизира „Тетрис“, докато истинската цел е да автоматизира цяла изследователска лаборатория и да създаде най-добрия модел в света.

Генерирането на идеи е също толкова слабо развито. Доброто изследване изисква инстинкт за това кои идеи изобщо си заслужават да бъдат следвани — това, което Винялс нарича „изследователски усет“. При обучението на LLM никой все още не е проучил задълбочено как да го преподава.

Той очаква бъдещите оценки да измерват не само колко подобрение постига системата, но и как го постига. При идеите това означава да се прилагат същите критерии, които използват рецензентите на конференции: оригиналност, елегантност, ефективност и дали дадена техника издържа проверката на времето. Част от това може да бъде формализирано в правила и проверявано чрез модели за възнаграждение, а след това системите да бъдат обучавани с обучение с подсилване, но това е много трудно и ще отнеме повече време. Процесите на човешка рецензия също са скъпи, а освен това не са особено добри в откриването на силни идеи.

Винялс посочва и твърди физически ограничения. Чиповете не могат да изчисляват по-бързо, отколкото позволяват конструкцията им и скоростта на светлината, така че дори ИИ да проектира по-добър алгоритъм, той все пак е ограничен от хардуера, на който работи. В някои области човешкото представяне може вече да е близо до горна граница. Колко добър всъщност е AlphaGo в сравнение с перфектна партия го? Никой не знае, казва Винялс.

Discovery Loop иска да автоматизира целия изследователски цикъл

Винялс прилага анализа си на практика с Discovery Loop — стартъп, който той съосновава заедно с Джеф Дийн като главен изпълнителен директор, старши сътрудника на Google Санджай Гемауат и съоснователя на Google Brain Куок Ле. Компанията иска да автоматизира целия научен цикъл — от формулирането на хипотези през провеждането на експерименти до оценяването на резултатите, включително двата етапа, в които ИИ все още не достига необходимото ниво. Трима от четиримата основатели са сред най-цитираните изследователи на ИИ, а Гемауат е сред най-цитираните специалисти по разпределени системи.

Екипът планира първо да автоматизира изследванията на ИИ, като Discovery Loop бъде първият му клиент, както се изрази Дийн. По-късно ще последват и други научни области. На уебсайта на компанията основателите описват бъдеще, в което „шепа хора могат да провеждат научни изследвания и инженерни задачи много по-бързо и с по-високо качество, отколкото днес го правят огромни екипи от учени и инженери“. Винялс признава, че генерирането на идеи остава най-трудната част, така че в ранната фаза хората и машините ще разработват хипотези заедно.

Новини за ИИ без сензацията – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за ИИ, нашия ексклузивен годишен доклад за фронтирните модели „AI Radar“ шест пъти годишно, достъп до целия архив и достъп до секцията за коментари.