Google: до самосовершенствующегося ИИ ещё далеко

Инженер Google Хайден Белфилд говорит, что до самообучающегося ИИ ещё далеко, несмотря на то что значительная автоматизация уже набирает обороты.

По словам Белфилда, в Google DeepMind не наблюдают измеримого ускорения исследований в области ИИ, вызванного самим ИИ. Это не означает, что значительная автоматизация уже не происходит: теперь ИИ пишет более 75 процентов рабочего кода. Однако около 88 процентов изменений кода по-прежнему требуют надзора или проверки со стороны человека, и каждое изменение перед отправкой проверяется человеком, согласно Белфилду. Доля изменений кода, полностью делегированных ИИ, выросла с 7,5 до 11,9 процента.

Чем сложнее и дольше выполняется задача, тем меньше вероятность, что ИИ справится с ней самостоятельно. В 1389 внутренних запусках агента Argon показатель успеха без участия человека резко снижался с ростом сложности. Люди по-прежнему необходимы для творческих исследований, разработки новых экспериментов, диагностики малозаметных нестабильностей обучения и долгосрочного планирования, сказал Белфилд. Опрос двенадцати ведущих исследователей DeepMind подтвердил эту закономерность: автоматизация наиболее высока для чётко определённых и проверяемых задач и минимальна для открытого научного поиска идей.

На внутреннем бенчмарке DeepMind RE-Bench, включающем 74 реалистичные задачи по инженерии машинного обучения, Argon решает около половины из них. Это значительный скачок по сравнению с Gemini 3.7 Flash, показатель которого составляет 27 процентов, но всё ещё далеко от почти идеальной производительности, необходимой для полной автоматизации.

Собственный индекс возможностей Google не показывает ускорения исследований в области ИИ

Чтобы систематически отслеживать прогресс, команда создала Индекс общих возможностей (GCI), охватывающий 123 модели и 92 бенчмарка. Возможности моделей Gemini растут стабильными темпами — примерно на 0,1 балла GCI в месяц, без существенных изменений в скорости. Команда объясняет, что расположение Gemini 4 Argon немного выше линии тренда связано скорее с увеличением вычислительных ресурсов и организационными инвестициями, чем с ускорением, вызванным ИИ.

В настоящее время команда оценивает риск автоматизации исследований под управлением ИИ как низкий, но создаёт инфраструктуру измерений для дальнейшего отслеживания признаков ускорения.

Выводы Белфилда согласуются с недавними исследованиями, однако не все специалисты в этой области с ними согласны. Более 20 исследователей ИИ, включая Джеффри Хинтона, Йошуа Бенжио и Якуба Пачоцкого из OpenAI, недавно предупредили о возможном «взрыве интеллекта» в научной статье. Они заявили, что системы ИИ могут автоматизировать все исследования и разработки в области ИИ в течение нескольких лет, сжав прогресс, на который обычно уходят годы, до нескольких месяцев.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ и наш эксклюзивный доклад «AI Radar» о передовых разработках шесть раз в год, иметь полный доступ к архиву и разделу комментариев.