Андрей Карпати из Anthropic говорит, что «внешний мир увидел предварительный просмотр» того, на что ИИ действительно способен

Андреj Карпати, сооснователь OpenAI, описывает стремительно растущий разрыв в понимании людьми возможностей ИИ. Пока общество воспринимает чат-ботов как улучшенный поиск Google, внутренние передовые системы уже решают задачи, на выполнение которых лучшим экспертам потребовались бы годы.

Карпати делит пользователей больших языковых моделей на четыре уровня. Около шести миллиардов человек, примерно 75 процентов населения мира, практически никак не соприкасались с LLM. Еще от одного до двух миллиардов — случайные пользователи бесплатных продуктов вроде ChatGPT, которые воспринимают их «вроде бы как улучшенный поиск Google, инструмент для написания текстов или что-то в этом роде».

Большинство людей понятия не имеют, на что ИИ уже способен

Даже многие специалисты, не работающие в сфере математики и программирования, относятся к этой категории. Руководители и люди на аналогичных должностях большую часть времени общаются с другими людьми, поэтому «хотя интеллектуально они понимают, что происходит, это всё же знание из вторых рук и довольно абстрактное», пишет Карпати.

Третий уровень, по оценкам, охватывает 20 миллионов человек — около 0,2 процента населения мира. Это профессиональные пользователи передовых LLM в математике и программировании, которые на собственном опыте видят, что «большие сложные проекты, на которые раньше уходили недели или месяцы, теперь могут выполняться агентами по одному запросу». В качестве примеров Карпати приводит «создание приложений, копирование приложений, перевод приложений, декомпиляцию приложений из бинарных файлов».

Он добавляет, что этот переход произошел быстро. В октябре 2024 года Карпати назвал ИИ-агентов в основном маркетингом, который едва работал. Всего несколько месяцев спустя он полностью перестал писать код вручную, перейдя от «посимвольного ввода заученных команд компьютерного кода в редактор» к тому, чтобы поручать работу агентам. Затем он присоединился к Anthropic, несмотря на то что был сооснователем OpenAI.

Крошечная элита видит то, чего не может увидеть общество

По оценке Карпати, около 5000 человек — примерно 0,00006 процента населения мира — имеют доступ к внутренним передовым системам. «Внешний мир увидел предварительный просмотр», пишет он. То, что видит эта группа, «похоже на рои из тысяч агентов, которые неделями совместно работают над гигантскими программными проектами: создают уязвимости нулевого дня, проводят кибератаки и отражают их с машинной скоростью, открывают новые научные знания, продвигают передний край математики». Это «то, на что лучшим специалистам отрасли потребовались бы годы работы».

В то же время «человеческая проверка и понимание начинают отставать». Он указывает на людей, которые до сих пор занимаются «археологией» инцидента OpenAI-HF, произошедшего много месяцев назад, и отмечает, что математики «еще некоторое время могут изучать 722 рукописи по передовой математике».

Карпати называет это «странностью текущего момента». Широкая общественность в основном не взаимодействовала с этими системами, а «когда взаимодействовала, это выглядело как неуклюжий чат-бот». Большинство специалистов по-прежнему видят «лишь умеренный прирост производительности». А «небольшая доля специалистов испытывает головокружение от того, что кривая устремилась вертикально». Всё это происходит одновременно.

Генеральный директор OpenAI Сэм Альтман высказал аналогичное утверждение в начале сентября на министерской встрече G20 по инновациям, заявив, что современный инструмент ИИ для программирования может за «17 минут» сделать то, на что стартапу ранее потребовалось бы три месяца. «Мир еще не осознал, к чему это приведет», — сказал Альтман.

Карпати говорит, что возможности LLM сейчас наиболее быстро растут в областях, которые являются «цифровыми, проверяемыми и экономически ценными». Это происходит потому, что они «возникают благодаря обучению с подкреплением на проверяемых вознаграждениях», а компании направляют ресурсы на обучение в области с наибольшим потенциалом дохода. Сейчас это означает программирование и математику.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный ежегодный отчет «AI Radar» о передовых разработках, выходящий шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.