Разработчики роботизированных мозгов выходят из эпохи GPT-2

Физический ИИ — один из самых горячих секторов венчурного инвестирования: компании привлекают миллиарды, чтобы применять в робототехнике инструменты, которые подарили нам большие языковые модели.

Этот ажиотаж помог обеспечить успешное IPO для Unitree, ведущего китайского производителя роботов: после выхода на китайский аналог NASDAQ стоимость компании достигла 66 миллиардов долларов. Однако на этой неделе ситуация резко изменилась, и компания потеряла почти половину своей стоимости. Аналитики указывают на очевидную проблему: физические возможности роботов улучшаются, но им по-прежнему не хватает знаний, необходимых для выполнения действительно создающей ценность работы.

На конференции Actuate, прошедшей на прошлой неделе и собравшей разработчиков, создающих ИИ-мозги для роботов, энтузиазм был очевиден. По словам организатора, компании Foxglove, помогающей разработчикам моделей физического ИИ управлять своими данными и визуализировать их, с момента запуска в 2023 году мероприятие увеличилось втрое и собрало 1500 участников.

Риск также был очевиден: на стенде Avala, ещё одного игрока в сфере инфраструктуры физического ИИ, висела табличка с обещанием решить «кризис робототехнических данных».

Этот кризис заключается в нехватке высококачественных обучающих данных для ИИ-моделей. До создания универсальных роботов, способных выполнять любые задачи, ещё далеко, а использование сквозного обучения для конкретных задач пока не позволило создать продукты с надёжными коммерческими характеристиками. Для разработчиков ответ заключается в том, чтобы лучше воспроизводить достижения передовых ИИ-лабораторий: находить или создавать более разнообразные наборы данных, экспериментировать с различными режимами обучения и разрабатывать более эффективные сценарии обучения с подкреплением.

Гарри Меллсоп, основатель Antioch, стартапа, создающего инструменты симуляции для разработчиков моделей, считает, что физический ИИ сейчас находится в «эпохе GPT-2» — периода, предшествовавшего появлению ChatGPT. Чтобы преодолеть этот барьер, потребуется больше данных и вычислительных мощностей, особенно графических процессоров, оптимизированных для трассировки лучей, которые используются для создания высокоточных симуляций.

Дальше всех продвинулись автономные транспортные средства — отчасти благодаря возможности собирать релевантные данные с автомобилей, которыми управляют люди, а отчасти потому, что их главная задача — избегать столкновений, а не манипулировать физической средой. Значительная часть инструментов для создания моделей пришла из компаний, занимающихся автономными транспортными средствами; например, Foxglove основали бывшие сотрудники Cruise, прежнего подразделения General Motors, занимавшегося беспилотным вождением.

Теперь и эти автомобильные компании всё чаще делают ставку на то, что их инвестиции в инструменты машинного обучения позволят им конкурировать со специализированными производителями гуманоидов. Tesla уже пытается сделать это со своим роботом Optimus, а теперь и ориентированная на автономные транспортные средства Wayve, и гигант рынка совместных поездок Uber создали робототехнические лаборатории, сосредоточенные на гуманоидных форм-факторах в рамках исследовательских и опытно-конструкторских работ.

«Я думаю, нужно начинать с транспортных средств… робототехника, связанная с манипуляциями, сейчас находится примерно на том же уровне, на каком беспилотное вождение было пять лет назад», — сказал TechCrunch генеральный директор Wayve Алекс Кендалл. «Инфраструктура данных, симуляция и инфраструктура ML Ops, вероятно, будут общими, но конкретная модель мира для симулятора будет формироваться на другом этапе постобучения. Общего будет гораздо больше, чем различий, но для разных воплощений всё же потребуются некоторые отличия».

Кендалл утверждает, что ещё слишком рано делать ставку на какую-то одну аппаратную платформу: сенсоры и другие компоненты быстро совершенствуются, а по-настоящему универсальная модель должна быть более независимой от конкретного оборудования.

Теофиль Жерве, генеральный директор Genesis AI, вертикально интегрированной компании, занимающейся гуманоидной робототехникой и привлёкшей в этом году посевной раунд на 105 миллионов долларов, не согласен с этим. Он сказал TechCrunch: «Мы находимся лишь в начале этой волны, поэтому стратегия, ориентированная только на мозг, не сработает; мы считаем, что существует множество возможностей для совместного проектирования аппаратного обеспечения и ИИ».

Жерве также затронул ещё одну актуальную тему в этом секторе: на чём именно следует сосредоточить бизнес в сфере физического ИИ. Робототехнические компании, ориентированные на конкретные задачи, уже выводят своих роботов в реальные условия: Gritt строит солнечные электростанции, Agility внедряет роботов на промышленных объектах, а Bedrock автономно управляет экскаваторами. Тем временем гуманоиды общего назначения не выходят за пределы лабораторий.

«Ни одному клиенту не нужен универсальный робот, который работает с вероятностью успеха 80%», — сказал Жерве о сложившейся дилемме. «Мы видим, что многие другие игроки выбирают универсальный подход, но он не создаёт ценности, потому что нет отраслевой специализации. .. но если вы создаёте решение для [узкой] отрасли поверх GPT-2, вас раздавит компания, строящая его на GPT-4».

Однако соблазн инвестировать в конкретную отрасль велик, поскольку это даёт не только выручку, но и данные о работе в реальном мире. Хотя данные, предназначенные для конкретных задач, могут быть недостаточно разнообразными, чтобы продвигать вперёд универсальные модели, они важны для создания робота, который приносит пользу. Технический директор Bedrock Кевин Петерсон отметил, что его компания только начинает с экскавационных работ, чтобы понять проблемы «манипуляций в реальных условиях», но планирует разработать интеллектуальный слой, охватывающий целый ряд строительных машин.

Управление всеми этими данными представляет собой сложную задачу, особенно из-за высокой плотности визуальных данных и данных лидара. На этой неделе Foxglove представила новый продукт, созданный на базе открытой по весам модели мира Cosmos от Nvidia, который позволяет инженерам искать нужные данные с помощью сложных запросов на естественном языке, чтобы создавать оценки и симуляции. Цель — ускорить сортировку и отладку, чтобы разработчики моделей могли быстрее повторять цикл разработки.

Так каким же будет легендарный момент ChatGPT для физического ИИ, который, по недавним словам Сэма Альтмана, наступит всего через несколько лет? Кендалл отмечает, что крупнейшее в мире развертывание роботов по-прежнему приходится на бытовые роботы-пылесосы. Для него момент ChatGPT — это нечто, что вызовет восторг у потребителей, а не у инвесторов, которые, похоже, уже достаточно воодушевлены.

«Одним из примеров может быть появление беспилотного вождения без необходимости следить за дорогой при стоимости аппаратного обеспечения автомобиля менее 1000 долларов», — говорит Кендалл; неслучайно его компания лицензирует модели автопроизводителям, стремясь создать именно такую систему. Этот бизнес, который он считает возможностью на несколько миллиардов долларов, позволит им построить по-настоящему универсальную модель воплощённого ИИ.

Для Жерве моментом, когда физический ИИ станет реальностью, будет «манипуляция, которая просто работает из коробки. Вы можете разговаривать с роботом на естественном языке и поручить ему выполнить любую базовую задачу, связанную с манипуляциями: например, толкнуть или потянуть что-нибудь, закрыть ноутбук, убрать со стола — всё, что угодно, — и он будет выполнять это с определённым уровнем надёжности, скажем, более чем в 80% случаев, прямо из коробки. Это примерно и будет ваш опыт использования ChatGPT».

Генеральный директор Foxglove Эдриан Макнил смотрит на этот вопрос немного иначе.

«В робототехнике не будет момента ChatGPT», — сказал он TechCrunch. «ChatGPT стал переломным моментом благодаря дистрибуции: они прошли путь от нуля до примерно миллиона активных пользователей примерно за неделю… дистрибуция в реальном мире гораздо сложнее, верно? Я был бы очень рад увидеть в робототехнике момент Apple II или момент IBM PC. Когда я смогу купить домашнего робота, который начнёт делать что-то полезное и интересное?»