Laplace Intelligence проводит red-team-тестирование роботов и беспилотных автомобилей до их выхода в реальный мир

Если из инцидента с OpenAI и Hugging Face и можно вынести какой-то урок, так это то, что ИИ-агенты могут быть непредсказуемыми. 

«Представьте, если бы нечто подобное произошло в физическом мире», — сказал TechCrunch Хоуи Сан, генеральный директор и сооснователь Laplace Intelligence. «ИИ-агенты переходят с компьютеров в реальный мир, и мы совсем не хотим, чтобы физический ИИ давал сбои в реальном мире».

Компания Laplace, базирующаяся в Энн-Арборе, разрабатывает автоматизированный редтиминг — по сути, стресс-тестирование системы путем намеренных попыток вывести ее из строя — для робототехники и физического ИИ. Компания делает ставку на то, что единственный способ убедиться в безопасности физического ИИ — поручить ИИ его тестирование.

«Наша цель — помогать компаниям обнаруживать и устранять проблемы до развертывания, а со временем создать общую доказательную базу, которой смогут доверять клиенты, страховщики и регуляторы», — сказал Сан.

Laplace — один из 20 стартапов, участвующих в Startup Battlefield, трехдневном конкурсе презентаций TechCrunch Disrupt в центре Сан-Франциско. Компания выступит на сцене Startup Battlefield в понедельник днем, 13 октября.

Сан вместе со своим сооснователем и главным научным сотрудником Генри Лю основал Laplace год назад при Мичиганском университете. Последние восемь лет Сан занимался в академической среде исследованием способов проверки ИИ для автономного вождения в симуляции. В 2023 году он и Лю — его тогдашний научный руководитель — опубликовали статью на эту тему, которая попала на обложку ведущего научного журнала Nature. Тогда к ним начали обращаться компании, занимающиеся автономными транспортными средствами, заинтересованные во внедрении их идей. 

«Я понял, что хочу создать это и превратить из чисто академического исследования в продукт, полезный в реальном мире», — сказал Сан. 

Взяв за основу свои академические исследования, Сан и Лю создали Laplace — название отсылает к «демону Лапласа», мысленному эксперименту французского ученого Пьера-Симона Лапласа, предложенному в 1814 году. В нем предполагалось, что, зная точное состояние всего во Вселенной, можно с полной точностью предсказать будущее.

«По сути, мы используем симуляцию, чтобы предсказывать будущее реального мира», — сказал Сан. 

В основе стартапа лежит высокоточная симуляция, воссозданная по реальному миру, в сочетании с ИИ-агентом, который постоянно ищет слабые места и возможные точки отказа. Цель — убедиться, что любой физический ИИ — будь то робот, автономный автомобиль или решение для умного города — безопасен в симуляции до его внедрения в реальном мире. 

Среда симуляции представляет собой дообученную версию Cosmos от Nvidia — платформы ИИ для моделирования мира, привязанную к реальному миру, что позволяет Laplace воссоздавать все: от автомагистрали в Аризоне до пешеходного перехода в Париже. Симуляции создаются путем объединения массива различных данных о реальном мире. Изображение Google Street View может служить источником, на основе которого создается целая улица. Но вместо генерации случайного объекта симулятор объединяет реальные картографические данные, чтобы воссоздать среду в правильном масштабе. 

Затем разработчики могут с помощью текстовых запросов изменять обстановку в реальном времени, например добавлять дневной трафик. По словам Сана, Laplace получает данные о трафике и пробках в реальном времени от навигационных провайдеров, таких как TomTom. 

В симуляциях Laplace моделируется не только окружающая среда, но и поведение других участников движения. Например, во время демонстрации Сан направил тестовый автомобиль-агент на встречную полосу. Машина, в которую он должен был врезаться, — или проехать сквозь которую, как это часто бывает в некоторых генеративных моделях мира, — отъехала в сторону, чтобы избежать столкновения. 

«Это действительно интерактивная среда симуляции, — сказал Сан. — Все реагируют на все. …Это скорее мировая модель с интерактивными участниками».

Хотя смоделированная среда — важная часть продукта Laplace, настоящая уникальная особенность стартапа заключается в разрабатываемых им ИИ-агентах, которые автоматически создают крайние случаи (сложные, редкие сценарии, способные сбить систему ИИ с толку), еще сильнее выводя человека из процесса. 

«Они могут создавать такие сценарии на основе новостей, полицейских отчетов о столкновениях — любых данных, чтобы активно испытывать автономные транспортные средства и других агентов физического ИИ», — сказал Сан.

Сегодня разработчики автономных транспортных средств в основном обучают ИИ обрабатывать крайние случаи с помощью записанных видеоматериалов, которые затем превращают в симуляцию, либо полагаются на людей, придумывающих и проектирующих новые сценарии. Хотя многие компании в сфере автономных транспортных средств уже сделали то, что предлагает Laplace, и начали использовать ИИ для создания крайних случаев в обучении — на ум приходит компания Waabi, разрабатывающая беспилотные грузовики, — настоящая потребность в таких технологиях станет очевидной, когда мы начнем размещать универсальных роботов в реальном мире. 

«Данных об универсальной робототехнике меньше, — сказал Сан. — Никто не знает, какими будут крайние случаи в реальном мире».

Несмотря на то что Сан и Лю пришли из академической среды и не имеют за плечами громких имен технологических компаний Кремниевой долины, им удалось начать получать выручку и даже выйти на умеренную прибыль. Большая часть денег поступает от проектов в сфере автономного вождения; среди клиентов — японский производитель грузовиков Isuzu и базирующаяся в Техасе компания по разработке автономных грузовиков Bot Auto. 

По словам Сана, Nvidia также является клиентом. Эти две компании вместе с T-Mobile работают над бесплатным пилотным проектом умного города для Сан-Хосе, призванным обеспечить управление транспортными потоками на высоком уровне. Laplace также находится на ранних этапах сотрудничества с партнерами, создающими гуманоидных роботов для складов.  

Сегодня большинство контрактов Laplace с клиентами заключаются на проектной основе, и компания работает над тем, чтобы превратить их в постоянный источник выручки. Ближайшая цель стартапа — которой, как он надеется, поможет участие в Disrupt — привлечь финансирование и масштабироваться, чтобы конкурировать с соперниками. 

Главный среди его конкурентов — Applied Intuition, активно обсуждаемый стартап на поздней стадии, который на данный момент привлек $1,2 млрд при оценке после инвестиций в $15 млрд. Isuzu также входит в число клиентов Applied. 

Сан не слишком обеспокоен. Он считает, что основная методология Laplace — использование ИИ для тестирования ИИ — представляет собой «новую парадигму, полностью меняющую тестирование физического ИИ» и превращает его в «динамический интерактивный процесс тестирования».

«Это и будет самым серьезным конкурентным преимуществом», — сказал он.