Laplace Intelligence проводить red-team-тестування роботів і безпілотних автомобілів до їхнього виходу в реальний світ

Якщо є один урок, якого нас навчив інцидент OpenAI та Hugging Face, то це те, що ШІ-агенти можуть бути непередбачуваними. 

«Уявіть, якби щось подібне сталося у фізичному світі», — сказав TechCrunch Гові Сан, генеральний директор і співзасновник Laplace Intelligence. «ШІ-агенти переходять із комп’ютерів у реальний світ, і ми не хочемо, щоб фізичний ШІ давав збій у реальному світі».

Компанія Laplace, що базується в Анн-Арборі, створює автоматизоване red teaming — фактично стрес-тестування системи шляхом навмисних спроб змусити її дати збій — для робототехніки та фізичного ШІ. Компанія робить ставку на те, що єдиний спосіб переконатися в безпеці фізичного ШІ — доручити ШІ його тестувати.

«Наша мета — допомогти компаніям виявляти й усувати проблеми до впровадження, а з часом — створити спільну доказову базу, якій зможуть довіряти клієнти, страховики та регулятори», — сказав Сан.

Laplace — один із 20 стартапів, які змагаються в Startup Battlefield — триденному конкурсі презентацій TechCrunch Disrupt у центрі Сан-Франциско. Компанія виступить на сцені Startup Battlefield у понеділок пообіді, 13 жовтня.

Сан разом зі своїм співзасновником і головним науковцем Генрі Лю заснував Laplace рік тому при Мічиганському університеті. Останні вісім років Сан присвятив академічним дослідженням того, як випробовувати ШІ для автономного водіння в симуляції. У 2023 році він і Лю — його тодішній науковий керівник — опублікували на цю тему наукову статтю, яка потрапила на обкладинку провідного наукового журналу Nature. Саме тоді почали надходити дзвінки від компаній, що розробляють автономні транспортні засоби й зацікавилися впровадженням їхніх ідей. 

«Я зрозумів, що хочу створити це й перетворити суто академічне дослідження на продукт, корисний у реальному світі», — сказав Сан. 

Використовуючи свої академічні дослідження як основу, Сан і Лю створили Laplace — назву обрали на честь «демона Лапласа», уявного експерименту французького вченого П’єра-Симона Лапласа 1814 року, який припускав: якби ви знали точний стан усього у Всесвіті, то могли б із цілковитою точністю передбачити майбутнє.

«По суті, ми використовуємо симуляцію, щоб передбачити майбутнє реального світу», — сказав Сан. 

В основі стартапу лежить високоточна симуляція, реконструйована на основі реального світу, у поєднанні з ШІ-агентом, який постійно шукає слабкі місця й точки відмови. Мета — переконатися, що будь-який фізичний ШІ — чи то робот, автономний транспортний засіб або рішення для розумного міста — є безпечним у симуляції до його впровадження в реальному світі. 

Середовище симуляції — це донавчена версія Cosmos від Nvidia, платформи ШІ для симуляції світу, прив’язана до реального світу, що дає Laplace змогу реконструювати все — від автомагістралі в Аризоні до пішохідного переходу в Парижі. Симуляції генеруються шляхом поєднання різних масивів інформації про реальний світ. Зображення з Google Street View може слугувати орієнтиром, на основі якого генерується ціла вулиця. Але замість створення чогось випадкового симулятор поєднує дані реальних карт, щоб відтворити середовище в правильному масштабі. 

Потім розробники можуть за допомогою мовних запитів змінювати обстановку в реальному часі, наприклад додавати пообідній трафік. За словами Сана, Laplace отримує інформацію про дорожній рух і затори в реальному часі від навігаційних провайдерів, таких як TomTom. 

У симуляціях Laplace моделюється не лише середовище, а й поведінка інших учасників. Наприклад, під час демонстрації Сан наказав тестовому автомобілю-агенту різко виїхати на зустрічну смугу. Автомобіль, з яким він мав зіткнутися, — або крізь який він мав проїхати, що трапляється в деяких генеративних моделях світу, — змістився з його шляху, щоб уникнути зіткнення. 

«Це справді інтерактивне середовище симуляції, — сказав Сан. — Усі реагують на все. … Це більше схоже на модель світу з інтерактивними учасниками».

Хоча змодельоване середовище є важливою частиною продукту Laplace, справжньою унікальною перевагою є ШІ-агенти, яких стартап розробляє для автоматичного проєктування крайових випадків (складних, рідкісних сценаріїв, які можуть ввести систему ШІ в оману), дедалі більше усуваючи людину з процесу. 

«Вони можуть використовувати новини, поліцейські звіти про зіткнення — будь-яку інформацію, щоб активно випробовувати автономні транспортні засоби та інших агентів фізичного ШІ», — сказав Сан.

Сьогодні розробники автономних транспортних засобів здебільшого навчають ШІ працювати з крайовими випадками за допомогою записаних відеоматеріалів, які потім перетворюють на симуляцію, або покладаються на людей, які вигадують і проєктують нові сценарії. Хоча багато компаній у сфері автономних транспортних засобів уже зробили те, що пропонує Laplace, і почали використовувати ШІ для створення крайових випадків для навчання — на думку спадає компанія Waabi, що розробляє безпілотні вантажівки, — потреба в такій технології стане по-справжньому очевидною, коли ми почнемо розміщувати узагальнених роботів у реальному світі. 

«Даних про узагальнену робототехніку менше, — сказав Сан. — Ніхто не знає, якими будуть крайові випадки в реальному світі».

Попри те, що Сан і Лю прийшли з академічного середовища й не мають блискучих резюме у технологічних компаніях Кремнієвої долини, їм вдалося почати отримувати дохід і навіть вийти на помірний прибуток. Більшість коштів надходить від застосувань у сфері автономного водіння; серед клієнтів — японський виробник вантажівок Isuzu та техаська компанія з автономних вантажних перевезень Bot Auto. 

За словами Сана, клієнтом також є Nvidia. Дві компанії разом із T-Mobile працюють над безкоштовним пілотним проєктом розумного міста для міста Сан-Хосе, який має забезпечити високорівневе управління дорожнім рухом. Laplace також перебуває на ранньому етапі співпраці з партнерами, які створюють людиноподібних роботів для складів.  

Сьогодні більшість контрактів Laplace із клієнтами мають проєктний характер, і компанія працює над перетворенням цього доходу на регулярний. Найближча мета стартапу — і він сподівається, що участь у Disrupt допоможе її досягти — залучити кошти та масштабуватися, щоб конкурувати із суперниками. 

Головним серед його конкурентів є Applied Intuition — популярний стартап на пізній стадії, який на сьогодні залучив 1,2 мільярда доларів за постінвестиційної оцінки в 15 мільярдів доларів. Isuzu також є клієнтом Applied. 

Сан не надто занепокоєний. Він вважає, що основна методологія Laplace — використання ШІ для тестування ШІ — є «новою парадигмою, яка повністю змінює тестування фізичного ШІ», перетворюючи його на «динамічний інтерактивний процес тестування».

«Це буде найбільшою конкурентною перевагою», — сказав він.