Laplace Intelligence подлага роботи и автономни автомобили на red-team тестове, преди да излязат в реалния свят

Ако има един урок, на който ни научи инцидентът с OpenAI и Hugging Face, той е, че ИИ агентите могат да бъдат непредсказуеми. 

„Представете си, ако нещо подобно се случи във физическия свят“, каза пред TechCrunch Хауи Сън, главен изпълнителен директор и съосновател на Laplace Intelligence. „ИИ агентите преминават от компютрите в реалния свят, а ние наистина не искаме физическият ИИ да се проваля в реалния свят.“

Базираната в Ан Арбър Laplace разработва автоматизирано red-teaming тестване — по същество стрес тест на система чрез целенасочени опити тя да бъде накарана да се провали — за роботика и физически ИИ. Компанията залага на идеята, че единственият начин да се гарантира безопасността на физическия ИИ е той да бъде тестван от ИИ.

„Нашата цел е да помогнем на компаниите да откриват и отстраняват проблеми преди внедряването — и с течение на времето да изградим споделена основа от доказателства, на която клиентите, застрахователите и регулаторите да могат да се доверят“, каза Сън.

Laplace е един от 20-те стартъпа, които се състезават в Startup Battlefield — тридневното състезание за представяне на идеи на TechCrunch Disrupt в центъра на Сан Франциско. Компанията ще се представи на сцената на Startup Battlefield в понеделник следобед, 13 октомври.

Сън, заедно със своя съосновател и главен научен директор Хенри Лиу, основава Laplace преди година в Мичиганския университет. През последните осем години Сън е работил в академичните среди, изследвайки как да се поставя под изпитание ИИ за автономно шофиране в симулация. През 2023 г. той и Лиу — неговият тогавашен научен ръководител за докторската му степен — публикуват статия по темата, която попада на корицата на водещото научно списание Nature. Тогава започват да постъпват обаждания от компании за автономни превозни средства, заинтересовани от прилагането на техните идеи. 

„Осъзнах, че искам да изградя това и да го превърна от чисто академично изследване в продукт, който е полезен в реалния свят“, каза Сън. 

Използвайки академичните си изследвания като основа, Сън и Лиу изграждат Laplace, наречена така заради „демона на Лаплас“ — мисловен експеримент от 1814 г. на френския учен Пиер-Симон Лаплас, според който, ако познаваш точното състояние на всичко във Вселената, можеш да предскажеш бъдещето с пълна прецизност.

„По същество използваме симулация, за да предскажем бъдещето на реалния свят“, каза Сън. 

В основата на стартъпа е високоточна симулация, реконструирана от реалния свят и свързана с ИИ агент, който постоянно търси слабости и точки на отказ. Целта е всеки физически ИИ — независимо дали става дума за робот, автономно превозно средство или решение за интелигентен град — да бъде безопасен в симулация, преди да бъде внедрен в реалния свят. 

Средата за симулация е версия на Cosmos на Nvidia, дообучена след първоначалното обучение — платформа за ИИ симулация на света, базирана на реалния свят, която позволява на Laplace да реконструира всичко — от магистрала в Аризона до пешеходна пътека в Париж. Симулациите се генерират чрез комбиниране на мрежа от различни видове информация от реалния свят. Изображение от Google Street View може да послужи като референция, въз основа на която се генерира цяла улица. Но вместо да генерира нещо случайно, симулаторът комбинира реални картографски данни, за да пресъздаде среда в реален мащаб. 

След това разработчиците могат да използват езикови подсказки, за да променят обстановката в реално време, например като добавят трафик следобед. По думите на Сън Laplace извлича информация за трафика и задръстванията в реално време от навигационни доставчици като TomTom. 

В симулациите на Laplace се симулира не само средата, но и поведението на другите участници. Например по време на демонстрация Сън насочи тестовото превозно средство да навлезе рязко в насрещното движение. Автомобилът, с който то щеше да се сблъска — или през който щеше да премине, както често се случва при някои генеративни модели на света — се отмести от пътя му, за да избегне сблъсък. 

„Това наистина е интерактивна среда за симулация“, каза Сън. „Всеки реагира на всичко. … Това е по-скоро модел на света с интерактивни участници.“

Макар симулираната среда да е важна част от продукта на Laplace, истинското уникално предимство са ИИ агентите, които стартъпът разработва, за да проектират автоматично гранични случаи (сложни, редки сценарии, които могат да затруднят ИИ система), като по този начин все повече изваждат човека от процеса. 

„Те могат да проектират сценарии въз основа на новини, полицейски доклади за сблъсъци — всякакъв вид информация, с която активно да подлагат на изпитание автономните превозни средства и други физически ИИ агенти“, каза Сън.

Днес разработчиците на автономни превозни средства обикновено обучават ИИ да се справя с гранични случаи, като използват записани видеоматериали, които след това превръщат в симулация, или разчитат на хора да измислят и проектират нови идеи. Макар много компании за автономни превозни средства да са направили това, което предлага Laplace, и да са започнали да използват ИИ за създаване на гранични случаи за обучение — компанията за автономни камиони Waabi е един такъв пример — необходимостта от този вид технология ще стане наистина очевидна, когато започнем да поставяме универсални роботи в реалния свят. 

„Има по-малко данни за универсалната роботика“, каза Сън. „Никой не знае какви ще бъдат граничните случаи в реалния свят.“

Въпреки че Сън и Лиу идват от академичните среди и нямат лъскави професионални биографии от технологични компании в Силициевата долина, двамата са успели да започнат да генерират приходи и дори да реализират скромна печалба. По-голямата част от средствата идва от приложения за автономно шофиране, като сред клиентите са японският производител на камиони Isuzu и базираната в Тексас компания за автономни камиони Bot Auto. 

Сън казва, че Nvidia също е клиент. Двете компании, заедно с T-Mobile, работят по безплатен пилотен проект за интелигентен град за град Сан Хосе, който да осигури оперативна информация за трафика на високо ниво. Laplace също така е в ранен етап на работа с партньори, които разработват хуманоидна роботика за складове.  

Днес повечето договори на Laplace с клиенти са базирани на конкретни проекти, а компанията работи за превръщането им в повтаряеми приходи. Краткосрочната цел на стартъпа — за която той се надява, че участието в Disrupt ще помогне — е да набере средства и да се разрасне, за да може да се конкурира със съперниците си. 

Основният сред тях е Applied Intuition — нашумял стартъп в късен етап на развитие, който досега е набрал 1,2 млрд. долара при оценка след инвестицията от 15 млрд. долара. Isuzu също е сред клиентите на Applied. 

Сън не е особено притеснен. Той вярва, че основната методология на Laplace — използването на ИИ за тестване на ИИ — е „нова парадигма, която изцяло променя тестването на физическия ИИ“, превръщайки го в „динамичен интерактивен процес на тестване“.

„Това ще бъде най-голямата преграда пред конкурентите“, каза той.