Може ли Safeworld да убеди хората, че роботите с GenAI няма да им навредят?

Голямата тенденция при роботите е да се предават ключовете на генеративен ИИ модел, но това води със себе си един проблем: тази архитектура не е предвидима по начина, по който са традиционните алгоритми. Как можете да сте сигурни, че чисто новият ви хуманоиден робот ще бъде безопасен?

Д-р Динг Джао, който ръководи лабораторията за безопасен ИИ в университета „Карнеги Мелън“, работи по този проблем почти през цялата си кариера. Сега, заедно с ветерана от стартъп индустрията Кайл Уонг и инженера по машинно обучение Симо Рачиди, той е основал компанията Safeworld, чиято цел е да го реши.

„Предизвикателството пред безопасността, за което говорим, е комбинация от, първо, наистина усъвършенствани вероятностни оценки на генеративния ИИ — как оценявате риска при една вероятностна система?“, казва Джао. „Втората част, която е наистина трудна, е доверието, а за да внедрите робот, са ви нужни и двете.“

Safeworld излиза от режим на секретност днес със seed рунд на стойност над 12 милиона долара, воден от Shine Capital и a16z Speedrun, с допълнителни инвестиции от Box Group, дарителския фонд на университета „Карнеги Мелън“, Innovation Endeavors и SV Angel.

„Сега е моментът да се изгради индустриален стандарт за безопасност, докато роботите се проектират и внедряват“, каза пред TechCurnch партньорът в a16z Speedrun Джонатан Лай. „Когато вече имате роботи в домакинствата, които се сблъскват с деца и причиняват инциденти, ще бъде твърде късно.“

Специалността на Safeworld е да оценява роботизирана система за управление в симулации, населени с реалистични човешки модели. Това е сходно с предизвикателството пред компании като Tesla или Wayve, които трябва да гарантират, че превозните им средства реагират адекватно на различни неочаквани инциденти, с които могат да се сблъскат на пътя. Но според Джао това ще бъде по-трудно при роботите, защото те работят в неструктурирана среда и защото всяко съоръжение, в което се намират, ще има различни стандарти за безопасност.

„Една от най-често срещаните ситуации е наличието на сляп ъгъл в конкретната фабрика“, каза Уонг. „Каква е скоростта или каква е спирачната дистанция, от която се нуждаете, за да сте сигурни, че този робот няма да се сблъска с конкретен човек? Ако например човек носи кашони, роботът ще го разпознае ли?“

За да отговори на този въпрос, Safeworld ще изгради дигитална версия на този ъгъл в модел като Genesis или MuJoCo, ще вмъкне симулация на оценявания робот, управляван от реалния му софтуер, и след това ще проведе хиляди сценарии, в които човешки модели се срещат с робота. Според Джао това е по-трудно, отколкото изглежда, защото хората са непредвидими.

„Препъването и падането също са добър пример за нещо, което тестваме много със симулации“, каза Уонг. „В противен случай ще трябва да се препъвате и падате пред робота, което е трудно да правите постоянно.“

Има очевидни сходства между платформата, която Safeworld изгражда, и инструментите, използвани вътрешно от създателите на роботи. Основателите обаче смятат, че отвъд специфичната им експертиза производителите на роботи ще искат трета страна да валидира работата им, дори само за да споделят информация за сценариите за безопасност между конкурентите.

„Много хора подценяват колко трудно ще бъде да се решат някои от тези крайни случаи“, каза Джао. „Не роботът във вакуум, в демонстрационна среда, е това, за което се тревожим. Притеснява ни роботът, внедрен в голям мащаб, сред хора, които потенциално никога преди не са работили с робот.“

Вишал Дугар, технически директор на Gritt Robotics, разработва мозъка с изкуствен интелект за роботи, които в момента помагат на работници да инсталират фотоволтаични панели в соларни паркове с индустриален мащаб и се стремят да поемат по-сложни строителни задачи. Компанията му си партнира със Safeworld, докато двете компании разработват симулациите си за безопасност.

„Трудността при повечето от нашите системи е, че е много трудно да се докаже формално чрез математика, записване на уравнения и твърдението, че системата е проверено безопасна“, казва Дугар. „Това задължително трябва да се направи емпирично.“

Роботите му работят заедно с хора, а гарантирането, че роботизираната им ръка няма да ги удари, очевидно е основен приоритет. За да се провери това на практика, трябва да се разгледат всякакви потенциални сценарии.

„Хората имат най-различен външен вид“, отбелязва Дугар. „Телата им могат да бъдат в различни конфигурации. Могат да са коленичили или изправени. Потенциално могат да се препъват и падат. Могат да са приведени. Могат да тичат. Трябва да реагирате на всички тези поведения, които хората потенциално могат да проявят на тези обекти, наред с разнообразните вариации във външността им — дрехи, размер, форма, ръст, цвят на кожата и всичко останало.“

Все още е рано както за Safeworld, така и за генеративния ИИ в роботиката, а компанията все още търси най-добрия модел за своя продукт — платформа за външни потребители или подход, основан на услуги? — но екипът е уверен, че се заема с правилния проблем.

„Вероятно ще бъдем първата печеливша компания в тази област“, казва Захо. „Защото ако някой иска да внедри робот, ще трябва да ни плати, за да се справим със ситуацията.“