Данните от дроновете в Украйна захранват нов пазар в стил Дивия запад

Бойните полета в Украйна са осеяни с останките от дронове, които вече са се утвърдили като критично оръжие на съвременната война. Но зад всички тези отломки се крие нова златна мина за отбранителния сектор. Данните, генерирани от дроновете, ще надживеят многократно войните, в които те се използват, и все повече ще се превръщат в част от архитектурата на изкуствения интелект, която оформя дори цивилния живот.  

При всеки полет безпилотните системи събират хиляди точки данни — от изображения и видеозаписи до команди от контролера. Заедно тези записи показват как машината и човекът са реагирали на постоянно променящи се обстоятелства. 

Украйна вече започна да превръща този опит в ресурс. Министерството ѝ на отбраната обяви през януари, че ще предостави на военни изпълнители и търговски компании милиони точки данни, събрани по време на десетки хиляди полети на дронове, а оттогава насам достъп са получили повече от 100 компании и правителството на Обединеното кралство.

За страна във война това е бърз начин да привлече финансиране и партньорства. Но тази стъпка превръща фронтовата линия в активна площадка за обучение на модели, възползвайки се от начина, по който хаосът на войната създава условия, които компаниите за изкуствен интелект трудно могат да възпроизведат самостоятелно.

Вероятно други държави и бойни полета ще последват примера на Украйна, но отговорността за управлението на тази нова индустрия не може да падне единствено върху страна, която се бори за оцеляването си. Този правен вакуум трябва да бъде запълнен съвместно от държавите и компаниите, участващи в развитието на тази индустрия.  

Експлозивен растеж

Бойните полета на Украйна не са първите, които създават записи, използвани за обучение и разработване на модели: американски дронове над Сирия и Йемен събираха данни, които дадоха информация за първото поколение полуавтономна военна техника в края на 2010-те години.

Разликата сега е, че достъпът до тези данни се използва за разработване на по-широка екосистема. А финансовата стойност за отбранителните компании е огромна: данните от бойното поле предлагат големи обеми машинен опит, събран в условия, които никоя лаборатория не може да създаде.

Причината е, че най-ценните за обучението на модели на изкуствен интелект данни идват от изключенията: моментът, в който видимостта изчезва, сигналът се заглушава или човекът-оператор импровизира. Компаниите за изкуствен интелект прекарват години и харчат огромни суми, опитвайки се да уловят достатъчно такива моменти, за да направят моделите си по-устойчиви. Но войната ги създава с честота, с която контролираното тестване не може да се мери.

Именно този постоянно променящ се терен прави данните от дронове ценни далеч отвъд бойното поле. Търговски дрон, използван за доставки или дистанционно наблюдение, може никога да не попадне под артилерийски огън, но все пак трябва да работи с непълна информация в свят, в който хората се държат непредсказуемо. Войната свива същия проблем в много по-кратък времеви интервал. 

Обработени и съпоставени със записи на действията на оператора, тези данни превръщат оперативните записи в набори за обучение. Боят се превръща в търговски актив.

В много конфликти този цикъл на обучение вече се е случвал, тъй като видеозаписите от дронове захранват следващите поколения военни технологии, а пазарът се очаква да расте. Enabled Intelligence, американска компания, специализирана в обработката на данни, така че те да могат да се използват за обучение на изкуствен интелект, заявява, че вече е предоставила повече от половин милион часа видеозаписи от украински дронове, които да бъдат използвани за следващия кръг модели, като рекламира възможни приложения както във военни, така и в търговски системи.

Затваряне на цикъла на данните

Много от дроновете, които днес определят съвременната ни епоха на военни действия, са започнали като цивилна технология. Но наскоро те бяха значително усъвършенствани от нови, търговски достъпни системи с изкуствен интелект, които позволяват на евтини машини да работят автономно — самостоятелно или като рояк — докато средата около тях се променя. Всеки полет създава запис на това, с което системата се е сблъскала.

Получените данни са от решаващо значение. Контролираните лабораторни среди, които обикновено се разработват за обучение на тези автономни системи, могат да имитират откази, но не могат да се сравняват с реалните условия на бойното поле, където рисковете са съвсем истински. Военното разузнаване съхранява данни, генерирани от наситени със сензори системи като дроновете Predator и Reaper, от почти десетилетие чрез програми като Project Maven, но достъпът оставаше изцяло в рамките на отбранителния свят. Генерираните данни бяха достъпни само чрез ограничени, секретни канали и единствено с цел разработването на нови оръжейни системи, които впоследствие се връщаха в същата военна система, създала данните. Сега този опит се споделя с много по-широка мрежа за разработки. 

Цикълът вече е затворен. Търговските технологии, адаптирани за бойното поле, генерират данни, които могат да се върнат обратно към индустриите, от които са произлезли, превръщайки се в част от инфраструктурата за данни, на която разчитат както правителствата, така и частният сектор. 

Дронове, обучени във въздушното пространство над Украйна, където сигналите са били заглушавани, сега се използват в селскостопанския сектор, за да помагат на фермерите да картографират и обследват полетата си на места, където липсва клетъчен сигнал, необходим за предишните поколения технологии. 

Вероятно и други държави ще последват Украйна в продажбата на данните си от бойното поле, а ние не сме готови за новия пазар, който това ще създаде.

Злонамерени лица могат да придобият данните, но контролът върху покупките вече ограничава този риск. Разузнавателни служители проверяват инфраструктурата на потенциалните клиенти за начини, по които данните могат да достигнат до врагове или злонамерени актьори. 

Данните за обучение обаче създават нов проблем с проследяването. Докато движението на търговските набори от данни може да бъде проследено, когато в тях са поставени фалшиви данни за контакт и те се появят на две стъпки от първоначалния купувач, произходът на данните за обучение на изкуствения интелект изчезва по начин, заложен в самата технология. Друг риск е, че това използване на данните създава екстрактивна икономика, в която по-богати държави, далеч от опасността, се възползват от смъртната заплаха, понесена от държавите на фронтовата линия, което потенциално създава пазарен стимул войната да продължи като безкрайна мина за дигитално злато. 

Труден нов хоризонт

Съществуващите закони регулират начина, по който армиите могат да водят война. Но те почти не казват нищо за това какво се случва, когато записи, създадени по време на бойни действия, бъдат лишени от оперативния си контекст, пакетирани като данни и лицензирани на компании, чиито продукти циркулират далеч отвъд мястото, където са създадени.

Отговорностите на компаниите, които проектират тези системи, остават неуредени. Украйна изгражда механизми за контрол на достъпа, споменати в новоподписаното споразумение между Обединеното кралство и Украйна за изкуствения интелект, но никое правителство не работи активно по регулирането на това какво се случва, когато данните бъдат погълнати от модел и се върнат обратно на цивилните пазари.

Тези записи съдържат човешки животи. Войниците и цивилните, които се виждат в тях, не са се съгласявали да се превръщат в материал за обучение на продукти, които могат да бъдат продавани години по-късно. Но данните от сензори, видеозаписите от камери и координатите на цивилни, бягащи от удар на дрон, вече представляват вида данни, които определят начина, по който бъдещите машини ще вземат решения.

Това е проблем на съгласието. Хората, представени в данните — независимо дали са цели, оператори или цивилни, намиращи се наблизо — стават част от материала за обучение. Автономните способности, основани на тези данни, не спират на ръба на бойното поле. Те преминават в други военни или търговски системи, като превозни средства за доставки или селскостопански машини. Грешките и предположенията, заложени в данните, пътуват заедно с модела дори след като той навлезе в цивилния живот.

Данните от бойното поле не бива да се третират като обикновен търговски материал. Но в момента няма агенция или регулатор, който да има юрисдикция по този въпрос. Междувременно правителствата, които предоставят достъп до отбранителни данни, трябва да се отнасят към тях така, както биха се отнасяли към контролиран трансфер на оръжия — да записват произхода им, да лицензират потребителите им и да ограничават последващото им споделяне. Украйна вече започна да се справя с този проблем. Програмата ѝ Avengers Labs позволява на компаниите да обучават модели върху данни от бойното поле, без да им предоставя пряк достъп до чувствителни бази данни. Това обаче смекчава само една част от проблема. 

Правителствата трябва да изискват разкриване на информация, когато модели, обучени с военен материал, впоследствие бъдат включени в цивилни продукти. Целта на такова регулиране трябва да бъде пътят от бойните действия до търговията да стане видим. 

Това, което тези компании всъщност добиват, е опит. А войниците не могат да дадат съгласие опитът им да бъде използван по този начин — като данни за обучение, които осигуряват предимство на модела и в крайна сметка подкрепят продукт, използван далеч от мястото, където е водена войната.

Въпросът вече не е само какво технологичните компании могат да продават за използване във война. Въпросът е какво могат да извлекат от нея.

За да се защитим от злоупотребите на тази нова индустрия, се нуждаем от регулаторна система, която проследява данните от бойното поле навсякъде, където отиват — от бойните действия през модела до търговския продукт. 

Кори Алпърт е изследовател в Университета на Мелбърн, който проучва въздействието на изкуствения интелект върху демокрацията. Преди това е работил в Белия дом при президента Байдън.