Дані з дронів в Україні підживлюють новий ринок у стилі Дикого Заходу

Поля битв в Україні всіяні уламками дронів, які тепер міцно утвердилися як критично важлива зброя сучасної війни. Але за всім цим уламковим матеріалом ховається нова золота жила для оборонного сектору. Дані, які генерують дрони, значно переживуть війни, у яких їх використовують, і дедалі більше ставатимуть частиною архітектури ШІ, що формує навіть цивільне життя.

Під час кожного польоту безпілотні системи збирають тисячі точок даних — від зображень і відео до команд оператора. Разом ці записи показують, як машина та людина реагували на обставини, що постійно змінювалися.

Тепер Україна почала перетворювати цей досвід на ресурс. У січні Міністерство оборони країни оголосило, що відкриє для військових підрядників і комерційних компаній доступ до мільйонів точок даних, зібраних під час десятків тисяч польотів дронів, і відтоді доступ отримали понад 100 компаній та уряд Великої Британії.

Для країни, що перебуває у стані війни, це швидкий спосіб залучити фінансування та партнерства. Але цей крок перетворює лінію фронту на активний майданчик для навчання моделей, використовуючи те, як хаос війни створює умови, які компаніям, що працюють у сфері ШІ, важко відтворити самостійно.

Імовірно, інші країни та поля битв підуть шляхом України, але відповідальність за регулювання цієї нової галузі не може покладатися лише на країну, що бореться за своє виживання. Цю правову прогалину мають спільно заповнити країни та компанії, залучені до розвитку цієї галузі.

Вибухове зростання

Поля битв в Україні — не перші, що породжують записи, які використовують для навчання та розробки моделей: американські дрони над Сирією та Єменом збирали дані, що стали основою для першого покоління напівавтономної військової техніки наприкінці 2010-х років.

Теперішня відмінність полягає в тому, що доступ до цих даних використовують для розбудови ширшої екосистеми. А фінансова цінність для оборонних компаній величезна: дані з поля бою пропонують великі обсяги машинного досвіду, зібраного в умовах, які не може відтворити жодна лабораторія.

Річ у тім, що найцінніші для навчання моделей ШІ дані походять із виняткових ситуацій: моменту, коли зникає видимість, глушиться сигнал або оператор-людина імпровізує. Компанії у сфері ШІ витрачають роки й величезні кошти, намагаючись зібрати достатньо таких моментів, щоб зробити свої моделі стійкішими. Але війна породжує їх із частотою, якої не може забезпечити контрольоване тестування.

Саме ця постійно мінлива місцевість робить дані дронів цінними далеко за межами поля бою. Комерційний дрон, який використовують для доставки чи дистанційного спостереження, може ніколи не зіткнутися з артилерійським обстрілом, але він усе одно має працювати з неповною інформацією у світі, де люди поводяться непередбачувано. Війна стискає цю саму проблему до значно коротших часових рамок.

Після обробки та зіставлення із записами того, що робив його оператор, ці дані перетворюють оперативні записи на навчальні набори. Бойові дії стають комерційним активом.

У багатьох конфліктах цей цикл навчання вже відбувався, коли відеозаписи з дронів ставали основою для наступних поколінь військових технологій, і ринок готовий до зростання. Enabled Intelligence, американська компанія, що спеціалізується на обробці даних для використання в навчанні ШІ, заявляє, що вже зробила доступними понад пів мільйона годин відеозаписів українських дронів для навчання наступного покоління моделей, рекламуючи можливість використання їх як у військових, так і в комерційних системах.

Замикання циклу даних

Багато дронів, які нині визначають сучасну епоху ведення війни, починалися як цивільна технологія. Але нещодавно їх значно посилили нові комерційно доступні системи ШІ, які дають змогу недорогим машинам діяти автономно — окремо або в складі рою — у міру того, як змінюється навколишнє середовище. Кожен політ створює запис того, з чим зіткнулася система.

Отримані дані мають критичне значення. Контрольовані лабораторні середовища, які зазвичай створюють для навчання цих автономних систем, можуть імітувати відмови, але не зрівняються з реальними умовами поля бою, де ризики є цілком реальними. Програми військової розвідки майже десять років зберігали дані, згенеровані системами з великою кількістю сенсорів, такими як дрони Predator і Reaper, у межах програм на кшталт Project Maven, але доступ до них залишався повністю в оборонній сфері. Згенеровані дані були доступні лише через обмежені засекречені канали і виключно для розробки нових систем озброєнь, які згодом поверталися до тих самих військових, що спочатку створили ці дані. Тепер цей досвід передається значно ширшій мережі розробників.

Тепер цикл замкнувся. Комерційні технології, адаптовані для поля бою, генерують дані, які можуть повертатися до галузей, з яких вони походять, і ставати частиною інфраструктури даних, на яку однаково покладаються уряди та приватний сектор.

Дрони, навчені працювати в повітряному просторі над Україною, де глушать сигнали, тепер застосовують в аграрному секторі, щоб допомагати фермерам картографувати й обстежувати свої поля в місцях, де немає стільникового сигналу, необхідного для попередніх поколінь технологій.

Імовірно, інші країни наслідуватимуть Україну, продаючи свої дані з поля бою, а ми не готові до нового ринку, який це створить.

Зловмисники можуть придбати ці дані, але контроль за покупками вже знижує цей ризик. Співробітники розвідки ретельно перевіряють інфраструктуру потенційних клієнтів, шукаючи способи, у які дані можуть потрапити до ворогів або зловмисників.

Однак навчальні дані створюють нову проблему відстеження. Якщо рух комерційних наборів даних можна простежити, коли вбудовані контактні дані з’являються за два кроки від початкового покупця, то походження навчальних даних ШІ зникає у спосіб, закладений у самій технології. Інший ризик полягає в тому, що таке використання даних створює екстрактивну економіку, у якій багатші країни, розташовані далеко від небезпеки, отримують вигоду від смертельної загрози, яку несуть прифронтові держави, потенційно створюючи ринковий стимул для продовження війни як невичерпного джерела цифрового золота.

Складний новий рубіж

Чинні закони регулюють те, як військові можуть вести війну. Але вони майже нічого не говорять про те, що відбувається, коли записи, створені під час бойових дій, вилучають з їхнього оперативного контексту, упаковують як дані та передають за ліцензією компаніям, чия продукція поширюється далеко за межі місця її створення.

Відповідальність компаній, які розробляють ці системи, залишається неврегульованою. Україна створює механізми контролю доступу, про які йдеться в нещодавно підписаній угоді між Великою Британією та Україною щодо ШІ, але жоден уряд не працює активно над регулюванням того, що відбувається, коли дані вже поглинуті моделлю та повертаються на цивільні ринки.

У цих записах містяться людські життя. Солдати та цивільні, зображені на них, не погоджувалися ставати навчальним матеріалом для продуктів, які можуть бути продані через роки. Але дані сенсорів, відеозаписи з камер і координати цивільних, які тікають від удару дрона, тепер становлять саме той тип даних, що визначає, як майбутні машини ухвалюватимуть рішення.

Це проблема згоди. Люди, представлені в даних, — чи то цілі, оператори, чи цивільні спостерігачі — стають частиною навчального матеріалу. Автономні можливості, засновані на цих даних, не зупиняються на краю поля бою. Такі можливості переходять до інших військових або комерційних систем, як-от транспортні засоби для доставки чи сільськогосподарська техніка. Помилки й припущення, закладені в даних, мандрують разом із моделлю навіть після її потрапляння в цивільне життя.

До даних із поля бою не слід ставитися як до звичайного комерційного матеріалу. Але наразі немає жодного відомства чи регулятора, який мав би юрисдикцію над цим питанням. Тим часом уряди, що надають доступ до оборонних даних, мають поводитися з ними так само, як із контрольованою передачею зброї: фіксувати їхнє походження, ліцензувати користувачів і обмежувати подальше поширення. Україна вже почала працювати над цією проблемою. Її програма Avengers Labs дозволяє компаніям навчати моделі на даних із поля бою, не надаючи їм прямого доступу до чутливих баз даних. Проте це пом’якшує лише одну частину проблеми.

Уряди мають вимагати розкриття інформації про те, коли моделі, навчені на матеріалах воєнного часу, згодом інтегрують у цивільні продукти. Мета такого регулювання має полягати в тому, щоб зробити шлях від бойових дій до комерції видимим.

Насправді ці компанії видобувають досвід. А солдати не можуть погодитися на використання їхнього досвіду в такий спосіб — як навчальних даних, що забезпечують перевагу моделі й зрештою підтримують продукт, який використовують далеко від місця, де точилася війна.

Питання вже не лише в тому, що технологічні компанії можуть продавати для використання у війні. Питання в тому, що вони можуть із неї видобути.

Щоб захистити себе від надмірностей цієї нової галузі, нам потрібна регуляторна система, яка відстежуватиме дані з поля бою всюди, куди вони потрапляють: від бойових дій до моделі й комерційного продукту.

Корі Алперт — дослідник Мельбурнського університету, який вивчає вплив ШІ на демократію. Раніше він працював у Білому домі за часів адміністрації Байдена.