Данные с дронов в Украине подпитывают новый рынок в стиле Дикого Запада

Поля сражений в Украине усеяны обломками дронов, которые теперь прочно заняли место среди важнейших видов оружия в современной войне. Но за всем этим мусором скрывается новая золотая жила для оборонного сектора. Данные, которые генерируют дроны, намного переживут войны, в которых их используют, и всё чаще будут становиться частью архитектуры ИИ, формирующей даже гражданскую жизнь.

За каждый полёт беспилотные системы собирают тысячи фрагментов данных — от изображений и видео до команд оператора. Вместе эти записи показывают, как машина и человек реагировали на постоянно меняющиеся обстоятельства.

Теперь Украина начала превращать этот опыт в ресурс. В январе Министерство обороны страны объявило, что предоставит военным подрядчикам и коммерческим компаниям доступ к миллионам фрагментов данных, собранных во время десятков тысяч полётов дронов, и с тех пор доступ получили более 100 компаний и правительство Великобритании.

Для страны, находящейся в состоянии войны, это быстрый способ привлечь финансирование и наладить партнёрства. Но этот шаг превращает линию фронта в действующую площадку для обучения моделей, используя то, что хаос войны создаёт условия, которые компаниям, занимающимся ИИ, трудно воспроизвести самостоятельно.

Вероятно, другие страны и театры военных действий последуют примеру Украины, но ответственность за регулирование этой новой отрасли не может целиком ложиться на страну, борющуюся за своё выживание. Этот правовой вакуум должны совместно заполнить страны и компании, участвующие в развитии отрасли.

Взрывной рост

Поля сражений в Украине — не первые, где создаются записи, используемые для обучения и разработки моделей: американские дроны над Сирией и Йеменом собирали данные, которые легли в основу первого поколения полуавтономной военной техники в конце 2010-х годов.

Разница теперь в том, что доступ к этим данным используется для развития более широкой экосистемы. А финансовая ценность для оборонных компаний огромна: данные с поля боя предлагают большие объёмы опыта машин, собранного в условиях, которые не может создать ни одна лаборатория.

Дело в том, что наиболее ценные для обучения моделей ИИ данные поступают из нестандартных ситуаций: в момент, когда исчезает видимость, глушится сигнал или человек-оператор импровизирует. Компании, занимающиеся ИИ, тратят годы и огромные суммы, пытаясь собрать достаточное количество таких эпизодов, чтобы сделать свои модели более устойчивыми. Но война порождает их с частотой, которой невозможно достичь в ходе контролируемых испытаний.

Именно эта постоянно меняющаяся среда делает данные дронов ценными далеко за пределами поля боя. Коммерческий дрон, используемый для доставки или дистанционного зондирования, может никогда не столкнуться с артиллерийским огнём, но ему всё равно приходится работать с неполной информацией в мире, где люди ведут себя непредсказуемо. Война сжимает ту же проблему в гораздо более короткие сроки.

После обработки и сопоставления с записями действий оператора эти данные превращают оперативные записи в обучающие наборы. Боевые действия становятся коммерческим активом.

Во многих конфликтах этот цикл обучения уже работает: записи с дронов используются при создании последующих поколений военных технологий, и рынок будет расти. Американская компания Enabled Intelligence, специализирующаяся на обработке данных для использования в обучении ИИ, заявляет, что уже сделала доступными более полумиллиона часов видеозаписей украинских дронов для обучения следующего поколения моделей, рекламируя возможное применение как в военных, так и в коммерческих системах.

Замыкая цикл данных

Многие дроны, которые сегодня определяют современную эпоху ведения войн, изначально были гражданскими технологиями. Но недавно их возможности были значительно усилены новыми коммерчески доступными системами ИИ, позволяющими недорогим машинам действовать автономно — поодиночке или в составе роя — по мере изменения окружающей среды. Каждый полёт после этого создаёт запись того, с чем столкнулась система.

Получаемые данные критически важны. Контролируемые лабораторные условия, которые обычно создаются для обучения таких автономных систем, могут лишь приблизительно воспроизводить сбои и не идут ни в какое сравнение с реальными условиями поля боя, где риски вполне реальны. Военные разведывательные программы почти десятилетие хранили данные, генерируемые насыщенными датчиками системами вроде дронов Predator и Reaper, в рамках таких проектов, как Project Maven, но доступ оставался исключительно внутри оборонного мира. Сгенерированные данные были доступны только по закрытым секретным каналам и исключительно для разработки новых систем вооружений, которые затем возвращались в те же вооружённые силы, изначально создавшие эти данные. Теперь этот опыт передаётся гораздо более широкой сети разработчиков.

Цикл замыкается. Коммерческие технологии, адаптированные для поля боя, генерируют данные, которые могут возвращаться в отрасли, из которых они пришли, становясь частью инфраструктуры данных, на которую опираются как правительства, так и частный сектор.

Дроны, обучавшиеся в воздушном пространстве над Украиной, где глушились сигналы, теперь используются в сельском хозяйстве, помогая фермерам составлять карты и обследовать свои поля в местах, где отсутствует мобильная связь, необходимая для технологий предыдущих поколений.

Вероятно, другие страны последуют примеру Украины и начнут продавать свои данные с поля боя, а мы не готовы к новому рынку, который это создаст.

Недобросовестные акторы могут получить эти данные, но такой риск уже снижается благодаря контролю за покупками. Разведывательные службы изучают инфраструктуру потенциальных клиентов, пытаясь понять, каким образом данные могут попасть к врагам или злоумышленникам.

Однако обучающие данные создают новую проблему отслеживания. Перемещение коммерческих наборов данных можно проследить, когда встроенные контактные данные обнаруживаются в двух звеньях от первоначального покупателя, тогда как происхождение данных для обучения ИИ исчезает, будучи встроенным в саму технологию. Ещё один риск заключается в том, что такое использование данных создаёт экстрактивную экономику, в которой более богатые страны, находящиеся далеко от опасности, получают выгоду от смертельной угрозы, которую несут государства на передовой, потенциально создавая рыночный стимул для продолжения войны как бесконечного источника цифрового золота.

Проблемный новый рубеж

Существующие законы регулируют то, как вооружённые силы могут вести войну. Но они почти ничего не говорят о том, что происходит, когда записи, созданные в ходе боевых действий, лишаются своего оперативного контекста, упаковываются в виде данных и лицензируются компаниям, чьи продукты распространяются далеко за пределами места их создания.

Ответственность компаний, разрабатывающих эти системы, остаётся неопределённой. Украина создаёт механизмы контроля доступа, о которых говорится в недавно подписанном соглашении между Великобританией и Украиной в сфере ИИ, но ни одно правительство активно не занимается регулированием того, что происходит после поглощения данных моделью и её возвращения на гражданские рынки.

В этих записях заключены человеческие жизни. Солдаты и гражданские лица, изображённые на них, не соглашались становиться учебным материалом для продуктов, которые могут быть проданы спустя годы. Но данные датчиков, записи с камер и координаты гражданских лиц, спасающихся от удара дрона, теперь относятся к тому типу данных, которые определяют, как будущие машины будут принимать решения.

Это проблема согласия. Люди, представленные в данных, — будь то цели, операторы или случайные прохожие — становятся частью обучающего материала. Автономные возможности, основанные на этих данных, не заканчиваются у края поля боя. Такие возможности переходят в другие военные или коммерческие системы, например в транспортные средства для доставки или сельскохозяйственную технику. Ошибки и допущения, заложенные в данных, перемещаются вместе с моделью даже после её появления в гражданской жизни.

К данным с поля боя нельзя относиться как к обычному коммерческому материалу. Но в настоящее время не существует ни одного ведомства или регулятора, обладающего юрисдикцией в этом вопросе. Тем временем правительства, предоставляющие доступ к оборонным данным, должны обращаться с ними так же, как с контролируемой передачей оружия: фиксировать их происхождение, лицензировать пользователей и ограничивать дальнейшее распространение. Украина уже начала заниматься этой проблемой. Её программа Avengers Labs позволяет компаниям обучать модели на данных с поля боя, не предоставляя им прямого доступа к чувствительным базам данных. Однако это решает лишь одну часть проблемы.

Правительства должны требовать раскрытия информации в тех случаях, когда модели, обученные на материалах военного времени, позднее встраиваются в гражданские продукты. Цель такого регулирования — сделать видимым путь от боевых действий к коммерции.

На самом деле эти компании добывают опыт. А солдаты не могут дать согласие на использование своего опыта таким образом — в качестве обучающих данных, обеспечивающих преимущество модели и в конечном счёте поддерживающих продукт, используемый далеко от места, где велась война.

Вопрос теперь заключается не только в том, что технологические компании могут продавать для использования на войне. Вопрос в том, что они могут из неё извлечь.

Чтобы защитить себя от злоупотреблений этой новой отрасли, нам необходима система регулирования, которая будет отслеживать данные с поля боя повсюду, куда бы они ни направлялись: от боевых действий к модели и от модели к коммерческому продукту.

Кори Алперт — исследователь Мельбурнского университета, изучающий влияние ИИ на демократию. Ранее он работал в Белом доме при администрации Байдена.