Американские военные едва не взяли на абордаж китайское судно из-за галлюцинировавшего ИИ разведывательного доклада

Весной 2026 года американские военные оказались в нескольких минутах от взятия на абордаж китайского судна на основании ложного разведывательного доклада, сгенерированного ИИ. Аналитик Командования специальных операций использовал чат-бота, который ошибочно сообщил, что груз судна состоит из компонентов ядерного оружия, эксклюзивно сообщает CNN. Вооружённые солдаты были готовы, самолёты уже находились в воздухе, когда кто-то обнаружил ошибку.

Чат-бот смешал «разведданные из открытых источников с секретными данными радиоэлектронной разведки, хранящимися в государственных системах», и неверно идентифицировал груз — хрестоматийный пример ИИ-чуши. Министр обороны Пит Хегсет продвигает внедрение ИИ во всех вооружённых силах с помощью стратегии ускорения, однако, по имеющимся данным, единых стандартов проверки разведданных, сгенерированных ИИ, не существует. Источники сообщили CNN, что внутренние системы в основном представляют собой коммерческие продукты с «нанесённым сверху военным гримом», а молодые аналитики склонны безоговорочно доверять инструментам ИИ. «ИИ позволяет быстрее прийти к плохой идее», — сказал один из источников.

Этот инцидент играет на руку сторонникам предупреждений об угрозах ИИ, которые меньше беспокоятся о богоподобном ИИ и больше — о небрежно разработанных системах в руках некритично мыслящих или недобросовестных операторов.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный передовой отчёт «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.