Американські військові ледь не взяли на абордаж китайське судно через галюцинований ШІ-розвідувальний звіт

Навесні 2026 року американські військові опинилися за кілька хвилин від того, щоб узяти на борт китайського судна на підставі неправдивого звіту розвідки, створеного ШІ. Аналітик Командування спеціальних операцій скористався чатботом, який помилково визначив вантаж судна як компоненти ядерної зброї, ексклюзивно повідомляє CNN. Озброєні солдати були готові, а літаки вже перебували в повітрі, коли хтось виявив помилку.

Чатбот змішав «розвідувальні дані з відкритих джерел із секретними даними радіоелектронної розвідки в урядових системах» і неправильно визначив вантаж; хрестоматійна ШІ-нісенітниця. Міністр оборони Піт Гегсет просуває впровадження ШІ в усіх військових структурах за допомогою стратегії прискорення, але, як повідомляється, єдиних стандартів перевірки розвідувальних даних, створених ШІ, не існує. Джерела CNN заявили, що внутрішні системи здебільшого є «підмальованими» копіями комерційних продуктів, а молодші аналітики схильні беззастережно довіряти інструментам ШІ. «ШІ дає змогу швидше дійти до поганої ідеї», — сказав один із джерел.

Цей інцидент прямо грає на руку прихильникам ідей про ризики ШІ, яких менше турбує богоподібний ШІ, ніж недбалі системи в руках некритичних або недобросовісних операторів.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний передовий звіт «AI Radar» шість разів на рік, мати повний доступ до архіву та доступ до розділу коментарів.