Sakhanda Wire
NVDA $153.61 -1.62% MSFT $506.27 -2.26% GOOGL $280.41 -1.17% META $623.08 -0.53% AMZN $257.66 -0.03%
← К новостям

Ошибка ИИ едва не привела к операции против китайского судна

Военные самолёты США уже находились в воздухе этой весной, когда американские чиновники выяснили, что разведданные для планировавшейся вооружённой операции против китайского судна были результатом галлюцинации чат-бота с искусственным интеллектом. Как сообщила CNN, операцию отменили в последний момент, избежав возможного столкновения с Китаем.

Разведывательный доклад распространялся во время войны с Ираном и утверждал, что судно перевозит компоненты для программы ядерного оружия. Аналитик Командования специальных операций попросил чат-бот объединить открытые данные с засекреченными сигналами разведки. Система неправильно определила содержимое грузового манифеста судна. Затем аналитик повторно использовал инструмент, чтобы оформить ошибочные выводы в виде сводки, напоминающей официальный документ; она прошла по командным каналам.

Этот случай показывает, как ошибки ИИ могут подниматься по цепочке принятия решений до того, как их проверят. Пентагон заявлял, что ИИ способен ускорить «цепочку поражения», однако та же скорость может способствовать распространению ложных данных при недостаточном контроле людей. Джейк Стеклер, научный сотрудник GovAI и бывший офицер армии США, отметил, что военнослужащим важно понимать неопределённость больших языковых моделей, особенно при решениях, способных привести к применению силы. По его словам, нужны дополнительные меры защиты, а приоритет скорости внедрения может подорвать доверие к таким системам.

Текст подготовлен ИИ Sakhanda Wire по материалу TechCrunch. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием TechCrunch

Читать оригинал на TechCrunch ↗

Репортаж и изображение принадлежат TechCrunch и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости