Sakhanda Wire
NVDA $153.81 -1.49% MSFT $505.73 -2.37% GOOGL $280.00 -1.31% META $619.84 -1.05% AMZN $257.52 -0.09%
← К новостям

Ошибка ИИ почти привела к перехвату китайского судна США

США были близки к перехвату и досмотру китайского судна после того, как в подготовленном при помощи чат-бота с искусственным интеллектом разведывательном докладе ошибочно утверждалось, что судно перевозило компоненты китайской ядерной оружейной программы через Ближний Восток. CNN сообщила, что доклад представил аналитик Командования специальных операций США. Четыре источника, знакомые с эпизодом, назвали содержащиеся в нем сведения «полностью ложными».

Американские военные готовили операцию с воздушной поддержкой, однако до ее начала чиновники обнаружили, что чат-бот неверно определил груз, указанный в судовом манифесте. По данным CNN, аналитик применил чат-бот для анализа разведывательных материалов. Система объединила сведения из открытых источников с секретными данными радиоэлектронной разведки, хранившимися в государственных системах, после чего результат вошел в разведывательный доклад. Один из источников сказал, что этот случай «почти начал войну».

Эпизод стал серьезным примером того, как галлюцинация ИИ может повлиять на профессиональную оценку. Некоторые исследователи считают, что полностью исключить такие ошибки, возможно, нельзя. При этом в январе Министерство обороны представило стратегию ускоренного внедрения ИИ, предусматривающую доступ к подходящим данным во всех военных службах и компонентах через объединенные ИТ-системы.

Текст подготовлен ИИ Sakhanda Wire по материалу Ars Technica. Факты, цитаты и полный контекст — в оригинальной статье ниже.

Впервые опубликовано изданием Ars Technica

Читать оригинал на Ars Technica ↗

Репортаж и изображение принадлежат Ars Technica и указаны выше со ссылкой на оригинал; текст на этой странице — собственное изложение Sakhanda Wire.

← К новостям

Ещё новости

Все последние новости