Американските военни едва не се качиха на китайски кораб заради халюциниран от ИИ разузнавателен доклад

През пролетта на 2026 г. американските военни са били на минути от това да се качат на китайски кораб въз основа на фалшив, генериран от ИИ разузнавателен доклад. Анализатор от Командването за специални операции е използвал чатбот, който погрешно е определил товара на кораба като компоненти за ядрени оръжия, съобщава ексклузивно CNN. Въоръжени войници са били в готовност, а самолети са били във въздуха, малко преди някой да открие грешката.

Чатботът е смесил „разузнавателна информация от отворени източници със секретна сигнална разузнавателна информация в правителствени хранилища“ и е идентифицирал погрешно товара; учебникарски пример за глупост на ИИ. Министърът на отбраната Пийт Хегсет настоява за внедряване на ИИ в цялата армия чрез стратегия за ускоряване, но според сведенията няма единни стандарти за проверка на разузнавателна информация, генерирана от ИИ. Източници са заявили пред CNN, че вътрешните системи до голяма степен са просто „замазани с червило“ копия на търговски продукти и че по-младите анализатори са склонни да се доверяват на инструментите с ИИ без никакви въпроси. „ИИ ви позволява по-бързо да стигнете до лоша идея“, е казал един от източниците.

Инцидентът напълно потвърждава опасенията на защитниците на идеята за рисковете от ИИ, които се тревожат по-малко от богоподобен ИИ и повече от небрежни системи в ръцете на некритични или недобросъвестни оператори.

Новини за ИИ без сензацията – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за ИИ, нашия ексклузивен водещ доклад „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.