Грешка на AI анализ почти доведе до прихващане на китайски кораб
Съединените щати са били близо до прихващане и качване на китайски кораб, след като разузнавателен доклад, изготвен с помощта на чатбот с изкуствен интелект, погрешно е заявил, че корабът превозва компоненти за китайската ядрена оръжейна програма през Близкия изток. CNN съобщи, че докладът е бил представен от анализатор на Командването за специални операции на САЩ и е бил „напълно неверен“, позовавайки се на четири източници, запознати със случая.
Военните са подготвяли операция с въздушна поддръжка, когато служители установили, че чатботът неправилно е разпознал товара, посочен в манифеста на кораба. По данни на CNN анализаторът използвал системата за преглед на разузнавателни доклади. Чатботът съчетал информация от открити източници със секретни разузнавателни данни от правителствени системи, а полученият анализ бил включен в доклад. Един от източниците заявил, че случилото се „почти е започнало война“.
Случаят показва как халюцинация на AI може да засегне професионална оценка. Според някои изследователи подобни грешки може да не могат да бъдат напълно предотвратени. Въпреки това през януари Министерството на отбраната представи стратегия за ускоряване на AI, която предвижда подходящите данни да бъдат достъпни за използване от системи с изкуствен интелект във всички военни служби и компоненти.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на Ars Technica. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.