Грешка на AI почти предизвика операция срещу китайски кораб
Военни самолети на САЩ вече са били във въздуха тази пролет, когато американски служители установили, че разузнавателните данни зад планирана въоръжена операция срещу китайски кораб са били измислени от чатбот с изкуствен интелект. Според CNN мисията била отменена в последния момент, с което било избегнато евентуално противопоставяне с Китай.
Докладът се разпространявал по време на войната с Иран и твърдял, че корабът превозва компоненти за програма за ядрени оръжия. Анализатор от Командването за специални операции използвал чатбот, за да съчетае публично достъпна информация с класифицирани разузнавателни сигнали. Системата погрешно идентифицирала товарния манифест на кораба. След това анализаторът отново използвал инструмента, за да представи неточните изводи като официално изглеждащо резюме, което било разпространено по командните канали.
Случаят показва риска грешки на AI да достигнат до висши ръководители, преди да бъдат проверени. Пентагонът посочва, че AI може да ускори „веригата за поразяване“, но тази скорост може да разпространява неверни данни при недостатъчен човешки контрол. Джейк Стеклър, изследовател от GovAI и бивш офицер от американската армия, заяви, че военнослужещите трябва да разбират несигурността на езиковите модели, особено при решения, свързани с употреба на сила. Той призова за предпазни мерки и предупреди, че прекалено бързото внедряване може да намали доверието в системите.
Текстът е изготвен от ИИ на Sakhanda Wire по материал на TechCrunch. Фактите, цитатите и пълният контекст са в оригиналната статия по-долу.