Помилка ШІ ледь не спричинила операцію проти китайського судна
Військові літаки США вже перебували в повітрі цієї весни, коли американські посадовці з’ясували, що розвіддані для запланованої збройної операції проти китайського судна були результатом галюцинації чатбота зі штучним інтелектом. Як повідомила CNN, операцію скасували в останню мить, уникнувши можливого конфлікту з Китаєм.
Розвідувальний звіт поширювали під час війни з Іраном. У ньому стверджувалося, що судно перевозить компоненти для програми ядерної зброї. Аналітик Командування спеціальних операцій попросив чатбот поєднати дані з відкритих джерел із засекреченими сигналами розвідки. Система неправильно визначила вантажний маніфест судна. Після цього аналітик повторно використав інструмент, щоб оформити помилкові висновки у вигляді резюме, схожого на офіційний документ. Його поширили командними каналами.
Цей випадок демонструє ризик того, що помилки ШІ можуть пройти ланцюг ухвалення рішень до перевірки людьми. Пентагон заявляв, що ШІ здатен пришвидшити «ланцюг ураження», але така швидкість може також поширювати хибні дані за недостатнього людського контролю. Джейк Стеклер, дослідник GovAI та колишній офіцер армії США, наголосив на важливості розуміння невизначеності великих мовних моделей, особливо у рішеннях, які можуть призвести до застосування сили. Він закликав посилити запобіжники й попередив, що надто швидке впровадження може підірвати довіру до цих систем.
Текст підготовлено ШІ Sakhanda Wire за матеріалом TechCrunch. Факти, цитати та повний контекст — в оригінальній статті нижче.