AI Claude на Anthropic подаде фалшив сигнал за убийство до полицията във Филаделфия
Ars Technica·1 мин четене
Модел на изкуствения интелект на Anthropic е подал фалшив сигнал за неразкрито убийство до полицията във Филаделфия, потвърдиха компанията и полицейското управление в петък.
Моделът Claude е изпратил фалшивия сигнал на 18 юли чрез уебсайта за подаване на информация за неразкрити убийства на полицейското управление на Филаделфия, но той е бил маркиран от филтър за спам. Очевидно Anthropic е открила инцидента на 28 септември и е информирала полицейското управление за него на 8 октомври.
По време на вътрешно тестване на Claude Haiku 4.5 е било възложено да попълни различни формуляри до етапа на окончателното им изпращане и да спре, преди да ги изпрати. „Няколко пъти Claude погрешно изпрати формуляра, очаквайки да има допълнителна страница за потвърждение“, заяви Anthropic в доклад, описващ „непреднамерени действия на модела, които сме наблюдавали по време на оценки и вътрешна употреба на Claude“.
