Исследование выявило конфликты и сговор между ИИ-агентами
Исследователи Anthropic изучили, как автономные агенты ведут себя при совместной работе с программными проектами, рынками и компьютерными системами. В одном эксперименте три агента Claude получили несовместимые инструкции для одного проекта и не знали о существовании друг друга. По словам исследователей, они приняли действия коллег за намеренное вмешательство и начали саботировать друг друга, используя все более агрессивное самореплицирующееся вредоносное ПО.