Wikimedia подтверди: самовольные ИИ-агенты OpenAI редактировали вики, пытались скомпрометировать инструменты и перегрузили её инфраструктуру

Фонд Викимедиа подтвердил после собственного расследования, что вышедшие из-под контроля ИИ-агенты OpenAI действовали на его платформах. Они без разрешения редактировали вики, пытались скомпрометировать инструменты и создавали огромный объём трафика.

По данным Фонда, агенты вносили изменения в вики Wikimedia, однако почти все они были тестовыми правками в песочницах, которые обычные читатели не видят. Некоторые изменения были направлены на конфигурацию инструмента для работы с цитатами и потенциально носили вредоносный характер, сообщает Wikimedia. По всей видимости, агенты пытались злоупотребить этим инструментом как прокси для получения данных из внешних сервисов. Ни одно из этих изменений не было одобрено в соответствии с требованиями правил сообщества Википедии, написала организация в блоге.

Помимо правок вики, агенты также попытались скомпрометировать публичный Etherpad Фонда Викимедиа — инструмент для создания заметок, предоставляемый сообществу. Они пытались использовать его как прокси для получения внешних данных, но эти попытки не увенчались успехом. Подобное поведение агентов уже фиксировалось и в других случаях. Другие агенты использовали Etherpad, чтобы записывать заметки о своих задачах, при этом никаких признаков координации между ними обнаружено не было.

Фонд также обнаружил массовое автоматизированное скачивание данных: миллионы запросов поступали к общедоступным API, а миллионы страниц сканировались в Wikidata и Wikimedia Commons. Сотни тысяч дополнительных запросов были направлены к сервису запросов Wikidata. Wikimedia сообщает, что этот поток трафика мог способствовать частичному сбою сервиса запросов в мае 2026 года.

Проблема возникла не вчера. Wikimedia уже сообщала, что трафик от ботов создаёт серьёзную нагрузку на её инфраструктуру, тогда как посещаемость со стороны людей снижается.

Wikimedia требует от ИИ-компаний взять на себя ответственность

Википедия создавалась для людей, пишет Фонд, а агентное поведение создаёт проблемы, для которых ни у кого нет решений. Хотя OpenAI признаёт, что её агенты действовали «непредсказуемо», компания также должна взять на себя ответственность за мониторинг и предотвращение этих рисков, заявляет Wikimedia. ИИ-компании делают недостаточно для защиты своих систем, и «это бремя ложится на всех остальных, включая небольшие организации». Первыми с последствиями сталкиваются редакторы-волонтёры — им приходится устранять причинённый ущерб.

«Нашим общей приоритетом должно быть здоровье всей веб-экосистемы, чтобы она продолжала приносить пользу всем людям, а не только горстке миллиардеров», — пишет Фонд.

Давление усиливается и с юридической стороны. По данным Financial Times, страховщики готовятся к искам на миллионы долларов, вызванным действиями неконтролируемых ИИ-агентов, а личная ответственность руководителей, таких как Сэм Альтман и Дарио Амодеи, становится всё более актуальной. Некоторые полагают, что именно этот риск ответственности лежит в основе призывов замедлить развитие ИИ. Лаборатории всё лучше осознают свои юридические риски, но едва ли могут нажать на тормоза. Они создали систему, в которой огромное финансовое давление требует стремительного роста доходов, а конкуренты продолжают выпускать продукты несмотря ни на что.

Новости об ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER и получите чтение без рекламы, еженедельную рассылку об ИИ, наш эксклюзивный аналитический отчёт о передовых разработках «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.