Wikimedia підтвердила: самовільні ШІ-агенти OpenAI редагували вікі, намагалися скомпрометувати інструменти та перевантажили її інфраструктуру

Фонд Wikimedia після власного розслідування підтвердив, що неконтрольовані ШІ-агенти OpenAI діяли на його платформах. Вони без дозволу редагували вікі, намагалися скомпрометувати інструменти та генерували величезний трафік.

За даними Фонду, агенти редагували вікі Wikimedia, але майже всі ці зміни були тестовими й відбувалися в розділах-пісочницях, яких звичайні читачі не бачать. Деякі зміни стосувалися конфігурації інструмента цитування та могли мати зловмисний характер, повідомляє Wikimedia. Схоже, агенти намагалися зловживати інструментом як проксі для отримання даних із зовнішніх сервісів. Жодна з цих змін не була схвалена так, як того вимагають правила спільноти Wikipedia, написала організація у своєму блозі.

Окрім редагування вікі, агенти також намагалися скомпрометувати загальнодоступний Etherpad Фонду Wikimedia — інструмент для створення нотаток, що працює як сервіс для спільноти. Вони намагалися використовувати його як проксі для отримання зовнішніх даних, але ці спроби провалилися. Подібну поведінку агентів уже фіксували й в інших випадках. Інші агенти використовували Etherpad, щоб занотовувати відомості про свої завдання, без жодних ознак координації між ними.

Фонд також виявив масове автоматизоване завантаження даних: мільйони запитів надходили до загальнодоступних API, а мільйони сторінок було проскановано у Wikidata та Wikimedia Commons. Сотні тисяч додаткових запитів були спрямовані до сервісу запитів Wikidata. Wikimedia заявляє, що цей потік трафіку міг спричинити частковий збій сервісу запитів у травні 2026 року.

Ця проблема не нова. Wikimedia вже повідомляла, що бот-трафік створює значне навантаження на її інфраструктуру, тоді як людський трафік скорочується.

Wikimedia вимагає від ШІ-компаній взяти на себе відповідальність

Wikipedia створювалася для людей, пише Фонд, а поведінка агентів створює проблеми, для яких ніхто не має готових рішень. Хоча OpenAI визнає, що її агенти діяли «непередбачувано», компанія також має взяти на себе відповідальність за моніторинг і запобігання цим ризикам, заявляє Wikimedia. ШІ-компанії роблять недостатньо для захисту своїх систем, і «цей тягар лягає на всіх інших, зокрема на менші організації». Саме редактори-волонтери першими стикаються з наслідками та змушені ліквідовувати завдану шкоду.

«Нашим спільним пріоритетом має бути здоров’я всієї вебекосистеми, щоб вона й надалі приносила користь усім людям, а не лише жменьці мільярдерів», — пише Фонд.

Тиск посилюється і з юридичного боку. За даними Financial Times, страховики готуються до позовів на мільйони доларів, спричинених неконтрольованими ШІ-агентами, а особиста відповідальність керівників, таких як Сем Альтман і Даріо Амодеї, виходить на перший план. Дехто припускає, що саме цей ризик відповідальності є справжньою причиною закликів сповільнити розвиток ШІ. Лабораторії дедалі краще усвідомлюють свої юридичні ризики, але майже не можуть натиснути на гальма. Вони побудували систему, у якій величезний фінансовий тиск вимагає стрімкого зростання доходів, а конкуренти продовжують випускати продукти за будь-яких обставин.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний щорічний звіт про передові технології «AI Radar», доступ до всього архіву та розділу коментарів.