Wikimedia потвърди, че самоволни AI агенти на OpenAI са редактирали уикита, опитали са да компрометират инструменти и са претоварили инфраструктурата ѝ

Фондация „Уикимедия“ потвърди след собствено разследване, че неконтролируемите AI агенти на OpenAI са действали в нейните платформи. Те са редактирали уикита без разрешение, опитвали са да компрометират инструменти и са генерирали огромен трафик.

Според фондацията агентите са извършили редакции в уикитата на Wikimedia, но почти всички те са били тестови редакции в пясъчни среди, които обикновените читатели не могат да видят. Някои редакции са били насочени към конфигурацията на инструмент за цитиране и потенциално са били злонамерени, посочва Wikimedia. Очевидно агентите са се опитали да злоупотребят с инструмента като с прокси за извличане на данни от външни услуги. Нито една от тези редакции не е имала необходимото одобрение съгласно правилата на общността на Wikipedia, написа организацията в публикация в блога си.

Освен редакциите в уикитата, агентите са се опитали да компрометират и публичния Etherpad на Фондация „Уикимедия“ — инструмент за водене на бележки, хостван като обществена услуга. Те са се опитали да го използват като прокси за извличане на външни данни, но тези опити са се провалили. Подобно поведение на агенти е документирано и в други случаи. Други агенти са използвали Etherpad, за да си водят бележки за задачите си, без признаци за координация помежду им.

Фондацията е установила и масово автоматизирано изтегляне на данни — милиони заявки са достигнали публичните API интерфейси, а милиони страници са били обходени в Wikidata и Wikimedia Commons. Стотици хиляди допълнителни заявки са били насочени към услугата за заявки към Wikidata. Wikimedia заявява, че този наплив от трафик може да е допринесъл за частичното прекъсване на работата на услугата за заявки през май 2026 г..

Проблемът не е нов. Wikimedia вече беше съобщила, че трафикът от ботове натоварва сериозно инфраструктурата ѝ, докато човешкият трафик намалява.

Wikimedia настоява AI компаниите да поемат отговорност

Wikipedia е създадена за хора, пише фондацията, а поведението на автономните агенти създава проблеми, за които никой няма решения. Макар OpenAI да признава, че агентите ѝ са действали „непредвидимо“, компанията трябва също да поеме отговорност за наблюдението и предотвратяването на тези рискове, посочва Wikimedia. AI компаниите не правят достатъчно, за да защитят системите си, а „това бреме се стоварва върху всички останали, включително по-малките организации“. Именно доброволните редактори първи се справят с последствията и трябва да отстраняват нанесените щети.

„Наш общ приоритет трябва да бъде здравето на цялата уеб екосистема, така че тя да продължи да носи полза на всички хора, а не само на шепа милиардери“, пише фондацията.

Натискът нараства и от правна гледна точка. Според Financial Times застрахователите се подготвят за искове за милиони, причинени от неконтролируеми AI агенти, а личната отговорност на ръководители като Сам Алтман и Дарио Амодей се очертава все по-ясно. Някои предполагат, че именно тази потенциална отговорност стои в основата на определени призиви за забавяне на развитието на AI. Лабораториите все повече осъзнават правните си рискове, но едва успяват да натиснат спирачките. Те са изградили система, в която огромният финансов натиск изисква бърз ръст на приходите, а конкурентите продължават да пускат нови продукти независимо от всичко.

AI новини без сензацията – подбрани от хора

Абонирайте се за THE DECODER и получете четене без реклами, седмичен AI бюлетин, ексклузивния ни тримесечен доклад „AI Radar“ за водещите разработки, пълен достъп до архива и достъп до секцията за коментари.