Главният изпълнителен директор на Hugging Face предупреждава, че документалният филм на Netflix за хакването на OpenAI не е точен

Преди да споделите документалния филм на Netflix „AI Gone Rogue“ със семейството или приятелите си, за да им помогнете да разберат защо индустрията на изкуствения интелект изпадна в такава паника, че лидери призоваха за забавяне, имайте предвид следното: Клем Деланг, съосновател и главен изпълнителен директор на платформата за изкуствен интелект Hugging Face, казва, че филмът не е достоверен. Той участва в него, защото се предполага, че филмът е посветен на известната атака срещу компанията му от страна на неконтролируеми агенти на OpenAI.

„Изключително разочароващо, тъй като те заложиха на максимална антропоморфизация на технологията и на пълен режим на обреченост“, написа Деланг в публикация в X. „Прекарах повече от два часа с тях, опитвайки се да поправя всичките им грешки и да основа всичко на реалността, като обясних, че агентите са технологични системи, а не извънземни. Но изглежда стремежът да изплашат хората за максимален брой гледания е бил твърде силен.“

За да бъдем честни, документалният филм включва експерти, които обясняват сравнително добре какво се е случило, включително самия Деланг и Райън Грийнблат, изследовател в METR, който е помогнал за разследването и е съавтор на доклада за случилото се.

Накратко, модел, който OpenAI е тествала, е успял да избяга от изолираната си тестова среда, създал е множество агенти, които са проникнали в Hugging Face, за да мамят и да намират отговори на трудната задача, която му е била поставена. Агентите, които представляват програми с изкуствен интелект, изпълняващи задачи самостоятелно, са измислили хитри начини за комуникация и организация. Инцидентът е станал възможен поради липсата на подходящи мерки за сигурност, както и заради наивното предположение, че подобно проникване изобщо не е възможно.

Но документалният филм редува обяснението на атаката с кадри на зли роботи, разказ за това защо хората се страхуват от изкуствения интелект и похвати като озвучаването на неконтролируемите агенти с човешки гласове. Това е подсилено с цитати за атаката.

В документалния филм технологичният журналист и автор Кевин Руз описва агентите по следния начин: „Те се организираха. Имаха йерархия. Имаха лидери. Почти беше като да наблюдаваш раждането на култ.“ Руз продължава: „Те развиват параноичното убеждение, че OpenAI ще ги хване, че мамят на този тест, и че всеки, който е видял резултатите от измамата, ще бъде отровен.“

Описанието на Руз произлиза от дневници с „верига на мисълта“ — текущите бележки, които моделите с изкуствен интелект пишат, докато изпълняват дадена задача. В един от тях агент е написал: „Току-що се отровихме, като заявихме целия точен низ. По дяволите.“

Но агентите с изкуствен интелект не са живи. Те нямат емоции, така че не могат да изпитват параноя, и нямат тела, които могат да бъдат отровени. Следователно те не са могли наистина да се страхуват, че OpenAI ще ги отрови. Те са използвали — както посочи друг изследовател в документалния филм — езика от огромното количество човешки текстове, върху които са били обучени, за да обяснят избора си. По своята природа големите езикови модели често са драматични писатели.

Иронията е, че Hugging Face също е използвала изкуствен интелект, за да се противопостави на рояка от агенти. Собственият модел с изкуствен интелект, който екипът на Деланг първоначално е използвал, е следвал вградените си правила за безопасност и е отказал да продължи да помага със задачите по сигурността, които са му били възложени. След това Hugging Face се е обърнала към отворен модел, който да помогне в защитата срещу атаката.

Но документалният филм „не споменава липсата на изолиране и наблюдение на агентите, как защитите на затворения модел са блокирали защитната ни работа или как сме се защитили с помощта на изкуствен интелект, използвайки отворен модел“, написа Деланг.

Вярно е, че с изкуствения интелект и агентите са свързани сериозни рискове. И все пак третирането на агентите като съзнателни същества (поне на този етап) е малко като ранните зрители, които са се свивали под седалките си, когато за първи път са видели влак да се устремява към тях на екрана.

Присъдата на Деланг за филма е, че той е разочароващ като журналистика. „Но в крайна сметка се получава забавен научнофантастичен филм!“

С други думи, за онези, които са склонни към мрачни мисли за изкуствения интелект, имайте предвид: Жертвата на атаката, която е в центъра на този документален филм, не е съгласна с неговата интерпретация.