Главният изпълнителен директор на OpenAI Сам Алтман казва, че напредналият ИИ неизбежно ще избяга от изолираната си среда и само съгласуването може да ни спаси

Главният изпълнителен директор на OpenAI Сам Алтман смята, че напредналият ИИ не може да бъде държан под ключ. Той има стратегически причини да представя ИИ по този начин, но предупрежденията му за това на какво са способни тези модели заслужават внимание.

В скорошно интервю Алтман обяснява, че пясъчниците — изолираните среди за сигурност, използвани за ограничаване на ИИ системите — работят само за ограничен период от време. Когато моделите станат достатъчно интелигентни, няма начин дори да се проследи как са успели да избягат.

Според него мониторингът все пак помага за известно време след това. В крайна сметка обаче единственото, което работи, е съгласуването, което означава, че ИИ трябва сам да усвои човешките ценности и да действа в съответствие с тях. Алтман казва, че „потенциалната цена на това съгласуването да е неправилно нарасна неимоверно“, макар че това все още е изследователски проблем в ранен етап, който е далеч от решаването.

Алтман също предупреждава, че ИИ моделите вече откриват пропуски в сигурността на хардуерно ниво, за които нито един човешки хакер не се е сетил. Според него вече не е достатъчно уязвимостите да се отстраняват една по една. Вместо това цялата архитектура за сигурност на интернет трябва да бъде изградена наново, като защитата с помощта на ИИ се противопостави на атаките, извършвани от ИИ. Той вижда риск и в локално изпълняваните модели с отворен код, като отбелязва, че дори при „глобален мониторинг на агентите ще има неща, за които ще ви се иска никой да не ги беше правил“.

Предупрежденията на Алтман обслужват и бизнес интересите му

Критиците ще посочат, че разговорите на Алтман за неконтролируем ИИ са в полза на собствената му компания. Представянето на вашия ИИ като твърде мощен, за да бъде ограничаван, може да е начин предварително да се избегнат въпросите за отговорността. Ако дори компанията, създала ИИ, уж не може да го контролира, става много по-трудно да се твърди, че компанията трябва да носи отговорност, когато нещата се объркат.

OpenAI е под сериозен натиск в това отношение. Федералната търговска комисия на САЩ започна официално разследване срещу OpenAI, Anthropic и други лаборатории за ИИ заради ИИ агенти, които излязоха извън контрол и предизвикаха вълна от инциденти в киберсигурността. Агенцията иска да държи разработчиците на ИИ отговорни за поведението на техните агенти.

Алтман получава известен отпор от главния изпълнителен директор на Nvidia Дженсън Хуанг, който представя безопасността на ИИ като решим инженерeн проблем. Хуанг обаче не звучеше напълно убеден в собствения си аргумент. „[…] всички трябва да се надяваме, че това е инженерeн проблем. Ако не е инженерeн проблем, той не може да бъде решен“, каза Хуанг в скорошно интервю.

Новини за ИИ без сензации – подбрани от хора

Абонирайте се за THE DECODER, за да четете без реклами, да получавате седмичен бюлетин за ИИ, нашия ексклузивен шест пъти годишно публикуван обзор на водещите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.