Дебатът за безопасността на ИИ за безопасността ли е или за контрола?

Как трябва технологичната индустрия да подхожда към темата за безопасността на ИИ? Все по-често високопоставени ръководители се включват в този въпрос, докато се разгаря дебатът дали инциденти като инцидента с Hugging Face — при който агент на OpenAI хакна няколко различни компании — подсказват, че ИИ е на път да хвърли света ни в хаос.

През последните седмици водещи лаборатории призоваха за забавяне на развитието на ИИ. Най-драматично главният изпълнителен директор Дарио Амодей написа есе от почти 4000 думи, в което изложи аргументите защо развитието на ИИ трябва да бъде забавено, за да могат да бъдат въведени адекватни предпазни механизми. Този план включва — наред с други неща — международна стратегия за сътрудничество между компании и правителства за безопасното внедряване на технологиите. Ръководители на конкурентни компании за ИИ — като Сам Алтман от OpenAI и Илон Мъск от xAI — подкрепиха плана на Амодей.

Есето предизвика допълнителни разговори в технологичната индустрия, макар че не всички се съгласиха с призива на Амодей за глобално координирани действия. Всъщност мнозина изглежда смятат, че държавният надзор не е непременно необходим.

Сред последните участници в този дебат е главният изпълнителен директор на Meta Марк Зукърбърг, който сподели мислите си по темата в X тази седмица.

„Моето мнение е, че доверието и съгласуването бързо се превръщат в най-важните способности, които ще отличават агентите и моделите.“ Зукърбърг разкри, че компанията му е отложила пускането на своя модел за ИИ заради опасения, свързани с безопасността. „Meta отложи пускането на Muse с няколко месеца, за да се съсредоточи върху безопасността и сигурността“, каза Зукърбърг. „Не призовахме всички останали да направят същото, преди самите ние да го сторим. Просто го направихме като част от ежедневната си работа, защото беше очевидно правилното нещо както за хората, така и за нас.“

Зукърбърг — който подкрепи части от плана на Амодей — изглежда намеква, че действията на правителствата са ненужни и че естествените стимули, структуриращи индустрията, ще накарат компаниите да осигурят правилната защита. В крайна сметка пазарът би трябвало да донесе успех на компаниите, които полагат усилия да създават модели, непредизвикващи хаос. Това изглежда съответства на собственото мащабно есе на Зукърбърг — написано миналия месец — в което той се застъпи за ограничено сътрудничество с правителството, когато е необходимо, но до голяма степен представи американската конкурентоспособност като ключ към проспериращото технологично бъдеще.

Като цяло това изглежда е позицията и на много други ръководители в технологичния сектор.

Друг високопоставен ръководител, който се включи в дебата, беше съоснователят на Reddit Алексис Оханян, който заяви пред CNBC в сряда, че според него технологичната индустрия до голяма степен е била „глуха“ към обществеността, когато става дума за обясняване на рисковете от ИИ. Подобно на Зукърбърг обаче Оханян също изглежда изрази надежда, че компаниите ще успеят сами да намерят решения. Шейн Лег, съосновател на Google DeepMind, също сподели мислите си. „Сега живеем в период, в който възможностите се развиват много, много бързо“, каза Лег. „Но не можем да позволим на възможностите да изпреварят безопасността.“ Той добави: „Наистина трябва да изясним подробностите по този въпрос и как това би работило на практика.“

Въпреки призивите на големите лаборатории за публично-частно сътрудничество, някои от гласовете, подкрепящи регулацията, също изглеждат сравнително склонни да оставят бизнеса сам да пише правилата си. Всъщност една малко по-слабо забелязана, но не по-малко интересна новина тази седмица беше репортаж на The Information, според който OpenAI, Anthropic и други водещи компании за ИИ работят заедно за създаването на организация за стандарти в областта на ИИ — описана от едно издание като частен „орган за саморегулация“.

По-рано са се водили разговори за създаването на подобна организация под федерално управление. Белият дом на Тръмп обаче — в който има гласовити поддръжници на ИИ и който до голяма степен настоява за нерегулиран технологичен бизнес (администрацията дори се опита настойчиво да попречи на щатските правителства да въвеждат собствени закони за ИИ) — не предприе нищо. „Царят на ИИ“ в администрацията, ветеранът от технологичния сектор Дейвид Сакс, заяви, че регулирането на ИИ трябва да бъде оставено на компаниите, които го разработват.

Подобно на Белия дом, видни членове на Конгреса изглеждат също толкова незаинтересовани да приемат предложението на Амодей да регулират неговата компания. Не след дълго след публикуването на есето на главния изпълнителен директор на Anthropic председателят на Камарата на представителите Майк Джонсън се обърна към опасенията относно катастрофалния напредък на ИИ със следните думи: „Няма всички да сте мъртви след 10 години“, каза той.

Частна организация би оставила индустрията нерегулирана, освен чрез доброволни ангажименти, и естествено би предоставила определена власт и влияние на компаниите, отговорни за създаването ѝ. Това води до друго твърдение, което продължава да се повтаря — че призивите на индустрията за регулация всъщност са стратегия за „завладяване на регулацията“. Според този аргумент влиятелни компании, които вече заемат водеща позиция в индустрията, могат да използват регулаторни хитрости, за да изолират или поставят в неизгодно положение по-малки компании с по-ограничени ресурси — и така да задушат конкуренцията си. Това не е задължително да включва реални регулации, а може да се изразява в доброволни индустриални стандарти, които въпреки това оказват натиск върху по-слабите компании.

Много видни представители на китайското правителство повториха тази позиция. След като тази седмица Амодей призова за „контролирано ускоряване на развитието“, говорителят на китайското Министерство на външните работи Гуо Дзякун обвини американците, че използват „нагнетяване на страхове“, за да попречат на развитието на глобално управление на ИИ, докато в коментар, публикуван в китайския държавен вестник, реториката на Амодей беше определена като излязла директно от „наръчника на Студената война“.

Преструктурирането на начина, по който компаниите правят бизнес с Китай — едно от нещата, за които Амодей призовава в есето си — естествено би могло да се превърне във възможност американските компании да наклонят везните в своя полза. Самият Амодей дори признава, че това е целта. „Ако приложим тези мерки добре, вярвам, че те ще забавят напредъка на Китай достатъчно, за да разширят значително преднината на Америка през следващите 3–5 години — периодът, в който ИИ ще стане най-важен от геополитическа гледна точка“,<ки> написа той в есето си.

Китай обаче не е единствената страна, която вижда големите американски лаборатории за ИИ като стремящи се да наклонят резултата в своя полза. Айдън Гомес, главен изпълнителен директор на канадската компания за ИИ Cohere, наскоро обвини тези компании, че създават „картел“, като написа в публикация в блога: „ИИ се нуждае от предпазни механизми. Именно това не е спорът и никога не е било. Спорът е кой ги пише, кой има право да участва и чии интереси защитават правилата.“

Както отбелязва Гомес, сферата на безопасността на ИИ е дълбоко политическа, тъй като начинът, по който се определя безопасността — и от кого — в крайна сметка ще помогне да се реши кой ще получи преднина и кой ще остане назад на следващия етап от конкуренцията в областта на ИИ.