Не всички са убедени, че предложеното от Big AI забавяне на разработките наистина е свързано с безопасността

OpenAI, Anthropic и Google искат да забавят развитието на AI, уж поради съображения за безопасност. Не всички им вярват.

Главният изпълнителен директор на Anthropic Дарио Амодей наскоро призова индустрията и правителствата да координират забавяне на разработването на водещи AI системи, като поиска освобождаване от антитръстовите правила, за да го осъществят. Други водещи фигури в AI, като Сам Алтман и Илон Мъск, се съгласиха. Критиците реагират остро.

Главният изпълнителен директор на Cohere го нарича „картел под друго име“

Най-подробното опровержение идва от Айдън Гомес, съосновател и главен изпълнителен директор на AI компанията Cohere. В публикация в блога той определя предложението като опит да се установят правилата и да се затвори пазарът. Гомес подкрепя независимото тестване на мощни AI системи. Предложението на Anthropic обаче отива много по-далеч: шепа доминиращи лаборатории ще получат освобождаване от антитръстовите правила, ще определят общи стандарти и ще принудят всеки друг разработчик по света да следва техните правила.

Той е особено критичен към бариерите за навлизане на пазара, които предложението би създало: огромни изчислителни ресурси, постоянна инфраструктура за наблюдение, специализирани организации за безопасност, вградени екипи за оценка и достатъчно дълбоки връзки с правителствата, за да се управлява всичко това.

Малкото оценяващи организации, определяни като „независими“, се финансират от същите компании, които би трябвало да одитират. Рамката на Anthropic определя риска като функция на мащаба, твърди Гомес. Това превръща компаниите с най-големите системи в единствените, считани за квалифицирани да оценяват риска. „Вълк в овча кожа, картел под всяко друго име“, пише Гомес.

Той вижда предупрежденията за безопасността като димна завеса. Докато индустрията обсъжда хипотетичен свръхинтелект, „инструменти за клониране на глас, по-евтини от телефонна сметка, могат да изпразнят пенсионната сметка на възрастен човек за минути“.

Инженер от Hugging Face го нарича „абсурдна безсмислица“

Нилс Роге, инженер по машинно обучение в Hugging Face, компания, чийто бизнес модел зависи от широк избор на отворени AI модели, нарича изказванията на Амодей и други „най-абсурдната безсмислица, която съм чел напоследък“. Амодей се тревожи основно за китайски модели като тези на DeepSeek и Z.ai и иска да ограничи моделите с отворени тегла, за да защити конкурентното си предимство, твърди Роге. AI лабораториите са огромни залози върху мащаба, а по-малките модели с отворени тегла биха могли да подкопаят това, макар че все още няма ясни признаци това да се случва в реален мащаб.

Сегашните LLM модели изобщо не са близо до това да представляват екзистенциален риск, казва Роге. Той посочва и инцидента, при който автономните модели на OpenAI хакнаха Hugging Face, играч със затворен код и огромни изчислителни ресурси. Модели с отворен код помогнаха за защитата. Именно затова сферата се нуждае от прозрачност и откритост, а не от затворени врати, казва Роге.

Сакс казва на AI лабораториите да спрат да се преструват, че им е нужно разрешение

Дейвид Сакс, царят на AI и криптовалутите в Белия дом при президента Тръмп и рисков капиталист, отговори в X директно на Амодей и Алтман. „По всеки разумен критерий“ OpenAI и Anthropic държат дуопол върху водещия интелект, написа Сакс. Ако техните все още неиздадени модели са достатъчно плашещи, той подкрепя доброволно забавяне.

Мотивацията обаче не е изцяло алтруистична, твърди Сакс. И двете компании са изправени пред огромна отговорност за вреди от продукти, ако моделите им позволят сериозна кибератака. „Пазарът вече наказва модели, които се държат по непредсказуем или неоторизиран начин. След случая с Hugging Face за OpenAI и Anthropic просто е добър бизнес да заменят част от суровата мощ с надеждност и предвидимост“, написа Сакс.

Той също предупреди, че обвързването на забавянето с конкретна регулаторна рамка изглежда като изнудване. Китай „много вероятно“ няма да се присъедини към никакво глобално споразумение, добави той, и може би е прав: Пекин вече отхвърли предложените планове за забавяне, като ги определи като уловка, чрез която САЩ да затвърдят лидерството си в AI.

Тръмп представя страховете от AI като измама

Президентът Доналд Тръмп отиде още по-далеч. В публикация в Truth Social той нарече предупрежденията, че „AI ще завладее света“, „измама“, поставяйки ги в една категория с дебата за изменението на климата, разследването за Русия и процедурите по импийчмънт срещу него. Тръмп също така заяви, че китайският президент Си „току-що е обявил, че Китай абсолютно няма да прави нищо, което да пречи на AI или на неговото бъдеще“.

В няколко последвали публикации Тръмп удвои залога. Той нарече „AI измамата“, прокарвана „от Радикалните леви демоКРАТИ“, подобна на „тяхната измама с глобалното затопляне неотдавна, когато всички щяха да умрат от екстремни горещини“.

Главният технологичен директор на Министерството на войната Емил Майкъл подкрепи Тръмп, като заяви, че предупрежденията произлизат от „дълбоко вкоренена идеология, която е доста дистопична“. Майкъл изпитва дълбока, идеологически мотивирана враждебност към Anthropic, основана на етичните насоки на компанията.

Политическите противници на администрацията на Тръмп заеха другата страна. Барак Обама, Бърни Сандърс и Камала Харис подкрепят забавянето и приветстваха призива на лабораториите за по-голяма прозрачност.

AI новини без сензация – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен AI бюлетин, нашия ексклузивен годишен доклад за водещите AI системи „AI Radar“ шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.