Пионерът в машинното обучение Майкъл И. Джордан разобличава реториката за гибелта от ИИ като „грандиозно морализаторско представление“

Майкъл И. Джордан, описан от Science през 2016 г. като „най-влиятелния компютърен учен“, определя предупрежденията за екзистенциални заплахи от ИИ като чиста научна фантастика. В пространно интервю той отправя критики към привържениците на идеята за гибел, основателите на компании и наивните млади изследователи.

Джордан, почетен професор в Калифорнийския университет в Бъркли, остро се противопостави на реториката за гибелта от ИИ в интервю за Libération. 70-годишният пионер в машинното обучение вече работи на пълен работен ден в Inria, Френския национален институт за изследвания в областта на цифровите науки и технологии в Париж, където ръководи новата катедра „пазари и обучение“. Попитан за дискурса около ИИ през лятото, той го определи като „напълно разочароващ“.

Джордан предупреди за безразсъдната прекомерна употреба на термина ИИ още през 2019 г. „Не бях единственият, който го казваше. Беше очевидно, че това ще създаде истерията, на която сме свидетели сега“, казва той. „Видяхте какво се случи: ИИ не беше достатъчен, затова започнаха да говорят за ОИИ, а сега вече е „свръхинтелигентност“...“

Оставките като „морализаторски спектакъл“

Джордан отхвърля исканията на компаниите за ИИ за регулация като „театър“ — начин да кажат „Вижте, ние сме добрите“, докато същевременно „биха искали да имат пълен контрол върху начина, по който са регулирани“.

Оставката на младия изследовател от Anthropic Джейкъб Коксън, която предизвика вълна от колективна истерия около сценарий за „ИИпокалипсис“ в началото на септември, според Джордан е учебникарски пример. Много от младите служители в тези компании „всъщност не са инженери“, казва той. „Те идват от хуманитарните науки, философията или други дисциплини. На 25 години са, наивни са, не извършват инженерна работа и никога не са работили в големи компании, където се разработват реални продукти за реални хора, с дисциплина.“

Те „се събират, малко като в парижките кафенета през 20-те години, за да обсъждат тези грандиозни научнофантастични идеи“. Когато подават оставка, знаят, че ще привлекат внимание. „Това им позволява да се чувстват добродетелни и да бъдат възприемани като много важни фигури. Те твърдят, че се отказват от пари, но в действителност вече имат своите опции върху акции.“ Джордан възприема всичко това като „грандиозен морализаторски спектакъл, който не служи на реалната цел, за която претендира. Тук има много наивност, която върви ръка за ръка с известен цинизъм...“

Свръхинтелигентността принадлежи на научната фантастика

„Свръхинтелигентност“ е „научнофантастичен термин“, казва Джордан, „и голяма част от дебатите, на които съм бил свидетел, принадлежат към сферата на научната фантастика“. От време на време е приемливо да се обсъждат неправдоподобни сценарии. „Да се говори за това зад кулисите, като за тема от научната фантастика, е приемливо. Но когато се превърне в доминиращ дискурс, това е много, много вредно. Както за технологичното развитие, така и за младите хора и за начина на мислене на държавите.“ Понастоящем терминът се налага на американския технологичен елит от президента Тръмп, който с готовност му приглася.

Джордан е особено остър към нобеловия лауреат Джефри Хинтън, който има история на смели твърдения които невинаги издържат проверката на фактите. „Джефри Хинтън никога не е създавал компания, която предлага реални услуги на реални хора“, казва той. „Хинтън вярва, че сме разбрали как работи мозъкът и че можем да го възпроизведем в силиций; следователно бихме могли да го копираме толкова пъти, колкото пожелаем, и като комбинираме наученото от всички тези копия, бихме получили своеобразен експоненциален растеж и, ето ти я: свръхинтелигентността. Нито една от стъпките в този аргумент не е достоверна. Тук сме в сферата на научната фантастика.“

Той е малко по-благосклонен към Йошуа Бенджо. „Йошуа е малко по-различен; той предприема действия и прави неща, които са пряко насочени към безопасността.“ Предупрежденията на Бенджо обикновено са насочени към недостатъците на настоящата технология за ИИ, като например излизащите извън контрол рояци от агенти.

Джордан представя хакването на Hugging Face от агенти на OpenAI като лошо инженерно решение. „В химическото инженерство никога не бихме допуснали ситуация, в която експлозиите са разрешени, само за да видим колко зле могат да се развият нещата.“ OpenAI „провеждаше доста глупави експерименти, позволявайки на агентите да правят каквото си искат и насърчавайки това поведение“. След това привържениците на идеята за гибел с удоволствие превърнаха случилото се в нещо плашещо. „Боже мой, тези агенти са самосъзнателни и се опитват да намерят начин да унищожат хората.“ Според Джордан и това е научна фантастика.

Трилионният залог на центровете за данни

Джордан смята огромните инвестиции в центрове за данни за „просто огромен залог, но нямаме абсолютно никаква представа дали той ще се отплати“. Големите езикови модели вече са достатъчно способни за задачи на естествен език, а похарчените трилиони за центрове за данни не е задължително да донесат кой знае какво подобрение. „Вместо това често ще искаме да добавим малко специализирани знания в дадена област, основани на местни познания. Но за това не ви е необходим гигантски център за данни. Особено ако използвате модели с отворени тегла, които интегрирате в компанията си.“

Новини за ИИ без сензации – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за ИИ, ексклузивния ни годишен доклад за най-новите разработки „AI Radar“, публикуван шест пъти годишно, пълен достъп до архива и достъп до секцията за коментари.