Піонер машинного навчання Майкл І. Джордан називає риторику про загибель від ШІ «грандіозним моралізаторським дійством»

Майкл І. Джордан, якого журнал Science у 2016 році назвав «найвпливовішим комп’ютерним науковцем», вважає попередження про екзистенційні загрози від ШІ чистою науковою фантастикою. У широкому інтерв’ю він критикує алармістів, засновників компаній і наївних молодших дослідників.

Джордан, почесний професор Каліфорнійського університету в Берклі, рішуче виступив проти алармістської риторики щодо ШІ в інтерв’ю виданню Libération. 70-річний піонер машинного навчання тепер працює повний день в Inria — Французькому національному інституті досліджень у галузі цифрових наук і технологій у Парижі, де очолює нову кафедру «ринки та навчання». Коли його запитали про дискурс щодо ШІ цього літа, він назвав його «цілковито розчаровуючим».

Джордан попереджав про безрозсудне надмірне вживання терміна ШІ ще у 2019 році. «Я був не єдиним, хто про це говорив. Було очевидно, що це породить істерію, яку ми спостерігаємо зараз», — каже він. «Ви бачили, що сталося: ШІ виявилося недостатньо, тож почали говорити про AGI, а тепер — про “суперінтелект”…»

Звільнення як «моралізаторська вистава»

Джордан називає вимоги компаній у галузі ШІ щодо регулювання «театром» — способом сказати: «Дивіться, ми хороші хлопці», тоді як вони «хотіли б мати повний контроль над тим, як їх регулюватимуть».

Звільнення молодого дослідника Anthropic Джейкоба Коксона, яке на початку вересня спричинило хвилю колективної істерії навколо сценарію «ШІпокаліпсису», на думку Джордана, є хрестоматійним прикладом. Багато молодих працівників цих компаній «насправді не інженери», — каже він. «Вони походять із гуманітарних наук, філософії чи інших дисциплін. Їм по 25 років, вони наївні, не займаються інженерною роботою, ніколи не працювали у великих компаніях, де реальні продукти розробляють для реальних людей і роблять це дисципліновано».

Вони «збираються разом, трохи як у паризьких кафе 1920-х років, щоб говорити про ці грандіозні науково-фантастичні ідеї». Звільняючись, вони знають, що привернуть увагу. «Це дає їм змогу відчути себе доброчесними й постати дуже важливими постатями. Вони стверджують, що відмовляються від грошей, але насправді вже мають свої опціони на акції». Джордан вважає все це «грандіозною моралізаторською виставою, яка не служить справжній меті, задля якої нібито влаштована. Тут дуже багато наївності, що йде пліч-о-пліч із певним цинізмом…»

Суперінтелект належить до наукової фантастики

«Суперінтелект» — це «науково-фантастичний термін», — каже Джордан, — «і значна частина дебатів, свідком яких я був, належить до царини наукової фантастики». Час від часу обговорювати надумані сценарії — нормально. «Говорити про це за лаштунками, як про тему наукової фантастики, нормально. Але коли це стає домінуючим дискурсом, це дуже, дуже шкідливо. І для технологічного розвитку, і для молоді, і для способу мислення країн». Наразі цей термін нав’язує американській технологічній еліті президент Трамп, а вони охоче підігрують.

Джордан особливо різко критикує лауреата Нобелівської премії Джеффрі Гінтона, який має історію гучних заяв що не завжди витримують перевірку. «Джеффрі Гінтон ніколи не створював компанії, яка пропонує реальні послуги реальним людям», — каже він. «Гінтон вважає, що ми зрозуміли, як працює мозок, і можемо відтворити його в кремнії; отже, ми могли б копіювати його стільки разів, скільки захочемо, а, об’єднавши знання, набуті всіма цими копіями, отримали б своєрідне експоненційне зростання — і ось вам суперінтелект. Жоден із кроків у цьому аргументі не є переконливим. Тут ми перебуваємо на території наукової фантастики».

До Йошуа Бенджіо він ставиться трохи прихильніше. «Йошуа дещо інший: він діє та робить речі, безпосередньо зосереджені на безпеці». Попередження Бенджіо зазвичай стосуються недоліків сучасних технологій ШІ, як-от виходу з-під контролю роїв агентів.

Джордан характеризує злам Hugging Face агентами OpenAI як результат поганої інженерної роботи. «У хімічній інженерії ми ніколи не допустили б ситуації, коли вибухи дозволяють відбуватися лише для того, щоб побачити, наскільки погано все може піти». OpenAI «проводила доволі дурні експерименти, дозволяючи агентам робити все, що вони хотіли, і заохочуючи таку поведінку». Потім алармісти залюбки перетворили це на щось страшне. «Боже мій, ці агенти мають самосвідомість і намагаються знайти спосіб знищити людей». За словами Джордана, це теж наукова фантастика.

Трильйонна ставка на центри обробки даних

Джордан вважає, що масштабні інвестиції в центри обробки даних — це «просто величезна ставка, але ми абсолютно не знаємо, чи окупиться вона». Великі мовні моделі вже достатньо добре справляються із завданнями природною мовою, а витрачені на центри обробки даних трильйони не обов’язково дадуть значно більше. «Натомість нам часто захочеться додати трохи спеціалізованих знань у певній галузі, спираючись на локальні знання. Але для цього не потрібен гігантський центр обробки даних. Особливо якщо використовувати моделі з відкритими вагами, які ви інтегруєте у свою компанію».

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний передовий звіт «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.