Гарвардський психолог закликає до виваженої інженерії безпеки ШІ замість риторики про кінець світу

Гарвардський психолог Стівен Пінкер вважає, що побоювання щодо знищення людства штучним інтелектом перебільшені. Він обґрунтовує свою позицію у відкритому листі в Quillette, адресованому Скотту Александеру — психіатру та впливовому техноблогеру, який запропонував йому публічні дебати щодо екзистенційних ризиків ШІ. Пінкер відмовився, назвавши такі заходи «видовищем для глядачів».

Пінкер стверджує, що сценарії кінця світу на кшталт максимізатора скріпок, у якому ШІ жертвує людством, щоб виготовити якомога більше скріпок, помилково ототожнюють інтелект із прагненням до домінування. Вони також припускають, що системи ШІ маніакально зосередяться на одній-єдиній меті.

Раніше Пінкер оптимістично оцінював перспективи ШІ, але тепер визнає, що недооцінив, наскільки потужними стануть великі мовні моделі. Він також не передбачив, наскільки безрозсудно компанії, що розробляють ШІ, випускатимуть свої продукти. Іронічно, що цю гонитву очолюють люди з тієї самої спільноти, яка попереджає про ці ризики.

Серед небезпек, які Пінкер сприймає серйозно, — біотероризм, кібератаки та неконтрольовані агенти ШІ. Риторика про кінець світу нічого з цим не зробить, пише він. Потрібна натомість зважена інженерія безпеки, заснована на незалежному нагляді, відповідальності та контролі з боку людей.

Александер виклав власну позицію у своєму блозі в червні. Він оцінює ймовірність того, що ШІ знищить людство, у 20 відсотків і виступає за активніші дослідження безпеки та міжнародні угоди, які сповільнять розвиток ШІ.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний передовий звіт «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.