Маніфест Марка Цукерберга про ШІ — саме тому люди не люблять ШІ

У понеділок Марк Цукерберг опублікував маніфест обсягом 6500 слів про персональний ШІ, присвячений переважно можливостям систем «персонального суперінтелекту», які створює Meta AI. Ідеї в цьому дописі не зовсім нові. Версія есе вже виходила у Wall Street Journal кілька місяців тому, а раніше він уже говорив про них під час звітних дзвінків Meta. Але, мабуть, це найдетальніша версія з усіх, якими він ділився.

Я бачив, як цей текст називали есе проти алармізму, але це не зовсім так. Радше це опис того, чому Марк Цукерберг особисто захоплений тим, як ШІ змінить суспільство. Та навіть коли Цукерберг намагається змалювати картину чудового майбутнього, яке принесе достаток суперінтелекту, він знову й знову нагадує нам про всі способи, якими все, найімовірніше, піде не так.

Мене ШІ теж захоплює — саме тому я продовжую про нього писати, — але багато хто сприймає ШІ як щось моторошне й неприємне. Тож варто чітко визначити, що саме тут відбувається і чому Цукерберг такими есе не робить індустрії жодної послуги.

Соціальні мережі досі є чутливою темою в технологічній індустрії, і в нас немає тут місця, щоб розбирати відносні переваги кожної окремої претензії людей до Facebook. Досить сказати, що і Facebook як продукт, і Цукерберг як людина непопулярні серед американської громадськості. Нещодавнє опитування показало, що 64 відсотки американців вважають соціальні мережі шкідливими для демократії, а приблизно така сама частка вважає, що їх слід жорсткіше регулювати; ці показники майже однакові серед представників обох партій. Лише цими вихідними суд оштрафував компанію на 567 мільйонів доларів за шкоду дітям. Атмосфера несприятлива.

Я згадую про це не для того, щоб натякнути, ніби Цукерберг має із соромом усамітнитися в дикій природі, — але наслідки роботи соціальних мереж є однією з головних причин, чому ми тепер спостерігаємо стільки тривоги щодо соціального впливу ШІ. Справедливо це чи ні, громадськість не довіряє керівникам технологічних компаній у питанні забезпечення позитивного впливу таких нових технологій на суспільство. Замість того щоб визнати це й спробувати повернути довіру, це есе знову й знову демонструє, як саме цю довіру було втрачено спочатку.

Значна частина есе присвячена туманним узагальненням про інтелект — дуже схожим на туманні узагальнення, з якими Цукерберг і Дорсі виступали щодо свободи слова. Ось, наприклад, одне з них:

У міру того як кожен отримуватиме потужніші інструменти, кожна людина стане більш, а не менш здатною формувати майбутнє… Люди та інституції з конкуруючими інтересами природним чином стримуватимуть і врівноважуватимуть одне одного, спрямовуючи нас до позитивних результатів. Найкращий і найреалістичніший шлях до позитивного майбутнього ШІ — надати суперінтелект кожному.

Мабуть? Я можу навести кілька прикладів того, як конфлікт інтересів призводив до поганих наслідків, але залишімо це осторонь. Дивніше те, що це подається як щирий філософський висновок, а не як опис конкретного продукту під назвою «персональний інтелект», який Meta виводить на ринок. Якщо ви й без того схильні не довіряти цій людині, то можете занепокоїтися, що весь цей текст написано для того, щоб переконати самого Цукерберга в неможливості будь-яких поганих наслідків.

Це відчуття стало для мене ще сильнішим, коли Цукерберг перейшов до конкретних прикладів, багато з яких тривожно відірвані від реальності використання інструментів ШІ. Наприклад, ось як Цукерберг бачить ШІ в освіті:

Кожен матиме персоналізованого репетитора й наставника зі ступенем PhD з кожного предмета та безмежним терпінням, який допомагатиме вам вивчати все, що ви захочете. Учні отримають додаткову допомогу в тих сферах, де вона їм потрібна, але нині доступна лише тим, чиї батьки можуть за неї заплатити. Дорослі матимуть суперінтелектуального помічника з навчання, який точно знатиме, як навчити вас нових професійних навичок, мов, хобі чи будь-чого іншого, що вас цікавить.

Звісно, продукт, який описує Цукерберг, уже існує: це споживчий чатбот на кшталт ChatGPT, Claude чи Gemini. Ці інструменти справді корисні, якщо ви хочете дізнатися про певну тему, але в освіті їх переважно використовують, щоб уникати навчання, адже ваш персоналізований репетитор може виконати домашнє завдання й написати доручене вам есе, а оскільки надійної системи маркування водяними знаками не існує, учителі не можуть бути впевнені, які саме есе були згенеровані за допомогою ШІ.

Це досить малозначущий приклад шкоди від ШІ, але це реальна проблема, яка відбувається просто зараз. Іноді ви створюєте технологію для добрих цілей, а вона має непередбачені наслідки, які погіршують ситуацію. А те, що одна з найвпливовіших людей у світі відмовляється це визнавати, цілком зрозуміло може змусити людей нервувати!

Цукерберг також наводить приклад того, як ШІ змінить правову систему на краще:

Як розумовий експеримент уявімо, що лише одна людина має суперінтелектуального адвоката. Вона отримала б несправедливу перевагу в суді — навіть якби по суті справи була неправа. Це призвело б до погіршення суспільства. Але тепер уявімо, що суперінтелектуальний адвокат є в кожного. У такому разі правосуддя здійснювалося б набагато справедливіше й ефективніше, ніж сьогодні, коли в судових процесах часто існує дисбаланс навичок і ресурсів.

Знову ж таки, це ще один неоднозначний приклад. Безперечно, доступ до юридичного ШІ може сприяти справедливішому суспільству, але він також може додати ще більше складності до бюрократичного пекла, яке вже існує. Або ж може спровокувати нову хвилю сутяжників, які просто паралізують систему юридичним аналогом спаму. Важко почуватися спокійно щодо всього цього, і те, що Цукерберг не хвилюється, змушує мене хвилюватися ще більше.

В інших місцях навіть описи наявних ділових практик Meta набувають дивно абстрактного характеру. Наприклад, ось як Цукерберг описує прихильність Meta до моделі freemium.

Кожен матиме безкоштовний або доступний доступ до цих інструментів… Ми пропонуватимемо безкоштовні версії, доступні мільярдам людей. Для тих, хто захоче платити за використання більшої кількості обчислювальних ресурсів, діятиме динамічний аукціонний механізм, який гарантуватиме кожному найнижчу можливу ціну за інтелект і обчислення, які вони використовують, а також забезпечуватиме використання потужностей для того, що люди колективно вважають найціннішим. Це гарантує широке розподілення переваг суперінтелекту.

У загальних рисах я погоджуюся з усім, що він тут каже. Цукерберг має рацію, що доступ є проблемою, і має рацію, що модель freemium забезпечує ширший доступ, ніж вимога до кожного заздалегідь платити за обчислювальні ресурси. Динамічні ринки спотових обчислювальних потужностей уже існують, тож він не описує щось цілковито незвичне. Але є причина, чому кожен споживчий продукт на основі ШІ захищає кінцевих користувачів від спотової ціни обчислень, які вони використовують. Динамічне ціноутворення — жахливий користувацький досвід, особливо коли його застосовують до інструмента, від якого ви справді залежите у своїй роботі.

Знову ж таки, я змушений припустити, що Цукерберг це знає і насправді не планує встановлювати ціни на токени через динамічні аукціони. Але тепер, після прочитання цього матеріалу, я вже не так у цьому впевнений, як раніше.

Про все це можна говорити краще. Попри всі їхні недоліки, Сем Альтман і Даріо Амодеї досить добре спілкуються з громадськістю безпосередньо. Вони роблять саме те, чому тут опирається Цукерберг: визнають небезпеки ШІ, наголошують на власних запобіжних заходах і намагаються переконати слухачів, що їм можна довіряти.

Таке спілкування може зробити лише дуже багато. Іноді (особливо останнім часом) запобіжники дають збій, і стає очевидною inherentна небезпека всього цього підприємства. Але без певного рівня формування довіри індустрія не завжди зможе пережити такі провали.