Чому люди не вірять у майбутнє ШІ, яким його бачить Марк Цукерберг

Генеральний директор Meta Марк Цукерберг цього тижня опублікував есе на 6500 слів, у якому заявив, що «Майбутнє належить усім», змалювавши оптимістичну картину майбутнього, що працює на основі ШІ, де «кожен матиме надзвичайно здібного персонального агента, який розуміє вас, ваші цілі та все, що вам важливо».

В останньому епізоді подкасту TechCrunch Equity Кірстен Коросек, Ребекка Беллан і я обговорили, чому не всі поділяють бачення Цукерберга, зокрема наш колега Рассел Брендом, який написав, що маніфест — це «саме те, чому люди не люблять ШІ».

Порівнюючи Цукерберга з генеральним директором Anthropic Даріо Амодеї (який цими вихідними виступив проти думки, що він є песимістом щодо ШІ), Ребекка сказала, що очільник Meta, схоже, позиціонує себе «майже як анти-Даріо». Проблема, однак, полягає в історії Цукерберга та Meta.

«Якщо повернутися до часів соцмереж, [Цукерберг] казав, що хоче переконатися, що кожен матиме можливість спілкуватися з друзями та користуватися соціальною мережею, — сказала Ребекка. — І що ми маємо натомість? Провокаційний контент і рекламу, а не зв’язок».

Читайте далі попередній матеріал нашої розмови, відредагований для стислості й зрозумілості.

Ребекка Беллан: Цинічно кажучи, я думаю, що це спроба Meta перемогти іншим способом. Вони не перемагають у сфері передових закритих моделей. Вони не обов’язково перемагають навіть у відкритій сфері. Але коли йдеться про розширення можливостей людей, як Марк Цукерберг говорить у своєму листі «Майбутнє належить усім», саме тут він намагається перемогти. Він прагне створити моделі, якими люди користуватимуться для свого персонального ШІ на власних пристроях.

Думаю, минулого року, коли він опублікував [подібний] лист «Майбутнє для всіх», обіцянка полягала в тому, що значна частина цього ШІ працюватиме на окулярах і носимих пристроях, але не зовсім зрозуміло, яким буде остаточний апаратний формат цього рішення, і, мабуть, він залишає вибір за окремими користувачами. 

Отже, його ідея полягає в тому, що ви використовуєте [нову модель ШІ Meta] Glimmer для керування розкладом, підготовки повідомлень і впорядкування файлів; вона завжди активна, може працювати будь-коли й будь-де, з підключенням до інтернету або без нього.

Але водночас існує Muse Spark, що дає їм змогу зберігати певний рівень контролю над своїми найпотужнішими моделями, а також створює джерело доходу для людей, які хочуть масштабувати свої обчислювальні потужності, виконувати масштабніші проєкти, або для компаній, яким можуть знадобитися такі проєкти.

Ентоні Ха: Думаю, частина контексту тут також полягає в тому, що Meta зробила дуже серйозні інвестиції в ШІ. Минулого року також з’являлося багато історій про те, скільки грошей вони намагалися запропонувати науковцям у галузі ШІ, але якщо говорити про компанії, які ми вважаємо лідерами, про передові лабораторії, Meta зазвичай не згадують.

Ще одна сфера, у якій компанію не згадують, — це, знаєте, популярні споживчі чат-боти зі ШІ. Звісно, люди взаємодіють з інструментами Meta AI в Instagram і Facebook, але коли я думаю: «Я скористаюся своїм персональним асистентом», — це не та компанія, яка спадає на думку. Meta ще не стала такою компанією, тож певною мірою це схоже на спробу змінити своє позиціонування й зайняти нішу, у якій раніше вони не мали особливого успіху. Це справедливе припущення?

Ребекка: Думаю, це справді справедливе твердження. Але я ставилася б до цього з часткою скепсису, адже Марк Цукерберг любить презентувати бачення того, що його компанії робитимуть для людей і як вони розширюватимуть можливості людей. І поки що для Meta це виглядає так: звісно, Llama — чудова система, чудовий інструмент із відкритим вихідним кодом, але я думаю, що на споживчому рівні постає питання: як люди використовують Meta AI? Ну, наприклад, є чимало моторошних чат-ботів.

Мій короткий висновок такий: я думаю, що лист [Цукерберга] та його ідея розширення персональних можливостей викликають у багатьох людей неприємне відчуття, бо саме він це говорить. Рассел Брендом, наш редактор, який висвітлює ШІ, написав про це цього тижня. Якщо повернутися до часів соцмереж, він казав, що хоче переконатися, що кожен матиме можливість спілкуватися з друзями та користуватися соціальною мережею. І що ми маємо натомість? Провокаційний контент і рекламу, а не зв’язок.

Кірстен Коросек: Так, думаю, для багатьох людей маніфест прозвучав не на тій ноті. І, як зазначає Рассел у своїй колонці, саме це змушує людей ненавидіти ШІ або виступати проти нього — адже, як ти сказала, це йде від Цукерберга, і я також думаю, що все це певною мірою виглядає дуже наївно-оптимістично. Раніше він уже висловлював подібні думки, і це зовсім не створює, як на мене, реалістичнішої картини, а натомість змальовує ШІ як великий інструмент для людства. Можливо, це й так, але це також матиме надзвичайно високу ціну, і думаю, саме тому негативна реакція була такою масштабною.

Ребекка: Схоже, він позиціонує себе майже як анти-Даріо. Не знаю. У передових лабораторіях багато говорять: «Ми задаємо темп розвитку передових технологій, відступаємо, зосереджуємося на безпеці. Нам потрібно сповільнити розробку». Звісно, вони нічого такого не роблять, але говорять про це — зокрема через усі нещодавні інциденти з кібербезпекою.

А Марк Цукерберг, навпаки, каже: «Ні, ні, ми не сповільнюємося. Ми не можемо дозволити собі поступитися Китаю навіть на крок, а сповільнення лише зашкодить окремій людині, чиї можливості ця технологія може розширити».

Але я подумала: «О, можливо, спробую завантажити Muse Glimmer і подивлюся, що з ним можна робити». Чи можу я завантажити його на свій MacBook? Ні. Потрібне спеціальне обладнання. Я забула, яке саме, — але насправді воно не дуже доступне пересічній людині.

Кірстен: Це не для всіх. Принаймні поки що. 

Ентоні: Єдине позитивне, що я можу сказати про цей дуже довгий маніфест — 6500 слів, більше, ніж майже будь-що, опубліковане на TechCrunch, — це те, що в ньому є одне речення, де він каже: «Якщо ви песиміст щодо ШІ та вважаєте, що саме таким буде майбутнє, яке принесе ШІ, то навіщо ви це розробляєте?»

І це, як на мене, справедливе питання.  Хоча мій головний висновок із цього не в тому, що майбутнє ШІ чудове, а в тому, що це змушує замислитися про людей, які роблять такі прогнози, а потім усе одно продовжують рухатися вперед. 

Я також хотів трохи поговорити про думку Рассела, яка, як на мене, цілком справедлива: частково річ у тому, хто саме є посланцем. З різних причин люди з підозрою ставляться до Марка Цукерберга та Meta; можна припустити, що протягом наступних кількох місяців це ставлення може посилитися, оскільки виходить новий фільм про Facebook.

Але йдеться також про майбутнє, яке обіцяють ці ШІ-компанії, і про те, чому ми часто бачимо хвилі масової критики щоразу, коли Сем Альтман, Марк Цукерберг чи хтось інший робить прогноз щодо цього майбутнього ШІ, а люди фактично запитують: «Кому це потрібно?» Одним із найвідоміших нещодавніх прикладів була розмова Сема Альтмана про ідею на кшталт: «Ви могли б використовувати ChatGPT, щоб створювати подкасти про інтереси своїх дітей і слухати їх дорогою до школи». І, звісно, всі запитують: «Чому б просто не поговорити зі своєю дитиною?» 

Частина маніфесту — приблизно половина — складалася просто з тверджень на кшталт: «Це вивільнить усю цю творчість і винахідливість», і все це було дуже абстрактно. Якщо ви скептично ставитеся до ШІ, ніщо з цього вас не переконає, бо це здається нереальним. А в конкретніших речах, як-от персональні тренери й асистенти, є певні привабливі аспекти, але чимало й таких, що не приваблюють.