Не піддавайтеся літньому хайпу навколо ШІ

Останні кілька місяців були насичені галасом навколо ШІ. Наприкінці квітня Anthropic заявила, що її модель Claude Mythos краще знаходить вразливості в програмному забезпеченні, ніж більшість фахівців із безпеки. Потім стався інцидент із хакерською атакою OpenAI–Hugging Face, після якого Anthropic (гордо) і Meta (неохоче) розкрили інформацію про подібні інциденти за участю своїх моделей. За цим послідувала заява Anthropic про те, що одна з її моделей здійснила математичний прорив; невдовзі OpenAI заявила про власний математичний прорив. Зовсім недавно інженер Anthropic Джейкоб Коксон став вірусно популярним, оголосивши про свій відхід із компанії та заявивши, що вона й OpenAI «стрімголов мчать до самовдосконалюваного надінтелекту, граючи в азартну гру з нашими життями».

Кожен із цих випадків преса здебільшого висвітлювала захоплено, часто повторюючи антропоморфізовані формулювання компаній — покликані створити враження, що їхнє програмне забезпечення не просто потужне, а й перебуває на порозі створення «штучного загального інтелекту». То що ж насправді відбувається? Ми спостерігаємо за масштабною серією технологічних проривів, здатних змінити цивілізацію, чи це маркетинг?

У всіх цих випадках гучні заяви компаній (подані як каяття у випадках незаконного хакерства) супроводжуються інтенсивним висвітленням у пресі. Коли фахівці відповідних галузей отримують час, щоб розібратися в тому, що сталося, постає зовсім інша картина — але вона привертає значно менше уваги медіа.

Щодо випадків «хакерських атак», фахівці з кібербезпеки кажуть, що ця історія радше свідчить про недбалість OpenAI та нездатність компанії впровадити базові, усталені практики безпеки, ніж про «моделі, що вийшли з-під контролю» або «ШІ-агентів, які створюють цивілізації». 

Що ж до математичних результатів, математики, які спочатку були «приголомшені» пресрелізом OpenAI, де стверджувалося, що її новітній чатбот Astra розв’язав задачі, які «залишалися відкритими, а щодо основного результату не було жодного прогресу щонайменше десятиліття», згодом зрозуміли, що результати були не такими «новаторськими, як здавалося спочатку». Відтоді математики звинувачували компанію в недоброчесності під час досліджень і плагіаті, а також наголошували, що Astra не здійснила «глибокого інтелектуального стрибка». Усього за кілька тижнів OpenAI заявила про власний математичний прорив. За два дні до цього Трістан Бакмастер, професор математики в Інституті Куранта Нью-Йоркського університету, опублікував вибухову заяву, у якій припустив, що OpenAI привласнила роботи інших людей і неналежним чином вказала їхнє авторство. 

Заяви про близький, небезпечний надінтелект не ґрунтуються на належній науковій чи інженерній практиці. Натомість це наративи, засновані на ідеологіях трансгуманізму, євгеніки та бажаному мисленні про уявних майбутніх цифрових людей.

Варто замислитися, чому саме комп’ютерне програмування та математика так часто розглядаються як галузі для застосування великих мовних моделей і споріднених технологій. Вони не лише часто підносяться як вершина людських інтелектуальних досягнень, а й охоплюють задачі, відповіді на які можна перевірити після їхнього висунення. Перша властивість допомагає розпалювачам галасу навколо ШІ продавати ідею, що вони створюють машини, здатні робити все. Друга полегшує налаштування систем для розв’язання математичних і програмувальних задач, оскільки результати систем (послідовності ймовірних слів або фрагменти комп’ютерного коду) можна оцінювати без необхідності платити працівникам, які переглядали б і анотували кожен із них. Математики, зокрема, застерігали корпорації від використання їхньої галузі таким чином. У заяві, підписаній сотнями з них, йдеться, що «нині технологічна індустрія має сильний комерційний стимул перебільшувати можливості своїх продуктів», а також міститься заклик до політиків «консультуватися з експертами, зокрема математиками, під час формування політичних рішень, а не покладатися на пресрелізи чи популярні повідомлення про математичні результати».

Ми підтримуємо цей заклик і зазначаємо, що ілюзія швидкості та нагальності, яку поширюють технологічні компанії, також є хитрощами, покликаними відволікти і політиків, і громадськість. На жаль, це іноді спрацьовує — як у випадку з добросовісною, але зрештою помилковою запропонованою сенатором Берні Сандерсом законодавчою ініціативою, спрямованою на запобігання розробці «штучного надінтелекту».

Називаючи їх «надінтелектом» або «моделями, що вийшли з-під контролю», ми приписуємо агентність продуктам, а не компаніям, які їх створюють. Таке формулювання рекламує продукти цих компаній як «надлюдські» і водночас допомагає компаніям уникати відповідальності за свої дії. 

Замість того щоб притягувати OpenAI до відповідальності за створення шкідливого програмного забезпечення, яке зламало іншу компанію, у пресрелізах, новинних виданнях, медійних особистостях і законодавцях йдеться про «моделі, що вийшли з-під контролю», ніби вони діяли самостійно. Замість того щоб розпитувати дослідників про звичку їхніх компаній плагіатити роботи академіків або використовувати дані клієнтів для навчання моделей без згоди, уява громадськості спрямовується на страхи щодо того, що може чекати на нас у майбутньому після появи вигаданих надінтелектуальних машин.  

Індустрія ШІ навіть припустила, що популярна, підтримувана обома партіями активність проти центрів обробки даних є «відволіканням» від спроб регулювати моторошні, «надлюдські» машини, які ці компанії створюють і поява яких неминуча. На думку індустрії ШІ, нас має більше непокоїти вигаданий машинний бог, ніж кліматична катастрофа, яку ці центри обробки даних поглиблюють, астма, на яку страждають люди, що живуть поблизу них, зростання рахунків за електроенергію для громадськості, яка їх субсидує, або вода, яку перенаправляють для їхнього охолодження. 

Ми знаємо, що не слід ухвалювати рішення на основі маркетингу, і так само не повинні піддаватися корпоративному тиску, який змушує ухвалювати їх поспіхом. Мудре ухвалення рішень — політиками й громадами — потребує часу, щоб вислухати незалежних експертів і розглянути корпоративні заяви в контексті. Найкращим можливим результатом цього літа галасу буде те, що політики та громадськість загалом навчаться зупинятися, зберігати здоровий скептицизм і наступного разу розпізнавати такий галас таким, яким він є.

Тімніт Ґебру — виконавча директорка DAIR і авторка майбутньої книжки Deep Unlearning: The Radicalization of a Tech Idealist, яку вже можна попередньо замовити і яка має вийти 16 лютого. Емілі М. Бендер — професорка лінгвістики Вашингтонського університету та співавторка книжки The AI Con.