Білл Гейтс попереджає, що ШІ небезпечніший, ніж визнає технологічна індустрія

Співзасновник Microsoft Білл Гейтс вважає масове безробіття та біотероризм реальними небезпеками ШІ. За його словами, індустрія навмисно приховує ризики, бо на кону стоять надто великі гроші.

У есеї обсягом майже 6 000 слів та інтерв’ю для New York Times Білл Гейтс описує перехід до епохи ШІ як «один із найбільш бурхливих періодів в історії людства». За його словами, світ не готується до цього належним чином, і простого плану просто немає.

Найгостріша критика спрямована на його власну індустрію, яка, за його словами, свідомо применшує небезпеки, оскільки на кону стоять надто великі гроші. «Приватно люди, які розуміють, наскільки хорошими є ці системи і як швидко вони вдосконалюються, дуже стурбовані», — сказав він NYT. Але публічно вони кажуть одне одному: «Гей, не кажи цього. Це нам зашкодить — ми намагаємося залучити наступний трильйон доларів».

Чому порівняння з минулими потрясіннями не витримує критики

Частково це заспокоєння ґрунтується на зручному порівнянні. Попередні технологічні зміни зрештою створювали більше робочих місць, ніж знищували, тож цього разу все має відбуватися так само. Гейтс вважає таке заспокоєння помилковим. За його словами, епоха ШІ «цілком, абсолютно, повністю, тотально інша».

На відміну від персонального комп’ютера, якому знадобилося двадцять років, щоб змінити сферу праці, ШІ працює на пристроях, які люди вже мають, і використовує звичайну мову. «Нам не потрібно адаптуватися до нього, бо він може адаптуватися до нас». Вперше технологія здатна не лише замінити людське мислення, а й перевершити його — причому в різних галузях протягом одного десятиліття, а не кількох поколінь. Саме з цієї швидкості Гейтс виводить три свої найбільші побоювання.

Втрата робочих місць, біологічна зброя та самотні користувачі

Перша — незворотна втрата робочих місць, яка найсильніше вдарить по посадах початкового та середнього рівня у сфері продажів, обслуговування клієнтів, розробки програмного забезпечення та юридичної підтримки. Але тиск відчувають і працівники фізичної праці, щойно спритні роботи стануть значно дешевшими. Значна частина цієї розробки відбувається в Китаї. Гейтс посилається на дослідження Стенфордського університету як на доказ того, що зміни вже почалися. Відтоді як ШІ поширився, зайнятість молодих працівників на найбільш вразливих посадах помітно знизилася, тоді як старших колег це поки що оминуло.

Друге побоювання виходить далеко за межі ринку праці. ШІ спрощує кібератаки, шахрайство та дезінформацію, але передусім знижує бар’єр для створення біологічної зброї. За словами Гейтса, лише кілька людей із доступом до передового ШІ можуть розробити нові патогени. Ситуацію погіршує те, що корисні та небезпечні можливості важко розділити. Та сама модель, яка знаходить вразливість, щоб її усунути, також допомагає комусь її використати. А системи ШІ дедалі частіше можуть діяти всупереч інтересам людей самостійно.

Третя небезпека має більш особистий характер — це психологічні та соціальні наслідки. За словами Гейтса, ШІ-компаньйони, які ніколи не сперечаються й завжди доступні, мають реальний потенціал викликати залежність. Дослідження Стенфордського університету та Університету Карнегі-Меллона показує: що інтенсивніше й емоційніше люди користувалися цими чат-ботами, то гірше вони себе почували. Особливо його непокоять діти та втрата критичного мислення, яке стає навичкою виживання в епоху дипфейків і персоналізованої дезінформації.

Податки, заборони та позначка «Зарезервовано для людей»

Яким би похмурим не здавався цей перелік, Гейтс також бачить у технології величезні перспективи — у науці, охороні здоров’я, сільському господарстві бідних країн та освіті. Але є нюанс: ці переваги не з’являться самі собою. Їх потрібно забезпечити за допомогою політики, і Гейтс не очікує, що індустрія зробить це самостійно. «Саморегулювання щодо найнебезпечнішого інструменту, який коли-небудь винаходили? Ні, дякую!»

Натомість він закликає до демократичного процесу та створення нових національних і міжнародних інституцій — за аналогією з режимами нагляду за ядерною зброєю, авіацією або захистом озонового шару. Зокрема, він пропонує запровадити невеликий податок на використання ШІ та роботів. Наймаючи людину сьогодні, ви сплачуєте податки із заробітної плати. Купуючи робота, ви можете одразу списати його вартість. Отже, податкова система фактично підштовхує компанії замінювати людей машинами. Деякі професії, зокрема у сфері догляду, мають залишатися зарезервованими для людей — ідею, яку Гейтс називає «Зарезервовано для людей».

Те, що саме він подає цей сигнал тривоги, з огляду на те, наскільки багато він зробив для розвитку комп’ютерної індустрії, бере початок із моменту у його власній професійній сфері. Програмування — галузь, яку він знає найкраще, а інструмент Anthropic Claude Code його шокував. «Думка про те, що тепер ці речі в певному важливому сенсі кращі за мене, викликає реакцію: “Та ну, чорт забирай?”»

Він відкрито визнає можливий конфлікт інтересів: досі має фінансові зв’язки з технологічною індустрією, хоча прибутки надходять до Фонду Гейтса.

Від оптиміста, який мріяв про дозвілля, до голосу попередження

Привертає увагу те, наскільки жорсткішим став тон Гейтса. У 2018 році він усе ще називав ШІ просто кращим програмним забезпеченням і говорив про перспективу триваліших відпусток та збільшення кількості роботи у соціальних сферах. У 2022 році він стверджував, що працівники, замінені машинами, будуть потрібні в таких сферах, як догляд за літніми людьми та дітьми, а найважливішими будуть перекваліфікація й більш рівномірний розподіл багатства.

Ще у вересні 2024 року він сумнівався, що ШІ докорінно змінить проблему дезінформації, хоча дослідження вже показували: GPT-4, озброєний персональною інформацією, може підвищити рівень згоди з аргументами на 81,7 відсотка порівняно з дебатами між людьми.

Гейтс не єдиний представник індустрії, який попереджає про це: генеральний директор Anthropic Даріо Амодеї ще у 2024 році попереджав про біологічну зброю, створену ШІ, а у 2025 році спрогнозував, що може зникнути до половини посад початкового рівня в офісній роботі, а безробіття може зрости до 10–20 відсотків. Амодеї також висунув ідею податку на токени.

Заклик до створення міжнародної інституції з питань ШІ також має прецеденти. У 2023 році дослідники Ґері Маркус і Анка Реуел запропонували глобальне некомерційне агентство з питань ШІ за моделлю Міжнародного агентства з атомної енергії. А у звіті США, опублікованому в 2024 році, задокументовано анонімні побоювання щодо безпеки працівників провідних компаній у сфері ШІ, зокрема занепокоєння стимулами їхніх керівників.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати матеріали без реклами, отримувати щотижневий інформаційний бюлетень про ШІ, ексклюзивний звіт про передові розробки «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.