Зосередженість на катастрофах у сфері безпеки ШІ ігнорує повсякденну шкоду

Замисліться, що в технологічній політиці вважають успіхом. Компанія, що займається штучним інтелектом, обіцяє, що її чатбот не заохочуватиме до самогубства. Платформа соціальних мереж ускладнює дітям можливість придбати фентаніл. Це важливі заходи захисту, і вони мали існувати від самого початку. Але компанії можуть подолати ці низькі пороги, продовжуючи створювати продукти, які залишають молодих людей залежними від змодельованої дружби або затягнутими в стрічки, розроблені так, щоб змушувати їх безперервно гортати їх.

Історично ми дозволяли визначати дискусію про технології найгіршим, що може зробити продукт, приділяючи разюче мало уваги підступній шкоді, якої він завдає щодня. Переходячи в епоху, визначену потужними продуктами на основі ШІ, ми маємо вимагати від технологічної індустрії більшого, ніж просто усунення катастрофічних ризиків. Ми повинні вжити заходів, щоб її продукти не руйнували наші способи мислення, навчання та взаємодії одне з одним.

 Підліток, у якого формується нездорова прив’язаність до ШІ-компаньйона, може ніколи не з’явитися в судовому позові чи газеті, за винятком найбільш кричущих випадків. Так само й учень, який починає покладатися на чатбот, щоб писати кожну роботу, або молода людина, яка порівнює своє життя зі стрічкою соціальних мереж, спроєктованою так, щоб провокувати заздрість і не відпускати увагу. Продукт може відповідати всім вузьким вимогам безпеки й водночас погіршувати стан усієї нашої культури способами, які не завжди потрапляють у заголовки.

Вузьке визначення успіху, зосереджене на безпеці, є політично зручним для технологічної індустрії, і компанії активно просувають такі визначення. Вжиття заходів для запобігання видовищним катастрофам корисне для бізнесу: це може означати менше судових позовів і менший тиск задля серйозного регулювання. Протистояння повсякденним наслідкам залежності вимагало б чогось значно більш загрозливого для їхнього прибутку. Це могло б означати вимогу до компаній додати до своїх продуктів більше перешкод або активно обмежити взаємодію чи функції, що призводять до негативних наслідків, як-от алгоритми, які викликають залежність, захоплюючи увагу.

Натомість технологічні гіганти працювали над формуванням законодавства навколо тих ризиків, на які вони вже безпосередньо змушені реагувати. Цього року, наприклад, Google підтримала законопроєкти про регулювання ШІ-чатботів у кількох штатах. Законодавство передбачало базові заходи захисту від сексуального контенту та заохочення до самоушкодження, які технологічні компанії все одно мали б запровадити, але містило широкі винятки, що могли звільнити від їхньої дії деякі найпопулярніші сервіси. Ухвалення цих законопроєктів дозволило законодавцям заявити про перемогу в питанні безпеки, тоді як спроби просунути сильніше законодавство — закони, покликані не допустити емоційної залежності дітей від ШІ, — зазнали поразки. Ця тактика спрацювала в таких штатах, як Небраска, де було ухвалено законодавство, на яке значно вплинула індустрія, на шкоду законопроєктам, що зробили б більше для притягнення компаній до відповідальності.

Ми вже проходили через щось подібне із соціальними мережами. У всьому світі люди, які користуються інтернетом, тепер проводять у середньому понад дві години на день на платформах соціальних мереж — час, який тихо забрали від звичайного життя й передали компаніям, чиї прибутки залежать від того, щоб утримувати нас там. Ніхто, окрім, можливо, кількох генеральних директорів технологічних компаній, не хотів, щоб ці алгоритми займали таку велику частину нашого часу неспання, а їхнє культурне конструювання насправді може сприяти насильству руйнівного масштабу. Платформи Meta звинувачували у сприянні геноциду рохінджа в М’янмі, анти-мусульманським заворушенням у Шрі-Ланці та ймовірним закликам до насильства під час війни в Тиграї в Ефіопії. Ті самі стимули діють у стрічках, які формують уявлення молодих американців про політику, їхніх ровесників і навколишній світ.

ШІ поширює цю логіку на ті сфери життя, на які соціальні мережі могли впливати лише опосередковано. Він пропонує думати за нас і замінювати людей, до яких ми інакше могли б звернутися. Третина підлітків тепер обирає обговорювати серйозні питання із ШІ-компаньйонами, а не з іншими людьми. Дослідники з Массачусетського технологічного інституту виявили, що молоді люди, які використовували ChatGPT для написання есе, демонстрували слабші зв’язки між ділянками мозку під час виконання завдання, а їхні дані свідчили, що «когнітивний борг» зберігався навіть після завершення завдання. Нам ще багато чого потрібно дізнатися про довгострокові наслідки. Але вже є підстави запитати, чи не руйнує технологія, яку рекламують як таку, що робить нас спроможнішими, звички та стосунки, що допомагають нам розвивати ці спроможності.

Якщо довести цей спосіб мислення до його логічного завершення, ми отримаємо світ ідеально санітизованих розваг, де чатботи готові позбавити нас труднощів мислення або взаємодії з почуттями іншої людини (чи навіть власними). Але кожен, кому доводилося докладати зусиль, щоб написати щось варте читання, або відновлювати зруйновану дружбу, знає, як багато втрачається в цій угоді. Ми формуємо здатність судити завдяки зусиллям і труднощам, а жити з іншими людьми вчимося, стикаючись із фактом, що вони мають власні потреби й думки. 

Ми маємо вимагати безпеки як мінімуму, так — а потім вимагати значно більшого. Технологічні компанії та шкільні округи повинні будуть поза розумним сумнівом довести, що ШІ покращує навчання та критичне мислення, перш ніж робити його невід’ємною частиною класних кімнат. Компаніям слід заборонити створювати компаньйонів, які вдають, що мають свідомість, або зізнаються користувачам у коханні, а їхні системи мають піддаватися незалежній перевірці щодо того, як вони впливають на стосунки та здатність людей мислити самостійно. Компанії, які впровадили свої продукти майже в кожну сферу сучасного життя, мають значно більші зобов’язання, ніж просто уникати наступного жахливого заголовка.

Сем Гайнер — співзасновник і виконавчий директор Young People’s Alliance, де він координував коаліцію активістів, яка домоглася ухвалення законів про регулювання ШІ-компаньйонів у восьми штатах у 2026 році — таких як закон SB1119 у Каліфорнії. Сем закінчив Університет Північної Кароліни в Чапел-Гілл у 2025 році, а у 2026 році його включили до списку Forbes 30 Under 30 у категорії соціального впливу.

Емма Лейкен — виконавча директорка Responsible Technology Youth Power Fund у Hopelab, яка залучила понад 9 мільйонів доларів на підтримку роботи під керівництвом молоді у сфері підзвітності технологічних компаній, а також викладає технологічну політику в Колумбійській школі міжнародних і суспільних відносин. Раніше вона очолювала глобальний напрям політики TikTok щодо безпеки та добробуту молоді й працювала над відповідальними технологіями в Omidyar Network.