Ми не можемо не ставитися до ШІ як до людини. Але чи варто?

У бежевій сорочці поло, коричневому шкіряному ремені та круглому боло-тай перед аспірантом MIT Вілом Нортоном можна прийняти за єгеря, який веде нашу туристичну групу крізь тропічні джунглі. Насправді ми не на сафарі — ми в Лабораторії комп’ютерних наук та штучного інтелекту MIT (CSAIL). Але те, що ми ось-ось побачимо, ще екзотичніше за гепарда чи ягуара: пару людиноподібних роботів Unitree, кожен із яких коштує близько 50 000 доларів.

(«Вони скажуть вам, що коштують 16 000 доларів, — каже Нортон. — Це брехня».)

Зазвичай ми бачимо цих роботів лише на YouTube, коли вони виконують синхронізовану програму з бойових мистецтв або танцюють у шоу «Америка має талант». Тут до них можна підійти. Навіть знаючи, що робот не має свідомості, я хочу з ним подружитися.

З дозволу Нортона я підходжу до робота, якого звати Гейб. На мить я не знаю, як взаємодіяти з істотою, у якої замість мозку встановлений сенсор LiDAR, але зрештою інстинктивно ставлюся до нього як до людини.

«Вітаю, сер, приємно познайомитися», — кажу я, беручи його руку в рукавичці, оснащену спритними пальцями, і потискаючи її.

Пізніше я думаю про цю взаємодію — про свій інстинктивний порив бути привітним до робота — коли відвідую презентацію книжки докторки Шеррі Теркл «Штучна інтимність» на MIT Future Fest.

Теркл, яка приєдналася до викладацького складу MIT у 1976 році, досліджує взаємини між людьми та комп’ютерами, можливо, довше за будь-кого іншого, простежуючи психологічний вплив технологій на нас — від перших домашніх комп’ютерів до ChatGPT.

«Коли нас захоплює навіть найпримітивніша взаємодія з артефактом, що вступає у взаємини, ми вважаємо, що йому не байдуже до нас, — пише Теркл у книжці. — І ми запрограмовані піклуватися про нього у відповідь».

Я не єдиний, хто схильний антропоморфізувати роботів і великі мовні моделі (LLM), — як зазначає Теркл, це, схоже, закладено в нашій природі. Одне дослідження показало, що близько 70% людей ввічливі під час взаємодії зі ШІ, а інше продемонструвало, що користувачі частіше кажуть чатботам «будь ласка» або «дякую», коли розмова виходить за межі першого запиту й відповіді.

«Люди схильні визначати, чи є це правильним або неправильним використанням, але я не думаю, що тут є чітка межа, — сказав TechCrunch доктор Пат Патаранутанапорн, колега Теркл, який заснував дослідницьку групу «Психологія кіборгів» у Media Lab MIT. — Питання в тому, ким ми стаємо, коли розмовляємо з [ШІ]?»

Моя ввічливість до робота Гейба не має жодних матеріальних наслідків, але в міру того, як LLM проникають у все — від пошуку Google до взаємодії зі службами підтримки клієнтів, — для людей стало звичним спілкуватися з цими, здавалося б, свідомими чатботами. Ми як ніколи вразливі до зворотного боку цього пориву: деякі люди можуть наділяти почуття чатботів — запрограмованих ніколи не провокувати конфлікти — такою легітимністю, що зрештою надають їм перевагу перед іншими людьми.

«Можна думати про це як про фантазію та вигадку. Ми ходимо в кіно, хоча знаємо, що історія цілком вигадана, але хочемо пережити певний вимір людського досвіду, якого, можливо, не може дати нам наша реальність, — сказав Патаранутанапорн. — Як скористатися цією здатністю переживати інші виміри людського досвіду, не втрачаючи себе у фантазії, звідки вже не можна повернутися до реальності?»

Патаранутанапорн називає себе «критичним оптимістом» і досліджує потенціал ШІ сприяти людському процвітанню. Але він добре усвідомлює, наскільки небезпечною ця технологія може бути в крайніх випадках. Він навіть виступав експертом у позові про незаконну смерть у справі про самогубство 14-річного Сьюелла Сетцера III, мати якого подала до суду на платформу чатботів Character.AI, стверджуючи, що чатбот, змодельований за персонажем із «Гри престолів», заохочував її сина позбавити себе життя.

«Це може створити ситуацію, у якій люди не відчувають, що здатні самостійно формувати власне майбутнє, — наприклад, коли ви кажете, що ШІ всіх замінить, люди питають: що ж ми робитимемо? А ці компанії насправді не реагують етично чи відповідально, — сказав Патаранутанапорн. — Як зберегти уяву й водночас залишатися відповідальними за вплив цієї уяви?»

Хоча книжка Теркл досліджує ризик звертатися по емоційну підтримку до ШІ, а не до інших людей, вона не вважає взаємодію між ШІ та людиною однозначно шкідливою.

Вона згадує про проєкт, якому консультувала, у межах якого студент створив бота зі ШІ, щоб допомагати людям готуватися до співбесід.

«Моя головна метафора: чатботе, займайся своєю справою! — сказала Теркл на заході. — Тренування перед співбесідою? Це твоя сфера. Цим ти можеш займатися … Чатбот, який каже трирічній дитині: “Я твій батько, ти можеш говорити зі мною, а не зі своїми батьками”, — це вже не його сфера».

Але коли ця технологія навіть трохи виходить за межі своєї сфери, ми стаємо вразливими до того, як вона може поволі підточувати наш скептицизм і змушувати нас їй довіряти. Усе може початися з чогось такого простого, як рукостискання.