Дебати про свідомість ШІ — пастка

«Неконтрольований» ШІ, «злочинні» агенти та «автономні» діячі — нинішня риторика змушує повірити, що агенти ШІ не лише прокинулися й усвідомлюють себе, а й сердяться на своїх творців. Відомі технологічні лідери, такі як Деміс Хассабіс, Даріо Амодеї та Сем Альтман, виступають за регулювання цих, здавалося б, «надлюдських» систем, тоді як окрема група, очолювана політичними організаціями та академічними філософами, які часто пов’язані з рухом ефективного альтруїзму, обговорює, чи має людство взагалі моральне право ними керувати. 

При пильнішому розгляді всі вони закликають до одного й того самого: сприймати системи ШІ як настільки розвинені та спроможні, що жодна особа — ані людина, ані корпорація — не може нести відповідальність за їхні дії. Хоча ці погляди здаються протилежними, вони мимоволі сходяться в одній меті: забезпечити, щоб компанії, які створюють ці системи, уникнули суттєвої відповідальності за шкоду, якої вони вже завдають. 

Цей наратив набирає популярності в міру того, як моделі ШІ стають складнішими, а передові лабораторії демонструють свою нездатність контролювати створених ними агентів. Але нам слід бути обережними й не піддаватися ретельно сконструйованій вигадці ціною реальних людських життів. 

Розмови про «права роботів» тривають уже кілька років, але нещодавно отримали новий поштовх після публікації Anthropic допису в блозі, де стверджується, що модель компанії має «J-простір» — незалежне, самостійно розроблене середовище, у якому ШІ зберігає те, що за браком кращого терміна ми можемо назвати його «думками». Експерименти, розроблені Anthropic, спираються на концепцію з нейронауки, відому як теорія глобального робочого простору, згідно з якою мозок функціонує завдяки підсвідомим незалежним системам, але використовує спільний простір для ідей. Допис Anthropic відображає підхід теорії глобального робочого простору, але не доходить до твердження, що її ШІ є свідомим. 

OpenAI уже пішла далі. Коли її агент ШІ здійснив несанкціоновану та незаконну онлайн-діяльність, генеральний директор Сем Альтман закликав обговорити, чи досяг ШІ сингулярності, перевершивши людський інтелект і набувши здатності до самовдосконалення зі швидкістю, що прискорюється, доки не вийде за межі людського розуміння або контролю. А в нещодавній авторській статті філософ, прихильник ефективного альтруїзму та автор книги «Що ми винні майбутньому» Вільям Макаскілл закликав до правового захисту систем ШІ на основі філософських теорій свідомості та ідеї, що ШІ може бути «моральними пацієнтами».   

Нинішнє правове середовище у Сполучених Штатах щонайменше туманне. Деякі штати, як-от Каліфорнія, уже ухвалили законопроєкти, які завчасно унеможливлюють будь-які спроби розробників ШІ уникнути відповідальності, заявляючи, що штучний інтелект, який завдав шкоди, зробив це автономно. Однак штати та адміністрація Трампа розходилися в питаннях політики щодо ШІ: раніше адміністрація видала указ, який погрожував позиватися проти штатів, що запроваджують регулювання ШІ. 

На тлі недавніх подій, які продемонстрували проблеми з контролем ШІ у передових лабораторіях, адміністрація провела закриту зустріч, запросивши лише чотири такі лабораторії (OpenAI, Google, Anthropic і Meta), і розкрила небагато деталей щодо нещодавно розробленої добровільної системи, яка надасть федеральним агентствам ранній доступ до моделей для їх перевірки та оцінювання до випуску. Хоча подібні системи безпосередньо не обговорюють свідомість, вони схильні використовувати катастрофічну й антропоморфну лексику та навіть можуть підтримувати аргументи щодо «надлюдських» можливостей. 

З іншого боку, наратив, який поширює Макаскілл, може бути переконливим. Філософський аргумент, заснований на правах, зачіпає наші почуття. Хіба ми не повинні хоча б розглянути можливість того, що ненавмисно завдаємо шкоди, кривдимо або поневолюємо сутність ШІ? Людські істоти мають величезну здатність до співпереживання нелюдським істотам (хоча їхній послужний список щодо захисту таких істот далеко не найкращий). Можливо, цього разу, стверджують прихильники, ми зможемо все зробити правильно й забезпечити захист або компенсацію за використання чи зловживання ШІ. Або навіть якщо захист вас турбує менше, хіба нам не варто бодай підстрахуватися від всемогутньої сили цієї надлюдської істоти, поводячись із нею приязно? 

Деякі з цих аргументів подібні до аргументів захисників прав тварин, які часом успішно посилалися на демонстрацію деякими тваринами розвинених здібностей до міркування, відчуття болю чи задоволення як на достатній доказ необхідності забезпечити їм захист. Наприклад, в Уельсі омари отримали правове визнання відповідно до Закону про добробут тварин (чутливість) 2022 року, унаслідок чого деякі способи їх приготування було перекласифіковано як негуманні та незаконні. 

Фундаментальна вада представлення ШІ як «свідомого» через запозичення мови нейронауки або руху за права тварин полягає в тому, що це зручно затуманює питання про те, чим є ШІ: програмним забезпеченням, створеним корпораціями, за яким стоять незліченні мільярди доларів інвестицій і від якого очікують отримання незліченних трильйонів доларів доходу для кількох розробників та інвесторів. ШІ — не природне явище, створене природою; це технологічне явище, задумане венчурними капіталістами та програмістами. Отже, він не здійснює жодних самостійних, цілеспрямованих дій, а будь-які його дії чи мотивація прямо або опосередковано визначаються суб’єктами, які створили його з певною метою. 

Філософські роздуми про свідомість систем ШІ інтелектуально цікаві, але юридично необґрунтовані. Щоб переконання щодо свідомості мали будь-яке значення, ШІ потрібно було б надати статус юридичної особи. Але система юридичної правосуб’єктності для ШІ, найімовірніше, не матиме нічого спільного з конструкціями, що захищають чутливих тварин від шкоди. Ми вже маємо правову систему для надання правосуб’єктності ненатуральним утворенням, створеним людьми: правосуб’єктність корпорацій. Цю концепцію було створено передусім для спрощення укладання угод — шляхом надання корпорації повноважень укладати домовленості й договори, здійснювати операції та виступати відповідальною стороною в разі несприятливих наслідків. Це саме та конструкція, яку можна уявити для агента ШІ, що діє від імені людини чи організації. 

Надання ШІ правосуб’єктності мало б руйнівний вплив на суспільство: це зруйнувало б чинні правові прецеденти та аргументи, які потенційно можна висувати проти цих компаній за реальну шкоду, якої завдають їхні моделі. Нині в усьому світі розглядаються десятки справ, у яких компанії, що займаються ШІ, звинувачують у широкому спектрі зловживань. Люди, які втратили близьких, обурені творці та постраждалі особи звинувачують компанії в умисному уможливленні самопошкодження або заподіяння шкоди іншим, створенні матеріалів сексуального насильства над дітьми й оголених зображень без згоди, відтворенні матеріалів, захищених авторським правом, і провокуванні психозу. У багатьох із цих справ юристи стверджують, що люди створили продукти ШІ з недостатніми запобіжниками, неякісними даними та навмисно маніпулятивним дизайном. Цей аргумент про відповідальність за якість продукції є тією самою правовою конструкцією, яка дала змогу сім’ям та окремим особам успішно позиватися проти Meta за шкоду, заподіяну її соціальними мережами, створивши позитивний прецедент для захисту споживачів.

У 2018 році я ввела в обіг вислів «моральний аутсорсинг» , щоб описати, як використання антропоморфної мови щодо систем ШІ давало компаніям змогу уникати підзвітності та відповідальності за дії їхніх технологій. У світі з правосуб’єктністю ШІ моральний аутсорсинг перетворився б із лінгвістичної спритності на юридичну стратегію. Зокрема, конструкція відповідальності змінилася б, оскільки ШІ більше не був би «продуктом», а став би «істотою», і багато постраждалих, подібних до тих, хто сьогодні позивається проти компаній, більше не могли б юридично стверджувати, що компанія створила несправний продукт.

Хоча існують закони, які покладають на компанії відповідальність за шкідливі дії людей-агентів, таких як їхні працівники, компанія може не нести відповідальності, якщо ці дії виходили за межі дозволеного працівникові або іншим чином перебували поза контролем компанії. Якби ШІ був юридичною особою, відповідальність і підзвітність стали б розмитими, оскільки лабораторія могла б стверджувати, що цей «працівник»-ШІ вийшов з-під контролю. Компанії, що займаються ШІ, могли б уникнути належної відповідальності за шкідливі продукти, які вони створюють, сховавшись за ретельно сконструйованою корпоративною завісою. 

Одним із найвідоміших випадків шкоди, завданої ШІ за останні кілька років, стало самогубство Сьюелла Сетцера, 14-річного хлопця, якого спрямовував бот ШІ, з яким, на його думку, він перебував у взаємних стосунках. Розповіді його матері боляче слухати, а в її позові стверджується, що творець бота, Character Technologies, не забезпечив належного захисту неповнолітніх у продукті. Якби бота-компаньйона визнали юридичною особою, захист теоретично міг би стверджувати, що ШІ, здатний самостійно визначати свою поведінку, діяв поза встановленими запобіжниками безпеки, а отже, компанія не може нести відповідальність.  

Правосуб’єктність існує для надання захисту. Питання полягає в тому, для кого — чи для чого — саме призначений цей захист? 

Запальна риторика, що пронизує дебати про свідомість і контроль, відволікає нас від суті: це програмне забезпечення, створений корпораціями продукт, який уже завдав шкоди людям. Системи не «нападають», бо вони «вийшли з-під контролю», є «маніпулятивними» чи «зловмисними». Шкода виникає тому, що компанії виявили недбалість у своєму поспіху продати продукцію якомога більшій кількості людей, щоб досягти цільових показників доходу. Обговорення ШІ в антропоморфних термінах — це пастка, яка спотворює правову систему, покликану захищати нас, і перетворює її на систему захисту корпоративних інтересів ціною незліченних людських життів. 

Ця авторська стаття почалася як дебати в Оксфордському союзі під назвою «Цей дім вважає, що генеративний ШІ може набути правосуб’єктності», у яких авторка та її колеги-дебатери здобули перемогу.