Дебатите за съзнанието на ИИ са капан

„Избягалият“ ИИ, „неподчинените“ агенти и „автономните“ дейци — днешната риторика би ви накарала да повярвате, че ИИ агентите не само са будни и осъзнати, но и са ядосани на създателите си. Влиятелни технологични лидери като Демис Хасабис, Дарио Амодеи и Сам Алтман настояват за регулиране на тези привидно „свръхчовешки“ системи, докато отделна група, ръководена от организации за публични политики и академични философи, често свързани с движението за ефективен алтруизъм, обсъжда дали човечеството изобщо има моралното право да ги управлява. 

При по-внимателно вглеждане се оказва, че всички те призовават за едно и също: да възприемаме ИИ системите като толкова напреднали и способни, че никой — нито човек, нито корпорация — не би могъл да носи отговорност за действията им. Макар тези гледни точки да изглеждат противоположни, те неволно се обединяват около една цел: да гарантират, че компаниите, които изграждат тези системи, ще избегнат съществена отговорност за вредите, които те вече причиняват. 

Този разказ набира популярност, докато ИИ моделите стават все по-сложни, а водещите лаборатории разкриват неспособността си да контролират създадените от тях агенти. Но трябва да внимаваме да не повярваме на внимателно конструирана фикция за сметка на реални човешки животи. 

Разговорът за „правата на роботите“ съществува от няколко години, но наскоро напредна с публикуването от Anthropic на публикация в блог, в която се твърди, че моделът на компанията разполага с „J-space“ — независима, самостоятелно развита среда, в която ИИ съхранява това, което поради липса на по-добър термин можем да наречем неговите „мисли“. Експериментите, разработени от Anthropic, заимстват концепция от невронауката, наречена теория за глобалното работно пространство, според която мозъкът функционира чрез подсъзнателни, независими системи, но използва общо работно пространство за идеите. Публикацията на Anthropic отразява рамката на теорията за глобалното работно пространство, но не стига дотам да нарече своя ИИ съзнателен. 

OpenAI вече отиде по-далеч. Когато нейният ИИ агент извърши неодобрена и незаконна онлайн дейност, отговорът на главния изпълнителен директор Сам Алтман беше да насърчи дебат дали ИИ е достигнал сингулярността — надминавайки човешкия интелект и придобивайки способност за самоусъвършенстване с ускоряващи се темпове, докато напредне отвъд човешкото разбиране или контрол. А неотдавнашен коментар на философа, ефективен алтруист и автор на What We Owe the Future Уилям Макаскил призова за правна защита на ИИ системите въз основа на философски теории за съзнанието и идеята, че ИИ може да бъдат „морални пациенти“.   

Настоящата правна среда в Съединените щати е най-малкото неясна. Някои щати, като Калифорния, вече са приели законопроекти, които предварително заобикалят всякакви опити на разработчиците на ИИ да избегнат отговорност, като твърдят, че изкуственият интелект, причинил вреда, го е направил автономно. Щатите и администрацията на Тръмп обаче са в конфликт по въпросите на политиката за ИИ, като администрацията по-рано прие указ, заплашващ да съди щатите, които въвеждат регулации за ИИ. 

На фона на неотдавнашните събития, илюстриращи проблемите с контрола на ИИ във водещите лаборатории, администрацията проведе среща при закрити врата, в която участваха само четири такива лаборатории (OpenAI, Google, Anthropic и Meta), и сподели малко подробности за наскоро разработена доброволна рамка, която би дала на федералните агенции ранен достъп до моделите, за да ги преглеждат и оценяват преди пускането им. Макар рамки като тази да не обсъждат пряко съзнанието, те са склонни да използват катастрофичен и антропоморфен език и дори могат да подкрепят аргументи относно „свръхчовешките“ способности. 

От друга страна, разказът, поддържан от Макаскил, може да бъде убедителен. Философският аргумент, основан на права, докосва емоциите ни. Не трябва ли поне да разгледаме възможността неволно да вредим, малтретираме или поробваме ИИ същество? Човешките същества имат огромна способност за съпричастност към нечовешки създания (макар че нямат особено добър опит в защитата им). Може би този път, твърдят защитниците, можем да постъпим правилно и да осигурим защита или компенсация за използването или злоупотребата с ИИ. Или дори да не сте толкова загрижени за защитата, не трябва ли поне да се предпазим от всемогъщата сила на това свръхчовешко същество, като се отнасяме добре към него? 

Някои от тези аргументи не се различават съществено от тези на защитниците на правата на животните, които понякога успешно посочват проявата на напреднали способности за разсъждение, болка или удоволствие при някои животни като достатъчно доказателство за предоставяне на защита. Например в Уелс омарите получиха правно признание съгласно Закона за хуманното отношение към животните (разумност) от 2022 г., с което някои методи за приготвянето им бяха прекласифицирани като нехуманни и незаконни. 

Основният недостатък на представянето на ИИ като „съзнателен“ чрез заимстване на езика на невронауката или на правата на животните е, че то удобно замъглява въпроса какво представлява ИИ: софтуер, създаден от корпорации, зад който стоят безброй милиарди долари инвестиции и от който се очаква да генерира безброй трилиони долари приходи за шепа създатели и инвеститори. ИИ не е природен феномен, създаден от природата; той е технологичен феномен, създаден от рискови капиталисти и програмисти. Като такъв той не предприема никакви вродени, преднамерени действия, а всяко действие или мотивация са пряко или косвено обусловени от субектите, които са го изградили с определена цел. 

Философските разсъждения върху съзнанието на ИИ системите са интелектуално интересни, но нямат правна основа. За да имат убежденията относно съзнанието някакво значение, на ИИ би трябвало да бъде предоставена правосубектност. Но една рамка на правосубектност за ИИ вероятно не би приличала на конструкциите, защитаващи разумните животни от вреди. Вече разполагаме с правна рамка за предоставяне на правосубектност на ненатурални, създадени от хора субекти: корпоративната правосубектност. Тази концепция е създадена преди всичко за улесняване на сделките, като дава на корпорацията правомощия да изпълнява споразумения, да сключва договори, да извършва сделки и да бъде отговорната страна при неблагоприятни резултати. Това е видът конструкция, която бихте могли да си представите за ИИ агент, действащ от името на физическо лице или организация. 

Предоставянето на правосубектност на ИИ би имало опустошителен ефект върху обществото: то би объркало съществуващите правни прецеденти и правни аргументи, които потенциално могат да бъдат използвани срещу тези компании за реалните вреди, причинявани от техните модели. В момента по света има десетки дела, в които компании за ИИ са съдени за широк спектър от злоупотреби. Опечалени близки, ощетени създатели и лица, чиито права са били нарушени, обвиняват компаниите, че умишлено улесняват самонараняване или причиняване на вреда на други хора, генерират материали със сексуално насилие над деца и непоискани интимни изображения, възпроизвеждат материали, защитени с авторски права, и провокират психоза. В много от тези дела адвокатите твърдят, че хора са създали ИИ продукти с недостатъчни предпазни мерки, лоши данни и умишлено манипулативен дизайн. Този аргумент за отговорността за продуктите е същата правна рамка, която позволи на семейства и отделни лица успешно да съдят Meta за вреди, причинени от нейните социални мрежи, създавайки положителен прецедент за защита на потребителите.

През 2018 г. въведох израза „морално аутсорсване“ , за да помогна да се опише как използването на антропоморфен език за ИИ системите позволява на компаниите да избегнат отчетността и отговорността за действията на своите технологии. В свят с правосубектност на ИИ моралното аутсорсване би се превърнало от езикова ловкост в правна стратегия. По-конкретно, конструкцията на отговорността би се променила, тъй като ИИ вече нямаше да бъде „продукт“, а „същество“, и много жертви като тези, които днес съдят компании, вече нямаше да могат законно да твърдят, че дадена компания е създала дефектен продукт.

Макар че съществуват закони, които държат компаниите отговорни за вредните действия на човешки агенти като техните служители, компанията може да не носи отговорност, ако тези действия са били извън обхвата на разрешеното на служителя или по друг начин извън контрола на компанията. Ако ИИ беше юридическо лице, отговорността и отчетността щяха да се замъглят, тъй като лабораторията би могла да твърди, че този „служител“ с ИИ е действал самоволно. Компаниите за ИИ биха могли да избегнат полагащата им се отговорност за вредните продукти, които създават, като се скрият зад внимателно изградена корпоративна завеса. 

Един от най-известните случаи на вреда, причинена от ИИ през последните няколко години, беше самоубийството на Сюел Сетцър, 14-годишно момче, водено от ИИ бот, с когото смятало, че има взаимна връзка. Разказите на майка му са съкрушителни, а в иска си тя твърди, че създателят на бота, Character Technologies, не е осигурил достатъчна защита на продукта за непълнолетни. Ако ботът за компания беше обявен за юридическо лице, защитата теоретично би могла да твърди, че ИИ, способен сам да определя поведението си, е действал извън установените предпазни ограничения и следователно компанията не може да носи отговорност.  

Правосубектността съществува, за да предоставя защита. Въпросът, който трябва да си зададем, е: защита за кого — или за какво? 

Разпалващата риторика, пронизваща дебата за съзнанието и контрола, ни отдалечава от същественото: този софтуер е продукт, създаден от корпорации, който вече е навредил на хора. Системите не „атакуват“, защото са станали „неподчинени“, „манипулативни“ или „злонамерени“. Вредите възникват, защото компаниите са проявили небрежност в бързината си да продават продуктите си на възможно най-много хора, за да постигнат целите си за приходи. Обсъждането на ИИ в антропоморфни термини е капан, който изкривява правната система, предназначена да ни защитава, и я превръща в система, защитаваща корпоративните интереси за сметка на безброй човешки животи. 

Този коментар започна като дебат в Oxford Union, озаглавен „Тази камара смята, че генеративният ИИ може да придобие правосубектност“, който беше спечелен от авторката и нейните събеседници в дебата.