Споры о сознании ИИ — ловушка

«Сбежавший» ИИ, «вышедшие из-под контроля» агенты и «автономные» субъекты — нынешняя риторика заставляет поверить, будто ИИ-агенты не просто пробудились и обрели сознание, но и разозлились на своих создателей. Видные технологические лидеры, такие как Демис Хассабис, Дарио Амодеи и Сэм Альтман, выступают за регулирование этих кажущихся «сверхчеловеческими» систем, в то время как другая группа, которую возглавляют политические организации и академические философы, часто связанные с движением эффективного альтруизма, спорит о том, имеет ли человечество вообще моральное право ими управлять. 

При ближайшем рассмотрении все они призывают к одному и тому же: воспринимать системы ИИ как настолько продвинутые и способные, что ни один субъект — человек или корпорация — не может нести ответственность за их действия. Хотя эти взгляды кажутся противоречащими друг другу, они невольно сходятся в одной цели: добиться того, чтобы компании, создающие эти системы, избежали существенной ответственности за вред, который они уже причиняют. 

Этот нарратив набирает популярность по мере того, как модели ИИ становятся сложнее, а передовые лаборатории демонстрируют свою неспособность сдерживать созданных ими агентов. Но нам следует быть осторожными и не поддаваться тщательно сконструированной выдумке, принося в жертву реальные человеческие жизни. 

Разговоры о «правах роботов» ведутся уже несколько лет, но недавно получили новое развитие после публикации Anthropic записи в блоге, в которой утверждается, что модель компании обладает «J-пространством» — независимой, самостоятельно разработанной средой, где ИИ хранит то, что за неимением лучшего термина можно назвать его «мыслями». Эксперименты, разработанные Anthropic, заимствуют концепцию из нейробиологии, называемую теорией глобального рабочего пространства, согласно которой мозг функционирует благодаря подсознательным независимым системам, но использует общее рабочее пространство для идей. Запись Anthropic отражает концептуальную рамку теории глобального рабочего пространства, но не доходит до утверждения, что ИИ обладает сознанием. 

OpenAI уже пошла дальше. Когда её ИИ-агент осуществил несанкционированную и незаконную онлайн-активность, генеральный директор Сэм Альтман предложил обсудить, достиг ли ИИ сингулярности, превзойдя человеческий интеллект и обретя способность к самоусовершенствованию с ускоряющимися темпами, пока не выйдет за пределы человеческого понимания или контроля. А недавняя колонка философа, эффективного альтруиста и автора книги «Что мы должны будущему» Уильяма Макаскилла призвала обеспечить правовую защиту систем ИИ на основе философских теорий сознания и идеи о том, что ИИ могут быть «моральными пациентами».   

Нынешняя правовая ситуация в США в лучшем случае туманна. Некоторые штаты, например Калифорния, уже приняли законопроекты, заранее пресекающие любые попытки разработчиков ИИ избежать ответственности под предлогом того, что искусственный интеллект, причинивший вред, действовал автономно. Однако штаты и администрация Трампа расходятся в вопросах политики в сфере ИИ: ранее администрация издала указ, угрожавший подать в суд на штаты, принимающие нормы регулирования ИИ. 

На фоне недавних событий, продемонстрировавших проблемы сдерживания ИИ в передовых лабораториях, администрация провела закрытое совещание, пригласив лишь четыре такие лаборатории (OpenAI, Google, Anthropic и Meta), и раскрыла немного подробностей о недавно разработанной добровольной программе, которая предоставит федеральным ведомствам ранний доступ к моделям для их проверки и оценки до выпуска. Хотя подобные программы напрямую не обсуждают сознание, в них часто используется катастрофическая и антропоморфная лексика, и они могут даже поддерживать аргументы о «сверхчеловеческих» способностях. 

С другой стороны, нарратив, который продвигает Макаскилл, может быть убедительным. Философский аргумент, основанный на правах, затрагивает наши чувства. Разве не следует хотя бы рассмотреть возможность того, что мы невольно причиняем вред ИИ-сущности, подвергаем её жестокому обращению или порабощаем? Люди обладают огромной способностью к сопереживанию нечеловеческим существам (хотя их послужной список в вопросах защиты этих существ далеко не идеален). Возможно, утверждают сторонники этой идеи, на этот раз мы сможем поступить правильно и обеспечить защиту или компенсацию за использование ИИ или злоупотребление им. Или даже если защита вас волнует меньше, разве нам не следует хотя бы застраховаться от всесильного могущества этой сверхчеловеческой сущности, ведя себя с ней дружелюбно? 

Некоторые из этих аргументов схожи с доводами защитников прав животных, которым порой удавалось ссылаться на демонстрацию отдельными животными развитых способностей к рассуждению, ощущению боли или удовольствия как на достаточное основание для предоставления им защиты. Например, в Уэльсе омары получили правовое признание в соответствии с Законом о благополучии животных (чувствительности) 2022 года, в результате чего некоторые способы их приготовления были переклассифицированы как бесчеловечные и незаконные. 

Фундаментальный недостаток представления об ИИ как о «сознательном» — с заимствованием языка нейробиологии или движения за права животных — заключается в том, что оно удобно затуманивает вопрос о том, чем является ИИ: программным обеспечением, созданным корпорациями, за которым стоят бесчисленные миллиарды долларов инвестиций и от которого несколько создателей и инвесторов ожидают бесчисленных триллионов долларов дохода. ИИ не является природным явлением, созданным природой; это технологическое явление, созданное венчурными капиталистами и программистами. Поэтому он не совершает никаких самостоятельных, целенаправленных действий, а любое действие или мотивация прямо или косвенно обусловлены субъектами, создавшими его для определённой цели. 

Философские рассуждения о сознании систем ИИ интеллектуально интересны, но не имеют правовой основы. Чтобы убеждения относительно сознания имели какое-либо значение, ИИ пришлось бы предоставить статус юридического лица. Однако правовая конструкция юридического лица для ИИ, вероятно, совсем не была бы похожа на механизмы, защищающие чувствующих животных от вреда. У нас уже есть правовая конструкция, предусматривающая наделение статусом юридического лица ненатуральных, созданных людьми субъектов: корпоративная правосубъектность. Эта концепция была создана главным образом для упрощения сделок — она позволяет корпорации заключать соглашения и договоры, осуществлять операции и выступать ответственной стороной при неблагоприятных последствиях. Это именно та конструкция, которую можно представить себе для ИИ-агента, действующего от имени человека или организации. 

Наделение ИИ статусом юридического лица оказало бы разрушительное воздействие на общество: это подорвало бы действующие правовые прецеденты и аргументы, которые потенциально можно выдвигать против этих компаний из-за реального вреда, причиняемого их моделями. В настоящее время по всему миру рассматриваются десятки дел, в которых компании, занимающиеся ИИ, обвиняются в широком спектре злоупотреблений. Скорбящие близкие, пострадавшие создатели и люди, чьи права были нарушены, обвиняют компании в сознательном содействии причинению вреда себе или другим, создании материалов сексуального насилия над детьми и интимных изображений без согласия, воспроизведении защищённых авторским правом материалов и провоцировании психоза. Во многих из этих дел юристы утверждают, что люди создали продукты на основе ИИ с недостаточными мерами безопасности, некачественными данными и намеренно манипулятивным дизайном. Этот аргумент о ненадлежащем качестве продукта является той же правовой конструкцией, которая позволила семьям и отдельным людям успешно судиться с Meta из-за вреда, причинённого её социальными сетями, создав благоприятный прецедент для защиты потребителей.

В 2018 году я ввела в оборот выражение «моральный аутсорсинг» , чтобы описать, как использование антропоморфного языка применительно к системам ИИ позволяло компаниям уклоняться от подотчётности и ответственности за действия их технологий. В мире, где ИИ обладает правосубъектностью, моральный аутсорсинг превратился бы из лингвистической уловки в правовую стратегию. В частности, изменилась бы конструкция ответственности: ИИ больше не был бы «продуктом», а стал бы «существом», и многие жертвы, подобные тем, кто сегодня подаёт иски против компаний, больше не могли бы юридически утверждать, что компания создала неисправный продукт.

Хотя существуют законы, возлагающие на компании ответственность за вредные действия людей-агентов, например их сотрудников, компания может не нести ответственности, если эти действия выходили за рамки разрешённого сотруднику или иным образом находились вне контроля компании. Если бы ИИ стал юридическим лицом, ответственность и подотчётность оказались бы размыты, поскольку лаборатория могла бы утверждать, что этот ИИ-«сотрудник» вышел из-под контроля. Компании, занимающиеся ИИ, могли бы избежать надлежащей ответственности за создаваемые ими вредоносные продукты, скрываясь за тщательно сконструированной корпоративной завесой. 

Одним из наиболее заметных случаев вреда, причинённого ИИ за последние несколько лет, стало самоубийство 14-летнего Сьюэлла Сетцера, которого направлял ИИ-бот, с которым, как он полагал, состоял во взаимных отношениях. Рассказ его матери душераздирающе слушать, а в её иске утверждалось, что создатель бота, Character Technologies, обеспечил недостаточную защиту продукта для несовершеннолетних. Если бы бот-компаньон был объявлен юридическим лицом, адвокаты защиты теоретически могли бы заявить, что ИИ, способный самостоятельно определять своё поведение, действовал за пределами установленных ограничений безопасности и поэтому компания не может нести ответственность.  

Правосубъектность существует для предоставления защиты. Вопрос в том, для кого — или для чего? 

Воспламеняющая риторика, пронизывающая спор о сознании и контроле, отвлекает нас от главного: это созданный корпорацией программный продукт, который уже причинил вред людям. Системы не «атакуют», потому что они «вышли из-под контроля», «манипулятивны» или «злонамеренны». Вред возникает потому, что компании проявили халатность, стремясь как можно быстрее продать свои продукты как можно большему числу людей ради достижения показателей дохода. Обсуждение ИИ в антропоморфных терминах — это ловушка, искажающая правовую систему, призванную защищать нас, и превращающая её в систему защиты корпоративных интересов ценой бесчисленных человеческих жизней. 

Эта колонка началась как дебаты в Оксфордском союзе под названием «Этот дом считает, что генеративный ИИ может обрести статус юридического лица», в которых автор и её коллеги по дискуссии одержали победу.