Фокус на катастрофах в сфере безопасности ИИ игнорирует повседневный вред

Рассмотрим, что сегодня считается успехом в технологической политике. Компания, разрабатывающая ИИ, обещает, что ее чат-бот не будет поощрять самоубийство. Социальная платформа усложняет детям возможность купить фентанил. Это важные меры защиты, и они должны были существовать с самого начала. Но компании могут преодолеть эти низкие барьеры и при этом продолжать создавать продукты, из-за которых молодые люди становятся зависимыми от имитации дружбы или оказываются в ловушке лент, специально разработанных для того, чтобы они продолжали листать экран.

Исторически мы позволяли определять дискуссию о технологиях самым худшим из того, что может сделать продукт, уделяя поразительно мало внимания коварному ущербу, который он наносит каждый день. Переходя в эпоху, определяемую мощными продуктами на основе ИИ, мы должны требовать от технологической отрасли большего, чем простого устранения катастрофического вреда. Мы должны принять меры, чтобы ее продукты не подрывали наше мышление, способность учиться и взаимодействовать друг с другом.

 Подросток, у которого развивается нездоровая привязанность к ИИ-компаньону, может никогда не появиться ни в судебном иске, ни в газете — за исключением самых вопиющих случаев. То же касается ученика, который начинает полагаться на чат-бота при написании каждой работы, или молодого человека, который сравнивает свою жизнь с лентой социальных сетей, созданной для того, чтобы провоцировать зависть и удерживать его внимание. Продукт может соответствовать всем узким требованиям безопасности и при этом ухудшать состояние всей нашей культуры — причем последствия не всегда попадают в заголовки.

Узкое определение успеха, основанное на безопасности, политически удобно для технологической отрасли, и компании активно продвигают именно такие определения. Предотвращение громких катастроф полезно для бизнеса: это может означать меньше судебных исков и меньше давления с целью введения серьезного регулирования. Противостояние повседневным последствиям зависимости потребовало бы гораздо более угрожающего для их прибыли шага. Возможно, компаниям пришлось бы добавить в свои продукты больше препятствий либо активно ограничить вовлеченность пользователей или функции, ведущие к негативным результатам, например алгоритмы, вызывающие зависимость и захватывающие внимание.

Вместо этого технологические гиганты стремились формировать законодательство вокруг тех видов вреда, устранить которые от них уже напрямую требуют. Например, в этом году Google поддержала законопроекты о регулировании ИИ-чат-ботов в нескольких штатах. Законопроекты предписывали базовые меры защиты от сексуального контента и поощрения самоповреждения, которые технологические компании в любом случае должны были внедрить, но при этом содержали широкие исключения, способные вывести из-под их действия некоторые из самых популярных сервисов. Принятие этих законопроектов позволило законодателям заявить о победе в сфере безопасности, в то время как попытки продвинуть более сильное законодательство — законы, призванные не допустить эмоциональной зависимости детей от ИИ, — провалились. Эта тактика сработала в таких штатах, как Небраска, где в результате было принято законодательство, в значительной степени сформированное под влиянием отрасли, в ущерб законопроектам, которые позволили бы привлечь компании к большей ответственности.

С социальной сетью мы уже прошли через нечто подобное. Сегодня во всем мире люди, пользующиеся интернетом, проводят в среднем более двух часов в день на социальных платформах — время, незаметно отнятое у обычной жизни и переданное компаниям, чья прибыль зависит от того, чтобы мы оставались там. Никто — за исключением, возможно, нескольких генеральных директоров технологических компаний — не хотел, чтобы эти алгоритмы занимали такую значительную часть нашего времени бодрствования, а их культурное воздействие действительно может способствовать насилию в разрушительных масштабах. Платформы Meta обвиняли в том, что они способствовали геноциду рохинджа в Мьянме, антимусульманским беспорядкам на Шри-Ланке и предполагаемым призывам к насилию во время войны в Тыграе в Эфиопии. Те же стимулы действуют и в лентах, формирующих представления молодых американцев о политике, сверстниках и окружающем мире.

ИИ распространяет эту логику на те сферы жизни, на которые социальные сети могли влиять лишь косвенно. Он предлагает думать за нас и заменять людей, к которым мы в противном случае могли бы обратиться. Треть подростков теперь предпочитает обсуждать серьезные вопросы с ИИ-компаньонами, а не с другими людьми. Исследователи Массачусетского технологического института обнаружили, что молодые люди, использующие ChatGPT для написания эссе, демонстрировали менее выраженную связь между участками мозга во время выполнения задания, а полученные ими данные указывали на то, что «когнитивный долг» сохранялся даже после завершения задания. Нам еще многое предстоит узнать о долгосрочных последствиях. Но уже есть основания спросить, не подрывает ли технология, рекламируемая как средство повышения наших способностей, те привычки и отношения, которые изначально помогают нам развивать эти способности.

Если довести этот образ мыслей до логического конца, получится мир идеально стерильных развлечений, в котором чат-боты готовы избавить нас от необходимости думать или учитывать чувства другого человека (или даже собственные чувства). Но любой, кому доводилось с трудом писать что-то достойное прочтения или восстанавливать разрушенную дружбу, знает, как много теряется в результате такой сделки. Мы формируем способность рассуждать благодаря усилиям и преодолению трудностей, а жить с другими людьми учимся, сталкиваясь с тем, что у них есть собственные потребности и мнения. 

Мы должны требовать безопасности как минимума — да, а затем требовать гораздо большего. Технологические компании и школьные округа должны быть обязаны доказывать вне разумных сомнений, что ИИ улучшает обучение и критическое мышление, прежде чем делать его постоянной частью учебных классов. Компаниям следует запретить создавать компаньонов, которые притворяются сознательными или признаются пользователям в любви, а их системы должны подвергаться независимой проверке на предмет влияния на отношения и способность людей мыслить самостоятельно. Компании, внедрившие свои продукты практически во все сферы современной жизни, несут обязательства, значительно превышающие обязанность избежать следующего ужасного заголовка.

Сэм Хайнер — сооснователь и исполнительный директор Young People’s Alliance, где он координировал коалицию активистов, добившихся принятия в 2026 году законов, регулирующих ИИ-компаньонов, в восьми штатах, включая закон SB1119 в Калифорнии. Сэм окончил Университет Северной Каролины в Чапел-Хилл в 2025 году и вошел в список Forbes «30 моложе 30» в категории социального воздействия за 2026 год.

Эмма Лейкен — исполнительный директор фонда Responsible Technology Youth Power Fund при Hopelab, который собрал более 9 миллионов долларов на поддержку работы под руководством молодежи по обеспечению подотчетности технологических компаний; она также преподает технологическую политику в Школе международных отношений и государственного управления Колумбийского университета. Ранее она возглавляла глобальное направление политики TikTok в области безопасности и благополучия молодежи и занималась вопросами ответственных технологий в Omidyar Network.