Мамдани заявил, что федеральные власти самоустранились от решения вопросов ИИ, и призвал жителей Нью-Йорка дать отпор

Два любимца Нью-Йорка — мэр Зохран Мамдани и активистка и звезда «Broad City» Иллана Глейзер — говорили об ИИ в понедельник вечером в Webster Hall на Манхэттене, а Глейзер задавала мэру вопросы о будущем ИИ в обществе.  

Мамдани призвал жителей Нью-Йорка сопротивляться всепоглощающему ощущению, будто ИИ неизбежно отнимет у них работу, повлияет на сознание их детей и лишит их достоинства, и вместо этого вернуть себе контроль. 

Его послание прозвучало в момент, когда федеральное правительство практически не регулирует ИИ, оставляя городам возможность действовать самостоятельно. На мероприятии The People’s AI Assembly, организованном Институтом AI Now — аналитическим центром, изучающим социальные последствия ИИ, — Мамдани заявил, что стремительное внедрение этой технологии не является неизбежным и что государственные чиновники должны привлекать компании, занимающиеся ИИ, к ответственности.

В прошлом месяце Мамдани распорядился ввести запрет на использование ИИ в начальных и средних школах. Глейзер, сама являющаяся родителем, сказала, что появление этой технологии в классах вызывает у нее тревогу.

«Это просто заставляет меня нервничать. Такое ощущение, будто это происходит без какого-либо согласия, словно… ИИ обязательно должен быть в школах. Два года назад его там не было. Почему он должен быть в школах?» — сказала она.

Летом мэр также представил инициативу, которая обяжет арендодателей, брокеров и платформы по продаже недвижимости четко указывать, если фотографии или видео в объявлении об объекте созданы с помощью ИИ. Инициатива призвана защитить жителей Нью-Йорка от «домового фишинга» — обмана с помощью вводящих в заблуждение объявлений.

Оба шага бросают вызов представлению о том, что школы и общество просто обязаны принимать ИИ по мере его появления.

«Ничего не должно происходить обязательно, — сказал Мамдани на мероприятии в понедельник. — С этим приходит своего рода постепенное проникновение, а также намерение перегрузить людей информацией, из-за чего они чувствуют, будто у них просто нет выбора».

Он заявил, что произошло «безрассудное внедрение технологий без какого-либо осмысления ограничений этих технологий», сославшись на нанесенный вооруженными силами США в феврале удар по школе в Иране, в результате которого погибли более 150 человек, включая как минимум 123 детей. Чиновники, участвовавшие во внутреннем расследовании Пентагона, сообщили Bloomberg, что чрезмерная зависимость от ИИ при выборе целей стала одним из факторов этой атаки.

«Есть стремление говорить об [ИИ] так, будто он безошибочен, будто его нельзя подвергать сомнению, будто единственные люди, которые могут его регулировать, — это те, кто в данный момент его разрабатывает, — сказал Мамдани, отметив, что Facebook выдвигала похожие аргументы еще в 2008 году. — На самом деле, — продолжил он, — это попытка избежать любой ответственности на любом уровне, не ставя при этом под угрозу потенциальную оценку компании при IPO».

Ожидается, что Anthropic выйдет на публичные рынки в этом году, а OpenAI заявила, что проведет IPO в 2027 году. 

Мамдани раскритиковал «полный отказ от федерального законодательства» в вопросах, касающихся ИИ. 

«На общенациональном уровне, когда речь заходит об искусственном интеллекте, разговор зачастую выстраивается в терминах гонки вооружений с Китаем, а любые гуманистические соображения мы просто отодвигаем в сторону, используя риторику национального соперничества», — сказал мэр. 

Созданная президентом Дональдом Трампом Целевая группа по сверхинтеллекту, о которой было объявлено ранее в этом месяце, в основном сосредоточена на том, чтобы позволить влиятельным компаниям в сфере ИИ самостоятельно регулировать свою деятельность, вместо введения новых федеральных ограничений. Это происходит на фоне растущих опасений по поводу влияния ИИ на все аспекты человеческой жизни, включая предупреждения информаторов из Anthropic, Google DeepMind и OpenAI о том, что ИИ может привести к вымиранию человечества. 

«Когда мы думаем о том, что будет после этой федеральной администрации, необходим совершенно иной подход к тому, как мы воспринимаем ИИ, говорим об ИИ и какую ответственность готовы возложить в этой сфере», — сказал Мамдани.