Нам не нужно регулирование ИИ — оставьте безопасность нам, заявил Дженсен Хуанг из Nvidia

Основатель и генеральный директор Nvidia Дженсен Хуанг во вторник на конференции Dreamforce компании Salesforce предельно ясно изложил свою позицию относительно опасностей, которые несёт ИИ. По его мнению, ИИ — это не какая-то новая форма «инопланетного разума», как его описывал по меньшей мере один исследователь по безопасности OpenAI. Это всего лишь аппаратное и программное обеспечение, созданное людьми, утверждает он. А значит, с его точки зрения, ИИ можно контролировать с помощью людей и существующих законов.

«Безопасность — это инженерная, а не юридическая проблема, — сказал он. — В конце концов, мы разрабатываем программное обеспечение. В конце концов, мы создаём вычислительные системы. Это сложная вычислительная система, но в конечном счёте это всё же вычислительная система».

Поэтому, утверждает он, для регулирования ИИ не нужны новые законы или нормы. Более того, Хуанг вообще не видит особой необходимости в новых законах. По его мнению, свободного рынка будет достаточно, чтобы заставить компании не выпускать небезопасные продукты.

«Если мы не уверены в безопасности продуктов — как и все компании, как вы и я, как все компании здесь: если вы создаёте продукт или услугу и не уверены в их функциональности, возможностях или безопасности, не выпускайте их. И это очень очевидное решение», — сказал он.

Он продолжил: «Вы сдерживаете себя, пока не будете уверены, что выпускаете то, что рынок оценит. Рыночные силы уже существуют. Нам не нужны новые законы. Нам не нужны новые нормы. Нам просто нужно, чтобы компании сами решали, когда следует работать на максимальной скорости. Я думаю, что инновации, скорость и безопасные продукты… — это ложный выбор. Определённо можно иметь и то, и другое одновременно. Поэтому работайте так быстро, как можете. Но если в какой-то момент вам покажется, что компания вышла из-под контроля или продукт небезопасен, остановитесь и убедитесь, что всё сделано правильно».

В некотором смысле это обнадёживающая мысль. Если кто и разбирается в ИИ, так это основатель Nvidia, который создавал аппаратную основу ИИ ещё задолго до появления ChatGPT, а теперь руководит компанией, выпускающей также модели с открытым исходным кодом, агентов, инструменты и изолированные среды.

С другой стороны, если смотреть цинично, его точка зрения неудивительна для человека, которому бум ИИ так хорошо намазал хлеб маслом. Зачем ему регулирование, которое добавит ещё один уровень ограничений и может замедлить стремление Nvidia продавать всё больше систем и программного обеспечения для ИИ? Как он также сказал в интервью: «Я как никогда амбициозен. Благодаря нашим амбициям и росту производительности, который мы получаем от ИИ, для нас нет предела. Для нашей компании нет предела. Нет предела ни для одной отрасли и ни для одной страны».

К сожалению, даже компании с самыми благими намерениями выпускают неисправные продукты с непредвиденными последствиями — в том числе программное обеспечение. Помните катастрофу с «синим экраном смерти» CrowdStrike в 2024 году, из-за которой были приостановлены тысячи авиарейсов и возникли другие проблемы у компаний? Кроме того, некоторые компании обвиняют в намеренных действиях, продиктованных далеко не лучшими намерениями. Meta только что заплатила 18 миллиардов долларов для урегулирования иска о вреде социальных сетей детям.

ИИ уже тоже причинил вред — независимо от намерений и проведённого тестирования безопасности: от взлома моделью OpenAI платформы Hugging Face до исков против ИИ-лаборатории из-за самоубийств молодых людей, которые вели долгие разговоры с её чат-ботом.

Стратегия «оставить их в покое», при которой компании смогут выпускать продукты по своему усмотрению, может оказаться неразумным подходом к безопасности ИИ с точки зрения общества. Хотя Хуанг прав в том, что существующие законы об ответственности за качество продукции могут распространяться на ИИ — если только ИИ каким-то образом не уничтожит нас всех до того, как достаточное число дел пройдёт через суды и позволит проверить эту теорию.

Он не обсуждал другой путь, который, похоже, уже начинает оформляться: саморегулирование отрасли. Подход Хуанга в большей степени заключался в поддержке моделей с открытыми весами и их использования компаниями в качестве конкурентного противовеса закрытым ИИ-лабораториям.

Но сейчас у отрасли есть небольшой промежуток времени, чтобы внедрить саморегулирование и побудить ИИ-лаборатории по всему миру, в том числе в Китае, признать мудрость участия в этом процессе. Как сказал в понедельник генеральный директор Microsoft Сатья Наделла на саммите All-In: «Китаю тоже следует глубоко заботиться об этих же проблемах безопасности, если они важны для Соединённых Штатов, верно? Почему для них должно быть иначе? Не то чтобы у них не возникла та же проблема со взломами. Не то чтобы они не хотели убедиться, что их граждане получают пользу от ИИ, как и мы хотели бы, чтобы наши граждане получали пользу от ИИ».

Пока же, если Хуанг выступает против любого нового регулирования ИИ, он может оказаться достаточно влиятельным, чтобы добиться своего. На этой неделе он также продемонстрировал, что буквально имеет прямой доступ к президенту Трампу.