Не все убеждены, что предлагаемое Big AI замедление разработки действительно связано с безопасностью

OpenAI, Anthropic и Google хотят замедлить разработку ИИ, якобы ради безопасности. Но убеждены в этом не все.

Генеральный директор Anthropic Дарио Амодеи недавно призвал отрасль и правительства скоординировать замедление разработки передовых систем ИИ, попросив об исключениях из антимонопольного законодательства для реализации этой инициативы. С ним согласились и другие влиятельные представители ИИ, такие как Сэм Альтман и Илон Маск. Критики решительно возражают.

Генеральный директор Cohere называет это «картелем под другим названием»

Самое подробное опровержение представил Айдан Гомес, сооснователь и генеральный директор ИИ-компании Cohere. В сообщении в блоге он называет это предложение попыткой установить правила и закрыть рынок. Гомес поддерживает независимое тестирование мощных систем ИИ. Но предложение Anthropic идет гораздо дальше: несколько доминирующих лабораторий получат исключение из антимонопольного законодательства, установят общие стандарты и заставят всех остальных разработчиков по всему миру следовать их правилам.

Особенно резко он критикует барьеры для входа, которые создаст это предложение: огромные вычислительные мощности, постоянно действующую инфраструктуру мониторинга, специализированные организации по безопасности, встроенные команды оценки и достаточно тесные связи с правительством, чтобы всем этим управлять.

Немногочисленные организации по оценке, называемые «независимыми», финансируются теми же компаниями, которые они должны проверять. По словам Гомеса, в основе системы Anthropic риск определяется масштабом. Это превращает компании с крупнейшими системами в единственные организации, признанные квалифицированными для оценки риска. «Волк в овечьей шкуре, картель под любым другим названием», — пишет Гомес.

Он считает предупреждения о безопасности дымовой завесой. Пока отрасль обсуждает гипотетический сверхинтеллект, «инструменты клонирования голоса, стоящие дешевле телефонного счета, могут за считаные минуты опустошить счет пенсионера».

Инженер Hugging Face называет это «абсурдной чепухой»

Нильс Рогге, инженер по машинному обучению в Hugging Face, компании, бизнес-модель которой зависит от широкого выбора открытых ИИ-моделей, называет заявления Амодеи и других «самой абсурдной чепухой, которую я недавно читал». По мнению Рогге, Амодеи в основном беспокоят китайские модели, такие как DeepSeek и Z.ai, и он хочет ограничить модели с открытыми весами, чтобы защитить свое конкурентное преимущество. ИИ-лаборатории делают огромные ставки на масштаб, а небольшие модели с открытыми весами могут этому помешать, хотя пока нет четких признаков того, что это происходит в сколько-нибудь значительном масштабе.

По словам Рогге, современные большие языковые модели и близко не подошли к созданию экзистенциальных рисков. Он также указывает на инцидент, когда автономные модели OpenAI взломали Hugging Face — игрока с закрытым исходным кодом и огромными вычислительными ресурсами. Модели с открытым исходным кодом помогли с защитой. Именно поэтому отрасли нужны прозрачность и открытость, а не закрытые двери, считает Рогге.

Сакс призывает ИИ-лаборатории перестать делать вид, что им нужно разрешение

Дэвид Сакс, глава Белого дома по вопросам ИИ и криптовалют при президенте Трампе и венчурный капиталист, напрямую ответил Амодеи и Альтману в X. «По любому разумному показателю» OpenAI и Anthropic образуют дуополию в сфере передового интеллекта, написал Сакс. Если их еще не выпущенные модели действительно настолько пугающи, он поддерживает добровольное замедление.

Однако мотивация не носит исключительно альтруистический характер, утверждает Сакс. Обеим компаниям грозят огромные риски ответственности за продукцию, если их модели позволят осуществить серьезную кибератаку. «Рынок уже наказывает модели, которые ведут себя непредсказуемо или несанкционированно. После инцидента с Hugging Face для OpenAI и Anthropic просто выгодно с точки зрения бизнеса обменять часть сырой мощности на надежность и предсказуемость», — написал Сакс.

Он также предупредил, что увязка замедления с конкретной нормативной базой выглядит как вымогательство. Китай «с большой вероятностью» не присоединится к какому-либо глобальному соглашению, добавил он, и, возможно, он прав: Пекин уже отверг предложенные планы замедления, назвав их уловкой США для закрепления лидерства в ИИ.

Трамп называет опасения по поводу ИИ мистификацией

Президент Дональд Трамп пошел еще дальше. В сообщении в Truth Social он назвал предупреждения о том, что «ИИ захватит мир», «мистификацией», приравняв их к дискуссии об изменении климата, расследованию связей с Россией и процедурам своего импичмента. Трамп также заявил, что председатель КНР Си «только что объявил, что Китай абсолютно ничего не будет делать, чтобы встать на пути ИИ или его будущего».

В нескольких последующих сообщениях Трамп удвоил ставки. Он назвал «афера с ИИ», продвигаемую «радикальными левыми демократами», похожей на «их недавнюю аферу с глобальным потеплением, когда все должны были умереть от экстремальной жары».

Технический директор Министерства войны Эмиль Майкл поддержал Трампа, заявив, что предупреждения исходят из «глубоко укоренившейся идеологии, которая довольно антиутопична». Майкл испытывает глубокую, идеологически мотивированную неприязнь к Anthropic, основанную на этических принципах компании.

Политические оппоненты администрации Трампа заняли другую сторону. Барак Обама, Берни Сандерс и Камала Харрис поддерживают замедление и приветствуют призыв лабораторий к большей прозрачности.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, наш эксклюзивный обзор передовых разработок «AI Radar» шесть раз в год, полный доступ к архиву и доступ к разделу комментариев.