Гендиректор Anthropic заявил, что ИИ по своей природе централизует власть, а открытые модели лишь передают её тому, кто владеет чипами
Ключевые моменты
- На X такие эксперты, как инвестор Гэвин Бейкер и исследователь Meta Янн ЛеКун, обвиняют генерального директора Anthropic Дарио Амодеи в продвижении правил для ИИ посредством запугивания. По их словам, эти правила в основном принесут пользу его собственной компании и централизуют власть.
- Амодеи это отвергает и утверждает, что его предложения по регулированию призваны замедлить работу крупных лабораторий. Открытые модели ИИ, по его словам, не являются решением проблемы, поскольку лишь смещают рыночную власть к поставщикам, располагающим наибольшими вычислительными ресурсами.
- Бывший советник правительства Дэвид Сакс возражает, что Anthropic намеренно нанимает бывших чиновников, чтобы формировать законы в своих интересах. Агентство, выдающее разрешения на модели ИИ, создания которого добивался Амодеи, также ослабит США по отношению к Китаю.
.На X разгорелась открытая борьба вокруг регулирования ИИ и концентрации власти. Инвестор Гэвин Бейкер, бывший советник Белого дома Дэвид Сакс и исследователь Meta Янн ЛеКун обвиняют генерального директора Anthropic Дарио Амодеи в использовании риторики страха, чтобы добиться для себя регуляторного преимущества.
Всё началось с заявления в подкасте All-In. Инвестор Гэвин Бейкер заявил, что генеральный директор Anthropic Дарио Амодеи говорил сотрудникам внутри компании, что однажды она может стать единственной частной фирмой в мире, рядом с которой не останется ничего, кроме правительств. Исследователь Anthropic Шолто Дуглас назвал это утверждение «полностью ложным». По его словам, именно экономическая концентрация власти больше всего тревожит Anthropic. Рынок ИИ уже является самым конкурентным в мире, утверждал он, поскольку каждая крупная компания стремится создать более умные и дешёвые модели.
Затем Бейкер сформулировал суть спора: если ИИ потенциально опасен, существуют две основные позиции. Можно считать его слишком опасным для широкого распространения и сосредоточить его в руках нескольких компаний и политиков, либо считать его слишком опасным для концентрации и распространять его настолько широко, насколько это возможно. По мнению Бейкера, ставка на то, что некая абсолютная власть доброжелательно позаботится о человечестве, на протяжении истории редко заканчивалась хорошо.
Бывший главный исследователь Meta Янн ЛеКун также решительно встал на сторону открытого ИИ. Подобно печатному станку и интернету, говорил он, ИИ усиливает человеческий интеллект, расширяя доступ к знаниям. Обществам необходимо широкое разнообразие систем ИИ с разными ценностями — по той же причине, по которой им нужна разнообразная пресса. В конечном счёте то, что для одного человека является хорошим ИИ, для другого может быть плохим ИИ.
Что Амодеи отвечает своим критикам
В итоге в эту длинную дискуссию вступил сам Амодеи. В своём всего четвёртом посте на X за год Амодеи назвал такую постановку вопроса ложным выбором. По его словам, в некоторых кругах Кремниевой долины принято считать, что регулирование автоматически означает захват регулятора, то есть отрасль сама пишет правила в собственных интересах. Это слишком упрощённый взгляд. Регулирование также может ограничивать корпоративную власть и помогать обычным гражданам, утверждал он, если эффективные институты опирают власть на идеи, а не на отдельных людей.
Именно поэтому Anthropic намеренно разрабатывает свои предложения так, чтобы замедлить ведущие лаборатории и отдать предпочтение небольшим компаниям, заявил он. В качестве доказательства Амодеи указал на калифорнийский закон SB53, который полностью освобождает от его требований компании, не достигающие установленного порога выручки или затрат на обучение моделей. По его словам, открытые модели, веса которых доступны бесплатно, лишь частично решают проблему. Они просто смещают концентрацию власти к тем, у кого больше всего вычислительных ресурсов и ИИ-чипов, возвращая её крупным лабораториям. ИИ централизуется уже в силу самой своей структуры, утверждал он, главным образом из-за законов масштабирования, а не из-за регулирования.
Инвестор Дэвид Сакс, до недавнего времени советник Белого дома по вопросам ИИ, ответил на заявление Амодеи в публикации из девяти частей. По его словам, примечательно то, что Амодеи фактически не оспаривает сообщение Бейкера, хотя мог бы с лёгкостью это сделать. Аргумент Амодеи о регуляторном пузыре является соломенным чучелом, утверждал Сакс, поскольку почти никто на самом деле не считает, что любое регулирование означает захват регулятора. Он сослался на определение нобелевского лауреата Джорджа Стиглера, согласно которому отрасль получает контроль над правилами и использует их главным образом в собственных интересах, тогда как выгода для общества в целом остаётся разрозненной и неорганизованной.
Anthropic прекрасно понимает этот механизм, заявил Сакс, и наняла нескольких бывших чиновников в сфере ИИ из администрации Байдена, одновременно создавая крупный государственный аппарат. Он высмеял предложение Амодеи создать федеральное агентство для проверки ведущих моделей перед выпуском, назвав его ведомством по выдаче разрешений на ИИ. По словам Сакса, подобный процесс проверки создаст длинные очереди ожидания и замедлит США в соперничестве с Китаем, который не станет вводить такие требования.
Бейкер же считает, что спор уже завершён: почти все крупные компании, кроме Anthropic, подписали письмо Дженсена Хуанга в поддержку открытых моделей.
Новости ИИ без шумихи — отобраны людьми
Подпишитесь на THE DECODER, чтобы читать материалы без рекламы, получать еженедельную рассылку об ИИ, эксклюзивный шесть раз в год выходящий отчёт о передовых разработках «AI Radar», полный доступ к архиву и разделу комментариев.
Переведено автоматически с английского. Оригинал статьи — по ссылке ниже.