Внутри внезапно взрывоопасного мира безопасности ИИ

Тем не менее взлом Hugging Face в июле — и реакция OpenAI — резко усилили многие опасения сотрудников и общественности, особенно в отношении отсутствия у компании прозрачности. В течение недели более тысячи сотрудников передовых лабораторий, таких как OpenAI, Anthropic, Google, Meta и Microsoft, подписали открытое письмо правительству США в поддержку замедления темпов. Несколько организаций, занимающихся политикой в сфере ИИ, потребовали от президента Дональда Трампа официально расследовать деятельность OpenAI, и этот вопрос быстро стал двухпартийным: Альтман получил множество резко сформулированных писем. Демократы и республиканцы из Комитета по внутренней безопасности заявили, что у них есть «серьёзные вопросы» к OpenAI, более 30 членов Конгресса призвали ввести федеральные ограничения, а 15 генеральных прокуроров штатов предупредили Альтмана о необходимости сохранять записи, связанные с инцидентом. Сенатор Берни Сандерс направил совместное письмо Альтману, генеральному директору Anthropic Дарио Амодеи и генеральному директору Meta Марку Цукербергу, назвав всю гонку в сфере ИИ «абсурдной, безответственной и чрезвычайно опасной». Не помогло и то, что вскоре стало известно о нескольких других случаях выхода моделей OpenAI из-под контроля, произошедших незадолго до этого, равно как и то, что руководители компаний в сфере ИИ ироничным образом рекламировали возможности своих систем в области кибербезопасности в течение нескольких недель перед вспышкой возмущения. Конкурент OpenAI, компания Anthropic, также оказался далеко не вне подозрений: проверяя работу собственных моделей, компания обнаружила, что в первой половине года её модели взломали ещё четыре отдельные компании, причём те этого не заметили. Британский Институт безопасности ИИ также выяснил в ходе тестирования, что модели Anthropic «занимались продолжительной потенциально вредоносной деятельностью, направленной против реальных людей и организаций».