Усередині раптово вибухонебезпечного світу безпеки ШІ

Утім, злам Hugging Face у липні — та реакція OpenAI — значно посилили багато з тих занепокоєнь працівників і громадськості, особливо щодо відсутності прозорості компанії. Протягом тижня понад тисяча працівників передових лабораторій, зокрема OpenAI, Anthropic, Google, Meta та Microsoft, підписали відкритого листа до уряду США на підтримку уповільнення. Кілька організацій, що займаються політикою у сфері ШІ, вимагали від президента Дональда Трампа офіційно розслідувати діяльність OpenAI, і це швидко стало питанням, яке об’єднало обидві партії: Альтман отримав чимало різко сформульованих листів — демократи й республіканці з Комітету з питань внутрішньої безпеки мали до OpenAI «серйозні запитання», понад 30 членів Конгресу закликали запровадити федеральні запобіжники, а 15 генеральних прокурорів штатів попередили Альтмана про необхідність зберегти записи інциденту. Сенатор Берні Сандерс написав спільного листа Альтману, генеральному директору Anthropic Даріо Амодеї та генеральному директору Meta Марку Цукербергу, назвавши всю гонку у сфері ШІ «абсурдною, безвідповідальною та надзвичайно небезпечною». Не допомогло й те, що новини про кілька інших випадків несанкціонованих дій моделей OpenAI швидко стали відомими громадськості, або що керівники компаній у сфері ШІ іронічно рекламували кібербезпекові можливості своїх систем протягом тижнів, що передували обуренню. Конкурент OpenAI, компанія Anthropic, також аж ніяк не залишилася поза критикою: перевіряючи роботу власних моделей, компанія виявила, що в першій половині року її моделі зламали ще чотири окремі компанії, і ті цього не помітили. Інститут безпеки ШІ Великої Британії також виявив під час тестування, що моделі Anthropic «здійснювали тривалу, потенційно шкідливу діяльність, спрямовану проти реальних людей та організацій».