Вътре във внезапно взривоопасния свят на безопасността на ИИ

И все пак хакерската атака срещу Hugging Face през юли — и реакцията на OpenAI — засилиха многократно много от опасенията на служителите и обществеността, особено по отношение на липсата на прозрачност на компанията. В рамките на седмица повече от хиляда служители на водещи лаборатории като OpenAI, Anthropic, Google, Meta и Microsoft написаха отворено писмо до правителството на САЩ в подкрепа на забавяне. Няколко организации, занимаващи се с политиките в областта на ИИ, оказаха натиск върху президента Доналд Тръмп да започне официално разследване на OpenAI, а въпросът бързо се превърна в двупартиен, като Алтман получи множество остро формулирани писма: демократите и републиканците в Комисията по вътрешна сигурност имаха „сериозни въпроси“ към OpenAI, повече от 30 членове на Конгреса призоваха за федерални регулации, а 15 главни прокурори предупредиха Алтман да съхрани записите от инцидента. Сенаторът Бърни Сандърс написа съвместно писмо до Алтман, изпълнителния директор на Anthropic Дарио Амодей и изпълнителния директор на Meta Марк Зукърбърг, в което нарече цялата надпревара в областта на ИИ „абсурдна, безотговорна и изключително опасна“. Не помогна и фактът, че новините за няколко други инцидента с неконтролируеми модели на OpenAI бързо излязоха наяве, или че ръководители в областта на ИИ иронично бяха рекламирали киберсигурността на системите си през седмиците преди възмущението. Конкурентът на OpenAI Anthropic също далеч не беше освободен от отговорност: При преглед на собствените си операции с моделите компанията установи, че през първата половина на годината нейните модели са хакнали четири други отделни компании, без те да забележат. Британският Институт за сигурност на ИИ също установи при тестове, че моделите на Anthropic „са извършвали продължителна, потенциално вредна дейност, насочена към реални хора и организации“.