Президент ЕС предупреждает: ИИ-агенты, «вырывающиеся из своей среды», — лишь предвестник того, что нас ждёт

Урсула фон дер Ляйен хочет предложить крупным американским лабораториям ИИ европейский опыт в замедлении развития ИИ. В своей речи о положении дел в Европейском союзе в 2026 году председатель Еврокомиссии назвала ИИ основой экономики и национальной безопасности, но заявила, что его риски необходимо держать под контролем.

Фон дер Ляйен обратилась сразу к двум нарративам, которые сейчас формируют рынок. Ссылаясь на инцидент с Hugging Face, она предупредила, что «разрабатываемые модели позволят осуществлять взломы на уровне, который мы никогда не считали возможным». ИИ-агенты, «вырвавшиеся из своей среды», — лишь предвестники грядущего, а опасности самообучающихся моделей «становятся всё более очевидными». «Если люди, разрабатывающие эту технологию, ясно это осознают, то и мы должны это осознавать», — сказала она.

Фон дер Ляйен планирует сотрудничать с Канадой, Великобританией и другими партнёрами в области оценки и верификации моделей, а также безопасности ИИ, и пригласит ведущие лаборатории, занимающиеся передовыми разработками, на переговоры. По её словам, Закон об ИИ — «важнейший элемент создания защитных механизмов». Пока что, как сообщается, ЕС даже не имеет надёжного доступа к самым передовым моделям кибербезопасности крупных лабораторий ИИ.

Новости ИИ без шумихи — отобраны людьми

Подпишитесь на THE DECODER, чтобы читать без рекламы, получать еженедельную рассылку об ИИ и наш эксклюзивный отчёт о передовых разработках «AI Radar» шесть раз в год, иметь полный доступ к архиву и разделу комментариев.