Президентка ЄС попереджає: ШІ-агенти, які «вириваються зі свого середовища», — лише передвісник того, що нас чекає

Урсула фон дер Ляєн хоче запропонувати провідним американським лабораторіям ШІ європейську експертизу з уповільнення розвитку ШІ. У своїй промові про стан Європейського Союзу у 2026 році президентка Єврокомісії назвала ШІ основою економіки та національної безпеки, але зазначила, що його ризики необхідно стримувати.

Фон дер Ляєн звернулася до обох наративів, які нині формують ринок. Посилаючись на інцидент із Hugging Face, вона попередила, що «моделі, які розробляються, дозволять здійснювати злам на рівні, який ми ніколи не вважали можливим». Агенти ШІ, які «втікають зі свого середовища», — лише передвісники майбутнього, а небезпека моделей, що самовдосконалюються, «стає дедалі очевиднішою». «Якщо люди, які розробляють цю технологію, чітко це усвідомлюють, то й ми повинні це усвідомлювати», — сказала вона.

Фон дер Ляєн планує співпрацювати з Канадою, Великою Британією та іншими партнерами над оцінюванням і перевіркою моделей, а також безпекою ШІ, і запросить провідні лабораторії, що розробляють передові моделі, на переговори. За її словами, Закон про ШІ — це «критично важливий елемент для встановлення запобіжників». Наразі ЄС, як повідомляється, навіть не має надійного доступу до найсучасніших моделей кібербезпеки від провідних лабораторій ШІ.

Новини про ШІ без хайпу — відібрані людьми

Підпишіться на THE DECODER, щоб читати без реклами, отримувати щотижневу розсилку про ШІ, наш ексклюзивний звіт про передові технології «AI Radar» шість разів на рік, повний доступ до архіву та доступ до розділу коментарів.