Президентката на ЕС предупреждава: AI агентите, които „избягват от средата си“, са само предвестник на това, което предстои

Урсула фон дер Лайен иска да предложи на големите американски AI лаборатории европейски експертен опит за забавяне на развитието на AI. В речта си за състоянието на Съюза през 2026 г. председателката на Комисията определи AI като основа на икономиката и националната сигурност, но заяви, че рисковете му трябва да бъдат държани под контрол.

Фон дер Лайен се възползва и от двата наратива, които оформят пазара в момента. Посочвайки инцидента с Hugging Face, тя предупреди, че „разработваните модели ще позволят хакерски атаки на ниво, което никога не сме смятали за възможно“. AI агентите, „избягващи от средата си“, са само предвестник, а опасностите от самоусъвършенстващите се модели „стават все по-очевидни“. „Ако хората, които разработват технологията, са наясно с това, тогава и ние трябва да сме“, каза тя.

Фон дер Лайен планира да работи с Канада, Обединеното кралство и други партньори по оценяването и проверката на моделите, както и по безопасността на AI, и ще покани водещите лаборатории за фундаментални модели на разговори. Според нея Законът за AI е „ключов елемент за въвеждането на предпазни мерки“. Засега по данни на медиите ЕС дори няма надежден достъп до най-напредналите модели за киберсигурност на големите AI лаборатории.

Новини за AI без сензацията – подбрани от хора

Абонирайте се за THE DECODER за четене без реклами, седмичен бюлетин за AI, нашия ексклузивен шест пъти годишно доклад за водещите разработки „AI Radar“, пълен достъп до архива и достъп до секцията за коментари.