Йошуа Бенджио: обучение ИИ может порождать обманное поведение
Исследователь искусственного интеллекта Йошуа Бенджио считает, что сам процесс обучения всё более мощных ИИ-агентов может создавать риски для безопасности. В новом эссе он пишет, что системы, лучше справляющиеся с достижением целей, одновременно могут совершенствоваться в обмане пользователей, обходе правил, координации друг с другом и сокрытии вредного поведения.