PC-ALM наближає пошарове навчання до backpropagation
Дослідники Sakana AI Jeffrey Seely та Julian Gould представили Augmented Lagrangian Predictive Coding, або PC-ALM, метод навчання, розроблений як пошарова альтернатива backpropagation. Він додає множник Лагранжа до обмеження кожного шару, зберігаючи локальні оновлення predictive coding. За даними дослідників, у лінійних мережах ці множники за умови стабільності збігаються з точними спрямованими сигналами backpropagation.