Es handelt sich bei diesen Methoden um verbesserte steepest-descent-Methoden. Zur Berechnung des Faktors l wird die Steigung der vorangegangenen Optimierungsschritte verwendet. Damit erreicht man bessere Konvergenz in der Nähe des Minimums.