Gradientenabstieg

Den Hang hinunterrollen, um das Minimum zu finden — der Motor des maschinellen Lernens

Der Gradientenabstieg findet das Minimum einer Funktion, indem er wiederholt Schritte in Richtung des steilsten Abstiegs macht. Der Gradient (Ableitung) zeigt, welche Richtung "bergab" ist, und die Lernrate steuert die Schrittgröße.

Der Graph zeigt f(x) = x⁴ − 3x² + 2, das zwei Täler (lokale Minima) hat. Ausgehend von einem Punkt folgt der Algorithmus der Steigung bergab, Schritt für Schritt, bis er ein Tal erreicht. Genau so lernen neuronale Netze — sie "rollen bergab" auf einer Verlustlandschaft.

Frage die KI „Starte bei x = 2 und steige ab" oder „Was passiert mit einer großen Lernrate?"

Was ist der Gradientenabstieg?
Ein Optimierungsalgorithmus, der Funktionsminima durch Iteration findet: x_{n+1} = x_n − α · f'(x_n), wobei α die Lernrate ist. In jedem Schritt bewegt man sich entgegen dem Gradienten (bergab).
Was ist die Lernrate?
Die Lernrate α steuert die Schrittgröße. Zu klein: langsame Konvergenz, viele Schritte nötig. Zu groß: man überschreitet das Minimum und kann divergieren. Die richtige Lernrate zu finden ist eine zentrale Herausforderung im maschinellen Lernen.
Was ist der Unterschied zwischen lokalem und globalem Minimum?
Ein lokales Minimum ist ein Tal, das tiefer als seine unmittelbare Umgebung ist, aber möglicherweise nicht der absolute Tiefpunkt. Das globale Minimum ist der insgesamt tiefste Punkt. Der Gradientenabstieg kann in lokalen Minima stecken bleiben — er sieht nur die lokale Steigung.
Wie wird das im maschinellen Lernen verwendet?
Neuronale Netze haben eine „Verlustfunktion", die den Vorhersagefehler misst. Der Gradientenabstieg passt die Parameter des Modells an, um diesen Verlust zu minimieren — im wahrsten Sinne bergab auf einer hochdimensionalen Landschaft rollend. Jedes KI-Modell, das Sie nutzen, wurde so trainiert.
What can it graph?
It can plot explicit, implicit, and parametric functions, add points and geometry, and animate sliders on the same graph.
Can I use voice or a photo?
Yes. You can talk to the tutor, upload a worksheet or handwritten problem, and let the graph update from that input.
Will it explain the steps?
Yes. The AI explains what it is drawing and why, so you see the answer on the graph instead of getting only a final number.