Zum Inhalt
Alle Apps

Curve-Fitting-Playground

Über diese App

Ein Modell ist eine Form mit Stellschrauben: Polynome vom Grad 0 bis 12 per Kleinste Quadrate, Residuen als Quadrate (Fläche = Verlust), Hold-out-Fehler über den Grad und Parameter, die beim Überanpassen explodieren.

Modelle mit Stellschrauben

Ein Regressionsmodell ist eine Form mit Parametern: Eine Gerade hat zwei, ein Polynom vom Grad d hat d + 1. Die Methode der kleinsten Quadrate wählt die Parameter so, dass die Summe der quadrierten Abstände zwischen Datenpunkten und Kurve minimal wird. Mit höherem Grad sinkt dieser Trainingsfehler immer weiter. Ob das Modell gut ist, zeigt erst der Fehler auf Daten, die nicht in die Anpassung eingeflossen sind. Ist die Form zu einfach, spricht man von Underfitting; ist sie zu flexibel und lernt das Rauschen mit, von Overfitting.

Was die App zeigt

Drei Karten arbeiten zusammen. Die Datenkarte zeigt Trainingspunkte, zurückgehaltene Punkte, die angepasste Kurve, auf Wunsch die wahre Funktion und die Fehler als echte Quadrate. Die Fehlerkarte trägt den RMSE auf Training und zurückgehaltenen Punkten über dem Grad auf und markiert den besten Grad. Die Parameterkarte zeigt die Koeffizienten logarithmisch; beim Überanpassen werden sie sehr groß. Zur Wahl stehen Gerade, Parabel und Polynom bis Grad 12, dazu eine Ridge-Glättung λ und drei Rauschstufen.

Selbst ausprobieren

Erhöhe den Grad schrittweise und beobachte beide Fehlerkurven: Der Trainingsfehler fällt stetig, der Fehler auf den zurückgehaltenen Punkten fällt erst und steigt dann wieder. Bei hohem Grad schlägt die Kurve zwischen den Punkten aus. Schiebe dann die Glättung λ nach oben und sieh, wie die Ausschläge und die Koeffizienten kleiner werden. Du kannst Trainingspunkte per Klick setzen, ziehen und per Doppelklick löschen oder eine neue Stichprobe ziehen.

Häufige Fragen

Was ist Overfitting?
Overfitting bedeutet, dass ein Modell die Trainingsdaten sehr genau trifft, auf neuen Daten aber schlecht abschneidet. Es hat neben dem eigentlichen Muster auch das zufällige Rauschen gelernt. Typisch ist ein kleiner Trainingsfehler bei großem Fehler auf zurückgehaltenen Daten.
Was ist der Unterschied zwischen Underfitting und Overfitting?
Beim Underfitting ist das Modell zu einfach, um das Muster abzubilden; Trainings- und Testfehler sind beide hoch. Beim Overfitting ist es zu flexibel und passt sich dem Rauschen an; der Trainingsfehler ist klein, der Testfehler groß. Ein guter Modellgrad liegt dazwischen, dort wo der Testfehler am kleinsten ist.
Wie hilft Ridge-Regression gegen Overfitting?
Ridge-Regression ergänzt die Summe der Fehlerquadrate um einen Strafterm λ · Σaⱼ², der große Koeffizienten verteuert. Dadurch werden die Parameter kleiner und die Kurve glatter. Mit λ = 0 erhält man die gewöhnliche Kleinste-Quadrate-Lösung.
Was kann ich in dieser App ausprobieren?
Du wählst Gerade, Parabel oder ein Polynom bis Grad 12, stellst Rauschen und Ridge-Glättung ein und setzt oder verschiebst Datenpunkte. Die App zeigt Fehlerquadrate, RMSE und R² auf den Trainingsdaten sowie den Fehler auf zurückgehaltenen Punkten. Ein Klick in die Fehlerkarte wählt direkt einen Grad.

Fach: Wahrscheinlichkeit & Stochastik

Mehr aus Wahrscheinlichkeit & Stochastik

Eine VisuApp von heyprof: interaktiv, kostenlos im Browser, ohne Anmeldung. Was ist eine VisuApp? · Alle Apps