Bias-Varianz / Overfitting
Über diese App
Viele Trainingssätze aus derselben Welt als Modellschar: mittleres Modell gegen die Wahrheit (Bias), Streuung der Modelle (Varianz) und die exakte Zerlegung Testfehler = Bias² + Varianz + Rauschen über Polynomgrad oder Ridge-λ.
Worum es geht
Der erwartete Testfehler eines Modells lässt sich exakt zerlegen: Testfehler = Bias² + Varianz + Rauschen σ². Der Bias ist der systematische Abstand des mittleren Modells zur wahren Funktion, die Varianz die Streuung der Modelle, wenn man sie auf verschiedenen Trainingssätzen aus derselben Welt anpasst. Das Rauschen ist ein Boden, den kein Modell unterschreitet. Ein zu einfaches Modell hat großen Bias (Underfitting), ein zu flexibles große Varianz (Overfitting). Der Trainingsfehler sinkt mit wachsender Komplexität immer weiter, weil er die Varianz nicht sieht.
Was die App zeigt
Oben werden aus derselben Welt, einer wahren Funktion plus Rauschen, immer neue Trainingssätze gezogen, und auf jeden wird ein Polynom vom Grad d angepasst. Jede dünne Linie ist ein Modell, die dicke Linie ihr Mittel, ein Band ihre Streuung. An einer verschiebbaren Messstelle x₀ stehen alle Vorhersagen übereinander. Unten zerlegt eine Karte den Testfehler in Bias², Varianz und Rauschen über dem Polynomgrad oder über der Ridge-Regularisierung λ. Die Summe wird mit frischen Testdaten nachgemessen, und eine 5-fache Kreuzvalidierung schätzt den Fehler aus einem einzelnen Datensatz.
Selbst ausprobieren
Erhöhe den Polynomgrad d schrittweise: Erst rückt das mittlere Modell an die wahre Kurve heran, dann beginnen die Einzelmodelle wild zu schwanken. Suche das Minimum der U-förmigen Testfehlerkurve. Stelle einen hohen Grad ein und erhöhe Ridge-λ; die Varianz sinkt, der Bias steigt, und das Modell wird wieder brauchbar. Verändere Rauschen, Punkte je Trainingssatz und Zahl der Trainingssätze. Blende deinen eigenen Datensatz ein, um zu sehen, dass ein einzelner Satz die Varianz nicht zeigt.
Häufige Fragen
- Was ist das Bias-Varianz-Dilemma?
- Das Bias-Varianz-Dilemma beschreibt den Zielkonflikt zwischen einfachen und flexiblen Modellen. Einfache Modelle verfehlen die wahre Struktur systematisch (hoher Bias), flexible reagieren stark auf zufällige Schwankungen der Trainingsdaten (hohe Varianz). Der geringste Testfehler liegt bei einem Kompromiss dazwischen.
- Was ist Overfitting?
- Overfitting liegt vor, wenn ein Modell die Trainingsdaten samt Rauschen sehr genau nachbildet, auf neuen Daten aber schlecht abschneidet. Der Trainingsfehler ist dann klein, der Testfehler groß. Gegenmittel sind einfachere Modelle, mehr Daten, Regularisierung wie Ridge und die Modellwahl per Kreuzvalidierung.
- Wie hilft Ridge-Regularisierung gegen Overfitting?
- Ridge-Regression bestraft große Koeffizienten mit einem Zusatzterm λ·Σβⱼ². Dadurch werden die Modelle glatter und schwanken weniger zwischen Datensätzen; die Varianz sinkt, der Bias steigt etwas. Mit passend gewähltem λ wird auch ein Modell mit vielen Parametern wieder brauchbar.
- Was kann ich in der Bias-Varianz-App einstellen?
- Du stellst Polynomgrad d, Ridge-λ, Rauschen σ, Punkte je Trainingssatz und Zahl der Trainingssätze ein und wählst, ob die Fehlerkurve über d oder λ läuft. Dazu ziehst du neue Trainingssätze, blendest deinen eigenen Datensatz ein und vergleichst mit einer 5-fachen Kreuzvalidierung.
Fach: Statistik
Mehr aus Statistik
- Anscombe-Quartett
- Boxplot-Werkstatt
- Geometrisches Mittel
- Gesetz der großen Zahlen
- Histogramm-Werkstatt
- Hypothesentest & p-Wert
- Konfidenzintervall
- Korrelation: warum normieren?
Eine VisuApp von heyprof: interaktiv, kostenlos im Browser, ohne Anmeldung. Was ist eine VisuApp? · Alle Apps