Decision Tree (Entscheidungsbaum)
Über diese App
Achsenparallele Splits nach Informationsgewinn: ΔI für jede Kandidaten-Schwelle, Baumdiagramm mit der Ebene verknüpft, Tiefe, Mindestblattgröße und Pruning, Trainings- gegen Testgenauigkeit über die Tiefe.
Wie ein Entscheidungsbaum lernt
Ein Entscheidungsbaum zerlegt den Merkmalsraum mit achsenparallelen Schnitten wie x₁ ≤ θ in Rechtecke und sagt in jedem Blatt die Mehrheitsklasse voraus. Der CART-Algorithmus prüft an jedem Knoten alle Schwellen beider Merkmale und wählt die mit dem größten Informationsgewinn ΔI = I(Eltern) − N_l/N · I(links) − N_r/N · I(rechts). Als Impuritätsmaß I dienen Gini oder Entropie. Die Gewichtung mit N_l/N verhindert, dass winzige reine Blätter gewinnen. Ohne Begrenzung wächst der Baum, bis jedes Blatt rein ist, und passt sich dabei auch an Rauschen an.
Was die App zeigt
Links der Merkmalsraum mit den Rechtecken des Baums, rechts derselbe Baum als Regelwerk; beide sind verknüpft. Fährst du über einen Knoten, leuchtet sein Rechteck auf, fährst du über einen Punkt, zeigt der Baum seinen Entscheidungsweg. Streifen am Rand zeigen für den gewählten Knoten ΔI jeder Kandidatenschwelle. Ein Split-Panel rechnet den Gewinn vor, eine Kurve zeigt Trainings- und Testgenauigkeit über die Tiefe.
Selbst ausprobieren
Lade „Kreis“, „Diagonale“ oder „XOR“ und lass den Baum wachsen. Erhöhe das Rauschen mit falsch beschrifteten Punkten und die maximale Tiefe: Die Trainingsgenauigkeit steigt bis 100 %, die Testgenauigkeit sinkt wieder. Begrenze dann mit Mindestgröße je Blatt oder Pruning α. Achte bei „Diagonale“ darauf, wie viele Stufen achsenparallele Schnitte für eine schräge Grenze brauchen.
Häufige Fragen
- Wie wählt ein Entscheidungsbaum seine Splits?
- An jedem Knoten werden alle möglichen Schwellen aller Merkmale geprüft. Gewählt wird der Schnitt, der die gewichtete Impurität der beiden Kindknoten am stärksten senkt, also den größten Informationsgewinn liefert. Das wiederholt sich rekursiv, bis ein Abbruchkriterium greift.
- Was ist der Unterschied zwischen Gini-Index und Entropie?
- Beide messen, wie gemischt die Klassen in einem Knoten sind, und sind bei reinen Knoten null. Für zwei Klassen mit Anteil p ist der Gini-Index 2p(1−p) und die Entropie −p·log₂p − (1−p)·log₂(1−p). In der Praxis führen beide meist zu ähnlichen Bäumen.
- Was ist Pruning bei Entscheidungsbäumen?
- Pruning schneidet Äste ab, die kaum zur Genauigkeit beitragen, um Überanpassung zu verringern. Beim Kosten-Komplexitäts-Pruning bleibt ein Ast nur, wenn jedes zusätzliche Blatt mindestens den Fehleranteil α einspart. Größeres α ergibt kleinere, robustere Bäume.
- Was kann ich in der App ausprobieren?
- Du wählst Gini oder Entropie, begrenzt Tiefe, Blattgröße und Pruning α, setzt eigene Punkte und fügst falsch beschriftete Punkte hinzu. Die App verknüpft Baumdiagramm und Merkmalsraum, zeigt ΔI für jede Kandidatenschwelle und vergleicht Trainings- und Testgenauigkeit über die Tiefe.
Fach: Machine Learning
Mehr aus Machine Learning
- AdaBoost
- Anatomie eines Prompts
- Datenschutz-Ampel
- Ensemble: Bagging vs. Boosting
- Gesichter finden: Masken gegen Lernen aus Beispielen
- k-Means
- k-Nächste-Nachbarn (kNN)
- KI-Theater
Eine VisuApp von heyprof: interaktiv, kostenlos im Browser, ohne Anmeldung. Was ist eine VisuApp? · Alle Apps