Zum Inhalt
Alle Apps

Naïve-Bayes-Klassifikator

Über diese App

Prior mal Likelihoods je Merkmal: Posterior-Feld mit Randdichten, achsenparallele Ellipsen und quadratische Grenze; korrelierte Daten zeigen, was die Unabhängigkeitsannahme übersieht; dazu ein Spam-Modus mit Log-Odds.

Die naive Annahme

Naive Bayes wendet den Satz von Bayes an: P(c | x) ∝ P(c) · ∏ p(xᵢ | c). Je Klasse wird der Prior P(c) mit den Likelihoods der einzelnen Merkmale multipliziert, das größere Produkt gewinnt. „Naiv“ ist die Annahme, dass die Merkmale innerhalb einer Klasse unabhängig sind. Dann zerfällt die Likelihood in ein Produkt von Randverteilungen, was das Modell einfach und schnell macht. Bei Gauß-Verteilungen ergibt das achsenparallele Ellipsen und meist eine quadratisch gekrümmte Grenze. Sind die Merkmale korreliert, übersieht das Modell diese Struktur.

Was die App zeigt

Im Modus „Messwerte“ färbt ein Feld den Posterior P(A | x), an den Achsen stehen die Randdichten beider Klassen. Eine Tabelle rechnet für den Abfragepunkt Prior, beide Likelihoods und ihr Produkt vor. Auf Wunsch vergleicht die App mit einem Modell mit voller Kovarianz und schraffiert, wo beide verschieden entscheiden. Im Modus „Text (Spam)“ entscheidet ein Spamfilter über eine Nachricht aus Wörtern; Balken zeigen die log-Odds jedes Worts.

Selbst ausprobieren

Ziehe den Abfragepunkt durch die Fläche und verschiebe den Prior P(A): Die Grenze wandert. Lade „Korreliert“ und schalte den Vergleich mit voller Kovarianz ein; achte auf die schraffierten Bereiche. Im Spam-Modus legst du Wörter in die Nachricht. Wähle „Unbekanntes Wort“: Ohne Laplace-Glättung wird ein Produkt 0, mit Glättung (+1) bleibt die Entscheidung möglich.

Häufige Fragen

Wie funktioniert ein Naive-Bayes-Klassifikator?
Naive Bayes berechnet für jede Klasse das Produkt aus Prior und den Likelihoods der einzelnen Merkmale und wählt die Klasse mit dem größten Produkt. Grundlage ist der Satz von Bayes. Die Vereinfachung besteht darin, die Merkmale innerhalb einer Klasse als unabhängig anzunehmen.
Warum heißt Naive Bayes „naiv“?
Das Verfahren nimmt an, dass alle Merkmale bei gegebener Klasse unabhängig voneinander sind. In echten Daten stimmt das selten, etwa wenn zwei Messgrößen stark korrelieren. Trotzdem klassifiziert Naive Bayes oft brauchbar, weil für die Entscheidung nur zählt, welche Klasse vorne liegt.
Was ist Laplace-Glättung beim Spamfilter?
Kommt ein Wort im Training einer Klasse nie vor, wäre seine Wahrscheinlichkeit 0 und würde das ganze Produkt auf 0 setzen. Die Laplace-Glättung zählt jedes Wort einmal zusätzlich: P(w|c) = (n_w,c + 1) / (N_c + |V|). So bekommt jedes Wort eine kleine positive Wahrscheinlichkeit.
Was kann ich in der App ausprobieren?
Im Modus „Messwerte“ ziehst du einen Abfragepunkt, wählst Datensätze wie „Überlappend“ oder „Korreliert“, stellst den Prior ein und vergleichst mit voller Kovarianz. Im Modus „Text (Spam)“ stellst du eine Nachricht aus Wörtern zusammen, siehst die log-Odds je Wort und schaltest die Laplace-Glättung ein und aus.

Fach: Machine Learning

Mehr aus Machine Learning

Eine VisuApp von heyprof: interaktiv, kostenlos im Browser, ohne Anmeldung. Was ist eine VisuApp? · Alle Apps