Neuronales Netz — 3D-Labor
Über diese App
Trainingslabor für neuronale Netze in 3D: Neuronen als Kacheln mit ihrer Ausgabe, Kanten nach Gewicht, Spirale, XOR, Monde, Schichten, Aktivierungen und Regularisierung live; dazu ein Ziffern-Modus.
Wie ein Netz Klassen trennt
Ein Neuron der ersten Schicht zieht in der Eingabeebene nur eine gerade Grenze. Jede weitere Schicht setzt diese einfachen Grenzen zu gekrümmten zusammen, so entstehen Kreise, Bögen oder Spiralen. Ohne Nichtlinearität bleibt das ganze Netz eine einzige Gerade, egal wie tief. Gelernt wird per Gradientenabstieg: Backpropagation berechnet, wie jedes Gewicht den Fehler (Kreuzentropie) beeinflusst, und alle Gewichte rücken ein Stück in die günstigere Richtung. Regularisierung mit L1 oder L2 bestraft große Gewichte und wirkt gegen Überanpassung.
Was die App zeigt
Jedes Neuron ist eine Kachel in einer 3D-Szene. Ihr Bild zeigt, was das Neuron an jeder Stelle der Eingabeebene ausgibt; die Linien zwischen den Kacheln sind Gewichte, Dicke zeigt den Betrag, Farbe das Vorzeichen. Rechts liegt die Entscheidungsfläche des ganzen Netzes, auf Wunsch als 3D-Höhenfeld. Eine Kurve zeigt Training- und Test-Loss über die Epochen, ein Panel die Gewichtsmatrizen W und Biases b. Im Ziffern-Modus liest das Netz die 15 Pixel eines 3 × 5-Rasters.
Selbst ausprobieren
Probiere die Spirale mit einer verborgenen Schicht, die scheitert, und dann mit drei Schichten, die gelingen. Wähle bis zu vier Schichten, die Neuronenzahl je Schicht und als Aktivierung ReLU, Tanh, Sigmoid oder Linear. Füge Eingabe-Merkmale wie x₁², x₁x₂ oder sin x₁ hinzu: Mit den richtigen Merkmalen trennt schon ein kleines Netz den Kreis. Mit Rauschen bis 50 % und einem großen Netz siehst du am Test-Loss, wie Überanpassung entsteht.
Häufige Fragen
- Warum braucht ein neuronales Netz mehrere Schichten?
- Ein einzelnes Neuron kann nur eine gerade Grenze ziehen. Erst wenn mehrere Schichten mit nichtlinearer Aktivierung hintereinander liegen, lassen sich gekrümmte Grenzen wie bei einer Spirale darstellen. Jede Schicht kombiniert die einfachen Grenzen der vorherigen zu komplexeren Formen.
- Was ist Backpropagation?
- Backpropagation ist ein Verfahren, das für jedes Gewicht berechnet, wie stark es den Fehler des Netzes beeinflusst. Dazu wird der Fehler mit der Kettenregel Schicht für Schicht von der Ausgabe zur Eingabe zurückgerechnet. Der Gradientenabstieg verändert die Gewichte dann ein Stück in die Richtung, die den Fehler verkleinert.
- Was ist ein „totes“ ReLU-Neuron?
- Ein ReLU-Neuron gibt max(0, z) aus. Liegt seine gewichtete Summe z für alle Eingaben unter 0, gibt es überall 0 aus und erhält auch keinen Gradienten mehr. Es trägt dann nichts zum Ergebnis bei und lernt nicht weiter.
- Was kann ich in dieser App ausprobieren?
- Du wählst Datensatz, Rauschen, Eingabe-Merkmale, Schichten, Neuronenzahl, Aktivierung, Lernrate und Regularisierung und siehst das Netz live lernen. Jedes Neuron lässt sich anklicken, im Ziffern-Modus zeichnest du selbst auf einem 3 × 5-Raster.
Fach: Neuronale Netze
Mehr aus Neuronale Netze
- Agenten-Schleife
- Attention Visualizer
- Backpropagation — Schuld rückwärts
- Basin of Attraction
- Dein Beruf unter KI
- Die Temperatur-Schraube
- Diffusionsmodell — Bilder aus Rauschen (3D)
- Embedding Space Explorer (3D)
Eine VisuApp von heyprof: interaktiv, kostenlos im Browser, ohne Anmeldung. Was ist eine VisuApp? · Alle Apps