Zum Inhalt
Alle Apps

Adversarial Examples

Über diese App

Echtes MobileNet im Browser wird per FGSM-Angriff getäuscht: Ein ε-Slider mischt für Menschen unsichtbares Gradienten-Rauschen ins Bild, bis das Label kippt — daneben zeigt das Adelson-Schachbrett die blinden Flecken des Menschen. Mit Webcam, Drag&Drop und prozeduralen Testbildern; Brücke zur Robustheit kamerabasierter Qualitätsprüfung in der Supply Chain.

Optische Täuschungen für Maschinen

Ein Adversarial Example ist ein Eingabebild mit einer gezielt berechneten, für Menschen praktisch unsichtbaren Störung, die das Urteil eines neuronalen Netzes ändert. Die Fast Gradient Sign Method (FGSM) berechnet dazu den Gradienten der Modellausgabe nach den Eingabepixeln. Das Vorzeichen dieses Gradienten zeigt für jedes Pixel, in welche Richtung es das Ergebnis am stärksten verschiebt. Die Störung ist ε·sign(Gradient); schon kleine ε können die Klasse kippen. Für kamerabasierte Prüfungen folgt daraus, dass Robustheitstests, kontrollierte Aufnahmebedingungen und Überwachung der Konfidenzwerte nötig sind.

Was die App zeigt

Im Browser läuft ein echtes MobileNet mit ImageNet-Labels. Als Bildquelle dienen prozedurale Testbilder (Karton, Ampel, Uhr), die Webcam oder ein eigenes Bild per Drag and Drop; alles bleibt lokal. Nebeneinander stehen Original, Störung (zwanzigfach verstärkt angezeigt) und gestörtes Bild, jeweils mit Klassifikation. Ist der Gradient auf einem Gerät nicht verfügbar, zeigt ein Demo-Modus ein Ersatz-Rauschmuster, die Klassifikation bleibt echt. Ein Vergleichs-Panel stellt das Adelson-Schachbrett und eine Tabelle zu den blinden Flecken von Mensch und CNN daneben.

Selbst ausprobieren

Erhöhe ε langsam und beobachte, ab welchem Wert das Label kippt, während das gestörte Bild für dich gleich aussieht. Probiere verschiedene Bilder: Manche Klassen kippen früher als andere. Öffne dann das Adelson-Schachbrett und lass dir den Beweis zeigen. Die Tabelle fasst zusammen: Menschen sind robust gegen Pixelrauschen, aber anfällig für Schatten; CNNs ist es oft umgekehrt.

Häufige Fragen

Was ist ein Adversarial Example?
Ein Adversarial Example ist eine Eingabe, die gezielt so verändert wurde, dass ein Machine-Learning-Modell sie falsch einordnet. Bei Bildern ist die Änderung oft so klein, dass Menschen keinen Unterschied sehen. Sie zeigt, dass neuronale Netze andere Merkmale nutzen als das menschliche Sehen.
Wie funktioniert die Fast Gradient Sign Method (FGSM)?
FGSM berechnet den Gradienten der Modellausgabe nach den Eingabepixeln und nimmt davon nur das Vorzeichen. Dieses Muster wird mit einer kleinen Stärke ε multipliziert und zum Bild addiert. Mit einem einzigen Gradientenschritt entsteht so eine Störung, die das Urteil des Modells deutlich verschiebt.
Wie kann man neuronale Netze gegen Adversarial Attacks schützen?
Ein verbreiteter Ansatz ist Adversarial Training, bei dem gestörte Beispiele ins Training aufgenommen werden. Dazu kommen Robustheitstests, Vorverarbeitung der Eingaben und das Überwachen von Konfidenzwerten. Einen vollständigen Schutz gibt es bisher nicht.
Werden meine Bilder in der App hochgeladen?
Nein. Webcam-Bilder und eigene Bilder bleiben lokal im Browser, auch das MobileNet läuft dort. Geladen wird nur das Modell selbst.

Fach: Wahrnehmung & Täuschung

Mehr aus Wahrnehmung & Täuschung

Eine VisuApp von heyprof: interaktiv, kostenlos im Browser, ohne Anmeldung. Was ist eine VisuApp? · Alle Apps