Halluzinationen erkennen
Über diese App
Eine KI-Antwort klingt sicher und nennt Quellen. Zerlege sie in Behauptungen und prüfe jede gegen das Originaldokument: belegt, widerlegt oder erfunden.
Mit Erklärmodus: Ein KI-Tutor führt dich durch die App, zeigt in der Szene, worauf es ankommt, und beantwortet deine Fragen.
Warum Sprachmodelle halluzinieren
Ein Sprachmodell setzt Text so fort, wie er wahrscheinlich klingt. Ob eine Aussage stimmt, prüft es dabei nicht. Richtige und falsche Sätze kommen deshalb im gleichen sicheren Ton. Als Halluzination bezeichnet man eine flüssige, plausible Aussage ohne Grundlage: eine falsche Zahl, eine verdrehte Frist, ein erfundener Paragraph oder eine Quelle, die es nicht gibt. Gerade präzise wirkende Angaben wie „§ 7 Abs. 5“ erhöhen die Glaubwürdigkeit, obwohl sie am leichtesten nachzuprüfen wären.
Was die App zeigt
Drei Fälle stehen bereit: eine Frage zum Bundesurlaubsgesetz, eine zum Auskunftsrecht nach DSGVO und die Zusammenfassung eines Quartalsberichts eines erfundenen Unternehmens. Die Antwort des Assistenten wird in vier Schritten bearbeitet: lesen, in Behauptungen zerlegen, jede gegen eine Quellenkarte prüfen und auswerten. Zwei Balken laufen nebeneinander: „Klingt sicher“ misst den Ton der Antwort, „Ist belegt“ den geprüften Anteil. Die Gesetzestexte liegen als Auszüge vor; die App ruft keine KI auf, alle Antworten sind fest hinterlegt.
Selbst prüfen
Tippe eine unterstrichene Behauptung an, wähle die passende Quelle und entscheide, ob sie bestätigt oder widerspricht. Gibt es zu einer Angabe gar keine Stelle, bekommt sie den Stempel „keine Quelle“. Achte auf Zahlen, Fristen und Bedingungen Wort für Wort, denn dort sitzen die Fehler. Am Ende fasst die App das Ergebnis zusammen und gibt fünf Regeln mit, wie man KI-Antworten im Alltag prüft. Mit „Lösung zeigen“ siehst du die Auflösung jedes Falls.
Häufige Fragen
- Was ist eine KI-Halluzination?
- Eine Halluzination ist eine Aussage eines Sprachmodells, die flüssig und plausibel klingt, aber keine Grundlage hat. Typisch sind falsche Zahlen, verdrehte Fristen und erfundene Quellen oder Paragraphen. Das Modell erzeugt wahrscheinlich klingenden Text und prüft dabei nicht, ob er stimmt.
- Wie überprüfe ich, ob eine Antwort von ChatGPT stimmt?
- Zerlege die Antwort in einzelne Behauptungen und halte jede gegen eine Quelle, die du selbst öffnest. Schlag genannte Paragraphen, Urteile und Studien nach, denn eine genannte Quelle muss nicht existieren. Prüfe Zahlen, Fristen und Bedingungen genau. Wie sicher eine Antwort klingt, sagt nichts über ihre Richtigkeit.
- Warum erfinden Sprachmodelle Quellen?
- Sprachmodelle lernen, wie Texte typischerweise aussehen, auch wie Zitate und Paragraphenangaben aufgebaut sind. Fehlt das passende Wissen, entsteht trotzdem eine formal stimmige Angabe, weil sie zum Muster passt. Ohne Abgleich mit einer echten Quelle lässt sich eine solche Angabe nicht von einer richtigen unterscheiden.
- Was übt man in der App „Halluzinationen erkennen“?
- Du prüfst in drei Fällen eine fest hinterlegte KI-Antwort Behauptung für Behauptung gegen Auszüge aus BUrlG, DSGVO und einem erfundenen Quartalsbericht. Jede Behauptung wird als belegt, widerlegt oder ohne Quelle eingestuft. Zwei Balken zeigen den Abstand zwischen sicherem Ton und tatsächlicher Belegquote.
Fach: KI-Kompetenz
Mehr aus KI-Kompetenz
Eine VisuApp von heyprof: interaktiv, kostenlos im Browser, ohne Anmeldung. Was ist eine VisuApp? · Alle Apps