Künstliche Intelligenz kann überzeugend klingen und trotzdem falsch liegen. Wenn Ihr die typischen Anzeichen kennt, könnt Ihr Antworten von ChatGPT und Co. besser einschätzen.
Warum KI-Modelle glaubwürdig lügen können
Halluzinationen gehören zu den grundlegenden Schwächen von KI-Chatbots. Wenn ChatGPT, Gemini, Copilot oder andere Modelle falsche Informationen liefern, ist das eine Halluzination – unabhängig davon, wie selbstsicher die Antwort wirkt. Die Bandbreite reicht von kleinen Abweichungen über scheinbar harmlose Fehler bis hin zu vollständig erfundenen und potenziell rufschädigenden Behauptungen. Wer solche Systeme länger nutzt, wird zwangsläufig früher oder später damit konfrontiert.
Wichtig ist zu verstehen, wie es dazu kommt. Sprachmodelle erzeugen Antworten, indem sie Wortfolgen vorhersagen, die zu den Mustern in ihren Trainingsdaten passen. Sie gleichen ihre Aussagen nicht mit einer gesicherten Faktenbasis ab. Dadurch können sie sehr glaubwürdig klingen und trotzdem komplett frei erfunden sein. Ihr solltet deshalb immer einkalkulieren, dass eine Halluzination jederzeit auftreten kann, und gezielt nach Hinweisen dafür suchen. Fünf Signale sind dabei besonders hilfreich.
Auffällige Details, zu große Sicherheit und falsche Quellen
Ein häufiges Merkmal von Halluzinationen ist eine auffällige, aber nicht überprüfbare Genauigkeit. Antworten enthalten dann konkrete Daten, Namen oder andere Details, die die Darstellung glaubwürdig wirken lassen. Weil das Modell nur Muster nachbildet, kann es passende Einzelheiten erfinden, ohne sich auf echte Quellen zu stützen. Fragt Ihr etwa nach einer Person, können zutreffende Informationen mit frei erfundenen Teilen zu einer scheinbar stimmigen Geschichte verschmelzen. Gerade diese Detailfülle macht Halluzinationen schwer erkennbar, weil Menschen detaillierten Aussagen eher vertrauen. Prüft deshalb alle Angaben, bei denen ein Irrtum für Euch Folgen haben könnte. Wenn ein genanntes Datum, ein Artikel oder eine Person sich nirgends belegen lässt, deutet das auf eine Halluzination hin. Bedenkt: Generative KI prüft Fakten nicht automatisch, sondern erzeugt lediglich plausible Formulierungen.
Verwandt mit dieser Falle ist ein unverdient selbstsicherer Tonfall. ChatGPT und ähnliche Modelle sollen flüssig und kompetent klingen, was falsche Inhalte vertrauenswürdig erscheinen lässt. Auch dann, wenn Vorsicht angebracht wäre, formuliert das System seine Antworten oft mit derselben Sicherheit wie korrekte Informationen. Im Unterschied zu menschlichen Fachleuten, die Unsicherheiten markieren oder offen lassen, ist ein klares „Ich weiß es nicht“ noch immer eher die Ausnahme. In Bereichen, in denen Expert:innen selbst unterschiedliche Positionen vertreten oder Erkenntnisse im Fluss sind, sollte ein verlässliches System diese Unsicherheit widerspiegeln. Erhaltet Ihr in solchen Fällen eine kategorische Antwort mit vermeintlich eindeutiger Ursache oder allgemein gültiger Aussage, kann gerade diese Sicherheit ein Hinweis auf eine Halluzination sein.
Ein weiteres Warnsignal sind nicht nachvollziehbare Quellenangaben. ChatGPT kann Zitate und Literaturangaben liefern, die auf den ersten Blick korrekt formatiert und plausibel wirken, aber in Wirklichkeit nicht existieren. Das ist besonders in akademischen oder beruflichen Kontexten problematisch, wenn etwa eine Seminararbeit auf solchen erfundenen Nachweisen aufbaut. Prüft daher immer, ob genannte Aufsätze, Autor:innen oder Fachzeitschriften in anerkannten Datenbanken oder über eine Websuche auffindbar sind. Bleibt eine anscheinend sehr konkrete Quelle unsichtbar, handelt es sich womöglich um ein „Geisterzitat“, das nur die Antwort glaubwürdiger erscheinen lassen soll.
Widersprüche, Nonsens und was Ihr daraus lernen könnt
Auch innere Widersprüche sind ein starkes Indiz. Selbst wenn Antworten zunächst stimmig klingen, können Nachfragen Abweichungen sichtbar machen. Da generative KI nicht ständig eine konsistente Faktendatenbank konsultiert, kann sie bei Rückfragen frühere Aussagen problemlos unterlaufen. Fragt Ihr gezielt zu einem Detail nach und erhaltet dann eine deutlich abweichende Antwort, die sich nicht sinnvoll mit der ersten verbinden lässt, ist mindestens eine der Antworten vermutlich halluziniert. Hier müsst Ihr nicht einmal außerhalb des Chats recherchieren, ein kritischer Blick auf den Gesprächsverlauf reicht oft aus.
Schließlich können auch Aussagen, die logisch wirken, in der realen Welt keinen Sinn ergeben. ChatGPT arbeitet mit Wortwahrscheinlichkeiten, nicht mit echter Logik oder Praxistests. Antworten können deshalb auf falschen Grundannahmen beruhen. So kann ein Modell etwa zusätzliche, frei erfundene Schritte in einem erprobten wissenschaftlichen Protokoll vorschlagen oder gegen grundlegenden Alltagsverstand verstoßen. Ein bekanntes Beispiel war der Vorschlag, Klebstoff in Pizzasoße zu mischen, damit der Käse besser haftet. Sprachlich wirkt das nachvollziehbar, praktisch ist es offensichtlich ungeeignet. Solche Halluzinationen sind eine direkte Folge der Trainingsmethode und werden voraussichtlich bestehen bleiben, solange KI auf Wortvorhersage basiert.
Für Euch heißt das: Entscheidend ist nicht blinder Vertrauensvorschuss, sondern informierte Skepsis. Lernt, zwischen plausiblen und verlässlichen Antworten zu unterscheiden und prüft kritische Inhalte nach. Das Erkennen von Halluzinationen entwickelt sich zu einer wichtigen digitalen Kompetenz. Je stärker KI-Systeme verbreitet sind, desto wichtiger werden Logik, Quellenkritik und gesunder Menschenverstand im Umgang mit ihren Ergebnissen.
