KI heute

KI-Ratgeber

KI-Halluzinationen: Warum die KI Dinge erfindet und wie du ihre Antworten prüfst

Von Veröffentlicht am 4 Min. Lesezeit

Grüne Zeilen Computercode laufen über einen Bildschirm mit schwarzem Hintergrund
Inhalt
  1. Was sind KI-Halluzinationen?
  2. Warum erfindet die KI Antworten?
  3. Wie erkennst du eine Halluzination?
  4. Prompts, die KI-Halluzinationen seltener machen
  5. Der KI erlauben, „Ich weiß es nicht“ zu sagen
  6. Nur auf Basis eines mitgelieferten Dokuments antworten
  7. Von einer zweiten KI gegenlesen lassen
  8. Wie gründlich prüfen, je nachdem, was auf dem Spiel steht?
  9. Häufige Fragen

KI-Halluzinationen sind falsche Antworten, die mit großer Selbstsicherheit daherkommen: ein falsches Datum, ein Zitat, das nie gefallen ist, ein erfundener Gesetzesparagraf. Sie sind kein seltener Fehler, sondern eine Folge davon, wie die Modelle arbeiten. Die gute Nachricht: Mit ein paar Warnsignalen erkennst du sie, mit präzisen Prompts machst du sie seltener. So verstehst, erkennst und überprüfst du sie.

Lies deine vorige Antwort noch einmal wie ein strenger Faktenprüfer, nicht wie ihr Autor.
1. Liste jede Tatsachenbehauptung auf: Zahl, Datum, Name, Zitat, Quellenangabe, Link.
2. Gib für jede einen Grad an Sicherheit an (sicher, wahrscheinlich, unsicher) und begründe ihn in einem Satz.
3. Markiere jede Quelle, jedes Zitat und jede URL, die du nicht aus einer in diesem Chat abgerufenen Quelle hast.
4. Sag mir, was ich zuerst selbst prüfen sollte und in welcher Art offizieller Quelle.
Verteidige deine Antwort nicht: Such nach dem, was falsch sein könnte.

Was sind KI-Halluzinationen?

Von einer Halluzination spricht man, wenn ein Assistent wie ChatGPT, Claude, Gemini oder Le Chat von Mistral eine ungenaue oder erfundene Information liefert, ohne darauf hinzuweisen. Der Ton bleibt derselbe wie bei einer richtigen Antwort: flüssig, gut gegliedert, selbstsicher. Genau das macht das Phänomen so tückisch. Die Anbieter räumen es selbst ein: Die Oberflächen zeigen einen Hinweis, dass die KI Fehler machen kann, und das Hilfe-Center von OpenAI empfiehlt, wichtige Informationen zu überprüfen.

Die Folgen können ernst sein. 2023 hat ein Bundesrichter in New York Anwälte sanktioniert, die in einem Schriftsatz Gerichtsentscheidungen zitiert hatten, die ChatGPT erfunden hatte (Fall Mata gegen Avianca). Die Quellenangaben wirkten absolut glaubwürdig.

Warum erfindet die KI Antworten?

Ein Sprachmodell schlägt nicht in einer Faktendatenbank nach: Es berechnet Wort für Wort die wahrscheinlichste Fortsetzung eines Textes. Meistens fallen wahrscheinlich und wahr zusammen. Wenn nicht, füllt die KI die Lücke mit etwas Plausiblem. Einige Situationen erhöhen dieses Risiko:

Wie erkennst du eine Halluzination?

Kein einzelnes Anzeichen reicht als Beweis, aber manche Hinweise sollten dich hellhörig machen. Die Tabelle fasst die häufigsten zusammen, jeweils mit der passenden Reaktion.

Warnsignale und wie du sie prüfst
WarnsignalBeispielReaktion
Verdächtige Genauigkeit„Laut einer Studie von 2021 sind 73 % der …“Nach der Quelle fragen und sie selbst suchen
RechtsquelleEine Paragrafennummer oder ein AktenzeichenAuf gesetze-im-internet.de oder in EUR-Lex prüfen
Genannter LinkEine URL, die nach einer echten Seite aussiehtAnklicken und lesen, bevor du sie zitierst
Zitat in AnführungszeichenEin Satz, der einer bekannten Person zugeschrieben wirdDie Originalquelle suchen
Wechselnde AntwortZwei verschiedene Antworten auf dieselbe FrageDie Information als unsicher behandeln

Prompts, die KI-Halluzinationen seltener machen

Ein guter Prompt schaltet Halluzinationen nicht ab, aber er nimmt ihnen viele Gelegenheiten. Das Prinzip: Unsicherheit erlauben, Material mitliefern und Fakten von Vermutungen trennen.

Der KI erlauben, „Ich weiß es nicht“ zu sagen

Beantworte die folgende Frage: [Frage].
Regeln: Wenn du dir bei einer Information nicht sicher bist, schreib „weiß ich nicht“ oder „bitte prüfen“, statt zu raten. Erfinde keine Zahlen, keine Quellen und keine Zitate. Trenne klar zwischen gesicherten Fakten und deiner eigenen Interpretation.

Nur auf Basis eines mitgelieferten Dokuments antworten

Hier ist ein Dokument: [Text einfügen oder Datei anhängen].
Beantworte meine Frage ausschließlich auf Grundlage dieses Dokuments: [Frage].
Zitiere zu jeder Aussage in Anführungszeichen die genaue Stelle, die sie belegt. Wenn das Dokument die Antwort nicht enthält, sag das deutlich und ergänze nichts aus deinem Allgemeinwissen.

Diese Technik funktioniert besonders gut, wenn du ein Dokument mit KI zusammenfassen willst, ohne dass sie abschweift. Bei komplexen Aufgaben hilft es außerdem, die KI Schritt für Schritt denken zu lassen: So siehst du leichter, wo sich ein Fehler eingeschlichen hat.

Von einer zweiten KI gegenlesen lassen

Hier ist eine Antwort, die ein anderer Assistent erstellt hat: [Antwort einfügen].
Übernimm die Rolle eines kritischen Lektors. Finde zweifelhafte, nicht überprüfbare oder widersprüchliche Aussagen und erkläre jeweils, wie man sie prüfen kann. Füge keine neuen Informationen hinzu, ohne ihre Quelle zu nennen.

Wenn du zwei Assistenten vergleichst, fallen Abweichungen oft sofort auf. Unser Vergleich von ChatGPT, Claude, Gemini und Le Chat hilft dir bei der Wahl der zweiten Meinung.

Wie gründlich prüfen, je nachdem, was auf dem Spiel steht?

  1. Wenig auf dem Spiel (Essensideen, Brainstorming): Aufmerksames Lesen reicht.
  2. Mittleres Risiko (Artikel, Präsentation, Kundenmail): Prüfe jede Zahl und jeden Eigennamen.
  3. Viel auf dem Spiel (Gesundheit, Recht, Finanzen, berufliche Entscheidungen): Behandle die Antwort als Hinweis und bestätige sie bei einer offiziellen Quelle oder einer Fachperson.
  4. In jedem Fall: Veröffentliche nie ein Zitat oder eine Quelle, die du nicht selbst gelesen hast.

Fang heute an: Ergänze deine üblichen Prompts um die Anweisung „Wenn du dir nicht sicher bist, sag es“ und halte den Prompt des Tages für jede Antwort bereit, die du weiterverwenden willst.

Häufige Fragen

Welche KI halluziniert am wenigsten?

Eine endgültige Antwort gibt es nicht: Die Leistung schwankt je nach Modell, Version und Thema und ändert sich häufig. Alle gängigen Assistenten können halluzinieren. Wie du prüfst, zählt mehr als die Wahl des Tools.

Werden Halluzinationen irgendwann verschwinden?

Die Anbieter arbeiten daran, sie zu verringern, etwa mit Websuche und besserem Training. Solange Modelle aber wahrscheinlichen statt überprüften Text erzeugen, bleibt ein Risiko. Für alles Wichtige ist die Kontrolle durch einen Menschen weiter nötig.

Warum erfindet die KI Links oder Quellen?

Weil sie gelernt hat, wie eine glaubwürdige Quellenangabe aussieht, ohne die genaue Quelle unbedingt zu kennen. Dann erzeugt sie eine URL oder einen Titel in plausiblem Format. Klick jeden Link an und lies die Seite, bevor du sie zitierst.

Kann eine KI mit Internetzugang halluzinieren?

Ja. Die Websuche senkt das Risiko bei aktuellen Fakten, aber die KI kann eine Seite falsch zusammenfassen, zwei Quellen vermischen oder eine Stelle aus dem Zusammenhang reißen. Öffne die genannten Quellen, um sicherzugehen.