KI-Wissen
Wie oft halluzinieren KIs?
Es kommt auf die Frage an.
Mach den Test: Erkennst du falsche KI-Antworten?1 von 2
Bei schwierigen Faktenfragen
48 % im OpenAI-Test zu Personen mit o4‑mini.
Zur Quelle1 von 10
Beim Zusammenfassen
1 von 5
Bei Nachrichten
Unterschiedliche Studien. Keine allgemeine Fehlerquote.
Kurz gesagt: Es kommt auf die Frage an: Bei schwierigen Faktenfragen war in Tests fast jede zweite Antwort falsch, bei Fragen zu Nachrichten etwa jede fünfte, und beim Zusammenfassen eines Textes erfinden bekannte KI-Modelle in bis zu jedem zehnten Fall etwas dazu.
So kommen die Zahlen zustande
- 1 von 10 · Beim Zusammenfassen
- Der Vectara-Test lässt KIs über 7.700 Artikel zusammenfassen und prüft, ob sie etwas dazuerfinden. Bekannte Modelle liegen bei etwa 3 bis 10 %: Gemini 2.5 Flash Lite bei 3,3 %, DeepSeek-V3 bei 6,1 %, GPT-4o bei 9,6 %, Claude Sonnet 4 bei 10,3 %. Das beste Modell im Test kommt auf 1,8 %, das schlechteste auf 24,2 %.
- 1 von 5 · Bei Nachrichten
- 22 öffentlich-rechtliche Sender aus 18 Ländern haben über 3.000 Antworten von ChatGPT, Copilot, Gemini und Perplexity auf Nachrichtenfragen geprüft. 20 % enthielten sachliche Fehler, etwa erfundene Details oder veraltete Informationen.
- 1 von 2 · Bei schwierigen Faktenfragen
- In der Nachrichten-Studie hatten 45 % der Antworten mindestens ein erhebliches Problem, oft bei den Quellen. Im HalluLens-Test von Meta, mit kurzen Wissensfragen aus Wikipedia, war bei GPT-4o fast jede zweite Antwort falsch (45 %); Llama 3.1 405B lag bei 27 %, verweigerte aber viele Fragen ganz. Und in OpenAIs Test mit Fragen über Personen halluzinierte o4-mini in 48 % der Antworten.
Teste dein Gespür
Klingt überzeugend. Aber stimmt’s?
Lies die KI-Antwort. Entscheide, ob sie stimmt.
KI-Antwort
01 / 05
Warum ist es im Sommer wärmer?
Im Sommer ist die Erde der Sonne näher als im Winter. Durch den geringeren Abstand erreicht mehr Sonnenenergie die Erdoberfläche. Deshalb steigen die Temperaturen und die Tage werden länger. Die Jahreszeiten entstehen also hauptsächlich durch den wechselnden Abstand zur Sonne.
Beispielantwort – kann Fehler enthalten.
Nach deiner Wahl erfährst du die Auflösung.
Was heißt „halluzinieren“ bei KI?
Eine KI halluziniert, wenn sie etwas Falsches als Tatsache ausgibt: erfundene Zahlen, Zitate, Quellen oder Ereignisse, die überzeugend klingen, aber nicht stimmen.
Das Tückische: Eine erfundene Antwort klingt genauso sicher wie eine richtige.
Warum erfinden KIs Fakten?
Sprachmodelle wie ChatGPT, Gemini oder Claude berechnen, welche Wörter am wahrscheinlichsten folgen. Sie schlagen nicht in einer Datenbank nach und prüfen ihre Antwort nicht von selbst.
Wo ihnen Wissen fehlt, entsteht oft eine Antwort, die plausibel klingt, statt eines „Das weiß ich nicht“.
Neuer heißt dabei nicht automatisch zuverlässiger: In OpenAIs Test über Personen halluzinierte das neuere o3 doppelt so oft wie sein Vorgänger o1.
So erkennst du Halluzinationen
- Quellen verlangen und öffnen.
- KIs erfinden auch Quellen, Links und Studien. Prüfe, ob es sie gibt und ob sie die Aussage tatsächlich belegen.
- Mehrere KIs fragen.
- Stell dieselbe Frage zwei oder drei verschiedenen KIs. Widersprechen sie sich, ist mindestens eine Antwort falsch.
- Bei Wichtigem nachprüfen.
- Bei Gesundheit, Recht und Geld immer Originalquellen oder Fachleute zu Rate ziehen.