Wie du KI-Chatbots davon abbringst, bei Quellen Fakten zu erfinden
4 Min. Lesezeit
Du bittest einen Chatbot um Quellen, und er liefert eine ordentliche Liste: Autoren, eine Zeitschrift, ein Jahr, sogar einen Link. Dann suchst du die erste Quelle und sie existiert nicht. Das ist kein seltener Fehler. Es ist eine der am besten belegten Schwächen von KI-Chatbots, und die ehrliche Antwort auf „Wie stoppe ich das?" lautet: Du kannst es nicht vollständig stoppen, aber du kannst den Schaden deutlich verringern.
Wie oft erfinden KI-Chatbots Quellen?
Eine Studie in Scientific Reports von 2023 ließ ChatGPT Literaturübersichten schreiben und prüfte die Verweise. 55 % der Quellenangaben von GPT-3.5 waren erfunden, bei GPT-4 waren es 18 %, und auch viele echte enthielten Fehler. Ein Vergleich von acht Chatbots aus dem Jahr 2025 ergab, dass sechs von ihnen einen erheblichen Teil der verlangten Verweise erfanden, während zwei (Grok und DeepSeek) in diesem Test keine erfanden, aber keiner vollständig korrekt war. Die Fälschungsrate hängt auch vom Typ ab: Eine Studie fand deutlich mehr erfundene Verweise bei Zeitschriftenartikeln als bei Büchern.
Zwei Details sind für deine Routine wichtig. Falsche Verweise sehen oft richtig aus: Dieselbe Forschungslinie berichtete, dass erfundene Quellenangaben häufig eine DOI hatten, und viele dieser DOIs führten zu echten Arbeiten zu ganz anderen Themen. Und den Chatbot zu fragen „Ist diese Quelle echt?" ist keine verlässliche Prüfung, weil er über seine eigene Ausgabe falsch antworten kann.
So fragst du nach Quellen, damit Chatbots weniger erfinden
Du kannst das Risiko nicht beseitigen, aber die Formulierung hilft.
- Nutz einen Modus mit Suche. Ein Chatbot, der live im Web sucht, kann auf Seiten verlinken, die es gibt, was sicherer ist als ein Verweis aus dem Gedächtnis des Modells. Geprüft werden muss trotzdem.
- Frag nach dem, wofür das Modell geradestehen kann. „Nenne die wichtigsten Standpunkte zu diesem Thema und die Suchbegriffe, die ich verwenden sollte" ist sicherer als „gib mir fünf begutachtete Quellen mit DOI".
- Füg die Quelle selbst ein. Gib dem Chatbot den Artikel oder die Passage und bitte ihn, nur aus diesem Text zu antworten und die verwendete Zeile zu zitieren. Eine Quelle, die du selbst geliefert hast, kann er nicht erfinden.
- Erlaub „Ich weiß es nicht". Schreib dazu: „Wenn du nicht sicher bist, dass eine Quelle existiert, sag es, statt zu raten."
- Frag nach der Aussage, nicht nur nach dem Beleg. „Welcher Satz in der Quelle stützt das?" entlarvt einen erfundenen Verweis schnell.
So prüfst du eine KI-Quelle in zwei Minuten
Behandle jede von der KI vorgeschlagene Quelle als Hinweis, nicht als Tatsache.
- Such den genauen Titel in Google Scholar, deiner Bibliothek oder auf der Seite des Verlags.
- Prüf die DOI, indem du sie in doi.org oder Crossref einfügst. Kontrollier, dass derselbe Titel erscheint und nicht eine andere Arbeit.
- Gleich die Angaben ab: Autoren, Zeitschrift, Jahr, Band und Seiten.
- Öffne die Quelle und finde die Aussage. Eine echte Arbeit kann trotzdem etwas anderes sagen, als der Chatbot behauptet.
- Wirf weg, was du nicht findest. Wenn eine Quelle nicht existiert, behalt sie nicht „für alle Fälle".
Ein Beispiel für den Zwei-Minuten-Check
Angenommen, du bittest einen Chatbot um Studien zu Schlaf und Gedächtnis, und er nennt eine Arbeit mit Autor, Zeitschrift und DOI. Such den genauen Titel: Taucht nichts auf, hör dort auf. Gibt es die Arbeit, füg die DOI in doi.org ein und sieh nach, ob derselbe Titel erscheint. Lies dann die Zusammenfassung und frag dich, ob die Arbeit wirklich berichtet, was der Chatbot gesagt hat. Eine Arbeit über Schlaf bei Mäusen stützt keine Aussage über Studierende, so echt die Quelle auch ist. Auch Zahlen brauchen Sorgfalt: Nennt der Chatbot eine Zahl, such sie in der Arbeit. Einen verwandten Fall findest du in ChatGPT für Finanzmodelle ohne erfundene Zahlen nutzen.
KI zum Suchen nutzen, nicht zum Belegen
Das sicherste Muster: Lass den Chatbot dir helfen herauszufinden, wo du suchen sollst (Stichwörter, verwandte Themen, wie Fachleute die Frage formulieren), und mach das Belegen dann in einer echten Datenbank. Nutz ihn, um eine Arbeit zu erklären, die du schon hast, eine eingefügte Passage zusammenzufassen oder deine Notizen in eine Gliederung zu bringen. Nutz ihn nicht als letzte Instanz für ein Literaturverzeichnis.
Quellen
- Walters and Wilder, Fabrication and errors in the bibliographic citations generated by ChatGPT, Scientific Reports (2023)
- Assessing the performance of 8 AI chatbots in bibliographic reference retrieval, arXiv (2025)
- Reference Hallucination Score for medical AI chatbots, JMIR Medical Informatics (2024)