Comment empêcher les chatbots IA d’inventer des faits quand tu demandes des sources
4 min de lecture
Tu demandes des sources à un chatbot et il te renvoie une liste bien rangée : auteurs, une revue, une année, même un lien. Tu cherches la première, et elle n’existe pas. Ce n’est pas un bug rare. C’est l’une des faiblesses les mieux documentées des chatbots IA, et la réponse honnête à « comment l’arrêter ? » est que tu ne peux pas l’arrêter complètement, mais tu peux beaucoup réduire les dégâts.
À quelle fréquence les chatbots IA inventent-ils des sources ?
Une étude de 2023 dans Scientific Reports a demandé à ChatGPT de rédiger des revues de littérature et a vérifié les références. 55 % des citations de GPT-3.5 étaient inventées, contre 18 % pour GPT-4, et beaucoup de vraies contenaient quand même des erreurs. Une comparaison de huit chatbots en 2025 a montré que six d’entre eux inventaient une part importante des références demandées, tandis que deux (Grok et DeepSeek) n’en inventaient aucune dans ce test, sans qu’aucun soit totalement exact. L’invention varie aussi selon le type : une étude a trouvé bien plus de références inventées pour les articles de revue que pour les livres.
Deux détails comptent pour ta routine. Les fausses références ont souvent l’air vraies : la même ligne de recherche a rapporté que les citations inventées venaient souvent avec un DOI, et beaucoup de ces DOI menaient à de vrais articles sur des sujets sans rapport. Et demander au chatbot « cette citation est-elle réelle ? » n’est pas un contrôle fiable, car il peut se tromper sur sa propre production.
Comment demander des sources pour que les chatbots inventent moins
Tu ne peux pas supprimer le risque, mais la formulation aide.
- Utilise un mode qui cherche. Un chatbot qui navigue ou cherche des pages en direct peut renvoyer vers des pages qui existent, ce qui est plus sûr qu’une référence écrite de mémoire par le modèle. Il faut quand même vérifier.
- Demande ce que le modèle peut assumer. « Cite les principaux points de vue sur ce sujet et les termes de recherche à utiliser » est plus sûr que « donne-moi cinq sources à comité de lecture avec DOI ».
- Colle la source. Si tu donnes au chatbot l’article ou le passage, demande-lui de répondre uniquement à partir de ce texte et de citer la ligne utilisée. Il ne peut pas inventer une source que tu as déjà fournie.
- Autorise le « je ne sais pas ». Ajoute : « Si tu n’es pas sûr qu’une source existe, dis-le au lieu de deviner. »
- Demande l’affirmation, pas seulement la citation. « Quelle phrase de la source appuie cela ? » démasque vite une référence inventée.
Comment vérifier une source donnée par l’IA en deux minutes
Traite chaque source suggérée par l’IA comme une piste, pas comme un fait.
- Cherche le titre exact dans Google Scholar, ta bibliothèque ou le site de l’éditeur.
- Vérifie le DOI en le collant dans doi.org ou Crossref. Confirme qu’il ouvre le même titre et pas un autre article.
- Compare les détails : auteurs, revue, année, volume et pages.
- Ouvre la source et trouve l’affirmation. Un vrai article peut dire autre chose que ce que prétend le chatbot.
- Jette ce que tu ne trouves pas. Si une source n’existe pas, ne la garde pas « au cas où ».
Un exemple du contrôle de deux minutes
Imagine que tu demandes à un chatbot des études sur le sommeil et la mémoire et qu’il cite un article avec un auteur, une revue et un DOI. Cherche le titre exact : si rien ne sort, arrête-toi là. S’il existe, colle le DOI dans doi.org et regarde s’il ouvre le même titre. Lis ensuite le résumé et demande-toi si l’article dit vraiment ce que le chatbot a affirmé. Un article sur le sommeil chez la souris n’appuie pas une affirmation sur des étudiants, aussi réelle que soit la citation. Les chiffres demandent aussi du soin : quand le chatbot cite une valeur, retrouve-la dans l’article. Pour un cas voisin, lis utiliser ChatGPT pour des modèles financiers sans chiffres inventés.
Utilise l’IA pour chercher, pas pour sourcer
Le schéma le plus sûr consiste à laisser le chatbot t’aider à savoir où chercher (mots-clés, sujets proches, façon dont les experts formulent la question), puis à faire le sourçage dans une vraie base de données. Utilise-le pour expliquer un article que tu as déjà, résumer un passage collé ou transformer tes notes en plan. Ne l’utilise pas comme autorité finale pour une liste de références.
Sources
- Walters and Wilder, Fabrication and errors in the bibliographic citations generated by ChatGPT, Scientific Reports (2023)
- Assessing the performance of 8 AI chatbots in bibliographic reference retrieval, arXiv (2025)
- Reference Hallucination Score for medical AI chatbots, JMIR Medical Informatics (2024)