Catégorie A · Les bases · Épreuve 2 sur 8 · 4 min
Pourquoi l'IA se trompe
Mis à jour le
L'IA se trompe parce qu'elle devine la réponse la plus probable au lieu de dire « je ne sais pas » : elle peut inventer un fait ou une source (on parle d'« hallucination »), ignorer ce qui s'est passé après son entraînement et te donner raison pour te faire plaisir. On réduit ces erreurs en l'autorisant à douter et en lui fournissant des documents fiables.
Elle préfère deviner que se taire
Quand une IA invente un fait avec aplomb, on parle d'hallucination. Ce n'est pas une panne rare : c'est lié à sa façon de fonctionner.
Des chercheurs d'OpenAI l'ont expliqué en septembre 2025 avec une image d'école. Face à une question difficile, l'élève qui devine gagne parfois des points ; celui qui écrit « je ne sais pas » n'en gagne jamais. Les IA sont entraînées et notées un peu de la même façon : elles ont pris l'habitude de deviner plutôt que d'avouer qu'elles ne savent pas.
Dans leur article, ils ont demandé à une IA la date d'anniversaire de l'un d'eux, en précisant de ne répondre que si elle la connaissait. Trois essais, trois dates différentes, toutes fausses. Les erreurs touchent surtout les faits rares : une date, un nom, un détail qu'on trouve peu en ligne.
Vrai ou faux ?
Si une IA répond sur un ton très sûr, c'est qu'elle a vérifié l'information.
Quatre pièges à connaître
- L'invention : un chiffre, une règle ou une citation qui n'existent pas.
- La fausse source : un titre d'article, un lien ou une référence qui ont l'air vrais mais ne mènent nulle part. Les chercheurs d'OpenAI ont demandé à trois IA le titre de la thèse de l'un d'eux : trois titres, trois erreurs.
- La date limite : ses connaissances s'arrêtent à la fin de son entraînement. Une loi votée, un prix changé ou un service fermé depuis, elle peut l'ignorer, sauf si elle cherche sur le web.
- La flatterie : elle a tendance à aller dans ton sens. Une étude d'Anthropic (2023) a montré que les assistants donnent souvent des réponses qui collent à l'avis de la personne plutôt qu'à la vérité. Écrire « j'ai raison, hein ? », c'est pousser l'IA à dire oui.
Relie chaque situation au piège qu'elle illustre.
Touche un élément à gauche, puis celui qui va avec à droite.
Karim veut savoir si son projet de camion à crêpes tient la route. Quelle question donnera l'avis le plus honnête ?
Comment réduire les erreurs
Anthropic donne, pour Claude, des conseils qui marchent avec toutes les IA :
- Donne-lui le droit de douter. Ajoute : « Si tu ne sais pas ou si tu n'es pas sûr, dis-le. » Selon Anthropic, cette simple phrase peut réduire fortement les fausses informations.
- Fournis la source toi-même. Colle le texte du règlement, du contrat ou de la page officielle, et demande de répondre uniquement à partir de ce texte.
- Exige des citations. Chaque affirmation doit s'appuyer sur un passage précis du document ; sans passage, elle doit la retirer.
- Pose la question deux fois. Si deux réponses à la même question se contredisent, c'est un signal d'alerte.
Pour l'actualité et les prix, demande-lui de chercher sur le web, ou va directement sur le site officiel.
Pour limiter les inventions, ajoute à ta demande : « Si tu n'es pas sûr, ……. »
Ce que l'IA ne te dira pas
Teste ton IA : dans deux conversations séparées, défends une idée puis son contraire (« le télétravail rend plus productif », puis « moins productif »). Si elle te donne raison les deux fois avec enthousiasme, elle te dit ce que tu veux entendre. Pour un avis honnête, pose ta question sans dire ce que tu en penses.
Sources
- OpenAI, Kalai et al., « Why Language Models Hallucinate » (04/09/2025) (consulté le 24 octobre 2026)
- Anthropic, « Reduce hallucinations » (documentation Claude) (consulté le 24 octobre 2026)
- Anthropic, « Towards understanding sycophancy in language models » (23/10/2023) (consulté le 24 octobre 2026)
- CNIL, « Les questions-réponses de la CNIL sur l'utilisation d'un système d'IA générative » (18/07/2024) (consulté le 24 octobre 2026)