Numérique · Intelligence artificielle
Hallucinations de l’IA
On parle d’hallucination quand une IA générative produit une information fausse ou inventée tout en la présentant avec assurance, comme une fausse citation, une référence inexistante ou un chiffre erroné.
Mis à jour le 4 min de lecture
Un assistant conversationnel peut citer un article scientifique qui n’existe pas, attribuer à un auteur un livre qu’il n’a jamais écrit, inventer une jurisprudence ou un numéro de téléphone. La réponse est fluide, bien rédigée, parfois accompagnée de détails précis : rien ne la distingue en apparence d’une réponse juste. C’est ce qu’on appelle une hallucination, ou confabulation.
Pourquoi les IA hallucinent-elles ?
Un grand modèle de langage ne consulte pas une base de faits : il génère le texte le plus probable compte tenu de la question et de ce qu’il a appris. Plusieurs mécanismes expliquent les erreurs :
- La plausibilité n’est pas la vérité : le modèle a appris à produire des textes qui ressemblent à des textes vrais. Une référence bibliographique a une forme typique (auteurs, titre, revue, année) qu’il sait imiter sans qu’elle corresponde à un document réel.
- Les connaissances sont compressées : des milliards de documents résumés en paramètres. Les faits rares (une personne peu connue, un chiffre précis) sont mal mémorisés et reconstruits approximativement.
- L’entraînement récompense la réponse : un modèle qui répond est souvent mieux évalué qu’un modèle qui dit « je ne sais pas ». Des chercheurs, notamment chez OpenAI en 2025, ont souligné que les méthodes d’évaluation incitent ainsi à deviner plutôt qu’à reconnaître l’incertitude.
- La question induit l’erreur : une question qui contient une prémisse fausse (« Pourquoi Victor Hugo a-t-il reçu le prix Nobel ? ») entraîne souvent une justification inventée.
- Les connaissances s’arrêtent à la date d’entraînement : sans recherche en ligne, le modèle peut combler les trous avec des suppositions.
Les types d’hallucinations
| Type | Exemple |
|---|---|
| Fait inventé | Une date, un chiffre ou un événement qui n’a pas eu lieu |
| Fausse référence | Article, livre, lien web ou décision de justice inexistants |
| Citation apocryphe | Phrase attribuée à une personne qui ne l’a jamais prononcée |
| Contresens sur un document | Résumé qui ajoute ou déforme des éléments du texte fourni |
| Erreur de raisonnement | Calcul faux, conclusion qui ne découle pas des prémisses |
| Code inventé | Fonction ou bibliothèque informatique qui n’existe pas |
Des cas réels
- En 2023, dans l’affaire Mata v. Avianca à New York, des avocats ont déposé un mémoire citant plusieurs décisions de justice inventées par ChatGPT ; ils ont été sanctionnés par le juge. Des affaires similaires se sont multipliées depuis dans plusieurs pays, y compris en Europe.
- Des chatbots d’entreprise ont donné à des clients des informations fausses sur leurs tarifs ou leurs droits ; en 2024, un tribunal canadien a jugé la compagnie Air Canada responsable des indications erronées de son assistant en ligne.
- Des moteurs de recherche dotés de résumés automatiques ont affiché des conseils absurdes tirés de messages humoristiques pris au sérieux.
Les domaines où le risque est maximal
- Santé : posologie, interactions, diagnostic. Toujours vérifier auprès d’un professionnel ; en cas d’urgence, appeler le 15 ou le 112.
- Droit et fiscalité : textes, délais, jurisprudence.
- Recherche et études : références bibliographiques, citations.
- Chiffres : statistiques, prix, dates.
- Personnes réelles : biographies, accusations, propos prêtés à quelqu’un.
Comment s’en protéger
- Vérifier toute information importante dans une source fiable et indépendante (voir évaluer la fiabilité d’une source).
- Exiger des sources et les ouvrir réellement : une référence non vérifiée n’est pas une référence.
- Fournir les documents et demander de s’y limiter (« réponds uniquement à partir du texte ci-dessous, et dis si l’information n’y figure pas »). C’est le principe des systèmes de type RAG, qui réduisent les hallucinations sans les supprimer.
- Autoriser le doute dans le prompt : « si tu n’es pas sûr, indique-le » (voir écrire un prompt).
- Poser la question autrement ou à un autre outil : des réponses incohérentes signalent un terrain fragile.
- Se méfier de la précision : un détail très précis et invérifiable est un signal d’alerte, pas une preuve de sérieux.
- Garder la responsabilité : un texte publié, rendu ou envoyé engage celui qui le signe, pas l’outil.
Les hallucinations vont-elles disparaître ?
Leur fréquence a nettement baissé sur les questions courantes grâce à l’accès à des moteurs de recherche, à de meilleures méthodes d’entraînement et aux modèles qui vérifient leur raisonnement. Mais la plupart des chercheurs considèrent qu’elles ne peuvent pas être totalement éliminées dans des systèmes qui génèrent du texte par probabilité. La vérification humaine reste indispensable pour tout usage où l’erreur a des conséquences.
Questions fréquentes
Pourquoi parle-t-on d'« hallucination » ?
Par analogie avec la perception de quelque chose qui n’existe pas. Le terme est critiqué parce qu’il prête à la machine une expérience humaine ; certains préfèrent « confabulation » ou simplement « erreur ».
Les IA qui citent leurs sources hallucinent-elles moins ?
Généralement, oui, mais elles peuvent mal résumer une source réelle ou lui attribuer ce qu’elle ne dit pas. Il faut ouvrir le lien et vérifier que la source dit bien ce qui est affirmé.
Une IA peut-elle mentir ?
Mentir suppose une intention de tromper. Une hallucination est une erreur sans intention. Des recherches étudient toutefois des cas où des modèles produisent des affirmations trompeuses pour atteindre un objectif fixé, ce qui fait partie des enjeux de sécurité de l’IA.