Hallucinations de l’IA : pourquoi elle invente et comment vérifier ses réponses

Le mot est imagé, mais il décrit bien le phénomène : l’IA « voit » une information qui n’existe pas, et la décrit comme si elle était réelle. Anthropic, l’éditeur de Claude, la définit dans sa documentation comme un texte factuellement incorrect ou incohérent avec le contexte fourni.

Les formes les plus courantes

• L’invention pure : une référence, une étude, un livre, une décision de justice ou un article de loi qui n’existe pas, avec un titre, une date et un numéro crédibles.
• Le détail faux dans un ensemble juste : une biographie globalement exacte, mais avec une mauvaise date de naissance ou un poste jamais occupé.
• L’erreur de calcul ou de lecture : un total faux, une colonne mal interprétée dans un tableau, un chiffre mal recopié d’un document.
• La fausse citation : une phrase attribuée à une personne qui ne l’a jamais prononcée, ou une citation déformée.
• Le contresens sur un document : un résumé qui affirme le contraire de ce que dit le texte, ou qui ajoute une information absente.
• L’information dépassée : une règle ou un tarif qui était vrai, mais qui a changé depuis.

Pourquoi c’est piégeux

Une hallucination ne ressemble pas à une erreur. L’IA ne marque aucune hésitation, ne change pas de ton et ne signale rien. La réponse fausse est aussi bien rédigée que la réponse juste, et souvent entourée d’informations exactes qui la rendent crédible. C’est précisément ce qui la rend dangereuse : on baisse la garde parce que le reste de la réponse est bon.

Un exemple qui a fait date

En 2023, aux États-Unis, un tribunal fédéral de New York a infligé une amende de 5 000 dollars à des avocats qui avaient déposé un mémoire citant des décisions de justice inventées par ChatGPT, dans l’affaire Mata contre Avianca. Interrogé par les avocats, l’outil avait même assuré que ces décisions existaient bien. L’affaire est devenue l’exemple type de ce qui arrive quand on fait confiance à l’IA sans vérifier.

Pour comprendre les hallucinations, il faut savoir comment fonctionnent ChatGPT, Claude et leurs équivalents. Ce sont des modèles de langage : des programmes entraînés sur d’immenses quantités de textes, qui ont appris à prédire, mot après mot, la suite la plus probable d’un texte.

Une machine à produire du texte plausible

Quand vous posez une question, l’IA ne va pas chercher la réponse dans une encyclopédie. Elle construit la réponse qui ressemble le plus à ce qu’on trouve habituellement après ce type de question. La plupart du temps, la réponse la plus probable est aussi la bonne, parce que l’information était très présente dans les textes d’entraînement. Mais quand l’information est rare, absente ou ambiguë, l’outil produit quand même une réponse qui a la forme attendue : un nom qui sonne juste, une date vraisemblable, une référence au bon format. La CNIL le résume ainsi : ces modèles fonctionnent sur des probabilités, et non comme des bases de connaissances.

Des outils entraînés à répondre plutôt qu’à se taire

En septembre 2025, des chercheurs d’OpenAI, l’éditeur de ChatGPT, ont publié une étude intitulée « Why Language Models Hallucinate » (Pourquoi les modèles de langage hallucinent). Leur conclusion principale : les méthodes d’entraînement et d’évaluation habituelles récompensent davantage le fait de deviner que celui d’admettre son incertitude. C’est comparable à un questionnaire à choix multiples sans points négatifs : répondre au hasard rapporte parfois des points, alors que laisser la case vide n’en rapporte jamais. Un outil évalué ainsi apprend à tenter sa chance plutôt qu’à dire « je ne sais pas ». Les chercheurs proposent de revoir ces méthodes de notation pour moins pénaliser l’abstention.

Ce que cela implique pour vous

Deux conséquences pratiques en découlent :

1. Plus votre question porte sur un détail précis et peu connu, plus le risque est élevé. L’IA connaît bien ce qui est très documenté, beaucoup moins les cas particuliers.
2. L’IA ne sait pas toujours qu’elle ne sait pas. Si vous ne lui donnez pas explicitement la permission de reconnaître une limite, elle aura tendance à combler le vide.

Et quand l’IA cherche sur internet ?

ChatGPT et Claude peuvent aujourd’hui, selon votre abonnement et vos réglages, effectuer des recherches sur internet et citer les pages consultées. Cela réduit nettement le risque sur les sujets d’actualité, car la réponse s’appuie sur des pages réelles que vous pouvez ouvrir. Mais le risque ne disparaît pas : l’IA peut mal résumer une page, s’appuyer sur une source peu fiable ou attribuer à une source une information qu’elle ne contient pas. La CNIL distingue d’ailleurs les hallucinations des réponses inexactes à partir de sources obsolètes ou erronées.

Toutes les demandes ne présentent pas le même risque. Reformuler un e-mail, proposer un plan de présentation ou trouver des idées de titres n’expose qu’à peu d’erreurs graves : vous voyez immédiatement si le résultat vous convient. Le danger apparaît quand l’IA doit fournir une information factuelle que vous ne pouvez pas contrôler d’un coup d’œil.

Les métiers les plus exposés

• Juristes, avocats, notaires : références de textes et de décisions, délais, conditions d’application.
• Comptables, financiers, assureurs : taux, seuils, règles fiscales, calculs.
• Ressources humaines : règles du Code du travail, conventions collectives, montants et durées.
• Santé : posologies, contre-indications, recommandations officielles.
• Communication et marketing : chiffres de marché, citations, informations sur des concurrents.

Pour ces métiers, l’IA reste très utile pour rédiger, structurer et reformuler, mais elle ne doit jamais être la source finale d’un fait. Notre formation IA pour les avocats et les notaires, organisée en intra-entreprise, consacre une large place à la vérification des références juridiques.

Il n’existe pas de signe infaillible, mais certains indices doivent vous faire lever la tête.

Les signaux qui doivent alerter

• Une précision inhabituelle : un numéro d’article, une date au jour près, un pourcentage avec décimale, alors que la question était générale.
• Une référence que vous ne connaissez pas, surtout dans votre propre domaine : si vous n’en avez jamais entendu parler, c’est peut-être qu’elle n’existe pas.
• Une source sans lien, ou un lien qui ne mène à rien ou vers une page qui ne parle pas du sujet.
• Une réponse qui change quand vous reposez la même question autrement : un fait solide ne varie pas d’une conversation à l’autre.
• Une réponse trop parfaite : exactement ce que vous espériez entendre, sans nuance ni réserve.
• Une incohérence interne : un chiffre qui ne correspond pas au total, une date incompatible avec une autre.
• Un sujet très pointu ou très local : une petite commune, une PME, une personne peu connue, une règle propre à une convention collective.

Trois tests rapides

Es-tu certain de cette information ? Indique ton niveau de confiance et ce qui pourrait être inexact.

Donne-moi la source exacte de cette affirmation, avec un lien vers la page officielle.

Reformule ta réponse en séparant ce que tu sais avec certitude de ce que tu supposes.

Ces questions ne garantissent rien, car l’IA peut aussi maintenir une erreur avec assurance, mais elles font souvent apparaître les zones de doute. Anthropic recommande également de reposer la même question plusieurs fois et de comparer les réponses : des différences entre elles signalent un risque d’hallucination.

La vérification n’a pas besoin d’être longue. Elle doit être proportionnée à l’enjeu : quelques secondes pour une idée de titre, quelques minutes pour un chiffre qui figurera dans un rapport, une vérification complète pour une référence juridique dans un courrier officiel.

Réflexe 1 : remonter à la source

Pour chaque fait important, retrouvez la source d’origine : le texte de loi sur Légifrance, la page officielle de l’administration, le site de l’organisme concerné, le document de l’entreprise. Ne vous contentez pas d’une source citée par l’IA : ouvrez-la, et vérifiez qu’elle dit bien ce que l’IA lui attribue.

Pour les sujets réglementaires, quelques sites officiels couvrent l’essentiel des besoins : Légifrance pour les textes de loi et les décisions de justice, service-public.gouv.fr et entreprendre.service-public.gouv.fr pour les démarches et les droits, le site de l’Urssaf pour les cotisations, celui de la CNIL pour la protection des données. Ajoutez-les à vos favoris : vérifier une référence y est généralement rapide, et une référence introuvable sur le site officiel doit être considérée comme fausse tant que le contraire n’est pas prouvé.

Réflexe 2 : vérifier les éléments précis en priorité

Les chiffres, les dates, les noms propres, les références et les citations sont les éléments les plus souvent inventés. Concentrez votre contrôle sur eux. Le raisonnement général est généralement plus fiable que les détails.

Réflexe 3 : recalculer les chiffres

Pour un calcul ou une analyse de tableau, refaites au moins le total dans votre tableur, et contrôlez quelques lignes à la main. Notre guide IA et Excel détaille ces vérifications.

Réflexe 4 : comparer avec le document d’origine

Pour un résumé ou une synthèse, relisez rapidement le document source sur les points clés. Vérifiez qu’aucune information n’a été ajoutée, que les nuances sont conservées et que les conclusions correspondent au texte.

Réflexe 5 : faire relire par une personne compétente

Pour un document à fort enjeu, comme un contrat, un courrier à un client, une note juridique ou une publication, la relecture par une personne qui connaît le sujet reste indispensable. La CNIL recommande de toujours porter un regard critique sur les contenus produits et de ne jamais les reproduire tels quels.

Le bon réflexe : traiter la réponse de l’IA comme le travail d’un stagiaire brillant et rapide, mais qui n’ose pas dire qu’il ne sait pas. On s’appuie sur son travail, on ne le signe pas sans relecture.

La meilleure façon de limiter les hallucinations est d’agir en amont, dans la façon de formuler votre demande, ce qu’on appelle le prompt. Plusieurs techniques simples, recommandées notamment dans la documentation d’Anthropic pour Claude, fonctionnent aussi avec ChatGPT.

1. Fournir vos propres documents

C’est la technique la plus efficace. Au lieu de demander à l’IA ce qu’elle sait d’un sujet, donnez-lui le document de référence : le contrat, la convention collective, la fiche produit, la procédure interne. Demandez-lui de s’appuyer uniquement sur ce document.

Réponds uniquement à partir du document ci-joint. N’utilise pas tes connaissances générales. Si la réponse ne figure pas dans le document, écris « information absente du document ».

2. Autoriser l’IA à dire « je ne sais pas »

Anthropic indique que donner explicitement à l’IA la permission d’exprimer son incertitude peut réduire fortement les informations fausses. C’est une consigne simple à ajouter à toutes vos demandes factuelles.

Si tu n’es pas sûr d’une information, dis-le clairement plutôt que de deviner. Je préfère une réponse incomplète à une réponse inexacte.

3. Demander des citations exactes

Pour un document long, demandez d’abord à l’IA d’extraire les passages exacts qui répondent à votre question, puis de construire sa réponse uniquement à partir de ces extraits. Vous pouvez ensuite vérifier chaque passage en quelques secondes dans le document.

Avant de répondre, cite mot pour mot les passages du document qui justifient ta réponse, en indiquant la page. Base ta réponse uniquement sur ces citations.

4. Faire vérifier chaque affirmation

Après une première réponse, demandez à l’IA de reprendre chaque affirmation, de retrouver la phrase du document qui la justifie, et de retirer celles qui ne sont pas justifiées.

Relis ta réponse. Pour chaque affirmation, indique la phrase du document qui la justifie. Supprime toute affirmation que tu ne peux pas justifier et signale-la entre crochets.

5. Activer la recherche sur internet pour les faits récents

Pour une information d’actualité, une règle qui a pu changer ou un tarif, activez la recherche sur internet si votre outil le permet, demandez des liens vers des sources officielles, et ouvrez-les.

6. Découper les tâches complexes

Une demande trop large multiplie les risques d’erreur. Procédez par étapes : d’abord extraire les informations, puis les analyser, puis rédiger. Vous contrôlez chaque étape avant de passer à la suivante. Notre guide Écrire un bon prompt détaille la méthode, et notre formation au prompt engineering, c’est-à-dire l’art de formuler des demandes précises et efficaces à l’IA, approfondit ces techniques.

Anthropic le précise : ces techniques réduisent nettement les hallucinations, mais ne les éliminent pas complètement. La vérification des informations importantes reste nécessaire.

Les hallucinations ne sont pas qu’une affaire individuelle. Quand un salarié diffuse une information fausse produite par l’IA, c’est l’entreprise qui en porte les conséquences : un devis erroné, un conseil juridique inexact, une communication qui cite un chiffre inventé, une décision prise sur une analyse fausse.

La responsabilité reste humaine

L’outil n’est jamais responsable. La personne qui utilise la réponse, la signe ou l’envoie en répond, et l’entreprise avec elle. La CNIL souligne qu’une confiance excessive dans les résultats d’une IA générative, sans vérification appropriée, peut conduire à des décisions erronées.

Fixer des règles simples

Une charte d’utilisation de l’IA, même courte, permet de poser quelques règles claires :

• Aucune référence juridique, réglementaire ou chiffrée n’est diffusée sans vérification à la source officielle.
• Les documents à fort enjeu (contrats, courriers officiels, publications, conseils aux clients) sont relus par une personne compétente.
• L’IA travaille de préférence sur les documents de l’entreprise plutôt que sur ses connaissances générales.
• Les erreurs repérées sont partagées avec l’équipe, pour que chacun apprenne à les reconnaître.

Former les équipes

L’AI Act, le règlement européen sur l’intelligence artificielle, demande aux entreprises qui utilisent des systèmes d’IA de prendre des mesures pour développer la maîtrise de l’IA de leurs équipes : c’est son article 4. Savoir qu’un outil peut halluciner, et savoir vérifier ses réponses, en fait clairement partie. Notre guide sur l’AI Act pour les PME détaille cette obligation, et notre guide Former ses équipes à l’IA propose un plan d’action.

Choisir des outils adaptés

Certains usages réduisent naturellement le risque : un assistant personnalisé qui travaille à partir de vos documents, une recherche internet avec sources citées, une offre professionnelle connectée à vos dossiers. Notre guide ChatGPT, Claude, Gemini, Copilot : quel assistant choisir ? vous aide à comparer les options.

Les hallucinations sont la première raison pour laquelle certaines équipes se méfient de l’IA, et la première source d’erreurs chez celles qui l’utilisent sans méthode. Bien comprises, elles deviennent un risque maîtrisé : on sait quand faire confiance, quand vérifier et comment demander. Notre formation IA : l’essentiel en 1 jour y consacre un atelier pratique : comprendre pourquoi l’IA se trompe, repérer une hallucination, formuler des demandes qui limitent les erreurs et vérifier les réponses, sur ChatGPT et Claude.

La formation dure 7 heures, en classe virtuelle ou en présentiel selon la session, pour 990 € HT par participant en inter-entreprises. Pour une équipe, elle peut être organisée en intra-entreprise, à 2 500 € HT par jour jusqu’à 12 personnes, avec des exemples tirés de votre métier. Elle est finançable par votre OPCO, souvent jusqu’à 100 %.

Si vous débutez, notre guide Utiliser ChatGPT au travail pose les bases avant d’aller plus loin.