Pour vérifier une réponse de l’IA, contrôlez en priorité ce qui est précis et vérifiable (chiffres, dates, noms, citations, références de loi), demandez à l’outil ses sources, puis ouvrez-les vous-même. Cinq minutes suffisent le plus souvent, et c’est ce qui fait de l’IA un vrai gain de temps plutôt qu’un risque.
Pourquoi l’IA se trompe avec aplomb
Une hallucination est une affirmation plausible mais fausse, produite avec assurance. OpenAI explique que les modèles sont entraînés et évalués comme dans un QCM : répondre « je ne sais pas » rapporte zéro point, alors que deviner peut tomber juste. Le modèle apprend donc à deviner plutôt qu’à avouer son incertitude.
Dans un exemple publié par OpenAI, un assistant très utilisé, interrogé sur le titre de la thèse d’un chercheur, a donné trois réponses différentes, toutes fausses. Les modèles récents se trompent nettement moins, mais les erreurs ne disparaissent pas complètement.
La bonne nouvelle : ces erreurs se concentrent sur des éléments faciles à repérer. Un texte bien structuré peut contenir une seule date fausse ; c’est elle qu’il faut chercher.
Ce qu’il faut vérifier en priorité
| Élément | Risque d’erreur | Comment vérifier |
|---|---|---|
| Chiffres et statistiques | Élevé | Retrouver la source d’origine (organisme, année) |
| Dates, délais, montants légaux | Élevé | Site officiel (service-public.fr, Légifrance, organisme concerné) |
| Noms de personnes, titres d’ouvrages | Élevé | Recherche web sur le nom exact |
| Citations entre guillemets | Très élevé | Retrouver le texte original ; à défaut, ne pas citer |
| Liens et références | Élevé | Ouvrir chaque lien |
| Reformulation d’un texte que vous avez fourni | Faible | Relecture rapide |
| Plan, idées, premier jet | Faible | Votre jugement suffit |
La règle se déduit du tableau : plus une information est précise et nouvelle pour vous, plus elle mérite une vérification.
La méthode en 5 étapes
- Repérer les éléments vérifiables. Surlignez chiffres, dates, noms et citations. C’est rarement plus de quelques éléments.
- Demander les sources. « Pour chaque chiffre, indique la source précise (organisme, document, année). Si tu n’en as pas, dis-le. »
- Ouvrir les sources vous-même. Une source citée n’est pas une source vérifiée : un lien peut ne pas exister ou ne pas dire ce qui est annoncé.
- Faire contre-vérifier. Dans une nouvelle conversation : « Voici un texte. Liste les affirmations qui pourraient être inexactes ou invérifiables. » L’IA repère bien les points fragiles d’un texte qu’elle n’a pas écrit dans la même conversation.
- Corriger ou retirer. Ce qui n’est pas confirmé sort du texte. La CNIL recommande de ne jamais reprendre telles quelles les réponses d’une IA générative.
Les demandes qui limitent les erreurs dès le départ
Mieux vaut prévenir que vérifier :
- Fournir le document de référence. « Réponds uniquement à partir du texte ci-dessous » réduit fortement les inventions : l’IA reformule au lieu de chercher dans sa mémoire.
- Autoriser l’incertitude. « Si tu n’es pas sûr, écris “à vérifier” plutôt que de deviner. » OpenAI montre qu’un modèle qui s’abstient davantage commet beaucoup moins d’erreurs.
- Activer la recherche web quand l’outil le propose, pour obtenir des liens à ouvrir.
- Découper la demande. Une question précise donne une réponse plus fiable qu’une demande de dix pages.
Ces réflexes font partie de la méthode décrite dans notre article bien rédiger un prompt.
Quand la vérification devient indispensable
Certaines réponses ne doivent jamais partir sans contrôle complet : un conseil juridique ou fiscal, un chiffre transmis à un client, un document officiel, une information médicale. Pour ces sujets, l’IA prépare le terrain ; un professionnel ou une source officielle tranche.
Pour le reste (premier jet d’un e-mail, plan d’une présentation, reformulation), la relecture habituelle suffit. Le temps gagné reste entier.
Ce qu’il faut retenir
- L’IA invente surtout des éléments précis : chiffres, dates, noms, citations, liens.
- Demander les sources ne suffit pas : il faut les ouvrir.
- Fournir le document et autoriser le « je ne sais pas » limite les erreurs à la source.
- Cinq minutes de vérification transforment une réponse plausible en réponse fiable.
Pour aller plus loin, la formation Comprendre l’IA générative explique en détail comment fonctionnent ces outils et où ils se trompent.