Une IA générative produit le texte le plus plausible, pas le plus vrai. Quand elle manque d’information, elle comble le vide avec quelque chose qui ressemble à une bonne réponse.
Exemples typiques
- Une étude citée avec un auteur, une date et un titre… qui n’existe pas.
- Un article de loi au bon format, mais au contenu inventé.
- Un chiffre précis (« 37 % des PME… ») sans source réelle.
Comment s’en protéger
- Demander les sources et les ouvrir : une source non vérifiée n’est pas une source.
- Fournir le document de référence et demander de répondre uniquement à partir de lui (c’est l’ancrage).
- Vérifier ce qui compte : chiffres, dates, noms, références juridiques.
- Autoriser l’IA à dire « je ne sais pas » dans la demande.
Les hallucinations font partie des risques traités dans Comprendre l’IA générative.