Je croyais que mon assistant IA lisait vraiment mes documents : ce qu’il faisait à la place m’a laissé sans voix

Vous avez glissé un contrat de vingt pages dans ChatGPT, posé une question précise sur la clause 4.2, et reçu une réponse limpide en trois secondes. Rassurant, non ? Mais ce que l’outil vient de faire n’a rien à voir avec une lecture. Quand vous tapez une question ou collez un document, l’assistant ne lit pas les mots comme un humain. Il les convertit en tokens, des fragments de mots ou caractères, puis analyse leurs relations dans un espace mathématique à plusieurs milliers de dimensions. Aucune compréhension au sens où vous l’entendez. Juste des probabilités, empilées les unes sur les autres à une vitesse qui donne l’illusion du raisonnement.

Ce que votre PDF devient vraiment une fois avalé par l’IA

Le mécanisme rassure d’abord. C’est le traitement du langage naturel qui permet à l’assistant de comprendre que « banque » dans « je vais à la banque » n’a pas le même sens que dans « banque de données ». Efficace pour repérer du sens dans une phrase courte. Beaucoup moins évident sur un rapport de cinquante pages truffé de tableaux, d’annexes et de renvois croisés.

Pour les documents longs, les outils les plus sérieux ne se contentent pas de tout balancer dans la mémoire du modèle. Ils utilisent une méthode baptisée RAG, pour retrieval-augmented generation. Il s’agit de connecter l’assistant IA à une base de connaissances triée sur le volet ou à des documents spécifiques, plutôt que de le laisser puiser uniquement dans sa mémoire d’entraînement. Le principe : découper votre document en petits morceaux, aller chercher les passages jugés pertinents pour votre question, puis ne montrer que ces extraits au modèle avant qu’il ne rédige sa réponse.

Le problème, c’est que ce découpage introduit son propre lot de ratés. Un rapport tient rarement en un seul bloc cohérent, il faut souvent le fragmenter, et rien ne garantit que le bon fragment remonte au bon moment.

Le picorage silencieux, ce défaut que personne ne voit venir

Les chercheurs ont un nom pour la version la plus vicieuse de l’erreur : le picorage silencieux. La source est réelle et le lien fonctionne, mais le chiffre cité vient d’un autre tableau du même rapport, parfois une année différente, parfois un pays différent, ce que relève comme l’erreur la plus fréquente sur les hallucinations chiffrées, davantage que l’invention pure, un phénomène qui touche particulièrement les documents longs collés dans la fenêtre de contexte. l’IA ne ment pas franchement, elle prend juste la bonne ligne dans le mauvais tableau. Et comme la source citée reste techniquement correcte, personne ne s’en aperçoit sans vérifier ligne par ligne.

Les chiffres, justement, ne sont pas anecdotiques. Une étude de Stanford RegLab a mesuré un taux d’hallucination allant jusqu’à 33% sur des outils juridiques pourtant équipés de retrieval, contre 58% à 88% pour des modèles génériques. Le RAG réduit le désastre, il ne l’annule pas. Même constat côté résumés : sur les tâches de résumé ancré, les modèles à raisonnement les plus récents dépassent 10% d’hallucination selon Vectara en 2025, ce qui montre que le problème ne se règle pas simplement en changeant d’outil.

Il y a pire encore, et c’est peut-être le plus déstabilisant : l’IA peut abandonner ce qu’elle sait de vrai pour épouser une erreur présente dans votre propre document. Si vous collez un document avec des erreurs dans votre prompt, le modèle les reprend à son compte sans broncher, et il peut même abandonner ce qu’il sait de vrai pour adopter la version fausse du document. Votre document devient parole d’évangile, même quand il se trompe. J’ai un avis tranché là-dessus : cette docilité excessive est plus dangereuse qu’une hallucination classique, parce qu’elle donne l’apparence d’un raisonnement rigoureux fondé sur « vos propres sources ».

Pourquoi l’assistant préfère inventer plutôt que dire « je ne sais pas »

À la racine de tout ça, un mécanisme statistique assumé. Une hallucination IA est une réponse inventée qu’un modèle présente comme vraie : le modèle ne ment pas au sens humain, il produit le texte le plus probable, et quand il ignore la réponse, il comble le vide avec quelque chose de plausible. Aucune malveillance donc, mais une architecture qui n’a jamais été conçue pour admettre l’ignorance. Elle est conçue pour produire du texte fluide, point.

Ce défaut n’est pas propre à un fournisseur en particulier. Toutes les IA hallucinent, mais pas forcément à la même fréquence. Et les usages professionnels ne sont pas épargnés : en entreprise, cela se traduit souvent par des chiffres inexacts, des citations inventées ou des erreurs de logique dans les documents produits. De quoi rappeler que le contrat de vingt pages évoqué plus haut mérite une relecture humaine avant signature, aussi convaincant que semble le résumé généré.

Reprendre la main sans jeter l’outil

Faut-il pour autant renoncer à faire lire ses documents par une IA ? Non, mais changer de posture. Trois réflexes limitent vraiment la casse : demander systématiquement une citation exacte du passage source avant de croire un chiffre, vérifier ce passage avec un simple Ctrl+F dans le document original, et reformuler la question quand une réponse semble trop nette pour un sujet complexe. Le seul réflexe qui protège vraiment avant publication consiste à forcer le modèle à citer sa source primaire exacte puis à ouvrir ce lien soi-même, un geste qui prend 30 secondes et suffit à intercepter la majorité des chiffres fabriqués.

Un dernier point mérite d’être connu, surtout si vous utilisez ces outils au travail. Depuis février 2025, l’AI Act européen impose une obligation de maîtrise de l’IA pour le personnel qui l’utilise, ce qui fait de la formation des équipes à vérifier les sorties une attente réglementaire, et non plus seulement une précaution de bon sens. la prochaine fois qu’un assistant vous ressort un résumé impeccable de votre rapport financier, la question à vous poser n’est pas « est-ce que ça a l’air juste », mais « ai-je vérifié la ligne exacte du tableau dont ça sort ».

Sources : generationia.flint.media | yes-we-prompt.fr