Quand l'IA se trompe (et invente)
L'IA se trompe parfois, et pire, elle invente avec assurance. Léo et Maya apprennent pourquoi il faut toujours vérifier.
Ecouter l'épisode
Mini-Quiz
Gratuit completNiveau Fondation, 10 questions pour vérifier les bases.
Tu veux les 9 questions suivantes ?
Débloque le quiz complet, les fiches récap et les exercices CEB blanc pour toutes les matières.
Pack CEB : 19,99 EURPaiement unique, accès illimité
Tu aimes apprendre avec edukia ? Crée ton compte gratuit !
Créer mon compte gratuit🎧
Tu aimes apprendre avec Léo et Maya ?
Découvre nos épisodes pour préparer le CEB 2026, avec quiz interactifs, fiches récap et suivi de progression.
Découvrir le Pack CEBÀ retenir de cet épisode
Léo a demandé à une IA un titre de livre pour son exposé. Réponse parfaite : un titre, un auteur, tout y était.
Sauf que le livre n'existe pas. Dans ce troisième épisode de la série IA : Mode d'emploi, Maya explique à Léo ce qui vient de se passer : une hallucination.
Une IA cherche toujours à donner une réponse qui a l'air juste. Quand elle ne connaît pas la vraie réponse, elle peut en fabriquer une qui semble crédible : un titre plausible, une date, une citation.
Ce n'est pas vraiment un mensonge, car l'IA n'a pas conscience de se tromper, mais le résultat est faux, et surtout dit avec un aplomb total. C'est ce qui la rend piégeuse : une réponse assurée donne envie d'y croire.
Le piège numéro un, c'est justement de penser que si c'est écrit par l'IA, c'est forcément vrai. Des IA ont inventé des citations et des sources scientifiques inexistantes.
L'arme est simple : vérifier les informations importantes sur une source fiable. L'IA reste très utile pour expliquer et avancer, à condition de ne pas la traiter comme une encyclopédie infaillible.
Et ce réflexe de vérifier avant de croire est un super-pouvoir utile partout.
L'hallucination : inventer une réponse crédible
Une IA devine la suite la plus probable et elle est faite pour toujours donner une réponse qui a l'air juste. Le problème, c'est que parfois elle ne connaît pas la vraie réponse.
Au lieu de dire je ne sais pas, elle fabrique alors une réponse qui semble crédible : un titre de livre plausible, une date, une citation. Ça ressemble à du vrai, mais c'est inventé.
On appelle ce phénomène une hallucination.
Elle ne ment pas, mais elle se trompe avec aplomb
Peut-on dire que l'IA ment ? Pas vraiment, car mentir, c'est vouloir tromper, et l'IA n'a pas conscience de se tromper : elle produit la suite qui lui semble la plus probable.
C'est justement ce qui la rend piégeuse. Elle se trompe avec un aplomb total, sans hésiter une seconde.
Or une réponse dite avec assurance donne envie d'y croire. Voilà le piège numéro un : penser que si c'est écrit par l'IA, c'est forcément vrai.
L'arme secrète : vérifier
Des IA ont inventé des citations de personnages célèbres et même des sources scientifiques inexistantes, avec un nom, une année et un numéro de page très convaincants. En cherchant, on ne trouve rien : tout était fabriqué.
Contre ça, il existe une arme toute simple : vérifier. Dès qu'une information compte vraiment, un nom, une date, un chiffre, une source, on la vérifie ailleurs, sur un site fiable, dans un livre ou auprès d'un adulte qui s'y connaît.
Si l'IA a raison, on le confirme. Si elle a inventé, on l'attrape.
Utile, à condition de ne pas tout croire
Faut-il arrêter de faire confiance à l'IA pour autant ? Non.
Elle reste excellente pour expliquer une idée, donner des pistes ou reformuler un texte. Ce qu'il faut, c'est ne pas la traiter comme une encyclopédie qui aurait toujours raison.
On s'en sert pour comprendre et avancer, et on vérifie les faits importants. Ce réflexe de vérifier avant de croire est utile partout, pas seulement avec l'IA : sur Internet, à la télé, entre copains.
C'est un super-pouvoir pour toute la vie.
Les points clés
- Quand elle ne sait pas, l'IA peut inventer une réponse crédible : c'est une hallucination.
- Elle ne ment pas volontairement, mais elle se trompe avec un aplomb total.
- Une réponse assurée n'est pas une preuve : le piège est de tout croire.
- L'arme, c'est de vérifier les informations importantes sur une source fiable.
- L'IA reste très utile pour comprendre et avancer, si on ne la croit pas les yeux fermés.
Questions fréquentes
Qu'est-ce qu'une hallucination d'IA ?
C'est quand une IA invente une réponse fausse mais crédible, parce qu'elle ne connaît pas la vraie réponse et cherche toujours à en donner une qui a l'air juste. Elle peut fabriquer un titre de livre, une date ou une citation qui n'existent pas.
L'IA ment-elle quand elle se trompe ?
Pas vraiment. Mentir, c'est vouloir tromper, or l'IA n'a pas conscience de se tromper : elle produit la suite qui lui semble la plus probable.
Le résultat peut être tout aussi faux, mais ce n'est pas un mensonge volontaire.
Pourquoi les erreurs de l'IA sont-elles si piégeuses ?
Parce qu'elle se trompe avec assurance, sans hésiter. Une réponse dite avec aplomb donne envie d'y croire.
C'est pour cela qu'il ne faut pas confondre confiance dans le ton et exactitude de l'information.
Comment se protéger des hallucinations de l'IA ?
En vérifiant. Dès qu'une information compte (un nom, une date, un chiffre, une source), on la contrôle ailleurs : un site fiable, un livre, un adulte compétent.
Si l'IA a inventé, on s'en aperçoit tout de suite.
Faut-il arrêter d'utiliser l'IA à cause de ses erreurs ?
Non. Elle reste très utile pour expliquer, donner des pistes ou reformuler.
Il faut simplement ne pas la traiter comme une encyclopédie infaillible : on s'en sert pour avancer, et on vérifie les faits importants.