Quand la plausibilité remplace la preuve
Situation concrète
Un modèle peut produire une date, un titre et une citation qui s’emboîtent parfaitement dans la phrase tout en ne correspondant à aucune source réelle.
Objectifs d’apprentissage
- Reconnaître plusieurs formes d’hallucination
- Expliquer pourquoi le style assuré n’est pas une mesure de vérité
Prérequis
- Modules 1 et 7
Mode simple
Le modèle est entraîné à poursuivre du texte de manière probable, pas à ouvrir automatiquement une preuve pour chaque phrase. Lorsque l’information manque, que le prompt est ambigu ou que les motifs appris se mélangent, il peut fabriquer une suite convaincante. Une réponse prudente annonce ses limites et propose une vérification. Les signaux d’alerte comprennent les références introuvables, les chiffres très précis sans méthode, les contradictions et les affirmations absolues sur une information non publique.
Mode approfondi
Les hallucinations peuvent relever de la factualité externe, d’une contradiction avec le contexte fourni ou d’une attribution incorrecte. Elles émergent de plusieurs sources : objectif probabiliste, couverture des données, décodage, conflit de contexte et limites du système de récupération. L’incertitude verbale est imparfaitement calibrée ; une formulation confiante ne mesure pas une probabilité de vérité. L’évaluation doit donc comparer des propositions atomiques à des références définies.
Analogie
Un improvisateur talentueux peut compléter une histoire sans hésitation ; la fluidité du récit ne transforme pas les détails inventés en archives.
Exemple concret
« Le modèle Orbis-9 possède exactement 913 couches » combine un nom et un nombre précis, mais sans source identifiable la précision est un signal de risque, pas une preuve.
Six extraits courts portent chacun une étiquette et une question indiquant quelle preuve permettrait de les contrôler.
Activité manipulable
Confusion fréquente
Refuser le mot « mensonge » n’excuse pas l’erreur. Cela évite d’attribuer une intention humaine et concentre l’analyse sur le fait vérifiable.
Vérification rapide
Pourquoi demander au modèle s’il est sûr ne suffit-il pas ?
Son expression de confiance peut être mal calibrée. Il faut contrôler la proposition avec une source, un calcul ou un outil indépendant.
Résumé
- La plausibilité textuelle n’est pas la vérité.
- Les hallucinations ont plusieurs causes et formes.
- La vérification cible des propositions précises.