Réduire le risque sans promettre l’infaillibilité
Situation concrète
Une bonne méthode ne demande pas le même effort pour reformuler une invitation et pour interpréter un résultat médical ou signer un contrat.
Objectifs d’apprentissage
- Construire une stratégie de vérification par niveau de risque
- Identifier les limites qui persistent après ajout de sources
Prérequis
- Leçon 9.2
Mode simple
Commencez par mesurer les conséquences d’une erreur. Pour un faible enjeu, une relecture peut suffire. Pour un fait important, demandez des sources, ouvrez-les et vérifiez les passages. Pour un calcul, utilisez un outil reproductible. Pour une décision sensible, faites intervenir une personne compétente et conservez les hypothèses. Limiter le périmètre, fournir de bons documents et demander au modèle d’indiquer son incertitude réduit le risque, mais ne crée jamais une garantie absolue.
Mode approfondi
Une défense en profondeur combine prévention, détection et limitation d’impact : instructions structurées, corpus autorisé, validation de schéma, outils spécialisés, échantillonnage de contrôles, journal de provenance et seuil d’escalade. Les métriques doivent refléter le domaine, y compris les cas rares et les coûts asymétriques. Même avec récupération, un modèle peut omettre une nuance ou attribuer un passage au mauvais document ; la vérification finale reste proportionnée au risque.
Analogie
La sécurité routière ne dépend pas d’une seule ceinture : règles, signalisation, entretien, attention du conducteur et secours se complètent.
Exemple concret
Pour une synthèse juridique, limitez le corpus, exigez une référence par proposition, ouvrez chaque passage déterminant et faites valider l’interprétation par un professionnel.
Six anneaux entourent une décision centrale ; chaque anneau porte un contrôle et aucun n’est présenté comme suffisant seul.
Activité manipulable
Confusion fréquente
Demander « n’hallucine pas » est une instruction utile mais non un mécanisme de preuve. Le contrôle doit exister en dehors de la formulation.
Vérification rapide
Quel facteur détermine la profondeur de vérification ?
Les conséquences plausibles d’une erreur, ainsi que la possibilité de la détecter et de la corriger avant qu’elle ne cause un dommage.
Résumé
- Le niveau de contrôle suit le niveau de risque.
- Les défenses se cumulent au lieu de dépendre d’une consigne.
- Aucune méthode générale ne promet l’infaillibilité.