Raisonnement, calcul et outils externes
Situation concrète
Une suite d’étapes bien écrite peut aider à contrôler une solution, mais elle n’est pas nécessairement un enregistrement fidèle de chaque opération interne du réseau.
Objectifs d’apprentissage
- Évaluer un résultat indépendamment de son explication
- Choisir entre calculateur, recherche et récupération documentaire
Prérequis
- Leçon 9.1
Mode simple
Un LLM peut résoudre des tâches qui demandent plusieurs étapes et produire une justification utile. Il peut aussi faire une erreur de calcul au milieu d’un raisonnement très convaincant. Pour un nombre exact, utilisez un calculateur ou du code vérifié. Pour un fait actuel, consultez une source récente. RAG cherche des documents et les ajoute au contexte ; il peut réduire les inventions, mais le modèle peut encore mal sélectionner, résumer ou citer les passages.
Mode approfondi
Il faut séparer compétence comportementale, fidélité de la trace et validité finale. Une chaîne d’explication peut être post-hoc ou omettre des opérations. Les outils externalisent certaines fonctions : exécution déterministe, recherche à jour ou récupération dans un corpus délimité. Un pipeline RAG ajoute ses propres défaillances de segmentation, indexation, rappel, classement et attribution. L’évaluation doit donc tester chaque frontière et conserver la provenance des résultats.
Analogie
Un élève peut donner la bonne réponse avec une explication incorrecte, ou une belle explication avec une erreur de calcul. La correction examine les deux séparément.
Exemple concret
Pour vérifier un taux composé, demandez au modèle de poser la formule, exécutez-la dans un outil de calcul, puis comparez les unités et les arrondis.
Quatre branches partent du type de question et aboutissent à calculateur, recherche, base documentaire ou décision humaine.
Activité manipulable
Confusion fréquente
RAG n’inscrit pas automatiquement les documents dans les poids et ne garantit pas que la phrase générée respecte chaque passage récupéré.
Vérification rapide
Quand un calculateur est-il préférable au seul modèle de langage ?
Lorsque le résultat numérique exact et reproductible compte. Le modèle peut structurer la formule, mais l’outil exécute le calcul contrôlable.
Résumé
- Résultat et trace explicative se vérifient séparément.
- Chaque outil répond à un type de risque.
- RAG améliore l’accès aux sources sans supprimer toutes les erreurs.
