07
Module 7 · 3 leçons
Comment les modèles apprennent
Comprendre la perte, les gradients et le préentraînement, puis replacer les méthodes de post-entraînement dans leurs vraies limites.
- Durée
- 97 min
- Évaluation
- 4 questions
Cap à suivre
À la fin de ce module
- Objectif 1
Décrire une boucle d’apprentissage par prédiction et correction
- Objectif 2
Relier données, calcul et taille dans les lois d’échelle
- Objectif 3
Comparer SFT, RLHF, DPO et approche constitutionnelle
Itinéraire
Les leçons
- 01Préentraînement et fonction de perteSuivre une boucle d’apprentissage où le modèle prédit, mesure son erreur et accumule des régularités à grande échelle.préentraînementpertebatch28 min →
- 02Gradient, rétropropagation et lois d’échelleComprendre comment l’erreur modifie les paramètres et pourquoi taille, données et calcul doivent évoluer ensemble.gradientrétropropagationoptimisation34 min →
- 03Du SFT aux préférences humainesComparer SFT, RLHF, DPO et entraînement par principes, puis comprendre pourquoi l’alignement n’offre aucune garantie de vérité.SFTRLHFDPO35 min →
Faire le point
Quiz — Comment les modèles apprennent
Quatre questions variées avec correction détaillée pour vérifier les distinctions et mécanismes du module.
Activité interactive
Quiz — Comment les modèles apprennent
Sélectionne la ou les réponses, valide, puis lis l’explication avant de continuer.
Question 1 sur 4, de type réponse unique.
Question 1/4