03
Module 3 · 3 leçons
Le voyage complet d’une phrase
Parcourir toute la chaîne de calcul, de la tokenisation à la répétition autorégressive qui construit une réponse.
- Durée
- 78 min
- Évaluation
- 4 questions
Cap à suivre
À la fin de ce module
- Objectif 1
Ordonner les étapes de traitement d’une phrase
- Objectif 2
Expliquer comment la position modifie les représentations
- Objectif 3
Relier états cachés, logits et token suivant
Itinéraire
Les leçons
- 01De la phrase aux représentationsAssembler tokenisation et embeddings pour suivre le premier changement de forme subi par une phrase à l’entrée du modèle.pipeline d’entréeidentifiantembedding23 min →
- 02Donner une position aux tokensComprendre pourquoi l’ordre doit entrer dans le calcul et comparer positions apprises, RoPE et biais ALiBi sans les confondre.ordrepositionRoPE27 min →
- 03Des blocs aux logits, puis recommencerSuivre les états à travers les blocs, la projection vers le vocabulaire et la boucle qui ajoute chaque nouveau token.bloc Transformerétat cachélogit28 min →
Faire le point
Quiz — Le voyage complet d’une phrase
Quatre questions variées avec correction détaillée pour vérifier les distinctions et mécanismes du module.
Activité interactive
Quiz — Le voyage complet d’une phrase
Sélectionne la ou les réponses, valide, puis lis l’explication avant de continuer.
Question 1 sur 4, de type réponse unique.
Question 1/4