10
Module 10 · 3 leçons
Histoire et bases mathématiques
Relier la généalogie des modèles de langue aux objets mathématiques indispensables pour lire un schéma d’architecture.
- Durée
- 91 min
- Évaluation
- 4 questions
Cap à suivre
À la fin de ce module
- Objectif 1
Situer représentations distribuées, séquences, attention et Transformer
- Objectif 2
Distinguer scalaire, vecteur, matrice et tenseur
- Objectif 3
Effectuer un petit produit matriciel et expliquer la non-linéarité
Itinéraire
Les leçons
- 01Du modèle neuronal au TransformerParcourir les jalons qui relient prédiction du langage, représentations distribuées, réseaux séquentiels, attention et Transformer.histoirereprésentation distribuéeséquence30 min →
- 02Scalaire, vecteur, matrice et tenseurManipuler quatre formes numériques et les relier aux températures, embeddings, poids, batches et états d’un Transformer.scalairevecteurmatrice28 min →
- 03Produit matriciel, non-linéarité et dimensionsCalculer un petit produit ligne-colonne, suivre les formes et comprendre pourquoi les non-linéarités donnent de la profondeur au réseau.produit matricielprojectionfonction non linéaire33 min →
Faire le point
Quiz — Histoire et bases mathématiques
Quatre questions variées avec correction détaillée pour vérifier les distinctions et mécanismes du module.
Activité interactive
Quiz — Histoire et bases mathématiques
Sélectionne la ou les réponses, valide, puis lis l’explication avant de continuer.
Question 1 sur 4, de type réponse unique.
Question 1/4