Cours de recherche interactif
Comprendre les LLM, de la phrase à la preuve
Un atlas interactif des modèles de langage
Voir les calculs, manipuler les idées et apprendre à ne jamais confondre une belle réponse avec une preuve.
La promesse du parcours
Suivre le fil d’un token, sans perdre celui de la preuve.
Un cours de recherche complet pour suivre une phrase dans un Transformer, comprendre comment un modèle apprend et vérifier avec méthode ce que les architectures publiques permettent réellement d’affirmer.
- Modules
- 13
- Leçons
- 39
- Durée
- 22 h
- Niveau
- debutant
Carte du territoire
Les 13 modules
Chaque étape ajoute une couche de compréhension. Vous pouvez tout suivre dans l’ordre ou ouvrir directement une zone de l’atlas.
- 00S’orienter dans le coursApprendre à choisir son niveau de lecture, enquêter avec méthode et qualifier une preuve avant d’étudier les mécanismes.3 leçons62 min
- 01Ce que fait réellement un modèle de langagePoser les distinctions fondatrices entre texte, calcul, prédiction, paramètres, activations et contexte.3 leçons66 min
- 02Tokens, nombres et représentationsSuivre la transformation du texte en unités puis en vecteurs, sans prendre les cartes simplifiées pour le mécanisme complet.3 leçons78 min
- 03Le voyage complet d’une phraseParcourir toute la chaîne de calcul, de la tokenisation à la répétition autorégressive qui construit une réponse.3 leçons78 min
- 04Le Transformer et l’attentionOuvrir un bloc Transformer et comprendre attention, QKV, masque causal, têtes, résidus, normalisation et MLP.3 leçons88 min
- 05Génération, contexte et performanceRelier les choix de décodage à la variabilité des réponses, puis mesurer les coûts du contexte et l’apport du cache KV.3 leçons84 min
- 06Architectures modernesComparer les familles et variantes d’attention, puis lire les nombres publiés d’un modèle MoE sans les attribuer à un autre.3 leçons95 min
- 07Comment les modèles apprennentComprendre la perte, les gradients et le préentraînement, puis replacer les méthodes de post-entraînement dans leurs vraies limites.3 leçons97 min
- 08Mémoire, contexte et personnalisationSéparer cinq catégories souvent confondues et prendre des décisions prudentes sur les données et les réglages.3 leçons78 min
- 09Hallucinations, raisonnement et limitesComprendre pourquoi la plausibilité ne garantit pas la vérité et choisir les bons outils pour contrôler une réponse.3 leçons88 min
- 10Histoire et bases mathématiquesRelier la généalogie des modèles de langue aux objets mathématiques indispensables pour lire un schéma d’architecture.3 leçons91 min
- 11Laboratoire de vérificationMettre la méthode à l’épreuve sur des chiffres, des architectures propriétaires et huit affirmations fréquentes.3 leçons102 min
- 12Utilisation responsable et synthèseTransformer les acquis en habitudes : mieux demander, vérifier, réviser, expliquer et décider quand garder un humain dans la boucle.3 leçons94 min
Pour qui ?
Aucun mot de passe mathématique à l’entrée.
- 01
Personnes curieuses sans prérequis technique
- 02
Professionnels qui utilisent des assistants d’IA
- 03
Étudiants qui veulent consolider leurs bases
Questions fréquentes
Les bonnes questions ouvrent le cours.
Est-ce que le modèle comprend comme moi ?
Pas exactement. Il manipule des nombres appris à partir de textes.
Pas exactement. Il manipule des nombres appris à partir de textes. Il peut produire des réponses qui ressemblent à de la compréhension, et parfois il résout vraiment des tâches difficiles. Mais son fonctionnement n'est pas le même que l'expérience humaine de comprendre une histoire, avoir des souvenirs personnels et vérifier le monde.
Pourquoi il coupe les mots ?
Parce que l'ordinateur a besoin d'unités manipulables.
Parce que l'ordinateur a besoin d'unités manipulables. Ces unités s'appellent tokens. Un token peut être un mot, un bout de mot, un espace ou un signe. Cela permet au modèle de gérer des mots inconnus et plusieurs langues, mais cela veut aussi dire que compter les mots ne suffit pas pour connaître le coût en tokens.
Pourquoi il transforme tout en nombres ?
Un ordinateur calcule avec des nombres.
Un ordinateur calcule avec des nombres. Pour utiliser une phrase, le modèle remplace chaque token par un vecteur. Ce vecteur ressemble à une fiche avec beaucoup de cases numériques. Les cases ne sont pas des définitions simples, mais elles aident le modèle à faire ses calculs.
Pourquoi il y a plusieurs couches ?
Parce qu'une seule transformation ne suffit pas.
Parce qu'une seule transformation ne suffit pas. À chaque couche, les représentations peuvent être enrichies. C'est comme relire une phrase plusieurs fois avec des lunettes différentes : grammaire, sujet, style, contexte. Mais il ne faut pas croire que chaque couche a un rôle humain unique et fixe.
C'est quoi l'attention ?
C'est une méthode pour décider quels tokens sont utiles les uns aux autres.
C'est une méthode pour décider quels tokens sont utiles les uns aux autres. Si une phrase contient un pronom, le modèle peut donner plus de poids au nom auquel le pronom se rattache. Mathématiquement, l'attention compare requêtes et clés, puis mélange les valeurs.
Pourquoi plusieurs têtes d'attention ?
Parce qu'une seule façon de regarder la phrase peut être trop limitée.
Parce qu'une seule façon de regarder la phrase peut être trop limitée. Plusieurs têtes permettent de capturer plusieurs relations en parallèle. Certaines peuvent regarder la ponctuation, d'autres les accords, d'autres les dépendances lointaines, mais ces rôles ne sont pas toujours aussi propres.
C'est quoi un paramètre ?
Un paramètre est un nombre appris. On peut l'imaginer comme un petit bouton réglable.
Un paramètre est un nombre appris. On peut l'imaginer comme un petit bouton réglable. Pendant l'entraînement, le modèle ajuste des milliards de boutons pour réduire ses erreurs de prédiction. Ces boutons stockent la compétence générale du modèle, mais pas comme des fiches de dictionnaire.
C'est quoi un neurone ?
Dans ce contexte, un neurone est une unité de calcul qui combine des nombres et produit un autre nombre.
Dans ce contexte, un neurone est une unité de calcul qui combine des nombres et produit un autre nombre. Le nom vient du cerveau, mais ce n'est pas un neurone biologique. Il ne faut pas imaginer une petite personne qui pense dans la machine.