Comment fonctionne un LLM, expliqué simplement

LLM signifie « large language model », grand modèle de langage. C’est la technologie qui fait fonctionner les assistants conversationnels apparus depuis 2022, et une part croissante des applications d’entreprise : recherche dans la documentation, rédaction de comptes rendus, lecture de factures, assistance aux équipes.

On peut s’en servir sans savoir comment il fonctionne. Mais le comprendre, même dans les grandes lignes, change la façon de l’utiliser : on sait ce qu’on peut lui confier, ce qu’il faut vérifier, pourquoi certaines réponses fausses ont l’air si sûres d’elles, et ce qui fait la différence entre une démonstration réussie et une application qui tient en production.

Cet article suit le chemin d’une question, du moment où vous l’écrivez à celui où la réponse s’affiche. Sans une formule, mais sans raccourci trompeur.

01 · Le principe

Un LLM prédit le mot suivant.

Tout part d’une idée très simple. On donne au modèle le début d’un texte, il calcule quel morceau a le plus de chances de venir ensuite, l’ajoute, puis recommence avec le texte allongé. Une réponse de dix lignes, c’est quelques centaines de fois ce même calcul, enchaînés à grande vitesse : c’est pour cela que la réponse s’affiche mot après mot.

Le modèle ne choisit pas toujours la suite la plus probable. Un réglage, la « température », dose la part de hasard : basse, les réponses sont régulières et prévisibles ; haute, elles sont plus variées, et plus risquées. Un second réglage écarte d’office les suites trop improbables. C’est pourquoi la même question peut recevoir deux réponses différentes, et pourquoi, dans une application métier, on règle ces paramètres au plus bas dès qu’il faut de la constance : extraire un montant d’une facture n’a rien de créatif.

Retenez surtout ceci : le modèle ne consulte aucune base de faits. Il produit ce qui est plausible compte tenu de tout ce qu’il a lu. La plupart du temps, le plausible et le vrai se confondent ; parfois non. Toute la suite de l’article découle de cette idée.

02 · Les mots

Le texte devient des nombres.

Le découpage en tokens.

Un ordinateur ne manipule que des nombres. La première étape découpe donc le texte en morceaux, les « tokens ». Le découpage est appris à partir des textes les plus fréquents : un mot courant forme un seul morceau, un mot rare ou long en forme plusieurs, et un nombre est souvent coupé en fragments de deux ou trois chiffres.

Ce détail a des conséquences pratiques. Le token est l’unité dans laquelle on mesure la longueur d’un texte, la mémoire du modèle et le prix d’un appel. Le français, moins présent que l’anglais dans les textes d’apprentissage, demande souvent davantage de tokens pour dire la même chose. Et un modèle qui voit « 1 284,50 » en trois morceaux comprend mal pourquoi on lui demande de calculer : c’est l’une des raisons pour lesquelles il se trompe en arithmétique.

La carte des sens.

Chaque token est ensuite traduit en une longue liste de nombres, l’« embedding », qui fonctionne comme une position sur une carte. Pendant son apprentissage, le modèle place ces positions de sorte que les sens proches soient voisins : « contrat » près d’« avenant », « facture » près de « devis ».

Cette carte ne sert pas qu’au modèle lui-même. On peut y placer des phrases ou des paragraphes entiers, et mesurer leur distance : deux textes qui disent la même chose avec des mots différents se retrouvent côte à côte. C’est le principe de la recherche « par le sens », celle qui permet de retrouver la bonne clause dans mille contrats sans connaître ses mots exacts. Nous y revenons plus bas : c’est la pièce centrale d’un RAG.

03 · L’attention

Chaque mot regarde les autres.

Un mot isolé ne suffit pas : « elle » ne veut rien dire sans la phrase autour, et « avocat » n’a pas le même sens dans un cabinet et dans une salade. En 2017, une équipe de chercheurs de Google a publié l’architecture qui a tout changé, le « Transformer », construite autour d’un mécanisme appelé l’attention.

Pour chaque token, le modèle calcule l’importance de tous les autres tokens du texte, et enrichit son sens en conséquence. Dans la phrase ci-dessous, « elle » s’appuie surtout sur « banque » : le modèle a compris qui refuse.

Des couches, des regards multiples.

Ce calcul ne se fait pas une fois, mais des dizaines de fois, couche après couche, et à chaque couche selon plusieurs « regards » en parallèle : l’un suit la grammaire, un autre les références comme ce « elle », un autre le thème du texte. Entre deux couches d’attention, d’autres couches, plus classiques, transforment le sens obtenu ; les chercheurs ont montré qu’une bonne part des connaissances du modèle y est stockée, à la manière d’une immense table de correspondances.

Les « paramètres » dont on parle pour mesurer la taille d’un modèle sont les réglages de toutes ces couches : 175 milliards pour GPT-3 en 2020, davantage aujourd’hui pour les plus grands modèles, quelques milliards seulement pour les petits modèles qui tournent sur un seul serveur.

La fenêtre de contexte.

Le texte que le modèle prend en compte d’un coup s’appelle la fenêtre de contexte : c’est sa mémoire de travail. Elle est passée d’environ deux mille tokens en 2020 à plusieurs centaines de milliers, voire un million, pour certains modèles actuels, de quoi y placer des centaines de pages.

Mais une grande fenêtre n’est pas une mémoire parfaite. Le coût augmente avec la longueur, la réponse ralentit, et les modèles exploitent moins bien une information noyée au milieu d’un long contexte qu’au début ou à la fin : des chercheurs l’ont mesuré en 2023 sous le nom de « lost in the middle ». D’où une règle de conception simple : donner au modèle le bon passage plutôt que tout le dossier.

04 · L’apprentissage

Deux temps pour apprendre.

Le pré-entraînement : lire presque tout.

Le modèle lit d’abord des quantités de texte difficiles à se représenter : plus de quinze mille milliards de tokens pour un modèle comme Llama 3 en 2024, l’équivalent de plus de cent millions de livres. Pages web, livres, articles scientifiques, code informatique. Sa seule tâche est de deviner le token suivant, de se tromper, et d’ajuster ses paramètres pour se tromper un peu moins.

C’est l’étape la plus coûteuse : des semaines de calcul sur des milliers de processeurs spécialisés. À la fin, le modèle a absorbé la langue, une grande quantité de connaissances et des façons de raisonner. Mais il ne sait pas encore converser : si on lui pose une question, il est capable de la prolonger par trois autres questions, comme dans un questionnaire.

Le réglage : devenir un assistant.

Vient ensuite un apprentissage plus court. D’abord sur des exemples de consignes et de bonnes réponses écrits par des personnes ; puis sur leurs préférences, quand elles classent plusieurs réponses de la meilleure à la moins bonne. C’est ce qui transforme une machine à prolonger les textes en un assistant qui suit des consignes, refuse certaines demandes et adopte un ton.

Depuis 2024, une troisième étape s’est ajoutée pour les modèles dits « de raisonnement » : on les entraîne, par essais et erreurs, sur des problèmes dont la réponse se vérifie — un calcul, un programme qui doit passer ses tests. Ils apprennent à écrire leur raisonnement étape par étape avant de répondre. Ils sont plus fiables sur les problèmes difficiles, mais plus lents et plus chers à chaque question.

Ce qu’il ne sait pas.

Les connaissances du modèle s’arrêtent à la date de son entraînement. Ce qui s’est passé après, ou ce qui n’a jamais été public — vos procédures, vos contrats, vos tarifs —, il ne le sait pas. On peut le lui apprendre de deux façons : le réentraîner sur vos données, le « fine-tuning », ou les lui donner au moment de la question, dans le contexte. La seconde est le plus souvent la bonne : moins chère, à jour en permanence, et elle permet de citer la source.

05 · Les erreurs

Pourquoi il se trompe avec aplomb.

Puisqu’il produit du plausible, un LLM peut inventer une référence, un chiffre ou un article de loi avec le même aplomb qu’un fait exact. On parle d’« hallucination ». Ce n’est pas une panne : c’est le fonctionnement normal du modèle, appliqué à une question dont il ne connaît pas la réponse. Il n’a pas de signal intérieur qui lui dirait « je ne sais pas » ; il faut le lui apprendre, et le lui permettre.

Deux autres travers sont moins connus. Le premier est la complaisance : réglé pour satisfaire, le modèle a tendance à aller dans le sens de la question. Demandez-lui « pourquoi ce contrat est-il risqué ? » et il trouvera des risques, qu’il y en ait ou non. Le second touche à la sécurité : le modèle ne distingue pas toujours les consignes de son utilisateur des instructions cachées dans un document qu’on lui fait lire. Un courriel piégé peut ainsi tenter de détourner un assistant qui le résume ; on parle d’« injection de consignes ».

Les réponses à ces risques se combinent selon l’enjeu :

• Lui donner les faits. Le RAG va chercher dans vos documents les passages utiles et les place dans le contexte : le modèle répond à partir d’eux, et peut citer sa source.
• Lui donner des outils. Pour un calcul, une date ou une donnée à jour, le modèle appelle une calculatrice, une base de données ou une application plutôt que de deviner.
• Lui permettre de ne pas savoir. Une consigne explicite — « si la réponse n’est pas dans les documents, dites-le » — réduit nettement les inventions.
• Cloisonner ce qu’il peut faire. Un assistant qui lit des documents extérieurs n’a pas, en même temps, le droit d’envoyer des courriels ou de modifier des données.
• Garder une personne qui valide. Pour toute décision qui engage, la réponse du modèle est une proposition, pas une conclusion.

06 · En entreprise

Ce qu’il faut autour du modèle.

Un assistant grand public, c’est un modèle et une zone de saisie. Une application métier, c’est un modèle au milieu d’un ensemble d’éléments qui font la différence entre une démonstration impressionnante et un outil sur lequel une équipe peut compter tous les jours.

Le RAG : répondre à partir de vos documents.

C’est l’architecture la plus répandue en entreprise. Vos documents sont découpés en passages, chaque passage est placé sur la carte des sens, et l’ensemble est rangé dans une base faite pour ces recherches. Quand une question arrive, on cherche les passages les plus proches, on les place dans le contexte, et le modèle répond à partir d’eux.

La qualité d’un RAG se joue rarement dans le modèle. Elle se joue dans le découpage des documents, qui ne doit pas couper une clause en deux, dans la recherche, qui combine souvent le sens et les mots exacts, et dans le contrôle des droits : un salarié ne doit retrouver que les documents qu’il a le droit de lire.

Les outils et les réponses structurées.

Un modèle peut aussi être autorisé à appeler des fonctions : consulter un stock, créer un ticket, lancer un calcul. Il ne les exécute pas lui-même ; il demande à l’application de le faire, qui vérifie la demande. Et quand le résultat doit être repris par un logiciel — les champs d’une facture, la classification d’une demande —, on lui impose un format de réponse strict plutôt qu’un texte libre.

Le choix du modèle et de son hébergement.

Il n’y a pas de meilleur modèle dans l’absolu. Les plus grands sont les plus capables, mais aussi les plus lents et les plus chers ; les petits suffisent pour classer, extraire ou résumer, pour une fraction du coût. Une application bien conçue choisit le plus petit modèle qui fait le travail, et réserve les grands aux étapes qui en ont besoin.

Reste la question des données. Appeler un modèle par internet, c’est envoyer le contexte à celui qui le fait tourner. Selon la sensibilité des données, on choisit un fournisseur et une région d’hébergement, ou un modèle ouvert installé sur ses propres serveurs, en France.

Mesurer, toujours.

Enfin, une application d’IA se teste comme le reste du logiciel, avec une différence : ses réponses ne sont jamais tout à fait identiques. On constitue donc un jeu de questions dont on connaît les bonnes réponses, et on mesure, à chaque changement de consigne ou de modèle, combien sont justes. Sans cette mesure, on améliore à l’aveugle.

07 · Lexique

Les mots à connaître.

• Token : le morceau de texte que le modèle manipule ; souvent un mot court, parfois un fragment de mot.
• Contexte : tout ce que le modèle lit avant de répondre — consigne, documents, échange en cours. Sa taille est limitée.
• Paramètres : les milliards de réglages internes ajustés pendant l’apprentissage ; ils font la « taille » d’un modèle.
• Température : la part de hasard dans le choix du mot suivant.
• Embedding : la liste de nombres qui place un texte sur la carte des sens.
• RAG : la technique qui va chercher les bons passages de vos documents pour les donner au modèle.
• Fine-tuning : un apprentissage complémentaire sur des exemples propres à un métier.
• Agent : un LLM qui enchaîne lui-même plusieurs actions avec des outils pour atteindre un objectif.
• Hallucination : une réponse plausible mais fausse, donnée avec assurance.

Sources : Vaswani et al., « Attention Is All You Need », 2017 (l’architecture Transformer) ; Brown et al., « Language Models are Few-Shot Learners », 2020 (GPT-3) ; Lewis et al., « Retrieval-Augmented Generation for Knowledge-Intensive NLP Tasks », 2020 (le RAG) ; Geva et al., « Transformer Feed-Forward Layers Are Key-Value Memories », 2021 ; Ouyang et al., « Training language models to follow instructions with human feedback », 2022 ; Liu et al., « Lost in the Middle: How Language Models Use Long Contexts », 2023 ; Meta, présentation de Llama 3, 2024 (volume d’entraînement).