IA

Fenêtre de contexte

Fenêtre de contexte : quantité maximale de texte, comptée en jetons, qu'un modèle de langage peut prendre en compte en une fois, question et réponse comprises.

Long cadre rectangulaire en métal brossé, posé à l’horizontale sur un sol sombre réfléchissant, traversé par un ruban ondulant de petites tuiles de verre translucides, blanches au centre et teintées de bordeaux aux extrémités, sous un faisceau de lumière venant du haut
Fenêtre de contexte — Image générée par IA (Qwen-Image 2.1, ComfyUI)

La fenêtre de contexte est la quantité maximale de texte qu'un modèle de langage peut prendre en compte en une seule fois. Elle se compte en jetons, des fragments de mots, et elle englobe tout : les consignes, l'historique de la conversation, les documents fournis et la réponse en cours d'écriture. C'est la première limite à vérifier quand un assistant ou un agent se met à répondre de travers.

Définition technique

Une mémoire de travail, pas un stockage

Un modèle de langage ne se souvient de rien entre deux requêtes. À chaque échange, l'application lui renvoie l'intégralité de la conversation. La fenêtre de contexte fixe la taille maximale de cet envoi. Tout ce qui n'y tient pas n'existe pas pour le modèle.

Ce qui remplit la fenêtre

Dans une discussion simple, la fenêtre se remplit lentement. Avec un agent, elle se remplit vite : les instructions du système, la description des outils, le contenu des fichiers lus et le résultat de chaque action s'y accumulent. La réponse du modèle, y compris son raisonnement interne quand il en produit un, doit elle aussi y trouver sa place.

Un réglage, pas seulement une caractéristique

Chaque modèle a une taille maximale, fixée à l'entraînement. Mais quand on héberge soi-même un modèle, la fenêtre réellement utilisée est un paramètre de lancement, souvent bien inférieur à ce maximum par défaut. Un modèle capable de traiter 262 144 jetons peut tourner avec 4 000 si personne n'a touché au réglage.

Enjeux actuels

Des pannes silencieuses

Une fenêtre saturée ne produit pas toujours une erreur. Les réponses se dégradent, arrivent coupées, ou ignorent une consigne donnée plus tôt. Le symptôme ressemble à un modèle médiocre, alors que la cause est un réglage. Les journaux du serveur sont souvent le seul endroit où la troncature apparaît.

Le coût de la taille

Agrandir la fenêtre consomme de la mémoire graphique et allonge le traitement. Sur un modèle hébergé à la demande, cela se traduit en facture, puisque chaque jeton envoyé est compté. Sur un modèle auto-hébergé, cela se traduit en matériel.

Résumer plutôt qu'empiler

Les outils récents compactent la conversation quand elle approche de la limite : ils remplacent l'historique par un résumé. Encore faut-il que l'outil connaisse la taille de la fenêtre. Avec un modèle auto-hébergé, c'est à l'utilisateur de la déclarer.

Questions fréquentes

Que se passe-t-il quand la fenêtre de contexte est pleine ?

Cela dépend de l'outil. Certains refusent la requête avec une erreur claire. D'autres coupent le début ou le milieu de la conversation pour faire de la place, sans prévenir : le modèle répond alors en ayant perdu une partie des consignes. Dans tous les cas, la place qui reste pour la réponse se réduit, et celle-ci peut arriver tronquée, voire vide.

Pourquoi un agent IA consomme-t-il autant de contexte ?

Avant même la première question, un agent envoie au modèle ses instructions, la description de chacun de ses outils et parfois la liste de ses compétences. S'y ajoutent ensuite chaque fichier lu et chaque résultat d'outil. Dans un essai documenté sur ce site, un agent de code occupait près de 25 000 jetons au démarrage : une fenêtre de 32 000 jetons était saturée en quelques échanges.

Une fenêtre de contexte plus grande est-elle toujours meilleure ?

Non. Une grande fenêtre demande plus de mémoire et rallonge le temps de traitement de chaque requête. Les modèles suivent aussi moins bien un contenu très long qu'un contenu court et ciblé. La bonne pratique est de dimensionner la fenêtre à l'usage, et de laisser l'outil résumer la conversation quand elle approche de la limite.

Quelle différence entre fenêtre de contexte et mémoire d'un modèle ?

La fenêtre de contexte est une mémoire de travail : elle ne contient que ce qui est envoyé dans la requête en cours. Le modèle ne retient rien d'une conversation à l'autre. Ce qu'on appelle « mémoire » dans un assistant est un mécanisme ajouté autour du modèle, qui réinjecte des notes ou des documents dans cette fenêtre.

Ressources et documentation