Context window, c'est quoi exactement ?
Imaginez un plan de travail. Vous y posez tout ce dont vous avez besoin pour répondre : la question, les documents, l'historique de la conversation. Ce plan a une taille fixe. C'est la fenêtre de contexte.
Concrètement, chaque fois que vous écrivez à ChatGPT, Claude ou Gemini, le modèle ne voit pas toute votre vie. Il ne voit même pas forcément toute votre conversation. Il reçoit un bloc d'informations limité, mesuré en tokens. Un token, c'est grosso modo un fragment de mot. En français, comptez environ trois quarts de mot par token, estimation issue de mon usage quotidien.
Tout ce qui entre dans cette fenêtre compte : vos messages, les réponses du modèle, les fichiers joints, les instructions système. Plus vous consommez, moins il reste de place pour du neuf.
Que se passe-t-il quand la fenêtre de contexte déborde ?
C'est là que ça devient intéressant. Quand la fenêtre sature, plusieurs choses peuvent arriver, selon les modèles et les interfaces.
- Troncature silencieuse. Les messages les plus anciens sortent de la fenêtre. Le modèle continue de répondre, mais il a perdu le début de la conversation. Vous ne recevez aucun avertissement.
- Résumé automatique. Certains outils compressent l'historique en un résumé. Pratique, mais le résumé perd des détails. Ces détails étaient peut-être justement ceux qui comptaient.
- Dégradation progressive. Même avant saturation, la qualité baisse. J'ai consacré un article entier au context rot, ce phénomène où une session longue dérive sans raison apparente.
Le point commun : rien ne vous prévient. L'IA ne dit jamais « j'ai oublié ». Elle répond avec assurance sur des informations qu'elle ne possède plus. C'est le piège numéro un des sessions longues.
dans mes propres sessions, je vois la dérive arriver bien avant la saturation théorique annoncée
Combien de tokens peut contenir une fenêtre de contexte ?
Les capacités varient selon les modèles et évoluent vite. Je ne vais pas vous donner de chiffres précis ici, parce qu'ils changent tous les quelques mois et qu'un chiffre périmé vaut mieux que pas de chiffre. Vérifiez toujours la documentation officielle du modèle au moment où vous l'utilisez.
Ce qui reste vrai, quel que soit le modèle : une grande fenêtre ne garantit pas une bonne utilisation de son contenu. Un modèle capable d'ingérer un livre entier n'en retiendra pas fidèlement chaque détail. La capacité d'entrée et la qualité d'attention sont deux choses différentes.
Dans mon métier, je vois régulièrement des équipes supposer que « plus grand » signifie « fiable ». C'est faux. Une fenêtre immense avec une attention diluée produit des réponses pires qu'une fenêtre modeste bien remplie.
Pourquoi ma conversation IA oublie-t-elle le début ?
Parce que le début est probablement sorti de la fenêtre. Trois causes fréquentes :
- Vous avez joint de longs documents qui ont consommé la majeure partie de la fenêtre dès le départ.
- La conversation a duré trop longtemps et les premiers échanges ont été tronqués ou résumés.
- Vous avez ouvert une nouvelle session en pensant continuer l'ancienne. Chaque session repart de zéro, sauf fonctionnalité de mémoire explicite.
Le réflexe simple : si une information est critique, remettez-la dans le contexte au moment où vous en avez besoin. Ne comptez jamais sur la mémoire implicite du modèle.
Comment travailler avec la fenêtre de contexte plutôt que contre elle ?
Voici les pratiques que j'applique moi-même et que je transmets lors de mes interventions.
Comment structurer une session IA pour éviter la dérive ?
- Une session, une mission. Découpez le métier en tâches courtes. Une session pour analyser, une autre pour rédiger, une troisième pour vérifier.
- Placez les instructions clés au début. Les premières lignes du contexte ont plus de poids. Répétez les contraintes importantes si la session s'allonge.
- Externalisez la mémoire. Pour un projet suivi, je garde un fichier de synthèse que je recolle en début de session. Mon second cerveau IA fonctionne exactement sur ce principe : le contexte utile est reconstruit à chaque fois, jamais supposé persistant.
- Vérifiez les faits sensibles. Toute donnée chiffrée produite par le modèle doit être contrôlée à la source. Jamais de stat sans vérification.
Comment savoir si ma session a dépassé la limite utile ?
- Le modèle contredit ce qu'il a dit plus tôt.
- Il redemande une information déjà fournie.
- Ses réponses deviennent génériques, comme si le brief avait disparu.
- Il ignore des contraintes posées en début de conversation.
Dès que deux de ces signaux apparaissent, fermez la session et repartez propre. C'est moins coûteux que de corriger une heure de production biaisée.
Fenêtre de contexte et automatisation : ce que ça implique pour vos projets
Si vous construisez des workflows avec de l'IA, la fenêtre de contexte devient une contrainte d'architecture. Un pipeline qui envoie un document de cent pages à un modèle pour en extraire trois champs gaspille du contexte et augmente le risque d'erreur. Mieux vaut découper, filtrer, puis interroger.
C'est un principe que j'applique systématiquement dans mes projets d'automatisation : réduire le contexte à ce qui est strictement nécessaire pour la tâche. Moins de bruit, plus de fiabilité, des coûts maîtrisés.
règle que je me donne : si je dois relire trois fois le prompt pour comprendre ce que le modèle doit faire, le contexte est mal construit