Un million de tokens : ce qui change quand l'IA lit un livre entier d'une seule traite
Ces dernières semaines, plusieurs grands laboratoires ont présenté des modèles de langage dotés d'une fenêtre de contexte d'un million de tokens. Il y a peu encore, ce chiffre relevait des laboratoires de recherche ; il est aujourd'hui en train de devenir la norme des modèles haut de gamme.
Qu'est-ce que le contexte
Le contexte est la quantité de texte qu'un modèle peut garder en mémoire pendant qu'il répond. Un million de tokens correspond, en gros, à 700 000 mots : à peu près toute une saga de fantasy, ou le code complet d'une application de taille moyenne.
Avec de petits contextes, il fallait découper les documents, les résumer par morceaux et espérer que rien d'important ne se perde. Avec un contexte aussi large, le modèle voit tout d'un seul coup : les contradictions entre le chapitre 2 et le chapitre 30, la fonction écrite il y a trois ans qui casse la nouvelle, la clause enfouie à la page 140 d'un contrat.
Où l'on voit la différence
Développement logiciel : le modèle peut raisonner sur un projet entier, pas seulement sur le fichier ouvert.
Écriture : relecture d'un manuscrit complet, avec cohérence des personnages, des temporalités et des lieux.
Travail de bureau : analyse d'archives de documents, de comptes rendus et de tableurs sans avoir à les sélectionner à la main.
Création : scénarios, mondes de jeu et bibles de séries qui restent cohérents du début à la fin.
Les limites à connaître
Plus de contexte ne signifie pas automatiquement de meilleures réponses. Lire un million de tokens coûte plus cher et prend plus de temps, et les modèles ont encore tendance à accorder plus de poids au début et à la fin du texte qu'au milieu. C'est pourquoi les laboratoires baissent les prix de la relecture répétée des mêmes documents, ce que l'on appelle le cache : celui qui travaille pendant des jours sur le même projet paie beaucoup moins la deuxième fois.
Ce que cela signifie pour les créateurs
La vraie nouveauté n'est pas le chiffre, mais la manière de travailler : on passe de questions isolées à des projets entiers confiés à un assistant qui se souvient de tout. Ceux qui organisent bien leurs matériaux, avec des fichiers rangés, des notes claires et des versions datées, en tireront le plus grand avantage.