Eine Million Token: Was sich ändert, wenn die KI ein ganzes Buch auf einmal liest
In den vergangenen Wochen haben mehrere große Labore Sprachmodelle mit einem Kontextfenster von einer Million Token vorgestellt. Bis vor Kurzem war das eine Zahl aus der Forschung; heute wird sie zum Standard bei hochwertigen Modellen.
Was der Kontext ist
Der Kontext ist die Textmenge, die ein Modell beim Antworten im Blick behalten kann. Eine Million Token entspricht grob 700.000 Wörtern: etwa der gesamten Saga eines Fantasy-Romans oder dem vollständigen Code einer mittelgroßen Anwendung.
Bei kleinen Kontextfenstern mussten Dokumente zerstückelt, stückweise zusammengefasst und in der Hoffnung bearbeitet werden, dass nichts Wichtiges verloren geht. Mit einem so großen Kontext sieht das Modell alles gleichzeitig: die Widersprüche zwischen Kapitel 2 und Kapitel 30, die vor drei Jahren geschriebene Funktion, die die neue kaputt macht, die Klausel, die auf Seite 140 eines Vertrags vergraben ist.
Wo der Unterschied sichtbar wird
Softwareentwicklung: Das Modell kann über ein ganzes Projekt nachdenken, nicht nur über die gerade geöffnete Datei.
Schreiben: Überarbeitung eines kompletten Manuskripts, mit stimmigen Figuren, Zeitabläufen und Schauplätzen.
Büroarbeit: Analyse von Dokumentenarchiven, Protokollen und Tabellen, ohne sie von Hand auswählen zu müssen.
Kreativarbeit: Drehbücher, Spielwelten und Serienbibeln, die von Anfang bis Ende stimmig bleiben.
Die Grenzen, die man kennen sollte
Mehr Kontext bedeutet nicht automatisch bessere Antworten. Eine Million Token zu lesen kostet mehr und dauert länger, und die Modelle gewichten Anfang und Ende eines Textes tendenziell noch immer stärker als die Mitte. Deshalb senken die Labore die Preise für das wiederholte Lesen derselben Dokumente, den sogenannten Cache: Wer tagelang am selben Projekt arbeitet, zahlt beim zweiten Mal deutlich weniger.
Was das für Kreative bedeutet
Das eigentlich Neue ist nicht die Zahl, sondern die Arbeitsweise: Man geht von einzelnen Fragen zu ganzen Projekten über, die man einem Assistenten anvertraut, der sich an alles erinnert. Den größten Nutzen haben alle, die ihre Materialien gut organisieren, mit geordneten Dateien, klaren Notizen und datierten Versionen.