In les 2.5 kwamen twee begrippen al even langs. Het context window: de werkruimte van ChatGPT binnen één chat. En memory: wat het meeneemt van de ene chat naar de volgende. Hoe dat onder de motorkap werkt, hielden we voor later. Bon, het is later.
Deze les betaalt zich snel terug. Zie je eenmaal wat er in dat window zit, hoe memory het bijvult en waarom een lange chat wazig wordt? Dan stop je met vechten tegen ChatGPT en begin je te sturen. Wat win je daarmee? Scherpere antwoorden, minder vaak van nul herbeginnen, en chats die na twee uur nog overeind staan.
Eerst: wat is een token?
ChatGPT leest geen letters. Ook geen hele woorden. Het leest tokens: kleine brokjes tekst. OpenAI houdt het zelf op deze vuistregel: een token is ongeveer vier tekens, of zo'n driekwart van een Engels woord. 100 tokens is dus ongeveer 75 woorden. In het Nederlands heb je vaak wat meer tokens nodig voor dezelfde tekst. Een lange samenstelling als "klantentevredenheidsonderzoek" wordt in stukjes gehakt.
Waarom zou je daar wakker van liggen? Omdat alles in tokens geteld wordt. De grootte van het window. De tijd die het verwerken duurt. En op abonnementen met een verbruikstegoed, zoals bij Work en Codex, vreet een grotere klus meer op. "Hoeveel tokens is dit?" wil dus eigenlijk zeggen: "hoeveel plaats en tijd gaat dit kosten?"
Wat zit er in dat window?
Stel je je bureau voor. Het context window is het bureaublad: alles waar ChatGPT naar kan kijken terwijl het antwoordt. Je hele archief? Nee. Alleen wat er nu ligt, in deze chat.
Vier dingen moeten dat blad delen:
- De bestanden die je meegaf. Uploads, geplakte tekst, resultaten uit apps.
- Het gesprek tot nu toe. Elk bericht, van jou en van ChatGPT.
- Wat memory binnenbrengt. Je custom instructions, plus de memories of details uit vorige chats die ChatGPT relevant vindt.
- Het antwoord in wording. Daarvoor blijft altijd plaats vrij.
Hoe groot is dat bureau? Dat hangt af van je abonnement én van je instelling. Op Plus heeft Instant zo'n 54.000 tokens. De thinking-modellen krijgen er ongeveer 256.000, goed voor zo'n 320 pagina's tekst. Pro gaat naar 128.000 en 400.000. Voor Business geeft OpenAI geen vast getal, het verschilt per model. De praktische regel is overal dezelfde: een thinking level geeft je een veel groter bureau dan Instant. Oneindig groot wordt het nooit.
Window of memory?
Die twee worden vaak verward, en dat zorgt voor gedoe. Simpel gezegd: het window is het bureau, memory is de archiefkast ernaast.
Start je een nieuwe chat, dan wordt het bureau leeggeveegd. De archiefkast blijft staan. Daarin zitten je bewaarde memories, je chatgeschiedenis en je custom instructions. Bij elk antwoord haalt ChatGPT er de relevante stukken uit. Daarom "weet" een gloednieuwe chat toch al wat je job is.
Wat betekent dat voor jou? Twee dingen. Eén: een nieuwe chat ruimt het bureau op, niet de kast. Opnieuw beginnen kost je dus niet wie je bent. Twee: wat memory binnenbrengt, neemt ook plaats in op het bureau. Is het verouderd, dan duwt het je antwoord ongemerkt de verkeerde kant op. De gewoonte uit les 2.5, af en toe je memory-overzicht nalezen, houdt die kast eerlijk.
Waarom lange chats ontsporen
Het bureau is groot, maar ooit ligt het vol. Hoe langer het gesprek, hoe moeilijker het model de vroege details vasthoudt. Op het einde stopt ChatGPT er gewoon mee. Je krijgt de melding dat het gesprek zijn maximale lengte bereikt heeft, en dat je verder kan in een nieuwe chat.
Maar lang voor dat punt voel je het al:
- Het herhaalt iets wat het al gezegd heeft.
- Het vergeet een instructie van helemaal bovenaan.
- Het klinkt vlakker dan een uur geleden.
- Het spreekt iets tegen waar jullie het eerder over eens waren.
Er bestaat ook een stillere variant. Zelfs ruim onder de limiet maakt een rommelig window het moeilijker om het stuk te vinden dat ertoe doet. Ken je dat, dat ene blad dat je zoekt, ergens onder een stapel papier? Precies dat. Wat er op het bureau ligt, telt even zwaar als hoeveel erop past.
Wanneer begin je opnieuw, en hoe neem je je werk mee?
De oplossing is een gewoonte: één onderwerp per chat. Begin opnieuw zodra het onderwerp verandert of de antwoorden beginnen te haperen. Een nieuwe chat is een leeg bureau.
Bang om de draad kwijt te raken? Hoeft niet. Draag het werk bewust over:
Schrijf voor we stoppen een korte overdracht die ik in een nieuwe chat kan plakken.
Neem mee: wat we beslist hebben, de huidige versie en de open vragen.
Hou het kort.
Plak die overdracht in een nieuwe chat en werk gewoon verder. Werk waar je vaak naar terugkeert, zet je in een project (les 4.3). Dan liggen de bestanden en instructies de volgende keer al klaar.
Zo blijft het window voor jou werken
- Geef licht materiaal. Gewone tekst en Markdown bevatten dezelfde woorden als een zware PDF of een opgemaakt Word-bestand. Alleen nemen ze veel minder plaats in.
- Breng alleen binnen wat de taak nodig heeft. Elk bestand, elk app-resultaat en elke zoekopdracht belandt op het bureau. Noem die ene app die je nodig hebt. Niet alle vijf.
- Kies het level dat bij de klus past. Lange documenten en grote analyses zitten beter op een thinking level. Een snel taakje heeft die extra ruimte niet nodig.
- Hou je memory juist. Gooi memories weg die fout of verouderd zijn. Of gebruik een Temporary Chat voor eenmalige dingen die er niet in horen.
De vuistregel: een opgeruimde, gerichte chat wint het altijd van een gigantische chat die alle kanten uitwaaiert.
Waar gaat dit naartoe?
Je hebt nu de hendels in handen die bepalen hoe vlot elk lang stuk werk loopt: wat je op het bureau legt, wat de kast binnenbrengt, en wanneer je opruimt. In de rest van Deel 4 gaan we je beste werk hergebruiken. Skills en plugins verpakken een taak, zodat ChatGPT ze elke keer op dezelfde manier doet. En projecten geven lopend werk een vaste plek.
Probeer het
Neem een lange chat die je al hebt. Of duw een nieuwe chat met een echte taak door tot hij begint te haperen. Test dan de overdracht: plak de prompt van hierboven, open een nieuwe chat, plak de samenvatting erin en stel daar je volgende vraag.
Open tot slot Settings, Personalization, Memory en lees wat ChatGPT over jou bijhoudt. Staat er iets in dat een nieuwe chat op het verkeerde been zou zetten? Pas het aan. Leeg bureau, eerlijke archiefkast: meer is het niet.
(Algemene oefening. Versies per rol en sector volgen zodra er accounts zijn.)