Wat is een contextvenster? Waarom AI in lange chats details vergeet
Je werkt een uur in dezelfde chat en ineens negeert AI je afspraken. Dat komt door het contextvenster, het werkgeheugen van een taalmodel. Zo werkt het en zo ga je er slim mee om.
Wat is een contextvenster? Waarom AI in lange chats details vergeet
Wat is een contextvenster als je al een uur in dezelfde chat aan een rapport werkt en ChatGPT ineens je afspraak vergeet om altijd in je-vorm te schrijven?
Of je plakt een contract van 80 pagina’s, maar het antwoord mist precies de clausule waar het om ging. Dat voelt alsof de AI niet goed oplet, maar vaak zit het probleem in het werkgeheugen van het model.
Contextvensters zijn sterk gegroeid, van 9.000 tokens naar 1 miljoen tokens bij sommige modellen. Toch is groter niet automatisch betrouwbaarder. Na dit artikel snap je waarom dat zo is en hoe je lange chats slimmer aanpakt.
Wat is een contextvenster (in gewone taal)?
Een contextvenster is de totale hoeveelheid tekst die een taalmodel tegelijk kan bekijken terwijl het een antwoord opbouwt. Je kunt het zien als het werkgeheugen van de AI.
Dat werkgeheugen is iets anders dan de trainingsdata. Trainingsdata zijn de teksten waarvan het model ooit patronen heeft geleerd. Wil je eerst terug naar de basis, lees dan ook wat een taalmodel is.
In het contextvenster zitten meerdere dingen tegelijk. Denk aan je laatste vraag, eerdere berichten in dezelfde chat, geüploade bestanden en ook het antwoord dat het model op dat moment schrijft.
Een simpele vergelijking is een bureau. Op dat bureau passen maar een beperkt aantal papieren. Zolang alles op tafel ligt, kun je ermee werken. Wordt het bureau te vol, dan schuiven oude papieren naar de rand of verdwijnen ze uit beeld.
Zo werkt het ook bij AI. Het model heeft geen onbeperkte ruimte om alles in één keer mee te nemen. Het kan dus gebeuren dat een afspraak uit het begin van een gesprek minder goed wordt gebruikt bij een antwoord aan het einde.
Belangrijk is ook wat het contextvenster niet is. Het is geen blijvend geheugen. Sluit je de chat of start je een nieuw gesprek, dan is die eerdere context niet vanzelf aanwezig, tenzij de tool een aparte geheugenfunctie of projectomgeving gebruikt.
Hoe groot is een contextvenster en wat is een token?
De grootte van een contextvenster wordt gemeten in tokens, niet in woorden. Moderne modellen hebben vaak ruim honderdduizend tot 1 miljoen tokens, maar de exacte grootte verschilt per model, app, API en aanbieder.
Een token is geen woord. Volgens OpenAI kan een token een teken, woorddeel, heel woord of leesteken zijn. OpenAI geeft als vuistregel voor Engels: 1 token is ongeveer 4 tekens of driekwart woord, en 100 tokens is ongeveer 75 woorden.
Voor Nederlands ligt dat vaak minder gunstig. Nederlandse woorden zijn soms langer of worden anders opgeknipt. Daardoor passen er in hetzelfde aantal tokens meestal wat minder Nederlandse woorden dan Engelse woorden.
De groei is groot geweest. Anthropic meldde in 2023 dat Claude van 9.000 naar 100.000 tokens ging, ongeveer 75.000 woorden. Google noemt voor veel Gemini-modellen contextvensters van 1 miljoen tokens of meer, afhankelijk van het model.
Je moet daarbij opletten dat het venster wordt gedeeld. Je invoer telt mee, maar ook het antwoord dat het model schrijft. Bij sommige redeneermodellen kunnen ook denkstappen meetellen binnen dat venster.
De grootte in een gewone app kan afwijken van de grootte in de API. Ook kan het per abonnement verschillen. Kijk daarom voor actuele cijfers altijd bij de aanbieder zelf.
| Tokens | Ongeveer woorden Engels | Bron |
|---|---|---|
| 100 tokens | Ongeveer 75 woorden | OpenAI Help Center |
| 1 alinea | Circa 75 woorden bij ongeveer 100 tokens | OpenAI Help Center |
| 100.000 tokens | Circa 75.000 woorden | Anthropic in 2023 |
| 1 miljoen tokens | Geen vaste woordsom, dit verschilt per model en taal | Google AI for Developers |
Waarom vergeet AI details in een lang gesprek?
AI vergeet details in lange chats omdat het venster vol kan raken of omdat informatie in een grote hoeveelheid tekst minder zwaar meetelt. De aandacht van het model wordt dan verdeeld over veel berichten, bestanden en instructies.
Bij een te lang gesprek kan een app oudere berichten inkorten of samenvatten. Dat hangt af van de tool. Je ziet dat niet altijd duidelijk terug in de chat, maar het kan wel invloed hebben op het antwoord.
Ook als alles nog binnen het venster past, kan er iets misgaan. Onderzoek met de titel Lost in the Middle laat zien dat modellen informatie in het midden van lange invoer slechter benutten dan informatie aan het begin of einde.
Dat herken je in de praktijk. Je plakt een lang document en vraagt om alle risico’s. Het model noemt de eerste paar punten netjes, pakt ook iets uit de conclusie, maar mist een belangrijke passage ergens halverwege.
Dit kan leiden tot fouten die heel overtuigend klinken. Soms vult het model ontbrekende informatie aan met iets dat logisch lijkt, maar niet klopt. Dat raakt aan het probleem van AI-hallucinaties.
Daarom is controle nodig, zeker bij contracten, offertes, beleidsteksten en juridische stukken. Vraag niet alleen om een samenvatting. Vraag ook waar in het document de informatie staat.
Wat is een contextvenster niet? Het is geen geheugenfunctie
Een contextvenster is geen geheugenfunctie, want het geldt binnen één gesprek. Een geheugenfunctie of projectfunctie kan juist informatie tussen gesprekken bewaren, afhankelijk van de tool en je instellingen.
Dit verschil is belangrijk. Het contextvenster is tijdelijk werkgeheugen. Geheugenfuncties zijn bedoeld om voorkeuren of gegevens later opnieuw te gebruiken. Projectbestanden zijn bestanden die je binnen een projectomgeving kunt blijven gebruiken.
Die drie dingen lijken op elkaar, maar ze doen iets anders.
| Begrip | Wat het is | Geldt voor hoelang |
|---|---|---|
| Contextvenster | Tekst die het model in één gesprek tegelijk kan meelezen | Tijdens de taak of chat |
| Geheugenfunctie | Informatie die een tool kan bewaren voor latere gesprekken | Tussen gesprekken, afhankelijk van de tool |
| Trainingsdata | Data waarmee het model patronen heeft geleerd | Voor het model zelf, niet voor jouw losse chat |
Privacy speelt hierbij mee. Alles wat je in het venster plakt, wordt verwerkt door de aanbieder van de AI-tool. Plak dus niet zomaar klantgegevens, bijzondere persoonsgegevens of BSN’s in een gratis of privéaccount.
Werk je met bedrijfsdocumenten, gebruik dan een omgeving met duidelijke afspraken over dataverwerking. Lees ook hoe je veilig AI gebruiken in je organisatie aanpakt.
Hoe gebruik je het contextvenster slim?
Je gebruikt het contextvenster beter door gesprekken kort en gericht te houden. Nu je weet wat een contextvenster is, kun je belangrijke regels herhalen en met samenvattingen werken bij lange taken.
De belangrijkste regel is: één taak per chat. Gebruik niet dezelfde chat voor een offerte, een brainstorm, een klachtenbrief en een analyse van een contract. Dan wordt de context rommelig.
Zet je belangrijkste instructies bovenaan. Denk aan doelgroep, toon, lengte, taal en het doel van de taak. Bij een lange taak kun je die regels later nog eens herhalen.
Een goede aanpak is om het model zelf een tussensamenvatting te laten maken. Controleer die samenvatting. Start daarna een nieuwe chat met die samenvatting als eerste bericht.
Bij lange documenten werkt knippen vaak beter dan alles in één keer vragen. Deel het document op in stukken of vraag gericht naar één onderdeel. Een vraag als zoek de passages over garantievoorwaarden is sterker dan vat alles samen.
Vraag ook om citaten uit het document. Dan kun je controleren of het antwoord echt uit de tekst komt. Laat het model erbij zeggen als het iets niet kan vinden.
- Start een nieuwe chat bij een nieuw onderwerp.
- Herhaal belangrijke afspraken bij elke grote stap.
- Laat lange chats samenvatten voordat je verdergaat.
- Vraag naar passages en citaten, niet alleen naar conclusies.
- Controleer belangrijke antwoorden altijd in het originele document.
Welk model heeft het grootste contextvenster, en heb je dat nodig?
Er zijn modellen met 1 miljoen tokens, maar voor de meeste werktaken is een gerichte aanpak belangrijker dan het grootste venster. Een groot venster helpt, maar lost niet alle problemen op.
Een groot contextvenster is handig bij lange contracten, notulen, dossiers en rapporten. Je kunt dan meer tekst tegelijk aanbieden. Dat maakt het makkelijker om verbanden te leggen tussen stukken tekst die ver uit elkaar staan.
Toch blijft het risico bestaan dat details worden gemist. Zeker als je een brede vraag stelt. Hoe langer de tekst, hoe belangrijker je vraagstelling wordt.
Gebruik je AI via een API, dan kan een groot venster ook nadelen hebben. Het kan trager zijn en hogere kosten geven. Noem daarom niet alleen de grootte, maar kijk ook naar je taak.
| Situatie | Groot venster nuttig? | Aanpak |
|---|---|---|
| Korte mail herschrijven | Meestal niet nodig | Geef doel, toon en lengte |
| Offertedossier lezen | Vaak nuttig | Vraag per onderwerp om passages en citaten |
| Notulen vergelijken | Nuttig | Laat besluiten en open punten apart zoeken |
| Lang contract analyseren | Nuttig, maar controle blijft nodig | Vraag naar clausules met paginanummer |
Vertrouw dus niet alleen op de grootste getallen. Controleer altijd welke contextgrootte jouw model, app of API op dat moment heeft. De aanbieder geeft de actuele informatie.
Hoe zit het met privacy en regels in Nederland en België?
Wat je in het contextvenster zet, geef je aan de aanbieder van de AI-tool. Daarom blijft de AVG gelden in Nederland en België.
Dat is vooral belangrijk bij klantgegevens, personeelsinformatie, medische gegevens en financiële gegevens. Plak zulke informatie niet zomaar in een privéaccount of gratis omgeving. Anonimiseer namen, adressen, BSN’s en andere herleidbare gegevens waar dat kan.
Voor bedrijfsdocumenten is een zakelijke omgeving vaak beter te beheren. Dan kun je afspraken maken over verwerking van data. Denk aan wie toegang heeft, wat er wordt bewaard en waarvoor de aanbieder de data mag gebruiken.
De AI-verordening vraagt ook om AI-geletterdheid bij organisaties die AI inzetten. Dat betekent dat medewerkers moeten snappen wat AI wel en niet kan. Kennis over contextvensters hoort daarbij.
Grote AI-tools kunnen goed met Nederlands werken. Wel kan Nederlandse tekst vaak minder efficiënt zijn in tokens dan Engels. Houd daar rekening mee bij lange stukken.
Praktijkvoorbeeld: Sanne vernieuwt een lange chat
Je vernieuwt een lange chat door eerst de afspraken te laten samenvatten, die samenvatting te controleren en daarna opnieuw te beginnen. Dat maakt de taak overzichtelijker voor jou en voor het model.
In dit voorbeeld werkt Sanne, projectleider bij een Nederlands installatiebedrijf, met een offertedossier van 60 pagina’s. Ze gebruikt ChatGPT of Claude en had eerder afgesproken: schrijf zakelijk, in de u-vorm, maximaal 150 woorden.
Na veel berichten gaat het toch mis. Het model schrijft ineens in je-vorm. Dat betekent niet automatisch dat de tool kapot is. De chat is waarschijnlijk te lang of te rommelig geworden.
Sanne pakt het zo aan:
- Ze typt aan het einde van de lange chat: Maak een samenvatting van onze afspraken en de belangrijkste beslissingen tot nu toe in maximaal 10 punten, inclusief toon en lengte-eisen.
- Ze controleert de punten en past fouten aan.
- Ze opent een nieuwe chat en plakt de samenvatting als eerste bericht.
- Ze schrijft erbij: Dit zijn de uitgangspunten voor deze taak. Houd je daaraan en herhaal ze kort in je eigen woorden voordat we beginnen.
- Ze uploadt het dossier en vraagt gericht naar één onderwerp, bijvoorbeeld garantievoorwaarden.
Daarna stelt ze deze vraag: Zoek in het document de passages over garantievoorwaarden en geef ze letterlijk weer met paginanummer. Zeg erbij als je het niet kunt vinden.
Het verwachte resultaat is dat het model zich weer beter houdt aan toon en lengte. Ook kan Sanne de citaten controleren in de pdf. Dat laatste blijft nodig, want AI kan nog steeds iets missen of verkeerd begrijpen.
Veelgemaakte fouten bij lange chats
De grootste fout bij lange chats is alles in één eindeloos gesprek blijven doen. De oplossing is simpel: werk per taak in een nieuwe chat en neem een gecontroleerde samenvatting mee.
Een tweede fout is denken dat een groot contextvenster hetzelfde is als alles onthouden. Dat klopt niet. Stel gerichte vragen en laat het model citaten geven uit het document.
Een derde fout is het contextvenster verwarren met geheugen of training. Het venster hoort bij één gesprek. Geheugenfuncties en projectbestanden werken anders en moet je bewust gebruiken.
Een vierde fout is een heel dossier plakken inclusief persoonsgegevens. Anonimiseer eerst en gebruik voor werk een zakelijke omgeving met duidelijke afspraken.
Een vijfde fout is belangrijke instructies alleen aan het begin zetten. Bij een lange taak kun je beter de belangrijkste regels aan het einde herhalen of per stap opnieuw noemen.
Checklist: is mijn chat te vol?
Je chat kan te vol of te rommelig zijn als je een of meer van deze signalen ziet:
- Het model negeert eerdere afspraken.
- Het model herhaalt zichzelf.
- Het model haalt onderwerpen door elkaar.
- De chat heeft tientallen berichten of lange bijlagen.
- Je moet steeds vaker uitleggen wat eerder al was afgesproken.
Veelgestelde vragen
Wat is een contextvenster in simpele woorden?
Het is het werkgeheugen van AI: de tekst die het model tegelijk kan meelezen. Daarin zitten je vraag, eerdere berichten, bijlagen en het antwoord dat wordt gemaakt.
Is een groter contextvenster altijd beter?
Nee. Een groter venster kan handig zijn bij lange documenten, maar het model kan details in lange teksten nog steeds missen. Gerichte vragen blijven belangrijk.
Is het contextvenster hetzelfde als geheugen in ChatGPT?
Nee. Het contextvenster geldt in één gesprek. Geheugenfuncties bewaren gegevens tussen gesprekken, afhankelijk van de tool en je instellingen.
Hoeveel woorden past er in een contextvenster?
Reken grofweg 3 woorden op 4 tokens voor Engels. In het Nederlands past meestal iets minder, omdat tekst vaak anders in tokens wordt opgeknipt. Een tokenaantal is dus niet hetzelfde als een woordaantal.
Hoe weet ik dat mijn chat te lang is?
Als het model afspraken negeert, zichzelf herhaalt of dingen door elkaar haalt, is de chat waarschijnlijk te vol of te rommelig. Start dan een nieuwe chat met een gecontroleerde samenvatting.
Pak nu een lange chat die je al hebt, laat er met de prompt uit dit artikel een startbrief van maken en test die in een nieuw gesprek. Als iemand je daarna vraagt: wat is een contextvenster, kun je het uitleggen als het werkgeheugen van AI. Wil je vervolgens betere opdrachten schrijven, lees dan verder over een goede prompt.
Was dit artikel nuttig?
