Prompt caching

Technische definitie

Prompt caching slaat de interne verwerkingsstaat van een prompt-prefix tijdelijk op, zodat een volgend verzoek met exact dezelfde begintekst die verwerking kan hergebruiken in plaats van opnieuw uit te voeren. Bij een nieuw verzoek vergelijkt het systeem de prefix met wat al in de cache staat. Komt het overeen, dan volgt een cache hit (goedkoop en snel). Zo niet, dan wordt de hele prompt verwerkt en de prefix opgeslagen voor de volgende keer. Anthropic werkt met expliciete cache breakpoints (`cache_control`), waarbij de volgorde tools, system, dan messages is, met een maximum van 4 expliciete breakpoints per request en een lookback-venster van 20 content-blokken waarin het systeem naar een match zoekt (bron: platform.claude.com, zelf geopend 14-09-2026). OpenAI doet dit automatisch en hasht typisch het begin van de prompt. Google Gemini biedt impliciete (automatische) en expliciete (handmatige) caching. Een cache hit vereist een 100% identieke prefix; één afwijkend teken vooraan breekt de cache.

Hoe het werkt

Use cases

• Chatbot met een vast instructie-blok

  Een klantenservice-bot stuurt bij elke vraag hetzelfde lange systeeminstructie-blok en dezelfde merkrichtlijnen mee. Door dat blok vooraan te plaatsen en te cachen, wordt het maar één keer verwerkt. Alleen de wisselende klantvraag achteraan wordt steeds opnieuw verwerkt, wat de bot goedkoper en sneller maakt.

• Vragen stellen over een groot document of codebase

  Je laadt één keer een lang document of een hele codebase als context en stelt er daarna veel vragen over. De grote vaste context staat vooraan en blijft in de cache; elke nieuwe vraag profiteert van een cache hit zolang je binnen het tijdvenster blijft.

• Few-shot prompting met vaste voorbeelden

  Bij few-shot prompting zet je een set vaste voorbeelden vooraan om het model te sturen. Die voorbeelden veranderen niet tussen verzoeken, dus ze zijn ideaal om te cachen. Alleen de nieuwe invoer onderaan wisselt.

• Multi-turn gesprekken

  In een doorlopend gesprek groeit de geschiedenis aan het begin van elke prompt. Door die groeiende, maar verder vaste, geschiedenis te cachen betaal je niet elke beurt opnieuw de volle prijs voor wat al gezegd is.

• Cache-gebruik bijhouden in Claude Code

  Claude Code toont sinds versie 2.1.251 een 'Prompt cache (main)'-regel in het `/usage`-commando: het percentage inputtokens dat uit de cache kwam, het aantal misses en of de cache op dat moment warm is. Een hoog cachepercentage betekent direct een lagere rekening; de regel helpt je zien wanneer iets (zoals een gewijzigde tool-definitie) de cache onnodig breekt (bron: code.claude.com, zelf geopend 14-09-2026).

Voorbeelden

• Anthropic: cache_control op het systeem-blok

  Bij Anthropic markeer je het breekpunt met `cache_control` van type `ephemeral`. Alles tot en met dat blok wordt gecachet; de wisselende gebruikersvraag staat in messages erna.

  curl https://api.anthropic.com/v1/messages \
    -H "content-type: application/json" \
    -H "x-api-key: $ANTHROPIC_API_KEY" \
    -H "anthropic-version: 2023-06-01" \
    -d '{
      "model": "<huidig model>",
      "max_tokens": 1024,
      "system": [
        {
          "type": "text",
          "text": "You are an AI assistant tasked with analyzing literary works...",
          "cache_control": {"type": "ephemeral"}
        }
      ],
      "messages": [
        {
          "role": "user",
          "content": "Analyze the major themes in Pride and Prejudice."
        }
      ]
    }'

• OpenAI: automatisch, zonder code-wijziging

  Bij OpenAI gebeurt caching automatisch zodra je prompt lang genoeg is (op dit moment vanaf ongeveer 1.024 tokens). Je hoeft niets te markeren en betaalt niets extra voor het wegschrijven. De enige actie van jou: zet de vaste instructies en voorbeelden vooraan en de gebruiker-specifieke informatie achteraan, zodat het begin tussen verzoeken identiek blijft.

• Gemini: impliciet of expliciet

  Google biedt twee smaken. Impliciete caching staat op nieuwere modellen standaard aan, vraagt geen setup en kent geen opslagkosten. Expliciete caching regel je zelf en geeft een gegarandeerde besparing, maar rekent opslagkosten zolang de cache leeft. Gecachte tokens worden op de nieuwste modellen tegen circa een tiende van de normale inputprijs gefactureerd (op dit moment).

Veelgemaakte fouten

• "Prompt caching betekent dat het antwoord wordt hergebruikt."

  Nee. Het bewaart de interne verwerking van je invoer (de prefix), niet het uitvoer-antwoord. Hetzelfde begin geeft dus niet automatisch hetzelfde antwoord. Wat je beschrijft is response caching, een heel andere techniek die output opslaat.

• "Mijn prompts worden zo met andere bedrijven gedeeld."

  Nee. Caches zijn geïsoleerd per organisatie. Verschillende organisaties delen nooit een cache, ook niet bij exact identieke prompts. OpenAI stelt expliciet dat caches niet tussen organisaties worden gedeeld.

• "Het werkt op elke prompt, ook korte."

  Nee. Er geldt een minimumlengte die per model verschilt: bij Anthropic bijvoorbeeld 512 tokens bij Opus 5 en Fable 5.1, 1.024 tokens bij Sonnet 5 en 4.096 tokens bij Haiku 4.5 (bron: platform.claude.com, zelf geopend 14-09-2026). Is je prompt korter, dan wordt er niets gecachet, en je krijgt geen foutmelding. Te kort gelijkt dus stil op 'geen caching'.

• "Eenmaal gecachet, blijft het bewaard."

  Nee. De standaardcache verloopt al na 5 minuten inactiviteit. Wil je langer, dan kies je zelf een TTL van 1 uur, wat het wegschrijven 2x de gewone inputprijs kost in plaats van 1,25x bij de standaardinstelling (bron: platform.claude.com, zelf geopend 14-09-2026). Komt er te lang geen verzoek met dezelfde prefix, dan moet de eerstvolgende keer alles opnieuw worden verwerkt.

Veelgestelde vragen

• Wat is prompt caching?

  Prompt caching is een functie van AI-API's waarmee een stuk tekst dat je telkens opnieuw meestuurt maar één keer hoeft te worden verwerkt. Het model bewaart de verwerkte begintekst (de prefix) tijdelijk en hergebruikt die bij volgende verzoeken. Daardoor wordt herhaalde context goedkoper en sneller. Het bewaart de verwerking van je invoer, niet het antwoord.
• Wanneer loont prompt caching?

  Het loont als je dezelfde grote context vaak hergebruikt binnen een korte tijdspanne: lange systeeminstructies, vaste kennisbestanden, few-shot voorbeelden of doorlopende gesprekken. Het loont niet bij korte, telkens compleet andere, eenmalige prompts. Bij sommige aanbieders betaal je dan zelfs iets extra voor het wegschrijven naar de cache zonder dat je het terugverdient.
• Wat is het verschil tussen prompt caching en response caching?

  Prompt caching bewaart de interne verwerking van je invoer (de prefix), zodat een volgend verzoek met hetzelfde begin sneller en goedkoper is. Response caching bewaart een eerder gegeven antwoord en geeft dat opnieuw terug. Prompt caching levert dus niet automatisch hetzelfde antwoord op; het versnelt alleen de verwerking van de invoer.
• Worden mijn gecachte prompts met andere bedrijven gedeeld?

  Nee. Caches zijn geïsoleerd per organisatie. Verschillende organisaties delen nooit een cache, zelfs niet als ze exact dezelfde prompt sturen. Dit is vastgelegd beleid bij de grote aanbieders, zoals OpenAI dat expliciet stelt.
• Hoe activeer ik prompt caching?

  Dat verschilt per aanbieder. Bij OpenAI gebeurt het automatisch zodra je prompt lang genoeg is; je hoeft niets te doen behalve vaste tekst vooraan zetten. Bij Anthropic markeer je het breekpunt zelf met `cache_control`. Bij Google kies je tussen automatische (impliciete) en handmatige (expliciete) caching.
• Waarom werkt mijn prompt caching niet?

  Meestal door één van twee oorzaken. Je prompt is te kort: de minimumlengte verschilt per model, bijvoorbeeld 512 tokens bij Claude Opus 5 en Fable 5.1 en 1.024 tokens bij Sonnet 5, en je krijgt geen foutmelding als je eronder blijft. Of het begin van je prompt is niet exact identiek aan de vorige keer; één afwijkend teken vooraan breekt de cache al. Controleer ook of er niet te veel tijd tussen verzoeken zat: de standaardcache verloopt al na 5 minuten inactiviteit.
• Hoeveel kost een verlengde cache van 1 uur?

  Bij Anthropic is de standaard cache-TTL 5 minuten en gratis om te verversen. Kies je zelf voor een langere TTL van 1 uur, dan betaal je bij het wegschrijven naar de cache 2x de gewone inputprijs in plaats van 1,25x bij de standaardinstelling. Cache-hits blijven in beide gevallen goedkoop: doorgaans een tiende van de normale inputprijs (bron: platform.claude.com, zelf geopend 14-09-2026).

Gerelateerde termen

• Prompt Engineering
• Context Window
• Token
• API
• Claude Code
• Context Engineering
• Few-shot Learning
• Rate limits
• Subagents
• Redeneermodel