Prompt-Caching

Prompt-Caching spart Kosten bei einem sich wiederholenden Präfix einer Anfrage (Systemanweisung, Verlauf, Tool-Beschreibungen). Bei unterstützten Modellen wird ein wiederholtes Präfix aus dem Cache deutlich günstiger als eine normale Eingabe gelesen – in der Größenordnung von mehreren zehn Prozent des vollständigen Preises. Die Cache-Unterstützung jeder Variante wird auf der Seite Models angezeigt.

Bei /v1/chat/completions Modellen der OpenAI-Familie wird der Cache automatisch verwendet: Ein identischer stabiler Präfix bei wiederholten Anfragen wird aus dem Cache gelesen. Es sind keine speziellen Felder erforderlich — entscheidend ist, den Anfang der Anfrage nicht zu ändern. Deshalb wird der Body Byte für Byte an den Endpunkt übergeben, ohne die Felder neu anzuordnen.

Claude arbeitet anders: Es aktiviert Caching nur, wenn im Body explizite cache_control-Breakpoints gesetzt sind. Die Wiederholung des Präfixes allein aktiviert das Caching nicht. Setzen Sie einen solchen Breakpoint am Ende des unveränderten Abschnitts (System oder letzter Block):

curl https://getvibeapi.com/v1/messages \
  -H "x-api-key: $GETVIBE_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5.5",
    "max_tokens": 256,
    "system": [
      {
        "type": "text",
        "text": "A large fixed instruction worth caching…",
        "cache_control": { "type": "ephemeral" }
      }
    ],
    "messages": [{"role": "user", "content": "Question about the instruction"}]
  }'

Für Claude unterstützen wir das native Anthropic-Format — /v1/messages mit dem Header x-api-key. Dieses Format verwenden Claude Code und das Anthropic SDK: Der Body wird unverändert upstream weitergeleitet, ohne Übersetzung aus der OpenAI-Struktur, sodass sowohl die Cache-Breakpoints als auch die Felder cache_creation / cache_read in der Antwort unverändert erhalten bleiben.

Das ist eine Messung, kein Versprechen: Am 2026-08-21 hat eine Agentensitzung auf claude-opus-5 über /v1/messages hinweg 119 Anfragen und 15M Eingabetoken verarbeitet und 91.6% ihrer Eingabe aus dem Cache gelesen. Wie viel Cache Sie tatsächlich erhalten, ist immer in der Antwort usage und in den Anfragestatistiken Ihres Dashboards sichtbar.