Der meiste LLM-Traffic wiederholt sich. Ein Chatbot sendet bei jeder Runde denselben System-Prompt erneut, und ein Agent sendet seine Tool-Definitionen sowie die bisherige gesamte Konversation erneut. Mit Prompt-Caching kann das Modell dieses wiederholte Präfix aus einem Cache lesen, und gecachter Input wird zu einem Bruchteil des normalen Input-Preises abgerechnet. Dieser Leitfaden erklärt, wie das Caching auf der GetVibe API funktioniert und wie Sie es optimal nutzen.
Was Sie für gecachten Input bezahlen
Jedes Textmodell in unserem Katalog führt seine Cache-Konditionen auf. Unter https://getvibeapi.com/api/catalog enthält jede Modellvariante:
cachedInputUsd: der Preis pro 1M gecachter Input-Tokens.cacheReadMult: der Preis für gecachten Input als Anteil des normalen Input-Preises.cacheWriteMult: die Abrechnung für das Schreiben in den Cache im Verhältnis zum normalen Input.
Zum Zeitpunkt der Veröffentlichung führen fast alle Textmodelle cacheReadMult: 0.1, was bedeutet, dass ein gecachter Input-Token ein Zehntel eines normalen Tokens kostet, sowie cacheWriteMult: 1. Die einzige Ausnahme ist Claude Fable 5.1 mit 0.025 für Lesevorgänge und 1.25 für Schreibvorgänge. Diese Werte können sich ändern. Lesen Sie sie daher aus dem Katalog oder von der jeweiligen Modellseite aus, statt sie fest zu codieren.
| Modell | Preis (Input · Output) |
|---|---|
| Claude Opus 5.5 | $0.1067 Eingabe · $0.5334 Ausgabe pro 1 Mio. Tokens |
| GPT-6 Sol | $0.1096 Eingabe · $0.548 Ausgabe pro 1 Mio. Tokens |
| DeepSeek V4.1 Flash | $0.0112 Eingabe · $0.0445 Ausgabe pro 1 Mio. Tokens |
Die Modellseiten führen den Preis für gecachten Input neben diesen Zahlen auf.
OpenAI-Modelle: automatisch
Unter /v1/chat/completions werden Modelle der OpenAI-Familie automatisch gecacht. Wenn mehrere Anfragen mit demselben stabilen Präfix beginnen, wird dieses Präfix aus dem Cache gelesen. Sie benötigen dafür kein spezielles Feld. Entscheidend ist, dass sich der Anfang der Anfrage nicht ändert. Wir leiten den Request-Body Byte für Byte weiter, ohne Felder neu anzuordnen. Ein Präfix, das auf Ihrer Seite identisch ist, bleibt daher auch beim Upstream identisch.
Claude: cache_control-Breakpoints
Claude verwendet Caching nur, wenn die Anfrage einen expliziten cache_control-Breakpoint enthält. Das bloße Wiederholen des Präfixes aktiviert das Caching nicht. Platzieren Sie den Breakpoint am Ende des unveränderlichen Teils:
curl https://getvibeapi.com/v1/messages \
-H "x-api-key: $GETVIBE_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "Content-Type: application/json" \
-d '{
"model": "claude-opus-5.5",
"max_tokens": 256,
"system": [
{"type": "text", "text": "Eine große feste Anweisung, deren Caching sich lohnt...",
"cache_control": {"type": "ephemeral"}}
],
"messages": [{"role": "user", "content": "Frage zur Anweisung"}]
}'Wenn Sie selbst keinen Breakpoint senden, fügt das Gateway auf /v1/messages und /v1/chat/completions automatisch einen für Sie ein. Wenn Sie die Breakpoints selbst verwalten, bleibt Ihr Markup unverändert.
Fünf Regeln für einen cachebaren Prompt
- Stabile Inhalte zuerst, variable Inhalte zuletzt. System-Prompt, Tool-Definitionen und Referenzdokumente gehören an den Anfang. Die neue Nachricht des Benutzers kommt ans Ende.
- Keine Zeitstempel oder Request-IDs im Präfix. Ein einziges Zeichen, das sich weiter oben ändert, macht alles danach ungültig.
- Halten Sie die Tool-Definitionen in einer festen Reihenfolge. Wenn Sie die Tool-Liste aus einer ungeordneten Map erzeugen, ändert sich das Präfix bei jedem Aufruf.
- Fügen Sie den Verlauf an, statt ihn umzuschreiben. Agents, die frühere Runden zusammenfassen oder neu anordnen, unterbrechen den Cache. Fügen Sie neue Runden am Ende hinzu.
- Bleiben Sie bei einem Modell. Ein Cache gehört zu einem Modell. Wenn Sie das Modell mitten in der Konversation wechseln, beginnt das Caching erneut ohne vorhandenen Cache.
Prüfen, ob es funktioniert
Sehen Sie sich das usage-Objekt in der Antwort an. Im OpenAI-Format erscheinen gecachte Tokens unter prompt_tokens_details.cached_tokens. Im Anthropic-Format suchen Sie nach cache_read_input_tokens und cache_creation_input_tokens. Die Nutzungsansicht in Ihrem Dashboard zeigt außerdem den Cache-Trefferanteil pro Modell. Wenn die Anzahl gecachter Tokens bei identischen Anfragen dauerhaft bei null bleibt, ändert sich etwas in Ihrem Präfix.
Nächste Schritte
Lesen Sie die Caching-Dokumentation, richten Sie Claude Code an einem benutzerdefinierten Endpunkt ein (Agents profitieren am meisten vom Caching) oder vergleichen Sie gecachte Preise auf der Models-Seite.