La mayor parte del tráfico de un LLM se repite. Un chatbot reenvía el mismo prompt de sistema en cada turno, y un agente reenvía sus definiciones de herramientas y toda la conversación hasta ese momento. El prompt caching permite que el modelo lea ese prefijo repetido desde una caché, y la entrada en caché se factura a una fracción del precio normal de entrada. Esta guía explica cómo funciona en GetVibe API y cómo sacarle el máximo partido.
Cuánto pagas por la entrada en caché
Cada modelo de texto de nuestro catálogo publica sus condiciones de caché. En https://getvibeapi.com/api/catalog, cada variante de modelo incluye:
cachedInputUsd: el precio por 1M de tokens de entrada en caché.cacheReadMult: el precio en caché como fracción del precio normal de entrada.cacheWriteMult: cómo se factura la escritura en caché respecto a la entrada normal.
En el momento de escribir esto, casi todos los modelos de texto publican cacheReadMult: 0.1 (un token de entrada en caché cuesta una décima parte de uno normal) y cacheWriteMult: 1. La única excepción es Claude Fable 5.1, con 0.025 para lecturas y 1.25 para escrituras. Estos valores pueden cambiar, así que léelos del catálogo o de la página de cada modelo en lugar de fijarlos en tu código.
| Modelo | Precio (entrada · salida) |
|---|---|
| Claude Opus 5.5 | $0.1067 entrada · $0.5334 salida por 1M de tokens |
| GPT-6 Sol | $0.1096 entrada · $0.548 salida por 1M de tokens |
| DeepSeek V4.1 Flash | $0.0112 entrada · $0.0445 salida por 1M de tokens |
Las páginas de modelo muestran el precio de entrada en caché junto a estas cifras.
Modelos de OpenAI: automático
En /v1/chat/completions, los modelos de la familia OpenAI usan caché automáticamente. Cuando varias solicitudes empiezan con el mismo prefijo estable, ese prefijo se lee de la caché. No necesitas ningún campo especial. Lo importante es que el inicio de la solicitud no cambie. Pasamos el cuerpo de la solicitud byte a byte sin reordenar campos, así que un prefijo idéntico en tu lado sigue siendo idéntico aguas arriba.
Claude: puntos de corte cache_control
Claude solo usa caché cuando la solicitud lleva un punto de corte cache_control explícito. Repetir el prefijo no basta para activarla. Coloca el punto de corte al final de la parte que no cambia:
curl https://getvibeapi.com/v1/messages \
-H "x-api-key: $GETVIBE_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "Content-Type: application/json" \
-d '{
"model": "claude-opus-5.5",
"max_tokens": 256,
"system": [
{"type": "text", "text": "A large fixed instruction worth caching...",
"cache_control": {"type": "ephemeral"}}
],
"messages": [{"role": "user", "content": "Question about the instruction"}]
}'Si no envías un punto de corte propio, la pasarela inserta uno por ti, tanto en /v1/messages como en /v1/chat/completions. Si gestionas los puntos de corte tú mismo, tu marcado se respeta tal cual.
Cinco reglas para un prompt cacheable
- Primero lo estable, al final lo variable. El prompt de sistema, las definiciones de herramientas y los documentos de referencia van arriba. El mensaje nuevo del usuario va al final.
- Nada de marcas de tiempo ni IDs de solicitud en el prefijo. Un solo carácter que cambia cerca del inicio invalida todo lo que viene después.
- Mantén las herramientas en un orden fijo. Generar la lista de herramientas desde un mapa sin orden cambia el prefijo en cada llamada.
- Añade historial, no lo reescribas. Los agentes que resumen o reordenan turnos anteriores rompen la caché. Añade los turnos nuevos al final.
- Quédate en un modelo. Una caché pertenece a un modelo, así que cambiar de modelo a mitad de conversación empieza en frío.
Comprueba que funciona
Mira el objeto usage de la respuesta. En formato OpenAI, los tokens en caché aparecen en prompt_tokens_details.cached_tokens. En formato Anthropic, busca cache_read_input_tokens y cache_creation_input_tokens. La vista de uso de tu panel también muestra el porcentaje de aciertos de caché por modelo. Si el recuento en caché sigue en cero con solicitudes idénticas, algo de tu prefijo está cambiando.
Siguientes pasos
Lee la documentación de caché, configura Claude Code con un endpoint propio (los agentes son los que más ganan con la caché) o compara precios en caché en la página de modelos.