Los agentes y asistentes de varios turnos suelen repetir instrucciones del sistema, definiciones de herramientas y prefijos de conversación. La caché puede abaratar esos tokens de entrada si el modelo y el endpoint la admiten. Solo funciona cuando modelo, ruta y forma de la petición encajan; textos parecidos no garantizan un hit. La salida generada no recibe ese descuento. Aquí separamos caché automática tipo OpenAI y breakpoints explícitos de Claude.
¿Qué parte de la factura cambia?
Una lectura en caché usa la tarifa de entrada cacheada en vez de la tarifa normal. El catálogo GetVibe publica soporte y precios de caché junto a las tarifas del modelo. En la captura del 3 de octubre de 2026, GPT-6 Luna muestra $0.0055 entrada · $0.0274 salida por 1M de tokens y Claude Sonnet 5.5 muestra $0.168 entrada · $0.84 salida por 1M de tokens; las páginas renderizan sus valores actuales. Comprueba también lectura y escritura: los multiplicadores pueden variar.
Para estimar un prefijo repetido, compara tokens repetidos por la tarifa normal con los mismos tokens por la tarifa de lectura cacheada. La diferencia es el posible ahorro de entrada. Si hay coste de escritura, réstalo. Solo el usage real confirma si se materializó.
Modelos compatibles con OpenAI: conserva estable el prefijo
En las rutas OpenAI compatibles admitidas, la caché es automática; no hace falta añadir un campo especial a Chat Completions. Mantén idéntico el comienzo de cada solicitud. Pon instrucciones, ejemplos fijos y definición de herramientas antes de los valores particulares del usuario. No incluyas timestamps, IDs aleatorios ni flags que cambian al principio. Conserva también el orden de las herramientas.
En una sesión de agente, añade turnos nuevos al final en vez de reescribir el historial anterior. Cambiar de modelo inicia una caché distinta. Puede no aparecer ningún token cacheado si el prefijo queda por debajo del mínimo del modelo o la entrada expiró.
Claude: breakpoints y endpoint Messages
Claude activa la caché mediante breakpoints de cache-control. En peticiones compatibles, GetVibe puede insertar uno si no lo envías; si lo gestionas tú, consulta la documentación actual y marca el final de la sección estable. Claude Code usa Anthropic Messages; consulta la guía de integración para URL y credenciales.
curl https://getvibeapi.com/v1/messages \
-H "x-api-key: $GETVIBE_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "Content-Type: application/json" \
-d '{
"model": "claude-sonnet-5.5",
"max_tokens": 300,
"system": [{"type":"text","text":"Stable instructions shared by every request."}],
"messages": [{"role":"user","content":"A request-specific question."}]
}'El ejemplo deja instrucciones estables en system y la pregunta variable en user. Para el campo exacto de breakpoint, sigue la documentación del cliente y del modelo.
Verifica el hit en vez de suponerlo
Envía dos veces el mismo prefijo largo cambiando solo un sufijo breve. Inspecciona usage: el formato OpenAI usa prompt_tokens_details.cached_tokens; el formato Anthropic incluye campos de lectura y creación de caché. El panel de uso también puede mostrarla. Si sigue en cero, verifica la igualdad del prefijo, la longitud mínima, el soporte del modelo y si cambió la ruta.
Usa un ejemplo suficientemente largo para superar el umbral del modelo. Una instrucción de una frase puede no mostrar diferencia. Repite varias llamadas, pues expiración e intervalo afectan si la caché sigue caliente.
Prueba práctica de ahorro
- Elige un prefijo largo real que se repita.
- Anota tarifa actual y usage de entrada sin caché.
- Repite cambiando solo el sufijo del usuario.
- Confirma que la respuesta informa de entradas cacheadas.
- Compara el gasto registrado de las repeticiones.
Mantén similar la salida para que no tape la diferencia de entrada. No afirmes ahorro por un multiplicador teórico: confirma contador y facturación observados.
Por qué falla la caché
- Hay timestamp o request ID delante de las instrucciones fijas.
- Las herramientas se serializan en distinto orden.
- Varían espacios o la forma de truncar historial.
- Cambia el modelo entre turnos.
- El prefijo es corto o venció la ventana de caché.
La caché puede abaratar conversaciones largas, pero no justifica enviar contexto de repositorio innecesario. Reduce el prompt y cachea solo lo que realmente se repite. Consulta la guía de implementación y los precios actuales del modelo.
Coloca los breakpoints en partes reutilizables
En Messages, deja instrucciones y documentos estables en system y la pregunta variable en user. Sitúa el breakpoint al final del contenido repetido, nunca después de una marca temporal. Si usas varios documentos largos, marca solo las secciones reutilizables y respeta el número permitido por el modelo.
Algunos agentes resumen su historial y cambian la serialización. Para diagnosticarlo puedes comparar la estructura de la petición, pero no guardes contenido privado en logs generales.
Considera escritura y umbrales mínimos
Algunos modelos requieren una longitud mínima de prefijo, y la primera escritura puede costar distinto de una lectura posterior. Un prompt breve puede no mostrar ahorro. Revisa tarifas de cache-read y cache-write, y mide por separado el primer envío y las repeticiones.
La caché puede expirar tras un periodo inactivo y no es almacenamiento duradero. No confíes en ella para guardar estado de aplicación; envía el contexto que haga falta para responder correctamente.
Separa caché de reducción del prompt
Eliminar contexto duplicado y cachear el que se repite son optimizaciones diferentes. Primero quita instrucciones obsoletas, ejemplos inútiles y logs copiados; después cachea el material estable que queda. Así la petición sigue siendo más pequeña cuando no hay hit.
Al cambiar el prompt, usa ejemplos fijos y evalúa calidad junto con usage cacheado y no cacheado. No sacrifiques información necesaria solo para reducir tokens.