Tema
Idioma

Almacenamiento en caché del prompt

Almacenamiento en caché del prompt en modelos compatibles: un prefijo repetido se lee de la caché a un costo mucho menor que la entrada completa. Para Claude, puntos de interrupción de cache_control; en /v1/messages, la puerta de enlace los añade por ti. Ejemplos con curl.

El almacenamiento en caché del prompt reduce el costo de un prefijo de solicitud repetido (instrucción del sistema, historial, descripciones de herramientas). En los modelos compatibles, un prefijo repetido se lee de la caché mucho más barato que una entrada normal, del orden de decenas por ciento del precio completo. La compatibilidad con la caché de cada variante se muestra en la página de Modelos.

Ruta compatible con OpenAI

En los modelos /v1/chat/completions de la familia OpenAI, la caché se activa automáticamente: un prefijo estable idéntico en solicitudes repetidas se lee desde la caché. No se necesitan campos especiales; lo principal es no cambiar el inicio de la solicitud. Por eso el cuerpo se envía al endpoint byte por byte, sin reordenar los campos.

Claude: cache_control

Claude funciona de otra manera: almacena en caché solo cuando hay puntos de interrupción cache_control explícitos en el cuerpo. Repetir el prefijo no activa el almacenamiento en caché por sí solo. Coloca ese punto de interrupción al final de la parte que no cambia (el sistema o el último bloque):

curl https://getvibeapi.com/v1/messages \
  -H "x-api-key: $GETVIBE_API_KEY" \
  -H "anthropic-version: 2023-06-01" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "claude-opus-5.5",
    "max_tokens": 256,
    "system": [
      {
        "type": "text",
        "text": "A large fixed instruction worth caching…",
        "cache_control": { "type": "ephemeral" }
      }
    ],
    "messages": [{"role": "user", "content": "Question about the instruction"}]
  }'
Si no proporcionas un breakpoint propio, la gateway inserta uno por ti, tanto en /v1/messages como en /v1/chat/completions. Si administras la caché tú mismo, tu marcado permanece tal como está.

Agentes de Claude: existe un endpoint nativo

Para Claude admitimos el formato nativo de Anthropic: /v1/messages con el encabezado x-api-key. Es el formato que usan Claude Code y el SDK de Anthropic: el cuerpo se envía tal cual al upstream, sin traducirlo desde el formato de OpenAI, por lo que tanto los puntos de interrupción de caché como los campos cache_creation / cache_read de la respuesta se conservan intactos.

Es una medición, no una promesa: el 2026-08-21, una sesión de agente en claude-opus-5 mediante /v1/messages (119 solicitudes, 15M tokens de entrada) leyó 91.6% de su entrada desde la caché. La cantidad de caché que realmente obtengas siempre está visible en la respuesta usage y en las estadísticas de solicitudes de tu panel.

Almacenamiento en caché de prompts de GetVibe API: cache_control, lecturas de caché económicas | GetVibe API