OpenAI acaba de anunciar una revisión a fondo del prompt caching para su familia GPT-6 (Sol y Luna), el mecanismo que evita reprocesar desde cero el contexto repetido en cada llamada a la API. La mejora no es cosmética: la compañía documenta hasta 90% de descuento en los tokens de entrada que llegan desde caché, una ventana de reutilización ampliada a 30 minutos y un set nuevo de herramientas de diagnóstico pensadas para equipos que ya operan aplicaciones de IA en producción.
Para cualquiera que construya sobre la API de OpenAI —agentes, copilots de código, chatbots con contexto largo— el caching no es un detalle de infraestructura menor: en muchos productos es la diferencia entre un margen operativo sano y una factura de tokens que no escala. Esta actualización, publicada el 22 de septiembre de 2026, apunta directamente a ese problema.
Repasamos qué cambió, con qué cifras lo respalda OpenAI y cómo aprovecharlo si ya tienes un producto corriendo sobre GPT-6.
¿Qué es el prompt caching y por qué ahora importa más?
El prompt caching guarda en memoria las porciones de contexto que se repiten entre llamadas —system prompts largos, historiales de conversación, documentos de referencia— para no volver a procesarlas token por token en cada request. Cuanto más alta la tasa de aciertos de caché (cache hit rate), menor el costo y la latencia por llamada.
Con esta actualización, OpenAI sube la tasa de aciertos por defecto, extiende a 30 minutos el tiempo que un contexto permanece «caliente» en caché, y suma breakpoints explícitos para que el desarrollador decida qué segmentos del prompt cachear y cuáles no, algo clave en aplicaciones con contexto mixto (parte estático, parte dinámico por request).
Las cifras: de un ahorro marginal a un descuento del 90%
OpenAI documenta el impacto con datos de clientes reales que migraron a la nueva configuración de caché:
- Descuento en tokens cacheados: hasta 90% sobre el precio de tokens de entrada nuevos.
- Reducción de costo documentada: entre 20% y 36% en casos de uso específicos, sin cambios en el prompt ni en el modelo.
- Mejora en tasa de aciertos: ejemplos reales de clientes que pasaron de 83% a 91% y de 85% a 90%.
- GitHub Copilot: redujo en más de 50% la proporción de tokens que requerían procesamiento nuevo (no cacheado).
Ese último dato es el más relevante para equipos de producto: Copilot es uno de los consumidores de API más grandes del ecosistema OpenAI, y el hecho de que haya logrado ese recorte solo con la nueva capa de caching —sin rediseñar su arquitectura de prompts— sugiere que buena parte de la mejora es «gratuita» para cualquier integración existente.
Nuevas herramientas: dashboard, diagnóstico y cache warming
Junto al cambio de infraestructura, OpenAI lanzó en platform.openai.com un dashboard dedicado a prompt caching, con métricas de hit rate por endpoint y por modelo. Se suman dos piezas que faltaban para operar esto en serio:
- Herramienta de diagnóstico de fallos de caché: identifica por qué un prompt específico no está siendo reutilizado (cambios sutiles en el orden de mensajes, timestamps embebidos, IDs dinámicos al inicio del prompt, etc.).
- Precalentamiento de caché (cache warming): permite «activar» un contexto por adelantado para que la primera llamada real ya llegue con el caché listo, reduciendo la latencia del primer request de una sesión.
- Ajuste de reasoning effort sin romper caché: en los modelos Sol y Luna, ahora se puede subir o bajar el nivel de razonamiento por request sin invalidar el contexto cacheado, algo que antes forzaba un reprocesamiento completo.
Cómo aprovecharlo en tus propios proyectos
Si ya tienes una integración con la API de OpenAI, hay tres ajustes de bajo esfuerzo con alto retorno: primero, revisar el dashboard de caching para ver tu hit rate real actual antes de asumir que «ya está optimizado»; segundo, mover cualquier dato dinámico (timestamps, IDs de sesión, contadores) al final del prompt en lugar del inicio, porque el caching de OpenAI funciona por prefijo y un solo token que cambie al principio invalida todo el bloque; y tercero, usar los breakpoints explícitos para separar system prompts largos y documentos de referencia —candidatos naturales a caché— del contexto conversacional que cambia en cada turno.
Para equipos que ya trabajan con arquitecturas de agentes y MCP, este tipo de optimización se vuelve todavía más relevante: cuantas más herramientas y contexto de servidor cargue un agente en cada turno, más caro sale no cachear correctamente.
Qué significa para el ecosistema de IA aplicada
Esta actualización llega en un momento en que la competencia entre labs ya no se define solo por benchmarks de capacidad, sino por costo operativo por tarea resuelta —la misma lógica de precio agresivo que vimos hace poco con el lanzamiento de Grok 4.7 de xAI. Para agencias y startups que corren productos de IA con presupuestos ajustados, optimizar el caching de prompts suele ser más barato y más rápido de implementar que migrar de modelo, y el ahorro se refleja directamente en el margen del producto.
En Ameizin seguimos de cerca este tipo de cambios de infraestructura porque terminan definiendo qué tan viable es, en la práctica, construir productos de IA a escala.
Artículos relacionados recomendados:
