OpenAI lanza gpt-realtime-2.1 con 25% menos latencia para agentes de voz en la API

Mi opinión: OpenAI publicó hoy gpt-realtime-2.1 y gpt-realtime-2.1-mini, actualizaciones de sus modelos de voz para la API, con al menos un 25% menos de latencia p95. La mejora viene de optimizaciones de caché en la capa de inferencia, y trae mejor reconocimiento alfanumérico, mejor manejo del silencio y el ruido, y soporte para razonamiento configurable y uso de herramientas directamente en la sesión de voz.

Para quien construye aplicaciones de voz con IA, la latencia es el indicador que más afecta la percepción del usuario. Una respuesta que tarda más de 800 milisegundos se siente mecánica; una que llega antes de 400 empieza a sentirse como conversación real. Una reducción del 25% en el p95, el percentil que mide los casos más lentos y no el promedio, significa que los picos que arruinan la experiencia del usuario se vuelven menos frecuentes.

Yo uso agentes de voz en mis propios proyectos, y este tipo de actualización, aunque discreta, tiene impacto real en la experiencia del usuario final. ¿Tus flujos de voz actuales corren sobre los modelos más recientes de la API, o llevan meses sobre una versión que ya tiene sucesor?