El chip Jalapeño de OpenAI supera al Blackwell de Nvidia en benchmarks de inferencia

Mi opinión: OpenAI presentó esta semana en la conferencia Hot Chips los primeros resultados de Jalapeño, su chip de inferencia propio: entre 1.5x y 1.9x más eficiente que el Blackwell de Nvidia en consumo energético, y hasta 4.1x más veloz en cargas de trabajo interactivas. Lo desarrolló junto a Broadcom y Celestica.

Hay un detalle que conviene tener en cuenta: estos benchmarks los publicó OpenAI sobre su propio chip. Cuando la empresa que fabrica el producto también es quien lo evalúa, nunca se puede saber con certeza si la prueba está completamente libre de sesgo. Lo prudente es esperar evaluaciones de terceros independientes antes de dar estas cifras por definitivas.

Aun así, el mensaje de fondo importa para cualquier profesional o empresa que planifique su infraestructura de IA: Google, Amazon y ahora OpenAI tienen silicio propio. El dominio de Nvidia en inferencia ya no es incuestionable, y más competencia eventualmente se traduce en mejores opciones y precios.

¿Cómo está evaluando tu empresa su estrategia de infraestructura de IA para los próximos dos o tres años?