OpenAI presenta el chip jalapeño como un fuerte competidor del gb300 de Nvidia

Richard He, el responsable de hardware de OpenAI, anunció durante una conferencia de prensa que el chip Jalapeño, desarrollado en colaboración con Broadcom, ha logrado mejoras significativas en el rendimiento en comparación con los procesadores de inferencia de última generación actuales. En la prueba de rendimiento InferenceX de SemiAnalysis, Jalapeño superó a las soluciones existentes tanto en el rendimiento de tokens por usuario como en la eficiencia energética. OpenAI afirma que Jalapeño puede manejar más cargas de trabajo de IA con el mismo consumo de energía y proporcionar respuestas más rápidas. El chip está diseñado para la inferencia de IA, lo que permite a los modelos entrenados ejecutar tareas o impulsar agentes de IA. OpenAI probó Jalapeño contra los sistemas GB200 y GB300 de NVIDIA, y informó que logra entre 1,5 y 1,9 veces más trabajo de IA por vatio en modelos como GPT-OSS 120B, DeepSeek R1 y Kimi K2.5 1T. La latencia de extremo a extremo se informa que es un 28% a un 59% inferior a la de los sistemas competidores. OpenAI enfatizó que el desarrollo de extremo a extremo permite la optimización directa de los cuellos de botella de inferencia, particularmente reduciendo la latencia en las etapas de pre-llenado y comunicación. El diseño de Jalapeño minimiza el movimiento de datos y los retrasos de comunicación manteniendo los estados del modelo, como las cachés KV, accesibles localmente. OpenAI planea desplegar Jalapeño en una capacidad limitada para finales de 2026, y se espera un despliegue más amplio para 2027. La empresa aún no ha revelado las cantidades específicas de chips para 2027.