OpenAI revela o chip jalapeño como um forte concorrente ao gb300 da Nvidia

O responsável de hardware da OpenAI, Richard He, anunciou durante uma reunião de imprensa que o chip Jalapeño, desenvolvido em colaboração com a Broadcom, alcançou melhorias significativas no desempenho em comparação com os processadores de inferência de ponta atuais. No benchmark InferenceX da SemiAnalysis, o Jalapeño superou as soluções existentes tanto no throughput de tokens para um único utilizador, como na eficiência energética. A OpenAI afirma que o Jalapeño pode lidar com mais cargas de trabalho de IA com o mesmo consumo de energia e fornecer respostas mais rápidas. O chip é projetado para inferência de IA, permitindo que os modelos treinados executem tarefas ou controlem agentes de IA. A OpenAI testou o Jalapeño contra os sistemas NVIDIA GB200 e GB300, relatando que consegue realizar 1,5 a 1,9 vezes mais trabalho de IA por watt em modelos como GPT-OSS 120B, DeepSeek R1 e Kimi K2.5 1T. A latência de ponta a ponta é relatada como 28% a 59% inferior em comparação com os sistemas concorrentes. A OpenAI enfatizou que o desenvolvimento em conjunto permite a otimização direta dos gargalos de inferência, particularmente reduzindo a latência nas etapas de preenchimento e comunicação. O design do Jalapeño minimiza o movimento de dados e os atrasos de comunicação, mantendo os estados do modelo, como as caches KV, acessíveis localmente. A OpenAI planeia implantar o Jalapeño em capacidade limitada até ao final de 2026, com uma implantação mais ampla prevista para 2027. A empresa ainda não divulgou quantidades específicas de chips para 2027.