Gpus NVIDIA mais antigas superam sistemas mais recentes em testes de inferência de IA

Um canal do YouTube testou quatro GPUs Tesla V100, instaladas em uma placa NVLink, e descobriu que superavam dois sistemas DGX Spark e um chip M5 Ultra em benchmarks de inferência de IA. As V100, lançadas em 2017, executaram o modelo Qwen3.8-Flash-Next com quantização de 4 bits, alcançando um aumento de velocidade de 40% em relação ao DGX Spark e um aumento de 230% em relação ao M5 Ultra. O conjunto de testes utilizou um dissipador A100 modificado para gerenciar o consumo de energia e conectou as V100 via PCIe x8. Os resultados sugerem que a otimização de software pode desempenhar um papel significativo nas diferenças de desempenho entre a Apple Silicon e outras plataformas. No processamento de prompts, o cluster V100 manteve uma vantagem de 40% em relação ao DGX Spark e uma liderança de 163% em relação ao M5 Ultra. As V100 também alcançaram 100,6 tokens por segundo em testes de geração de tokens, superando o DGX Spark em 121%. O teste destaca a relevância contínua da tecnologia de GPU legada na inferência de IA, mesmo à medida que sistemas mais recentes, como o DGX Spark e o M5 Ultra da Apple, ganham força.