AMD adquiere Taalas para acelerar la inferencia de IA con chips especializados

AMD adquirió la startup Taalas como parte de su esfuerzo por desafiar el dominio de Nvidia en el hardware de IA. La empresa graba los pesos de los modelos de aprendizaje automático directamente en silicio, permitiendo un rendimiento de inferencia significativamente superior. Las pruebas iniciales demostraron la capacidad del chip HC1 para servir el modelo Llama 3.1 8B de Meta a 16.960 tokens por segundo utilizando el proceso de fabricación 6nm de TSMC, logrando 48 veces más rendimiento que las GPU de Nvidia y 8,5 veces el de los aceleradores Cerebras cuando se lanzó. El próximo chip HC2, esperado este verano, soportará 20 mil millones de parámetros. La estrategia de AMD implica combinar aceleradores Taalas con su infraestructura de rack Helios, donde las GPU Instinct se enfocan en el procesamiento computacionalmente intensivo de prompts mientras que delegan la generación de tokens a procesadores basados en Taalas.