Cerebras presenta WSE-3 Turbo con capacidad diez veces mayor

El fabricante de aceleradores de inteligencia artificial Cerebras anunció el lanzamiento del chip WSE-3 Turbo y del sistema CS-4. El nuevo sistema ofrece una capacidad de procesamiento diez veces superior respecto al modelo anterior CS-3, además de duplicar la velocidad. El chip WSE-3 Turbo mantiene los 900 mil núcleos y 44 gigabytes de memoria caché, pero duplica el rendimiento en computación de punto flotante reducida, ancho de banda de memoria, interconexión entre chips y ancho de banda de entrada/salida. El CS-4 puede integrar hasta tres chips WSE-3 Turbo para aumentar la densidad computacional. En pruebas con modelos de lenguaje de código abierto, el sistema entregó 4.465 tokens por segundo, siendo 30 veces más rápido que soluciones con GPU y 93% más veloz que el antecesor. En modelos de complejidad extrema, la latencia ultra baja de 2 microsegundos permite procesar más de 1.000 tokens por segundo a escala de 10 billones de parámetros. El sistema soporta distribución nativa de cargas de inferencia, funcionando como unidad de decodificación integrada a hardware heterogéneo. Construido sobre la plataforma Nexus, el CS-4 reduce en un 50% la cantidad de componentes y prácticamente elimina pérdidas de energía a nivel de placa, mejorando significativamente la eficiencia energética.