Cerebras apresenta WSE-3 Turbo com capacidade dez vezes maior

A empresa de aceleradores de inteligência artificial Cerebras anunciou o lançamento do chip WSE-3 Turbo e do sistema CS-4. O novo sistema oferece capacidade de processamento dez vezes superior ao modelo anterior CS-3, além de duplicar a velocidade. O chip WSE-3 Turbo mantém os 900 mil núcleos e 44 gigabytes de memória cache, mas duplica o desempenho em computação de ponto flutuante reduzido, largura de banda de memória, interconexão entre chips e banda de entrada/saída. O CS-4 pode integrar até três chips WSE-3 Turbo para aumentar a densidade computacional. Em testes com modelos de linguagem de código aberto, o sistema entregou 4.465 tokens por segundo, sendo 30 vezes mais rápido que soluções com GPU e 93% mais veloz que o antecessor. Em modelos de complexidade extrema, a latência ultra-baixa de 2 microssegundos permite processar mais de 1 mil tokens por segundo em escala de 10 trilhões de parâmetros. O sistema suporta distribuição nativa de cargas de inferência, funcionando como unidade de decodificação integrada a hardware heterogêneo. Construído sobre a plataforma Nexus, o CS-4 reduz em 50% o número de componentes e praticamente eliminou perdas de energia no nível de placa, melhorando significativamente a eficiência energética.