AMD e spectro cloud lançam o instinct coder 355, uma plataforma de codificação de IA empresarial capaz de realizar inferência local do GLM-5.3

A AMD, em parceria com a Spectro Cloud, apresentou o Instinct Coder 355, uma plataforma de programação de IA de nível empresarial. Este sistema foi projetado para suportar o lançamento da inferência do GLM-5.3, alcançando até 98% do desempenho do modelo de ponta, operando localmente. A configuração de hardware principal inclui oito aceleradores AMD Instinct MI355X, combinados com dois processadores Zen 5 EPYC 9575F de 64 núcleos. O sistema também possui 3 TB de memória DDR5-6400 RDIMM e um total de 63,36 TB de armazenamento SSD. A plataforma é escalável, com cada nó suportando até 85 desenvolvedores, acomodando 50 simultaneamente. A Spectro Cloud fornece o software de gerenciamento PaletteAI Inference Launchpad necessário para o Instinct Coder 355. Uma característica chave deste software é sua configuração padrão para utilizar o poder computacional local, em vez de depender de APIs na nuvem. Variações do sistema estão disponíveis nas configurações Dell e Supermicro, diferindo nas especificações de hardware específicas.