Otimização da arquitetura da GPU pode reduzir drasticamente a latência da IA, afirma a CoreWeave

A CoreWeave afirma que variar a forma como as GPUs são conectadas e alimentadas pode ter um impacto significativo na latência da IA, potencialmente reduzindo-a em ordens de magnitude. A empresa enfatiza que essas mudanças arquitetônicas são cruciais para melhorar a eficiência dos sistemas de IA. Enquanto isso, várias grandes empresas de tecnologia estão fazendo movimentos significativos no espaço da IA. A Anthropic está planejando uma oferta pública inicial (IPO) antes do Dia de Ação de Graças, apesar das preocupações sobre os potenciais riscos existenciais da IA. A Salesforce está prestes a adquirir a Listen Labs, uma startup de pesquisa de clientes de IA, em um acordo de US 2 bilhões. A Satlyt, um provedor de software de satélite, obteve US 8 milhões em investimento. Além disso, o armazenamento empresarial está evoluindo para a memória da IA, à medida que os modelos operados em privado se aproximam do limite das capacidades da IA. A mudança de soluções