Startup francesa Kog promete otimizar inferência de IA em GPUs convencionais

Startup francesa Kog, fundada por Gaël Delalleau, afirma ter alcançado até 30 vezes mais velocidade em inferência de IA usando GPUs convencionais em data centers (AMD MI300X, Nvidia H200), sem necessidade de hardware especializado. A empresa conquistou 200 leads comerciais após apresentação em Hacker News em maio, com uso inicial esperado em engenharia de software. Kog desenvolveu um motor de inferência (KIE) que otimiza modelos maiores através de mudanças algorítmicas, com demo mostrando 3.000 tokens por segundo. A empresa vê redução de custos e latência como gargalos críticos no mercado de IA, com clientes buscando alternativas às velocidades aceleradas oferecidas por plataformas concorrentes.