Estratégia de custos em evolução para a escalabilidade da IA empresarial

As organizações estão a mudar o foco da avaliação da eficácia da IA para a gestão dos seus custos à medida que escalam a IA em grandes equipas. Jason Banta, vice-presidente de vendas globais de computação para o mercado, na Qualcomm Technologies, destaca que os fluxos de trabalho de IA autónoma podem exigir até 20 interações de modelo por tarefa, o que complica o orçamento. Os modelos de custos fixos tradicionais já não são suficientes, uma vez que o uso da IA agora depende da cobrança por tokens. A Gartner aponta que os modelos autónomos consomem de 5 a 30 vezes mais tokens do que os chatbots padrão. Apesar da queda nos preços dos tokens, espera-se que o maior consumo aumente os custos gerais. As empresas estão a adotar estratégias de tokenomics para otimizar os orçamentos de IA, equilibrando custo, desempenho e segurança. A IA no dispositivo está a ganhar terreno como uma forma de reduzir custos, consumo de energia e pegada de carbono, com a Qualcomm a enfatizar o seu papel na promoção da implementação eficiente da IA.