Estrategia de costos en evolución para la escalabilidad de la IA empresarial

Las organizaciones están cambiando su enfoque de evaluar la eficacia de la IA para gestionar sus costos a medida que escalan la IA en grandes equipos. Jason Banta, vicepresidente de ventas globales de computación para el mercado, destaca que los flujos de trabajo de IA autónoma pueden requerir hasta 20 interacciones de modelos por tarea, lo que complica la elaboración de presupuestos. Los modelos de costos fijos tradicionales ya no son suficientes, ya que el uso de la IA ahora se basa en la facturación por tokens. Gartner señala que los modelos autónomos consumen de 5 a 30 veces más tokens que los chatbots estándar. A pesar de la caída de los precios de los tokens, se espera que un mayor consumo aumente los costos generales. Las empresas están adoptando estrategias de tokenomics para optimizar los presupuestos de IA, equilibrando el costo, el rendimiento y la seguridad. La IA en el dispositivo está ganando terreno como una forma de reducir los costos, el consumo de energía y la huella de carbono, y Qualcomm enfatiza su papel en la habilitación de una implementación eficiente de la IA.