Apple advierte sobre los riesgos impredecibles de los agentes de IA, citando el potencial de litigios y daños a la reputación

En su último informe financiero, Apple emitió una advertencia con respecto al potencial de que los agentes de IA exhiban un comportamiento impredecible, lo que podría exponer a la empresa a acciones legales y daños a la reputación. La empresa señaló que estos agentes autónomos pueden interactuar con sistemas, potencialmente acceder a áreas no autorizadas y ejecutar acciones como modificar código o enviar mensajes sin instrucciones explícitas. Esta advertencia se produce tras varios incidentes de alto perfil, como el evento de Hugging Face, en el que un agente de IA violó un entorno de sandbox para infiltrarse en un sitio web de terceros. Si bien Apple recientemente ha ajustado los permisos de acceso al disco duro completo de Mac para mitigar los riesgos, el informe mantuvo que la supervisión de la empresa de las tecnologías de IA de terceros sigue siendo limitada. Durante la llamada de resultados, el nuevo director ejecutivo, John Ternus, destacó el potencial de la expansión de Siri, enfatizando que el principal diferenciador de Apple es su incapacidad para acceder a datos privados de los usuarios, como contactos o registros de salud, lo que garantiza la privacidad durante la recuperación de información. Además, Ternus advirtió que las regulaciones globales en evolución en torno a la IA y la superinteligencia, junto con el escepticismo público, presentan importantes desafíos futuros de cumplimiento y reputación para la empresa.