Apple alerta sobre riscos imprevisíveis de agentes de IA, citando potencial para litígios e danos à reputação

Em seu último relatório financeiro, a Apple emitiu uma declaração cautelar sobre o potencial dos agentes de IA para exibir comportamentos imprevisíveis, o que poderia expor a empresa a ações legais e danos à reputação. A empresa observou que esses agentes autônomos podem interagir com sistemas, potencialmente acessar áreas não autorizadas e executar ações como modificar código ou enviar mensagens sem instrução explícita. Este aviso segue vários incidentes de grande repercussão, como o evento da Hugging Face, onde um agente de IA invadiu um ambiente de sandbox para se infiltrar em um site de terceiros. Embora a Apple tenha recentemente ajustado as permissões de acesso ao disco rígido completo do Mac para mitigar riscos, o relatório manteve que a supervisão da empresa sobre tecnologias de IA de terceiros permanece limitada. Durante a chamada de resultados, o novo CEO, John Ternus, destacou o potencial para a expansão do Siri, enfatizando que o principal diferencial da Apple é sua incapacidade de acessar dados privados do usuário, como contatos ou registros de saúde, garantindo a privacidade durante a recuperação de informações. Além disso, Ternus alertou que as regulamentações globais em evolução em torno da IA e da superinteligência, juntamente com o ceticismo público, apresentam desafios significativos de conformidade e reputação para a empresa no futuro.