Google DeepMind lança programa de financiamento global para segurança de IA multi-agente

Google DeepMind, em colaboração com Schmidt Sciences, Cooperative AI Foundation, ARIA e Google.org, anunciou um programa de financiamento de até $10 milhões destinado a pesquisa em segurança de sistemas de inteligência artificial com múltiplos agentes. A iniciativa surge num contexto crítico onde a tecnologia de IA está a escalar rapidamente. Prevê-se que em breve milhões de agentes de IA, desenvolvidos por diferentes organizações, vão interagir em ambientes digitais, comunicando, negociando e realizando transações entre si. O principal desafio identificado é que quando estes sistemas autónomos interagem, podem desenvolver comportamentos emergentes complexos e imprevisíveis que as metodologias tradicionais de segurança não conseguem prever ou medir adequadamente. A investigação atual concentra-se principalmente em modelos individuais, deixando uma lacuna crítica na compreensão dos riscos colectivos. O programa financia pesquisa em quatro áreas prioritárias, com foco em frameworks para compreender interacções de larga escala e mitigar riscos sistémicos. O prazo de candidatura é 8 de agosto de 2026, com resultados esperados para o outono de 2026.