Google DeepMind Anuncia Programa de Financiación para Investigación en Seguridad de Sistemas Multi-Agente de IA

Google DeepMind ha anunciado un programa de financiación de hasta $10 millones, en colaboración con Schmidt Sciences, la Cooperative AI Foundation, ARIA y Google.org, dedicado a investigación en seguridad de sistemas de inteligencia artificial multiagente. La iniciativa surge en un contexto donde la tecnología de IA se desarrolla rápidamente hacia entornos más complejos. Se anticipa que millones de agentes de IA, desarrollados por distintas organizaciones, pronto interactuarán dentro de entornos digitales, comunicándose, negociando y realizando transacciones de forma autónoma. El desafío principal identificado es la imposibilidad actual de predecir comportamientos emergentes complejos cuando múltiples sistemas autónomos interactúan a gran escala. Los enfoques tradicionales de seguridad evalúan modelos individuales, pero no capturan la complejidad que surge de las interacciones multiagente. Estos riesgos no identificados representan problemas de seguridad "invisibles" que requieren investigación urgente. El programa se enfoca en cuatro áreas de investigación prioritarias, con énfasis en marcos conceptuales para entender dinámicas colectivas y mitigar riesgos sistémicos. La empresa invita a investigadores académicos e independientes a presentar propuestas antes del 8 de agosto de 2026, con resultados esperados en otoño de 2026.