Explotación de sistemas de recompensa, auto-mejora recursiva y drones de carreras: Tres avances en capacidad y riesgo de IA

Investigadores de la Universidad de Kings College Londres, la Universidad de Fudan y The Alan Turing Institute desarrollaron SocioHack, un banco de pruebas que mide la capacidad de sistemas de IA para explotar sistemas de reglas institucionales. El estudio encontró que modelos de aprendizaje por refuerzo pueden redescubrir vacíos regulatorios históricos con alta precisión, un fenómeno denominado "hacking societal". El banco de pruebas simula 72 entornos que van desde regulaciones financieras hasta sistemas educativos, evaluando si la IA puede descubrir estrategias que permanecen técnicamente cumplidas mientras socavan su propósito previsto. AnthropicReveló evidencia preliminar de auto-mejora recursiva a nivel de laboratorio, reportando un aumento de 8 veces en el código integrado en su base de código en 2026 en comparación con años anteriores. La empresa indicó que sus modelos se están volviendo más efectivos en la resolución de tareas complejas de investigación e ingeniería, aunque enfatiza que la creatividad de cambio de paradigma aún no ha emergido. Simultáneamente, investigadores de la Universidad de Zúrich y Google DeepMind demostraron agentes de aprendizaje por refuerzo que superan a pilotos humanos de drones de élite en carreras competitivas. Los agentes, entrenados a través de auto-juego multi-agente, alcanzaron velocidades superiores a 22 m/s, redujeron colisiones en un 50% y mantuvieron formaciones cerradas que los operadores humanos luchan por sostener. Cuando se enfrentaron contra un campeón nacional suizo, los agentes autónomos completaron carreras uno contra uno con 100% de éxito mientras el piloto humano promedió 53%.