La propuesta regulatoria de Demis Hassabis sobre IA de frontera genera debate

Demis Hassabis, director ejecutivo de Google DeepMind, publicó un ensayo caracterizando la inteligencia general artificial (AGI) como una tecnología transformadora comparable al descubrimiento de la electricidad. Argumentó que su impacto sería sin precedentes, potencialmente diez veces mayor que la Revolución Industrial, pero a una velocidad diez veces superior. Para abordar las preocupaciones de seguridad, Hassabis propuso crear un organismo regulador federal denominado Frontier AI Standards Body, modelado según reguladores financieros como FINRA. Este organismo evaluaría sistemas de IA avanzados antes de su lanzamiento, haría cumplir estándares de seguridad y podría coordinar desaceleraciones del desarrollo si los riesgos escalaran. Aunque algunos líderes de la industria, como Jack Clark de Anthropic, expresaron apoyo, críticos prominentes cuestionaron la adecuación de la propuesta. Expertos como Nate Soares y Aaron Scher señalaron que las evaluaciones de riesgo entre investigadores varían entre 5% y 90% de riesgo existencial—un rango que Hassabis eludió. También observaron que el marco no aborda los riesgos del despliegue interno de modelos, que representa gran parte del peligro. La discusión se intensificó después de la renuncia de Alex Turner de Google DeepMind. Turner dimitió en protesta por el acuerdo de la empresa con el Departamento de Defensa de EE.UU. para proporcionar acceso militar sin restricciones a sus modelos. Turner había intentado previamente bloquear este acuerdo, citando los principios fundacionales de DeepMind—compromisos que Hassabis mantuvo estaban intactos a pesar de evidencia contraria.