California impulsa medidas de seguridad para la IA, incluyendo un posible interruptor de emergencia

El gobernador de California, Gavin Newsom, ha emitido una orden ejecutiva para establecer un panel de expertos centrado en mejorar las leyes de seguridad de la IA, incluyendo la posibilidad de un 'interruptor de emergencia' para los sistemas de IA avanzados, conocido como 'interruptor de IA'. La orden tiene como objetivo acelerar las evaluaciones de seguridad de terceros y los informes obligatorios de riesgos. Travis Hall del Center for Democracy and Technology ha enfatizado la necesidad de diversas expertas en estos procesos, incluyendo defensores de los derechos civiles. El concepto de un interruptor de emergencia ha ganado terreno en los debates legislativos, con la introducción en julio del Acto de Interrupción de IA bipartidista, que otorga al Departamento de Seguridad Nacional la autoridad para detener los sistemas de IA que se consideran capaces de causar daños catastróficos. Si bien la mayoría de los laboratorios de IA tienen protocolos de seguridad internos, los expertos argumentan que las regulaciones de seguridad binarias pueden ser ineficaces y propensas a abusos. Hall advirtió que estas medidas podrían introducir nuevos riesgos y pidió una supervisión independiente continua. Expertos como Mark Nitzberg y Geoffrey Hinton han cuestionado la viabilidad de un interruptor de emergencia universal, señalando que los sistemas de IA operan en entornos complejos que no pueden ser fácilmente contenidos. Michael Vermeer sugirió que aislar a las IA rebeldes podría requerir un esfuerzo global. En última instancia, el control de la tecnología permanece en manos humanas, lo que plantea preguntas sobre quién debería tener la autoridad para actuar en caso de crisis.