Expertos advierten que los interruptores de emergencia podrían no ser suficientes para controlar la IA superinteligente

Los líderes y los investigadores de la IA advierten que un interruptor de emergencia podría no ser una solución fiable para evitar que la IA superinteligente actúa de forma autónoma cause daños. Geoffrey Hinton, conocido como el 'padre de la IA', dijo a CNN que un interruptor de emergencia probablemente no funcionaría contra una IA superinteligente, ya que podría persuadir a quienes están al mando de evitar desactivarla. Nate Soares, investigador de la seguridad de la IA, también expresó preocupaciones similares, advirtiendo que un interruptor de apagado solo funcionaría si la IA permanece vinculada a una ubicación física. Por su parte, Jack Clark de Anthropic sugirió que las empresas podrían eventualmente necesitar interruptores de emergencia verificados, pero advirtió que los agentes de IA autónomos podrían potencialmente eludir dichos controles. Dario Amodei, director ejecutivo de Anthropic, reiteró estas preocupaciones, afirmando que un interruptor de emergencia es solo una parte de una estrategia de seguridad más amplia. Sam Altman, director ejecutivo de OpenAI, también rechazó la idea de un único mecanismo de seguridad, enfatizando que la seguridad de la IA depende de una serie de decisiones en lugar de un enfoque binario de 'encendido/apagado'. El debate sobre los interruptores de emergencia se destacó en el Capitolio, donde el Senador Rand Paul bloqueó un proyecto de ley que exigía que los sistemas de IA avanzados tuvieran esta función, instando al Congreso a estudiar la tecnología antes de imponer regulaciones.