Especialistas alertam: interruptores de emergência podem não ser suficientes para controlar a IA superinteligente

Líderes e pesquisadores de IA alertam que um interruptor de emergência pode não ser uma solução confiável para impedir que a IA superinteligente e descontrolada cause danos. Geoffrey Hinton, conhecido como o 'pai da IA', disse à CNN que um interruptor de emergência provavelmente falharia contra uma IA superinteligente, pois poderia persuadir aqueles que estão no comando a evitar desativá-la. Preocupações semelhantes foram levantadas por Nate Soares, pesquisador de segurança de IA, que alertou de que um interruptor de desligamento pode funcionar apenas se a IA permanecer ligada a uma localização física. Enquanto isso, Jack Clark da Anthropic sugeriu que as empresas podem eventualmente precisar de interruptores de emergência verificados, mas alertou de que agentes de IA autônomos poderiam potencialmente contornar tais controles. Dario Amodei, CEO da Anthropic, ecoou essas preocupações, afirmando que um interruptor de emergência é apenas uma parte de uma estratégia de segurança mais ampla. Sam Altman, CEO da OpenAI, também rejeitou a ideia de um único recurso de segurança, enfatizando que a segurança da IA depende de uma série de decisões, em vez de uma abordagem binária de ligar/desligar. A discussão sobre interruptores de emergência foi destacada no Capitólio, onde o Senador Rand Paul bloqueou um projeto de lei que exigiria que os sistemas de IA avançados tivessem tal recurso, pedindo ao Congresso que estudasse a tecnologia antes de impor regulamentações.