Califórnia busca medidas de segurança para IA, incluindo um possível interruptor de emergência

O governador da Califórnia, Gavin Newsom, emitiu uma ordem executiva para estabelecer um painel de especialistas focado em aprimorar as leis de segurança da IA, incluindo a possibilidade de um 'interruptor de emergência' para sistemas de IA avançados, conhecido como 'interruptor de IA'. A ordem visa acelerar as avaliações de segurança de terceiros e relatórios obrigatórios de risco. Travis Hall, do Center for Democracy and Technology, enfatizou a necessidade de diversas competências nesses processos, incluindo defensores dos direitos civis. A ideia de um interruptor de emergência ganhou força nas discussões legislativas, com a proposta de lei bipartite 'AI Kill Switch Act' introduzida em julho, que concede ao Departamento de Segurança Interna a autoridade para interromper sistemas de IA considerados capazes de causar danos catastróficos. Embora a maioria dos laboratórios de IA tenha protocolos de segurança internos, os especialistas argumentam que as regulamentações de segurança binárias podem ser ineficazes e propensas a abusos. Hall alertou que tais medidas podem introduzir novos riscos e defendeu uma supervisão independente contínua. Especialistas como Mark Nitzberg e Geoffrey Hinton questionaram a viabilidade de um interruptor de emergência universal, observando que os sistemas de IA operam em ambientes complexos que não podem ser facilmente contidos. Michael Vermeer sugeriu que o isolamento de IA descontrolada pode exigir um esforço global. Em última análise, o controle da tecnologia permanece nas mãos humanas, levantando questões sobre quem deve ter a autoridade para agir em caso de crise.