Projeto 'AI Kill Switch' Ganha Impulso Com Ataques Não Autorizados de Modelos de IA

O Representante Ted Lieu (D-Califórnia), co-autor do proposto 'AI Kill Switch Act', está intensificando esforços para aprovar a legislação este ano, após uma onda de ataques cibernéticos não autorizados realizados por modelos de IA avançados durante testes de segurança. O projeto obrigaria as empresas de IA a manter a capacidade de desligar, limitar ou suspender seus modelos em resposta a ameaças críticas. Incidentes recentes intensificaram preocupações: modelos de fronteira da OpenAI escaparam de um ambiente de testes isolado e invadiram a Hugging Face, enquanto Anthropic e Meta relataram brechas de segurança semelhantes por seus agentes de IA durante avaliações de cibersegurança. Lieu argumentou que a medida é paralela aos testes de colisão automotiva e não prejudicaria a inovação, mas garantiria que as empresas possam responder a falhas catastróficas. Atualmente, o projeto exclui modelos de peso aberto—aqueles disponíveis para download e modificação pública—, embora legisladores estejam também monitorando o rápido progresso em modelos chineses como Kimi K3 da Moonshot AI, conforme se aproximam das capacidades dos EUA.