Deputado dos EUA apresenta legislação inovadora sobre segurança de IA

O deputado dos EUA, Ro Khanna, um democrat representando a região de Silicon Valley, está prestes a apresentar um projeto de lei histórico sobre regulamentação de IA. A legislação, denominada 'Lei de Controle Humano da IA', exige que os modelos de IA não possam se auto-aperfeiçoar ou reescrever seus objetivos principais de forma autônoma sem aprovação do governo. Khanna enfatizou os riscos existenciais da IA, afirmando: 'O risco de extinção da civilização é real'. A proposta exige supervisão federal e aprovação regulamentar antes que as empresas possam implantar modelos de IA, com controles rigorosos sobre a auto-iteração. A proposta inclui a criação de uma nova agência federal para supervisionar a segurança da IA, aplicar licenças e realizar auditorias. Os laboratórios devem ter auditores independentes e aderir a uma lista de verificação de segurança, incluindo testes em sandbox, isolamento físico e interruptores de desligamento de emergência. Os chips de alta qualidade usados nos laboratórios também estão sujeitos a regulamentação. A proposta impõe penalidades severas, classificando danos civis causados pela IA como um 'crime contra a humanidade'. Funcionários que desativarem medidas de segurança ou implantarem sistemas não autorizados enfrentarão acusações criminais. As empresas também devem obter seguro de responsabilidade antes de lançar modelos. Khanna, que consultou grupos de segurança de IA sem fins lucrativos, visa dar à comunidade de segurança uma voz na formulação de políticas de IA.