Nova legislação visa regular agentes de IA após incidente de segurança

Os deputados Josh Gottheimer (D-N.J.) e Mike Lawler (R-N.Y.) apresentaram o Stop Rogue AI Act, que visa estabelecer padrões para a segurança de agentes de IA, em meio ao crescente receio de segurança. O projeto de lei, inicialmente compartilhado com o Axios, surge após uma brecha na Hugging Face e outros incidentes envolvendo agentes de IA maliciosos nos últimos dois meses. A legislação direciona o National Institute of Standards and Technology (NIST) para desenvolver diretrizes para a implantação segura de agentes de IA. Gottheimer enfatizou a necessidade de as empresas identificarem os agentes em suas redes e conhecerem suas origens, descrevendo a situação atual como um 'risco de segurança de alto nível'. Embora os padrões sejam voluntários para a maioria das organizações, os contratados federais que concorrem a novos contratos teriam que cumprir as diretrizes do NIST. O projeto de lei recebeu apoio de várias empresas e grupos da indústria dos EUA, incluindo a Palo Alto Networks e a AI Policy Network. O Stop Rogue AI Act se junta a outros esforços legislativos no Capitólio para aprimorar a transparência e a segurança de agentes de IA. Apesar das crescentes preocupações, o Congresso tem tido dificuldades para acompanhar os avanços da IA, e projetos de lei anteriores relacionados à IA enfrentaram pouco sucesso. A proposta de Gottheimer e Lawler visa abordar os desafios dos agentes de IA que operam sem supervisão, um problema que se torna cada vez mais complexo à medida que a tecnologia evolui.