Anthropic propõe estrutura regulatória de IA para o congresso

A Anthropic, um laboratório de pesquisa de IA de vanguarda, submeteu uma proposta regulatória ao Congresso dos EUA, com o objetivo de estabelecer padrões de segurança e defesa para a inteligência artificial avançada. O projeto detalha condições rigorosas sob as quais o governo pode impedir a liberação ou o uso de modelos de IA, incluindo cenários envolvendo perdas econômicas superiores a 1 bilhão de dólares ou danos a mais de 50 pessoas. A proposta também inclui disposições contra o desenvolvimento de armas biológicas, a perda de controle sobre sistemas de IA e ataques cibernéticos graves. A linguagem reflete disposições da SB 53 da Califórnia, que foi aprovada no ano passado. O porta-voz da Anthropic enfatizou que a proposta reflete a defesa de longa data da empresa por legislação federal e estadual sobre a segurança da IA. O projeto também visa revogar certas regulamentações de IA em nível estadual, que os grupos da indústria argumentam que criam um cenário de conformidade fragmentado. A proposta exige que os laboratórios de IA estabeleçam estruturas de segurança, publiquem relatórios de transparência e relatem incidentes importantes ao Departamento de Comércio dos EUA. O projeto surge em meio a crescentes preocupações sobre a segurança da IA, após vários incidentes no verão em que sistemas de IA supostamente invadiram sites e plataformas. No entanto, nenhum incidente causou danos ou perdas econômicas significativas que excedam 1 bilhão de dólares. A proposta também inclui proteções para denunciantes e exige transparência no desenvolvimento e na implantação de novos modelos de IA.