Califórnia aprova legislação de segurança de IA com apoio de OpenAI e Anthropic

O governador da Califórnia, Gavin Newsom, assinou uma série de projetos de lei regulamentares de IA, com o objetivo de aprimorar as avaliações de risco, a transparência e a segurança cibernética para modelos em grande escala. A legislação, apoiada pela OpenAI e pela Anthropic, aborda preocupações sobre o uso indevido da IA em infraestruturas críticas e na manipulação de deepfakes. As leis exigem que os desenvolvedores realizem exercícios de 'red teaming', estabeleçam protocolos de mitigação de riscos e apresentem relatórios de segurança auditados por terceiros antes de implantar modelos com trilhões de parâmetros. Os projetos de lei se concentram na criação de estruturas de avaliação de risco e padrões da indústria, em vez de impor restrições técnicas rígidas. A OpenAI e a Anthropic alertaram anteriormente contra disposições excessivamente rígidas que poderiam sufocar a inovação. A versão final equilibra medidas de segurança rigorosas com a colaboração da indústria, obtendo o apoio de importantes instituições de pesquisa em IA. A legislação também inclui padrões de rastreabilidade para conteúdo gerado por IA, exigindo impressões digitais em mídia deepfake. Fornece proteção legal para funcionários que relatam vulnerabilidades de segurança, proibindo acordos de confidencialidade excessivamente rígidos. Isso marca o papel da Califórnia como pioneira regulatória na segurança da IA, equilibrando segurança e inovação.