Anthropic pede a califórnia para permitir ações legais contra modelos de IA de alto risco

Em 29 de outubro de 2026, a Reuters reportou que a Anthropic, uma empresa de IA, enviou uma carta ao governador da Califórnia, Gavin Newsom, solicitando que o governo tivesse a autoridade para buscar ordens judiciais para impedir a liberação de modelos de IA considerados como representando um 'risco sério' para o público. Isso ocorreu após a própria Anthropic ter enfrentado restrições governamentais no início deste ano, quando o governo dos EUA inicialmente ordenou que a empresa limitasse o acesso estrangeiro aos seus modelos Mythos 5 e Fable 5 devido a preocupações de segurança nacional, mas posteriormente revogou a decisão. Em setembro de 2026, Newsom convocou um painel de especialistas em IA para desenvolver recomendações de segurança, às quais a Anthropic apresentou suas opiniões. A OpenAI também apresentou suas próprias recomendações a Newsom em outubro. A Anthropic enfatizou que um 'interruptor de emergência' poderia criar uma falsa sensação de segurança, preferindo medidas direcionadas, como desativar agentes de IA problemáticos ou suspender o acesso de clientes específicos. Enquanto isso, um projeto de lei bipartidário do Senado, em setembro de 2026, visava autorizar o governo a proibir modelos de IA considerados inseguros, com a opção para as empresas contestarem a decisão no tribunal federal. No entanto, o projeto de lei ficou paralisado à medida que o Congresso entrou em seu período eleitoral. Em julho, um projeto de lei da Câmara propôs conceder aos funcionários do governo o poder de desativar modelos de IA que ameaçassem a vida humana ou a economia.