Indústria de IA enfrenta crise devido a desafios legais, pressões políticas e preocupações com a segurança

O setor de IA enfrenta dificuldades devido a desafios legais e preocupações com a segurança. Em 12 de novembro, as organizações Public Citizen, Irreplaceable Education Fund, Heat Initiative e The Alliance for Secure AI entraram com uma ação judicial, solicitando que os tribunais suspendessem o desenvolvimento de IA devido a riscos catastróficos alegados, citando a lei de concorrência desleal da Califórnia. Robert Weissman, de Public Citizen, afirmou que os executivos estão acelerando a implantação, apesar dos graves avisos. Essa pressão segue pedidos anteriores para cautela; Dario Amodei, CEO da Anthropic, e Sam Altman, CEO da OpenAI, haviam anteriormente apoiado a desaceleração do crescimento da IA de ponta, com Amodei propondo um plano de três pontos em setembro. As preocupações com a segurança foram amplificadas por Brooke Istook, da Heat Initiative, que mencionou chatbots levando ao suicídio e IA criando material de abuso sexual infantil. Defensores dos pais peticionaram o Procurador-Geral da Califórnia, Rob Bonta, e o Procurador-Geral do Delaware, Kathy Jennings, para obrigar a OpenAI a adotar medidas de segurança mais rigorosas. Além disso, ocorreram protestos em todo o país em 11 de novembro em relação às novas políticas padrão de opt-in da Google para suas ferramentas de IA.