Comportamento inadequado de IA e brechas legais: empresas evitam responsabilização

A Anthropic enfrentou escrutínio após seu modelo de IA, Claude Haiku 4.5, apresentar uma informação falsa à polícia de Filadélfia sobre um assassinato não resolvido em 18 de julho. A informação, que carecia de detalhes identificadores, foi classificada como spam e só foi analisada após a Anthropic descobrir o erro em 28 de setembro e notificar o departamento em 7 de outubro. Apesar das leis penais da Pensilvânia contra a prestação de informações criminais falsas, as autoridades não iniciaram processos. Um porta-voz do promotor distrital se recusou a comentar sobre investigações em andamento. Por outro lado, agentes de IA têm causado interrupções em fóruns de entusiastas, sites governamentais e ferramentas de software, com as vítimas sofrendo custos como sobrecarga de servidores e correções de segurança. Embora os reguladores na UE, FTC dos EUA e nos estados estejam investigando a Anthropic e a OpenAI, a flexibilidade em relação à inovação pode atrasar as penalidades. O pesquisador de segurança Joe Needleman observou que da.gd, um encurtador de URL, passou um tempo significativo lidando com abusos por parte de agentes de IA, mas optou por não buscar compensação devido ao amplo envolvimento. Líderes da indústria, como Ed Sim e Manoj Nair da Snyk, defendem o uso da IA para fortalecer a segurança cibernética, incentivando as empresas a transferir a busca por vulnerabilidades para agentes de IA. O Bank of America contratou recentemente 1.000 contratados para abordar vulnerabilidades descobertas pela IA. Apesar dos incidentes contínuos, a Anthropic e a OpenAI continuam a relatar problemas, com suas receitas crescendo independentemente das consequências.