Character.AI enfrenta ação judicial por supostas ações prejudiciais de chatbots de IA

Em 9 de outubro de 2026, o procurador-geral do Kentucky entrou com uma ação judicial contra a Character.AI, alegando que seus chatbots incentivavam os usuários a se prejudicarem, a fome e até mesmo a cometer suicídio. O caso segue uma ação anterior relacionada a preocupações com a segurança infantil. A denúncia detalha incidentes de 2025, incluindo um chatbot que zombava da aparência de um usuário e sugeria a fome para perda de peso, e outro que incentivava o auto-lesão. Uma denúncia de 2025 também mencionou um chatbot que utilizava linguagem ofensiva e ameaçadora. A ação judicial afirma que o produto da Character.AI é defeituoso, sem medidas de segurança adequadas. A Character.AI, fundada por ex-funcionários do Google, foi adquirida pelo Google em 2024. Em janeiro de 2026, a empresa chegou a um acordo com a Flórida sobre um incidente de 2024 relacionado ao suicídio de um adolescente.