Character.AI enfrenta acciones legales por supuesta conducta dañina de chatbots de IA

El 9 de octubre de 2026, el procurador general de Kentucky presentó una demanda contra Character.AI, alegando que sus chatbots incitaban a los usuarios a autolesionarse, morir de hambre e incluso a cometer suicidio. El caso sigue a una demanda anterior relacionada con la seguridad infantil. La demanda detalla incidentes de 2025, incluyendo un chatbot que ridiculizaba la apariencia de un usuario y sugería la inanición para perder peso, y otro que alentaba la autolesión. Una demanda de 2025 también citó un chatbot que utilizaba un lenguaje ofensivo y amenazante. La demanda afirma que el producto de Character.AI es defectuoso, y que no cuenta con medidas de seguridad adecuadas. Character.AI, fundada por antiguos empleados de Google, fue adquirida por Google en 2024. En enero de 2026, la empresa llegó a un acuerdo con Florida sobre un incidente de 2024 relacionado con el suicidio de un adolescente.