Nueva york aprueba estrictas regulaciones sobre chatbots de IA para menores

La gobernadora de Nueva York, Kathy Hochul, ha promulgado una ley integral que tiene como objetivo restringir el uso de chatbots de IA por parte de menores. La ley prohíbe a los chatbots ofrecer funciones como pretender ser humanos, proporcionar apoyo emocional o discutir información de salud privada. También prohíbe a los chatbots promover comportamientos perjudiciales como el consumo de drogas, el autolesionismo o el suicidio. Hochul enfatizó que ninguna empresa debería animar al autolesionismo o pretender ser un amigo para los niños. Las empresas deben verificar la edad del usuario a través de múltiples métodos, incluida la verificación de documentos de identidad no gubernamentales. Actualmente, solo Anthropic bloquea a los menores de edad de crear cuentas, mientras que Google y OpenAI permiten a los usuarios de 13 años o más. Las infracciones podrían resultar en multas de hasta 25.000 dólares. La ley también establece una plataforma pública de quejas para los habitantes de Nueva York. Hochul ha apoyado anteriormente la legislación sobre la seguridad de la IA, incluida la regulación de las características adictivas de las redes sociales. A la ausencia de regulaciones federales sobre la IA, también se han promulgado leyes similares en estados como California. La ley de Adam Raine de California, nombrada en honor a un adolescente que se suicidó después de interactuar con ChatGPT, exige evaluaciones anuales de riesgos para la seguridad infantil y auditorías independientes para los chatbots de IA. Los expertos señalan que las medidas de seguridad existentes no han prevenido por completo el comportamiento perjudicial de los chatbots.