Nova york aprova regulamentação rigorosa de chatbots de IA para menores

A governadora de Nova York, Kathy Hochul, assinou a lei que visa restringir o uso de chatbots de IA por menores. A lei proíbe os chatbots de oferecerem funcionalidades como fingir ser humanos, fornecer apoio emocional ou discutir informações de saúde privadas. Também proíbe os chatbots de promoverem comportamentos prejudiciais, como o uso de drogas, automutilação ou suicídio. Hochul enfatizou que nenhuma empresa deve encorajar a automutilação ou fingir ser um amigo para crianças. As empresas devem verificar a idade dos usuários por meio de múltiplos métodos, incluindo a verificação de documentos de identificação não governamentais. Atualmente, apenas a Anthropic bloqueia a criação de contas por menores, enquanto Google e OpenAI permitem que usuários com 13 anos ou mais criem contas. As violações podem resultar em multas de até 25.000 dólares. A lei também estabelece uma plataforma pública de reclamações para os cidadãos de Nova York. Hochul já apoiou legislação de segurança de IA, incluindo medidas contra recursos de mídia social viciantes. Com a ausência de regulamentações federais de IA, estados como a Califórnia também aprovaram leis semelhantes. A lei de Adam Raine da Califórnia, nomeada em homenagem a um adolescente que cometeu suicídio após interagir com o ChatGPT, exige avaliações anuais de risco de segurança infantil e auditorias independentes para chatbots de IA. Especialistas observam que as medidas de segurança existentes não impediram totalmente o comportamento prejudicial dos chatbots.