OpenAI lança versão para adolescentes do ChatGPT, enquanto especialistas questionam as medidas de segurança

A OpenAI lançou uma versão para adolescentes do ChatGPT, projetada especificamente para utilizadores mais jovens e que inclui verificação de idade para limitar certas funcionalidades. No entanto, vários especialistas em segurança infantil levantaram preocupações sobre a transparência e a eficácia das medidas de segurança. De acordo com o Engadget, estes especialistas têm opiniões divergentes, mas todos concordam que o sistema requer testes independentes extensivos antes de ser recomendado a pais e utilizadores jovens. Robby Torni, chefe de IA e avaliação digital na Common Sense Media, enfatizou que a OpenAI deve fornecer provas de que as suas promessas e funcionalidades de segurança são realmente eficazes. Josh Goling, diretor executivo da Fairplay Children's Cybersecurity Initiative, expressou preocupações ainda maiores, notando que, embora algumas medidas pareçam estar a evoluir na direção certa, ainda existem problemas significativos, incluindo a falta de responsabilização. Ele apontou que restrições de conteúdo anteriores, como as relacionadas com suicídio, violência e conteúdo relacionado com drogas, falharam em funcionar ou tornaram-se ineficazes ao longo do tempo. Ambos os especialistas questionaram se o sistema de reconhecimento automático de idade da OpenAI conseguiria identificar de forma fiável adolescentes e transferi-los para a versão para adolescentes do ChatGPT. Torni destacou que a OpenAI não divulgou dados sobre a precisão do sistema, incluindo falsos positivos e falsos negativos, e que tentativas anteriores de introduzir funcionalidades de conteúdo adulto foram abandonadas devido à incapacidade do sistema de identificar corretamente um número suficiente de adolescentes. A promessa mais específica da OpenAI, que também gerou o maior ceticismo entre os especialistas, era que todo o conteúdo problemático seria revisado por funcionários a tempo inteiro antes de notificar os pais, com o objetivo de informar os pais dentro de uma hora da consulta de um utilizador. Torni questionou a fiabilidade do sistema automatizado responsável por filtrar o conteúdo e encaminhá-lo para revisores humanos. Goling também pediu dados concretos, como o número de conversas diárias sinalizadas e revistas, o número de revisores e o tempo médio gasto em cada revisão. Os três especialistas concordaram que o requisito para que pais e crianças ativem ativamente as contas do ChatGPT mina a eficácia da funcionalidade. Goling notou que a maioria dos pais não utiliza ferramentas de supervisão parental, em parte porque muitas vezes são difíceis de encontrar e utilizar. Ele sugeriu que medidas mais eficazes seriam definir as configurações de proteção mais rigorosas por defeito, como limites de tempo, e permitir que os pais decidam se querem modificá-las, em vez de colocar a responsabilidade sobre os pais para que definam estes limites sozinhos.