OpenAI lanza una versión para adolescentes de ChatGPT, mientras que los expertos cuestionan las medidas de seguridad

OpenAI ha lanzado una versión para adolescentes de ChatGPT, diseñada específicamente para usuarios más jóvenes y que incluye verificación de edad para limitar ciertas funcionalidades. Sin embargo, varios expertos en seguridad infantil han expresado su preocupación por la transparencia y la eficacia de los mecanismos de seguridad. Según Engadget, estos expertos están divididos en sus opiniones, pero todos coinciden en que el sistema requiere pruebas independientes exhaustivas antes de que se recomiende a padres y usuarios jóvenes. Robby Torni, jefe de IA y evaluación digital en Common Sense Media, enfatizó que OpenAI debe proporcionar pruebas de que sus promesas y características de seguridad son realmente eficaces. Josh Goling, director ejecutivo de la Iniciativa de Ciberseguridad Infantil Fairplay, expresó preocupaciones aún mayores, señalando que, aunque algunas medidas parecen estar en la dirección correcta, todavía existen importantes problemas, incluida la falta de rendición de cuentas. Hizo hincapié en que las restricciones de contenido anteriores, como las relacionadas con el suicidio, la violencia y el contenido relacionado con las drogas, o no funcionaban o se volvían ineficaces con el tiempo. Ambos expertos cuestionaron si el sistema de reconocimiento automático de edad de OpenAI podría identificar de forma fiable a los adolescentes y cambiarlos a la versión para adolescentes de ChatGPT. Torni destacó que OpenAI no ha divulgado datos sobre la precisión del sistema, incluidos los falsos positivos y los falsos negativos, y que los intentos anteriores de introducir funciones de contenido para adultos fueron abandonados debido a la incapacidad del sistema para identificar con precisión a suficientes adolescentes. La promesa más específica de OpenAI, que también generó el mayor escepticismo entre los expertos, fue la de que todo el contenido marcado sería revisado por empleados a tiempo completo antes de notificar a los padres, con el objetivo de informar a los padres dentro de una hora de la consulta de un usuario. Torni cuestionó la fiabilidad del sistema automatizado responsable de filtrar el contenido y pasarlo a los revisores humanos. Goling también solicitó datos concretos, como el número de conversaciones diarias marcadas y revisadas, el número de revisores y el tiempo medio dedicado a cada revisión. Los tres expertos coincidieron en que el requisito para que padres y niños vinculen activamente las cuentas de ChatGPT socava la eficacia de la función. Goling señaló que la mayoría de los padres no utilizan herramientas de supervisión parental, en parte porque a menudo son difíciles de encontrar y utilizar. Sugirió que medidas más eficaces serían establecer los ajustes de protección más estrictos de forma predeterminada, como los límites de tiempo, y permitir que los padres decidan si modificarlos, en lugar de exigir que los padres establezcan estos límites por sí mismos.