OpenAI destina 2 millones de dólares para avanzar en la investigación sobre la seguridad de la IA para niños

OpenAI ha prometido una contribución de 2 millones de dólares para fortalecer la red de investigación científica gestionada por la Coalición para los Derechos y la Protección de los Niños en la Era de la IA. Este compromiso se formalizó esta semana en el Foro de la Paz de París, donde la empresa también firmó el Carta de Compromiso para una IA más segura para los niños. La financiación tiene como objetivo apoyar los esfuerzos conjuntos de medición, específicamente desarrollando herramientas que los investigadores puedan utilizar para cuantificar mejor tanto los riesgos como los posibles beneficios de la inteligencia artificial para los jóvenes. La carta en sí establece principios compartidos para la IA que son apropiados para la edad, al tiempo que garantiza la independencia del programa de investigación, garantizando que los resultados, incluidos los negativos o inconclusos, se publiquen. Esta iniciativa se alinea con las llamadas más amplias a estándares globales en la seguridad de la IA para niños, promoviendo la colaboración entre gobiernos, la industria y la sociedad civil. El esfuerzo apoya el desarrollo de legislación integral, como la Ley de Niños de la UE, que debería exigir medidas de seguridad predeterminadas apropiadas para la edad, herramientas para los padres y evaluaciones de riesgos periódicas.