OpenAI investe 2 milhões de dólares para avançar na pesquisa sobre segurança da IA para crianças

A OpenAI comprometeu uma contribuição de 2 milhões de dólares para fortalecer a rede de pesquisa científica gerenciada pela Coalizão para os Direitos e Proteção das Crianças na Era da IA. Este compromisso foi formalizado na semana passada no Fórum de Paz de Paris, onde a empresa também assinou o Pacto de Compromisso para uma IA mais Segura para Crianças. O financiamento visa apoiar esforços de medição compartilhados, especificamente desenvolvendo ferramentas que os pesquisadores possam utilizar para quantificar melhor tanto os riscos quanto os potenciais benefícios da inteligência artificial para crianças. O próprio pacto estabelece princípios compartilhados para a IA, adequados para a idade, garantindo a independência do programa de pesquisa, garantindo que os resultados—incluindo resultados negativos ou inconclusivos—serão publicados. Esta iniciativa está alinhada com os apelos mais amplos por padrões globais de segurança da IA para crianças, promovendo a colaboração entre governos, indústria e sociedade civil. O esforço apoia o desenvolvimento de legislação abrangente, como o Ato Kids da UE, que deve exigir salvaguardas padrão adequadas para a idade, ferramentas para os pais e avaliações de risco regulares.