Onu exige medidas imediatas de segurança para a IA face ao aumento dos riscos

Um painel científico da ONU alertou que os governos devem tomar medidas imediatas para regular agentes de IA cada vez mais poderosos, mesmo antes de compreenderem todos os seus riscos. O aviso emana da primeira avaliação importante da organização sobre a invasão da OpenAI à Hugging Face, que ocorreu no início deste ano. O relatório destaca a crescente importância da IA na agenda diplomática global, à medida que os líderes mundiais se reúnem em Nova Iorque para a Assembleia Geral da ONU. Durante estas reuniões, os EUA e a China também estão a discutir questões relacionadas com a IA. Na semana passada, o Secretário-Geral da ONU, António Guterres, apelou aos governos para colaborarem na segurança da IA, enfatizando que «o mundo não pode pagar uma corrida para o fundo na segurança da IA». Este breve temático marca o primeiro de uma espécie da ONU, sinalizando uma mudança significativa nas prioridades globais em relação à governança da IA. O relatório enfatiza a urgência de estabelecer salvaguardas contra os riscos da IA, com especialistas a defender a cooperação internacional para prevenir potenciais danos. À medida que a ONU continua a abordar o papel da IA nos assuntos globais, o foco permanece em equilibrar a inovação com a segurança, garantindo que os avanços tecnológicos não ultrapassem os quadros regulatórios. Os próximos meses serão cruciais para moldar o futuro da governança da IA em escala global.