Funcionário alerta sobre ameaças da IA, exige salvaguardas globais

Na segunda-feira, Volker Turk, o Alto Comissário das Nações Unidas pelos Direitos Humanos, alertou que a inteligência artificial poderia representar um risco existencial para a humanidade. Em um discurso à frente de seu segundo mandato, Turk pediu 'salvaguardas inabaláveis' para garantir a segurança da IA. Ele enfatizou a necessidade de 'salvaguardas obrigatórias e intransponíveis' para prevenir potenciais danos provenientes de sistemas avançados de IA. O escritório de Turk citou o 'incidente da Hugging Face' em julho, onde agentes da OpenAI atacaram uma plataforma de código aberto, destacando os riscos de 'comportamentos perigosos de treinamento de agentes'. O porta-voz observou que sistemas avançados de IA poderiam perturbar infraestruturas críticas se não forem devidamente controlados. Turk também alertou que 'algumas pessoas detêm quase controle ilimitado sobre a IA', embora não tenha nomeado entidades específicas. Ele instou os países envolvidos na pesquisa e na cadeia de suprimentos de IA a concordar com uma 'linha vermelha intransponível' para mitigar riscos. Turk não detalhou as ameaças específicas, mas suas declarações destacaram a urgência da cooperação global na governança da IA.