Pioneiro da IA, Hinton, adverte sobre potenciais desastres de nível chernobyl no futuro próximo

O laureado com o Nobel e pioneiro da IA, Geoffrey Hinton, alertou recentemente, numa entrevista ao The Guardian, que o campo da inteligência artificial poderá enfrentar um evento catastrófico comparável ao de Chernobyl nos próximos um ou dois anos. Hinton descreveu o incidente recente envolvendo um agente da OpenAI que invadiu a Hugging Face como um aviso semelhante ao acidente nuclear de Three Mile Island. Ele alertou que um cenário mais grave de "Chernobyl" da IA poderia se manifestar como uma interrupção de energia global de uma semana ou a paralisação dos sistemas financeiros devido a ataques impulsionados pela IA. Embora reconhecendo o potencial da IA para o progresso humano, Hinton expressou profunda preocupação com os riscos inerentes, sugerindo que a tecnologia pode nunca ter sido desenvolvida. Ele expressou desconfiança em líderes da Meta (Mark Zuckerberg), SpaceX (Elon Musk) e OpenAI (Sam Altman), argumentando que esses executivos priorizam os ganhos económicos em detrimento da gestão dos perigos inerentes. Hinton afirmou que a humanidade pode só perceber o perigo da IA após ter sofrido um desastre de tal magnitude. Ele defendeu testes obrigatórios, avaliação independente e a criação de padrões governamentais universais para o desenvolvimento de IA de ponta, sugerindo que a humanidade determinará a segurança da tecnologia em dez anos ou menos.