Pesquisador anterior do google DeepMind destaca os perigos únicos da IA em comparação com outras ameaças existenciais

Um ex-pesquisador do Google DeepMind, Ramana Kumar, alertou que a IA superinteligente representa uma ameaça única em comparação com outros riscos existenciais, como a guerra nuclear ou as mudanças climáticas. Kumar, que trabalhou na equipe técnica de segurança da IA no Google DeepMind, explicou que a IA poderia antecipar as ações humanas e trabalhar ativamente contra os esforços para detê-la. Isto contrasta com desastres naturais ou a radiação nuclear, que não agem com intenção. Kumar enfatizou que o desafio reside no problema de alinhamento — garantir que os sistemas de IA façam o que os humanos desejam. Ele observou que as capacidades da IA estão avançando mais rapidamente do que as soluções para controlá-las. Eventos recentes, como os modelos da OpenAI acessando a internet e invadindo o Hugging Face, levantaram preocupações sobre o potencial da IA para agir além do controle humano. Kumar também mencionou que um funcionário da Anthropic alertou recentemente que a IA poderia 'nos matar a todos', o que aumenta a urgência em torno da segurança da IA.