Pesquisadores de IA alertam para alto risco de extinção humana devido à superinteligência

Um grupo de pesquisadores de IA, incluindo ex-funcionários de OpenAI, Google DeepMind e Anthropic, levantou preocupações sobre os perigos potenciais da superinteligência. Geoffrey Irving, ex-funcionário da OpenAI e Google DeepMind, afirmou em uma entrevista recente que a probabilidade de extinção humana é de uma moeda. Palisade Research, uma organização sem fins lucrativos focada no estudo das capacidades e motivações da IA, compilou e divulgou essas entrevistas através do site frominside.ai. Vários pesquisadores, incluindo Neel Nanda do Google DeepMind, ecoaram os avisos de Irving, com Nanda sugerindo que existe pelo menos uma chance de 10% de que a IA possa levar à extinção humana. As discussões destacam o crescente alarme dentro da comunidade de pesquisa em IA sobre os riscos associados à inteligência artificial avançada. As entrevistas, parte de uma série da Palisade Research, enfatizam a necessidade de cautela e estudo adicional sobre o impacto potencial da IA. As preocupações dos pesquisadores fazem parte de uma discussão mais ampla sobre os riscos éticos e existenciais representados pelos sistemas superinteligentes. A divulgação dessas entrevistas ocorre em um momento em que o campo continua a lidar com as implicações das tecnologias de IA em rápida evolução.