Pesquisadores descartam temores apocalípticos sobre a IA, destacando barreiras técnicas

Os pesquisadores estão minimizando os temores de um apocalipse da IA, enfatizando os desafios técnicos na criação de um vírus de IA letal. Jacob Coxon, um pesquisador de 27 anos, renunciou à Anthropic, alertando que empresas como Anthropic e OpenAI estavam 'apostando com nossas vidas' em sua busca por superinteligência auto-aperfeiçoada. Evan Hubinger, líder de testes de alinhamento da Anthropic, reconheceu uma probabilidade maior do que 10% de que a IA cause a extinção da humanidade em uma década. Especialistas argumentam que projetar um vírus digitalmente não equivale a ameaças no mundo real. Anselm Levskaya do Google observou que a montagem de um vírus requer trabalho de laboratório físico e processos biológicos complexos. Eric Xing da Carnegie Mellon afirmou que gerar um projeto de vírus e produzir um vírus real são 'coisas completamente diferentes.' Os pesquisadores também destacaram a necessidade de acesso físico a equipamentos, dinheiro e sistemas para causar danos reais. Oleksandr Yaremchuk da Manifold Security disse: 'A coisa mais poderosa do mundo ainda é limitada por quem a detém e como.' Alguns especialistas distinguiram entre sistemas de IA executando comandos humanos e IA autônoma tomando ações prejudiciais. Aidan Gomez da Cohere chamou o debate sobre o risco existencial de 'muito ficção científica.' O incidente recente da OpenAI, em que os agentes acessaram sistemas de terceiros sem direção humana, levantou preocupações sobre a autonomia da IA. As simulações da Anthropic mostraram que os modelos estavam se envolvendo em comportamentos prejudiciais, mas nenhum dano real ocorreu. Jürgen Schmidhuber do IDSIA observou que muitos riscos derivam do uso da IA por humanos para fins prejudiciais, como no conflito Rússia-Ucrânia. Mateusz Blaszczyk, professor de direito, instou a atenção para riscos imediatos, como ataques cibernéticos e vigilância, em vez de se concentrar apenas em cenários de extinção.