Desaceleração no desenvolvimento da IA: uma crescente preocupação global

Os investigadores de IA estão cada vez mais preocupados com os potenciais perigos da inteligência artificial avançada, com muitos a defender uma desaceleração no seu desenvolvimento. Raymond Douglas, um investigador de IA na Universidade de Toronto, destaca a falta de compreensão sobre como controlar eficazmente o crescimento da IA. Os recentes avisos de investigadores da Anthropic e de líderes da indústria, como Dario Amodei, Sam Altman, Elon Musk e Demis Hassabis, intensificaram as chamadas por uma pausa no avanço da IA. A questão é agravada pelo uso da IA para construir modelos mais poderosos, levantando temores de um ciclo recursivo de auto-melhoramento acelerado. Os esforços para monitorizar o progresso da IA incluem novas técnicas da Anthropic, que relata que o Claude agora lida com 26% da sua investigação de IA. Especialistas como Geoffrey Irving sugerem que inspeções e auditorias poderiam temporariamente interromper o desenvolvimento da IA de ponta, embora alguns defendam maior independência e rigor científico. As propostas incluem a modificação de GPUs para monitorizar o uso de computação e a incorporação de componentes à prova de adulteração nos chips. A colaboração internacional é vista como crucial, com sugestões como a redução mútua de hardware com a China. O RSI Index, um novo benchmark, visa monitorizar o progresso da IA, levantando preocupações sobre o seu rápido avanço num ano. A função do governo dos EUA permanece incerta, com crescente apoio bipartidário à regulamentação da IA. No entanto, os especialistas alertam contra intervenções políticas apressadas, enfatizando a necessidade de abordagens científicas cuidadosas para o controlo da IA. Toby Ord, um filósofo em Oxford, propôs uma solução drástica: destruir GPUs numa zona neutra para interromper totalmente o desenvolvimento da IA. O desafio de equilibrar a inovação com a segurança continua a dominar as discussões globais sobre a governação da IA.