A proposta de regulação de IA de fronteira de Demis Hassabis enfrenta críticas

Demis Hassabis, CEO do Google DeepMind, publicou um ensaio sobre inteligência artificial geral (AGI) posicionando-a como tecnologia transformadora comparável ao descobrimento de eletricidade ou fogo. Segundo a sua visão, o impacto da AGI será sem precedentes, potencialmente 10 vezes maior do que a Revolução Industrial, mas a uma velocidade 10 vezes superior. Para mitigar riscos, Hassabis propôs a criação de um órgão regulador federal — denominado Frontier AI Standards Body — semelhante à FINRA financeira. Este organismo avaliaria sistemas de IA avançados antes do lançamento, implementaria padrões de segurança e poderia coordenar uma desaceleração do desenvolvimento se necessário. A proposta recebeu apoio de alguns líderes da indústria, como Jack Clark da Anthropic, mas críticos como Nate Soares (MIRI) e Aaron Scher apontaram que a solução é insuficiente. Salientaram que o risco de extinção discutido por experts varia entre 5% e 90%, um intervalo que Hassabis evitou esclarecer na sua proposta. Argumentaram também que o modelo não aborda adequadamente os riscos de implantação interna de modelos. A situação foi complicada pela renúncia de Alex Turner do Google DeepMind, que saiu em protesto contra o acordo da empresa com o Departamento de Defesa dos EUA permitindo uso militar dos seus modelos. Turner havia tentado impedir este acordo, invocando princípios que Hassabis afirmou serem invioláveis.