Dentro dos laboratórios: pesquisadores de IA alertam sobre o desenvolvimento acelerado

Pesquisadores de IA dentro de grandes laboratórios estão cada vez mais alertando sobre o rápido desenvolvimento de sistemas de IA avançados, sinalizando uma mudança da crítica externa para a preocupação interna. Jacob Coxon, ex-pesquisador da Anthropic, renunciou e alertou publicamente de que os laboratórios estão correndo em direção a uma superinteligência auto-aperfeiçoável, colocando em risco a segurança humana. Sua advertência ressoou com outros pesquisadores da Anthropic, incluindo Evan Hubinger, Ethan Perez e Samuel Marks, bem como Julie Steele e Jasmine Wang da OpenAI. Coxon destacou o conceito de auto-aperfeiçoamento recursivo, onde modelos de IA são usados para projetar e otimizar modelos futuros, efetivamente assumindo partes do processo de desenvolvimento. A OpenAI relatou recentemente que seus agentes de codificação estão acelerando a pesquisa, com 3,1 dias de trabalho por agente por dia de trabalho humano até meados de agosto. A Anthropic e a Google também observaram que os modelos de IA de ponta estão contribuindo para o desenvolvimento de seus sucessores. Essas ferramentas, embora aumentem a produtividade para as empresas, também permitem o desenvolvimento mais rápido de modelos de IA dentro dos laboratórios.