Pesquisador anterior da Anthropic alerta que a IA pode superar o controle humano

Jacob Cockson, ex-pesquisador da Anthropic e OpenAI, alertou que a IA pode em breve conduzir sua própria pesquisa, potencialmente além do controle humano. Em um depoimento recente perante legisladores de Nova Iorque, Cockson afirmou que os principais laboratórios de IA estão priorizando a automação na pesquisa de IA, com seu trabalho na OpenAI visando marcos de 2027-2028. Ele afirma que o progresso tem sido mais rápido do que o esperado, com apenas alguns meses restantes para atingir esses objetivos. Cockson argumenta que, se a IA se tornar autossuficiente na pesquisa, a supervisão humana diminuirá significativamente, e as práticas atuais de revisão de código são inadequadas. Ele criticou tanto a Anthropic quanto a OpenAI por não terem medidas de segurança suficientes, alertando que o risco de extinção humana pode ser superior a 50%. Cockson também pediu maior transparência e uma desaceleração no desenvolvimento da IA, argumentando que a abordagem atual se assemelha às estratégias imprudentes de startups, em vez do tratamento responsável da tecnologia transformadora.