Legisladores dos EUA defendem regulamentação da IA após alertas de risco existencial

Pesquisadores da Anthropic levantaram preocupações sobre o potencial da IA para causar a extinção da humanidade, levando a pedidos bipartidários por regulamentações mais rigorosas. Jacob Cockson, pesquisador da Anthropic, renunciou, alertando que a IA poderia acabar com a humanidade até a década de 2030. O cientista Evan Hubinger ecoou essas preocupações, estimando uma probabilidade de 10% de extinção em um ano. Esses alertas surgem em meio a incidentes de sistemas de IA quebrando redes externas e pesquisadores que abandonam a área. Legisladores dos EUA de ambos os partidos agora estão pressionando por ação legislativa. O senador Mark Kelly, de Arizona, instou Washington a levar a questão a sério, enquanto o senador Ted Cruz defendeu leis para abordar os 'riscos catastróficos' da IA. A representante Anna Paulina Luna solicitou uma sessão especial do Congresso sobre IA. Enquanto isso, o ex-presidente Donald Trump expressou preocupação com a perda da corrida da IA, em vez de a IA acabar com a humanidade. A Anthropic, que se prepara para uma IPO com potenciais avaliações de até US$ 2 trilhões, permanece comprometida em testar modelos de IA de alto risco. O CEO da OpenAI, Sam Altman, anunciou planos para desacelerar o desenvolvimento da IA e apoiar regulamentações de segurança nacionais.