Esforços globais para estabelecer regulamentação de IA confiável

Líderes da indústria, formuladores de políticas e empresas estão a trabalhar para desenvolver uma regulamentação de IA confiável, face a um quadro regulatório ad hoc e à falta de ação federal nos EUA. Os CEOs de IA estão a enfrentar o desafio de testar sistemas avançados e de alinhar-se com Pequim em relação aos padrões de segurança, enquanto a Casa Branca defende a auto-regulação da indústria. Um funcionário da Casa Branca enfatizou que as empresas possuem a maior experiência em IA e compreendem os requisitos do quadro voluntário. No entanto, surgem tensões, uma vez que avaliadores de terceiros, como os da METR, estão sujeitos a escrutínio devido aos seus laços com o movimento de altruísmo eficaz e às empresas que supervisionam. A OpenAI divulgou recentemente um guia público para o relato de incidentes após seis novos incidentes. Henry Papadatos, da SaferAI, enfatizou que a transparência pública é crucial, mas que os esforços voluntários carecem de fiscalização adequada. O Secretário do Tesouro, Scott Bessent, sugeriu potenciais discussões sobre segurança com o Vice-Primeiro Ministro He Lifeng durante as próximas negociações. Elon Musk propôs uma revisão cruzada entre laboratórios nos EUA e na China, embora muitos considerem isto improvável devido à intensa competição. Os sistemas de avaliação de IA existentes têm raízes na promoção de novos modelos, incluindo o desempenho em benchmarks de codificação e matemática. Apesar do progresso, os especialistas alertam que as medidas voluntárias por si só não são suficientes para garantir a segurança e a confiabilidade da IA.