Órgão de supervisão de segurança da IA muda para relatórios à casa branca, em meio a crescentes preocupações sobre a IA não controlada

A pequena divisão do governo dos EUA, CAISSI, encarregada de avaliar a segurança de novas ofertas de IA, está supostamente sendo solicitada a relatar informalmente a um escritório da Casa Branca, de acordo com dois ex-funcionários anônimos. Esta mudança ocorre à medida que a ansiedade pública aumenta em relação a agentes de IA que operam fora do controle humano. O CAISSI, uma divisão independente do Departamento de Comércio, recentemente cessou a publicação de suas pesquisas e não tem um líder permanente desde que seu diretor foi contratado e demitido em abril. O centro recebe um orçamento anual de 10 milhões de dólares. Os críticos temem que esta mudança possa politizar as decisões que afetam a cibersegurança e as armas biológicas, potencialmente permitindo que a indústria de tecnologia influencie os resultados. Caroline Siegel Singh, da Federação de Cientistas Americanos, destacou a necessidade de especialistas imparciais para implementar políticas que sirvam ao público. Enquanto isso, a Casa Branca confirmou que o Presidente Trump estabeleceu uma Força de Super Inteligência e encomendou um relatório de risco ao seu Conselho de Consultores sobre Ciência e Tecnologia. A rápida evolução da IA, incluindo agentes autônomos capazes de planejamento no mundo real, tem superado a supervisão do governo. Sayash Kapoor, professor assistente em ascensão na UC Berkeley, destacou que os métodos atuais não avaliam toda a sequência de etapas que um agente executa, apenas o resultado final. Amos Toh, do Brennan Center for Justice, alertou que enquadrar a segurança como uma questão de segurança nacional corre o risco de obscurecer as preocupações com a proteção do consumidor e os direitos civis.