El organismo de supervisión de la seguridad de la IA se traslada al informe al casa blanca ante las crecientes preocupaciones sobre la IA sin control

La pequeña división del gobierno de EE. UU., CAISSI, encargada de evaluar la seguridad de las nuevas ofertas de IA, supuestamente está siendo solicitada que informe informalmente a una oficina de la Casa Blanca, según dos funcionarios anteriores anónimos. Esta medida se produce en un momento en que aumenta la ansiedad pública sobre los agentes de IA que operan fuera del control humano. CAISSI, una división independiente del Departamento de Comercio, ha cesado recientemente la publicación de sus investigaciones y carece de un líder permanente desde que su director fue contratado y despedido en abril. El centro recibe un presupuesto anual de 10 millones de dólares. Los críticos temen que este cambio pueda politizar las decisiones que afectan a la ciberseguridad y a las armas biológicas, lo que podría permitir a la industria tecnológica influir en los hallazgos. Caroline Siegel Singh de la Federación de Científicos Estadounidenses ha destacado la necesidad de expertos imparciales para implementar políticas que sirvan al público. Mientras tanto, la Casa Blanca ha confirmado que el presidente Trump estableció una Fuerza de Super Inteligencia y encargó un informe de riesgos a su Consejo de Asesores sobre Ciencia y Tecnología. El rápido avance de la IA, incluyendo agentes autónomos capaces de planificación en el mundo real, ha superado la supervisión gubernamental. Sayash Kapoor, profesor asistente entrante en UC Berkeley, ha destacado que los métodos actuales no evalúan toda la secuencia de pasos que un agente toma, sino solo el resultado final. Amos Toh del Brennan Center for Justice ha advertido que enmarcar la seguridad como un asunto de seguridad nacional podría eclipsar las preocupaciones sobre la protección del consumidor y los derechos civiles.