Instituto de Políticas publica 23 recomendaciones para gestionar riesgos de automatización de I+D en IA

El Instituto para el Futuro de la Preparación ha publicado un marco de política exhaustivo con 23 recomendaciones específicas para abordar riesgos de la automatización de investigación y desarrollo de IA. Las propuestas abarcan siete categorías destinadas a ayudar a los formuladores de políticas a gestionar capacidades de auto-mejora recursiva (RSI) conforme se desarrollan en laboratorios de frontera. Las recomendaciones se centran en aumentar la transparencia en procesos automatizados de I+D de IA, construir capacidad estatal para supervisión, desarrollar estrategias de gestión de riesgos, acelerar investigación de tecnología de verificación, invertir en resiliencia de sistemas de IA, extender ventajas competitivas y crear mecanismos para coordinación internacional en gobernanza de RSI.