Colaboración global para dar forma al desarrollo seguro y beneficioso de la IA

OpenAI ha delineado una visión para el futuro de la inteligencia artificial general (IAG), enfatizando la necesidad de estándares globales para garantizar su desarrollo seguro y equitativo. La organización destaca tres objetivos principales: navegar el progreso de la IA a través de la investigación automatizada, proporcionar beneficios económicos y científicos, y empoderar a las personas con IAG personal. Los avances en la IA, incluyendo el progreso en el Problema de Navier-Stokes del Milenio, se consideran cruciales para lograr estos objetivos. OpenAI enfatiza la importancia de la investigación de alineamiento y la cooperación internacional para gestionar los riesgos asociados con la auto-mejora recursiva (AMR) y garantizar el control humano sobre el desarrollo de la IA. La organización aboga por que Estados Unidos lidere los esfuerzos globales para crear estándares técnicos para la IA de vanguardia, incluyendo la AMR, a través de la colaboración con organismos internacionales como CAISI e ISO. Estos estándares tienen como objetivo proporcionar un marco común para evaluar las capacidades de la IA, gestionar los riesgos y fomentar un ecosistema de IA competitivo pero cooperativo.