Zuckerberg de Meta aboga por evaluaciones independientes en lugar de ralentizar el desarrollo de la IA

El CEO de Meta, Mark Zuckerberg, ha argumentado que garantizar la seguridad de la IA debería basarse en evaluaciones externas independientes en lugar de ralentizar el desarrollo de la IA. En una publicación en X, enfatizó que los usuarios no aceptarían sistemas de IA que no se alineen con sus valores o que no sigan las instrucciones. Afirmó que los laboratorios de IA tienen un fuerte incentivo para mejorar la alineación de sus modelos con los valores humanos y los hechos del mundo real. Zuckerberg señaló que Meta retrasó el lanzamiento de Muse para garantizar su seguridad y protección, integrando medidas de seguridad en su proceso de desarrollo habitual. Destacó que las evaluaciones independientes son una práctica recomendada en la industria, y que MSL de Meta ya las está implementando en múltiples áreas. Otros laboratorios pueden seguir este camino para construir un ecosistema de evaluación más diverso y robusto. Zuckerberg también sugirió que centrarse en servir al público en lugar de en la auto-mejora recursiva es una vía más segura para el desarrollo de la IA.