Grandes empresas tecnológicas forman una organización para establecer estándares de seguridad de la IA

Google, OpenAI y Anthropic planean establecer una organización independiente para establecer estándares de seguridad de la IA, sin supervisión gubernamental, con el objetivo de lanzarla a finales de este año o principios del próximo. La entidad propuesta, denominada Standards Authority for Frontier AI (SAFA), se centrará en establecer estándares de la industria para el desarrollo de la IA, incluyendo pruebas y protocolos de informes de terceros para incidentes de seguridad. La iniciativa busca convertir los compromisos de seguridad voluntarios en estándares exigibles y definir las calificaciones para auditores independientes. Si bien continúan las discusiones sobre si SAFA debe supervisar directamente las pruebas de modelos, el centro actual del Departamento de Comercio de EE. UU. enfrenta limitaciones de recursos. Las empresas también abogan públicamente por la coordinación global de los estándares de seguridad de la IA, aunque el papel de las agencias gubernamentales sigue sin estar claro. Los participantes en la iniciativa han considerado nombrar a una figura destacada como CEO y han elaborado una lista de posibles asesores científicos. El grupo aún está debatiendo posibles superposiciones con los marcos de prueba existentes, con algunas propuestas para ampliar los protocolos de prueba actuales de EE. UU. A pesar de estas discusiones, la estructura y el gobierno exactos de SAFA siguen en revisión.