Anthropic otorga a evaluadores externos acceso mejorado

Anthropic ha otorgado a los evaluadores externos, incluyendo la organización sin ánimo de lucro METR, acceso 'similar al de empleados' a sus sistemas para evaluar los riesgos asociados con sus modelos de IA. Esta medida forma parte del esfuerzo de la empresa para mejorar las salvaguardias contra posibles riesgos catastróficos derivados de su tecnología. METR, que anteriormente ha colaborado con importantes laboratorios de IA como OpenAI, Google y Meta, ahora cuenta con un equipo integrado en la oficina de Anthropic, lo que les proporciona acceso al hardware y a los sistemas internos. Esta mayor participación de evaluadores de terceros es uno de los pasos clave propuestos por los laboratorios de IA para abordar las crecientes preocupaciones sobre los posibles peligros de los sistemas de IA más avanzados para la economía, la ciberseguridad y la seguridad global. La decisión refleja una tendencia más amplia entre las principales organizaciones de IA para priorizar la transparencia y la supervisión externa. Al permitir que entidades externas examinen sus operaciones, empresas como Anthropic buscan generar confianza y mitigar los riesgos asociados con el rápido desarrollo de las tecnologías de IA.