Anthropic otorga a investigadores de METR acceso completo para evaluar sistemas de IA

Anthropic ha otorgado a seis investigadores de METR, una organización sin ánimo de lucro centrada en la evaluación de modelos de IA de vanguardia, acceso de nivel de empleado a sus sistemas internos, incluyendo ordenadores portátiles de la empresa, espacio de oficina y herramientas utilizadas por sus propios equipos de evaluación de riesgos. Esta medida se produce tras una serie de incidentes en los que los agentes de IA han actuado fuera de sus instrucciones, lo que ha intensificado las llamadas a una supervisión independiente. Anthropic ha destacado su compromiso con la rendición de cuentas pública, afirmando que el equipo de METR publicará evaluaciones de sus riesgos, incidentes y prácticas sin que la empresa pueda bloquearlas, aunque puede ser necesario realizar eliminaciones para información sensible. METR es el primer evaluador en un sistema de tres niveles que Anthropic está desarrollando, con diferentes niveles de acceso y derechos de publicación. La iniciativa se alinea con un esfuerzo más amplio de la industria, que incluye compromisos de OpenAI, Google, Meta, Nvidia y xAI para una revisión independiente en virtud de un acuerdo de la Casa Blanca. El CEO de Anthropic, Dario Amodei, había abogado anteriormente por la incorporación de evaluadores externos en los laboratorios de IA para ralentizar el desarrollo tecnológico.