Anthropic propone evaluadores de seguridad independientes, pero los expertos cuestionan Su independencia y capacidad de aplicación

El CEO de Anthropic, Dario Amodei, propuso la inclusión de evaluadores de seguridad de terceros independientes dentro de las principales empresas de IA, otorgándoles acceso a los equipos internos de riesgo y la autoridad para publicar sus hallazgos. Citó a los reguladores bancarios como modelo, prometiendo acceso al sistema equivalente al de los equipos internos. Sin embargo, los reguladores bancarios tienen mayor capacidad de aplicación, incluyendo la capacidad de detener las operaciones o cerrar instituciones, según Julie Andersen Hill de la Facultad de Derecho de la Universidad de Wyoming. Expertos como Albert Ziegler de XBOW señalaron que las pruebas de caja negra pueden pasar por alto riesgos complejos, y que los evaluadores carecen de poder de veto. Deborah Raji de UC Berkeley criticó el acuerdo por posibles conflictos de intereses, argumentando que METR, un posible evaluador, se ha centrado principalmente en Anthropic y OpenAI, lo que genera preocupaciones sobre la independencia. Raji enfatizó que una supervisión real requiere un organismo independiente para decidir sobre las evaluaciones y hacer cumplir las consecuencias, no solo el acceso. Sarah Heck de Anthropic reconoció que la autorregulación a través de 'códigos honorables' es insuficiente, destacando la necesidad de una supervisión externa.