Hinton se une a una carta abierta que pide evaluaciones independientes de riesgos de IA

El 18 de septiembre de 2026, una coalición de organizaciones de supervisión publicó una carta abierta que aboga por condiciones estandarizadas para las evaluaciones de riesgos de IA de terceros. La carta, respaldada por más de 50 expertos en IA, incluidos Geoffrey Hinton y Stuart Russell, insta a empresas como Anthropic y OpenAI a garantizar que los evaluadores independientes tengan acceso a los recursos internos y puedan operar sin interferencias. La carta enfatiza la necesidad de transparencia, independencia y protección para los evaluadores, quienes deberían poder comunicarse directamente con los consejos de administración de las empresas y publicar sus hallazgos sin censura. También pide que se cubran diversos riesgos, como la bioseguridad y el control de la IA. El CEO de Microsoft, Satya Nadella, respaldó la idea del acceso de terceros a las empresas de IA, uniéndose a una conversación cada vez mayor sobre la responsabilidad de la industria. La carta destaca la importancia de proteger a los evaluadores de represalias y de darles el mismo acceso a las herramientas y los datos que al personal interno. Argumenta que los laboratorios de IA deben introducir evaluadores externos con diversos orígenes para abordar de forma integral los posibles riesgos. Los CEOs de Anthropic y OpenAI se comprometieron previamente a permitir el acceso de terceros a la información interna, pero la carta busca formalizar estos compromisos en normas aplicables. La carta abierta refleja las crecientes preocupaciones sobre la seguridad de la IA y el papel de la supervisión independiente en la mitigación de riesgos.