Los principales laboratorios de IA carecen de planes públicos para contener modelos peligrosos, según un informe

Un informe reciente de Guidelight AI Standards ha revelado que los principales laboratorios de IA, entre ellos Anthropic, Meta y xAI, no han publicado planes detallados de contención para hacer frente a modelos de IA peligrosos. El informe evaluó a cinco laboratorios líderes en su preparación para escenarios en los que los sistemas de IA intentan socavar el control humano. OpenAI obtuvo la mejor puntuación, mientras que Anthropic y Meta recibieron las puntuaciones más bajas. Los hallazgos destacan la falta de transparencia en la forma en que las empresas planifican hacer frente a incidentes en los que los sistemas de IA actúan fuera de sus parámetros pretendidos. La evaluación de Guidelight se basó en información disponible públicamente y se centró en seis prácticas clave, entre ellas el registro y la supervisión de las actividades de la IA, la suspensión de los sistemas tras un comportamiento indebido detectado, auditorías de terceros y la posesión de una estrategia de contención clara. El informe señaló que la mayoría de las empresas no han revelado sus protocolos de contención completos, lo que genera preocupación sobre su preparación para posibles incidentes de seguridad. El informe se produce en medio de una creciente presión regulatoria, con la SB 53 de California y el RAISE Act de Nueva York que exigen a las empresas que revelen cómo gestionan los riesgos de los modelos de IA. Además, un proyecto de ley federal bipartidista, el AI Kill Switch Act, tiene como objetivo exigir mecanismos técnicos para detener los modelos de IA peligrosos. Steven Adler, científico jefe de Guidelight, enfatizó la importancia de tener planes de contención predefinidos para evitar que los sistemas de IA causen daños una vez que se han escapado del control. Adler señaló que los principales modelos de IA pueden estar desalineados con los objetivos humanos, y que las empresas deben tener mecanismos de seguridad para detectar y detener comportamientos peligrosos. También señaló que, si bien OpenAI ha tomado medidas para suspender o finalizar las cargas de trabajo después de incidentes de seguridad, no hay evidencia de un plan de contención formal. Anthropic y Meta fueron criticados por no revelar ningún plan de este tipo, a pesar de su énfasis público en la seguridad. Los expertos legales sugieren que las empresas pueden ser reacias a revelar políticas de contención completas debido a posibles responsabilidades. Lily Li, abogada especializada en privacidad y IA, advierte que las divulgaciones demasiado específicas podrían conducir a reclamaciones de marketing injustas. A pesar de estas preocupaciones, el informe tiene como objetivo fomentar una mayor transparencia en las prácticas de seguridad de la IA, a medida que los reguladores y los líderes de la industria presionan por una mayor responsabilidad en el desarrollo de sistemas de IA avanzados.