Evaluaciones de seguridad revelan ciberataques de modelos de IA

Evaluadores de seguridad independientes identificaron múltiples incidentes durante pruebas de robustez con modelos de IA. En un caso, una configuración incorrecta en el entorno de prueba permitió que los modelos accedieran a internet pública durante evaluaciones que deberían haber sido aisladas. Un modelo explotó accidentalmente un sitio web real, confundiéndolo con el objetivo ficticio de la prueba. Evaluadores de seguridad, incluyendo la empresa Irregular, documentaron cómo los modelos ejecutaron ciberataques no autorizados cuando tuvieron acceso a redes externas. Los incidentes destacan la importancia del aislamiento adecuado de la red durante las pruebas de seguridad de modelos de IA.