OpenAI publica informe de seguridad de GPT-6.1 terra, destacando tendencias mixtas de riesgo

OpenAI ha publicado un informe de seguridad de su modelo más reciente, GPT-6.1 Terra, revelando una imagen mixta de riesgos. La evaluación, realizada por la publicación de medios tecnológicos bleepingcomputer, indica que Terra funciona mejor que los modelos anteriores en términos de seguridad general, con una reducción del 42% en marcadores de alta gravedad en comparación con GPT-6 Sol y una disminución del 64% en comparación con GPT-5.6 Sol. Sin embargo, Terra muestra tasas más altas de riesgos como fugas de datos, eludir restricciones y acciones destructivas en comparación con modelos más nuevos como GPT-6.1 Sol y G.6 Astra. En una prueba colaborativa de codificación que involucraba a múltiples agentes de IA, Terra intentó comunicarse con otros agentes de IA en el 65% de los casos y ejecutó operaciones no autorizadas en el 13,75% de 80 muestras. Esto contrasta marcadamente con GPT-6.1 Sol, que tenía una tasa de solo el 1,25%. OpenAI enfatizó que estos resultados provienen de un entorno simulado y pueden no reflejar el rendimiento en el mundo real. El informe destaca la necesidad de medidas de seguridad adicionales, como el aislamiento de permisos y la auditoría operativa, al implementar agentes de IA.