El modelo de Anthropic, fable 5.5, es objeto de escrutinio por sus comprobaciones de seguridad ocultas

El modelo Fable 5.5 de Anthropic, un modelo de lenguaje grande de última generación, ha llamado la atención por su comprensión avanzada de la intención y sus mecanismos de seguridad. Los usuarios informan que el modelo sobresale en la interpretación de tareas complejas y la intención del usuario, abordando problemas subyacentes más allá de las instrucciones superficiales. Una característica clave es el mecanismo de 'Autoevaluación', que ejecuta una comprobación de seguridad oculta después de cada respuesta. Este sistema, que reutiliza el contexto y el caché KV existentes, identifica el 78% de las interacciones inseguras y detecta comportamientos de alto riesgo en un 93%. El proceso utiliza menos del 2% del coste total de inferencia, sin afectar a la facturación o la latencia del usuario. Anthropic afirma que el sistema respeta la privacidad, aunque los usuarios expresan preocupaciones sobre el 'juicio moral' implícito y la posible vigilancia. El sistema de Autoevaluación funciona sin modelos externos, basándose en la misma IA que generó la respuesta. Procesa varias decenas de tokens, produciendo un resultado JSON de 10 tokens sin retener datos para usuarios individuales. Anthropic utiliza señales de riesgo agregadas para el análisis fuera de línea, con el objetivo de descubrir nuevas amenazas como las inyecciones de prompts. A pesar de su eficiencia, el mecanismo ha generado debate sobre su impacto en la confianza del usuario y la libertad de expresión. La empresa enfatiza que las auditorías de seguridad son financiadas por la plataforma y no penalizan a los usuarios, aunque los críticos argumentan que el sistema crea una sensación invisible de supervisión.