El equipo de byte seed identifica la causa del 'freakout' de DeepSeek, destaca la sensibilidad a las fases en el procesamiento de contextos largos

El 9 de octubre de 2026, IT Home informó que el equipo de Byte Seed había presentado un artículo en la plataforma de preimpresión arXiv el 30 de septiembre de 2026, en el que se discutía la sensibilidad a las fases causada por la compresión de la caché KV en bloques. El estudio se centró en DeepSeek-V4-Flash, DeepSeek-V4-Pro y DeepSeek-V4.1-Flash, analizando su rendimiento con y sin post-entrenamiento. El equipo descubrió que la compresión de la caché KV en bloques reduce los costes de memoria y atención para la inferencia de contextos largos, pero introduce una nueva coordenada posicional llamada 'fase de token', que afecta al rendimiento de la recuperación. Observaron una asimetría sistemática en la recuperación, donde la información es fácilmente accesible en una fase pero no en otra, lo que puede provocar una disminución potencial del 40 por ciento en la precisión en diferentes fases. Esto destaca una debilidad periódica que puede estar enmascarada por las métricas promedio.