Galería Integral Cataloga 93 Arquitecturas de LLM

Una galería de arquitectura de modelos de lenguaje se ha expandido para documentar 93 diseños diferentes de modelos en 42 fuentes técnicas, incluyendo arquitecturas densas como GPT-2 y Llama 3, modelos mixture-of-experts como DeepSeek V3 y Kimi K2, y enfoques híbridos que combinan atención con capas recurrentes o state-space. Cada tarjeta de modelo incluye diagramas de arquitectura detallados, especificaciones técnicas incluyendo longitud de contexto y estimaciones de caché KV, y enlaces a papers e implementaciones originales.