LLMs From Scratch Alcanza 100,000 Estrellas en GitHub

El repositorio de código abierto 'LLMs from Scratch' ha superado 100,000 estrellas en GitHub, reflejando el creciente interés en implementaciones educativas de modelos de lenguaje grandes. El repositorio incluye implementaciones completas de tokenización, mecanismos de atención, preentrenamiento y ajuste fino con instrucciones desde cero, junto con implementaciones de arquitecturas como Llama, Qwen, Gemma y Olmo. El creador planea continuar añadiendo nuevos materiales incluyendo variantes de atención y nuevas arquitecturas, con un proyecto aplicado más grande también en desarrollo.