Pathway desafía el dominio de los transformers con arquitectura Dragon Hatchling
Pathway está desarrollando Dragon Hatchling, una nueva arquitectura de modelo de lenguaje diseñada para superar limitaciones fundamentales de los sistemas basados en transformers. La CEO Zuzanna Stamirowska explica cómo los modelos de lenguaje actuales parecen retener información sin realmente internalizar el aprendizaje, y cómo el razonamiento basado en lenguaje crea restricciones inherentes. El enfoque de la startup tiene como objetivo proporcionar a la IA memoria nativa, capacidades de aprendizaje continuo y métodos de razonamiento más abstracto para abordar alucinaciones, desafíos de interpretabilidad y demandas computacionales.