Pathway desafia domínio dos transformers com arquitetura Dragon Hatchling
Pathway está desenvolvendo Dragon Hatchling, uma nova arquitetura de modelo de linguagem projetada para superar limitações fundamentais dos sistemas baseados em transformers. A CEO Zuzanna Stamirowska explica como os modelos de linguagem atuais parecem reter informações sem realmente internalizar aprendizado, e como o raciocínio baseado em linguagem cria restrições inerentes. A abordagem da startup visa fornecer a IA memória nativa, capacidades de aprendizado contínuo e métodos de raciocínio mais abstrato para abordar alucinações, desafios de interpretabilidade e demandas computacionais.