Um framework unificado para a construção de modelos do mundo em múltiplos domínios

Pesquisadores da PhAI Labs, CUHK, Fudan, Stanford, Oxford e Princeton introduziram o JEPA-Anything, um framework semântico para a construção de modelos do mundo. Esta abordagem utiliza uma única receita de aprendizagem para construir modelos preditivos em sete campos distintos, incluindo visão, biologia, trajetórias clínicas, controlo, dinâmica molecular, campos físicos e tempo. O framework estende as arquiteturas preditivas de incorporação conjunta (JEPAs) com um método chamado de Fatorização Preditiva Ortogonal (OPF), que divide os alvos latentes em subespaços para melhorar a estabilidade e o desempenho do modelo. Os principais resultados incluem melhorias significativas no agrupamento de dados de células individuais, previsão de eventos clínicos e simulações de dinâmica molecular. No conjunto de dados do UK Biobank, o JEPA-Anything atingiu uma média de PRAUC de 0,718, superando o JEPA padrão de 0,711. Nas simulações de moléculas, demonstrou o menor MAE e RMSD para água, quartzo, paracetamol e benzeno. Além disso, o framework identificou potenciais intervenções contra o cancro, com testes de laboratório a suportar os resultados sobre a bloqueada de IL-18 e CD73. Embora os resultados de planeamento tenham sido mistos, o JEPA-Anything demonstrou melhorias em alguns ambientes, como Walker2d e HalfCheetah. A equipa de investigação também notou que os modos orbitais latentes recuperaram a lei de Kepler com uma inclinação ajustada de -1,4991, que corresponde de perto à teórica de -1,5. O repositório GitHub do projeto e os pontos de verificação do modelo estão disponíveis para exploração adicional.