Levantamento técnico de métodos de busca de arquitetura neural

Este artigo examina abordagens automatizadas para descobrir arquiteturas de redes neurais ótimas sem design manual de especialista. O levantamento discute a evolução da Busca de Arquitetura Neural desde trabalho inicial em 2017 até métodos contemporâneos, cobrindo os três componentes principais de sistemas NAS: definição de espaço de busca, estratégia de busca e estimativa de desempenho. Em vez de confiar apenas em operações sequenciais camada-a-camada, abordagens NAS modernas exploram representações de topologia de rede mais sofisticadas. O artigo aborda como garantir que arquiteturas geradas permaneçam válidas enquanto gerencia a complexidade de parâmetros específicos de arquitetura. Conexões de salto e mecanismos de atenção são explorados como componentes arquiteturais. O levantamento apresenta metodologias NAS eficientes e abrangentes para permitir que praticantes encontrem arquiteturas de alto desempenho de forma mais sistemática do que abordagens de design manual tradicional.