Aprendizagem Ativa: Selecionando Dados Essenciais Com Orçamento Limitado
Fonte: Lilian Weng19/02/2022, 21:00
A aprendizagem ativa é uma abordagem que permite aos modelos de machine learning selecionar estrategicamente quais exemplos de dados devem ser rotulados por humanos, quando o orçamento de anotação é restrito. Esta técnica é particularmente valiosa em cenários onde a rotulação de dados é dispendiosa, como na análise de imagens médicas.
O processo identifica exemplos mais valiosos através de diversas estratégias de amostragem. A amostragem por incerteza seleciona dados onde o modelo tem menos confiança nas suas predições. A diversidade busca exemplos que representem melhor a distribuição global dos dados. Outras abordagens incluem Query-By-Committee, que utiliza múltiplos modelos para avaliar consenso, e métodos baseados na mudança esperada do modelo.
Entre as técnicas avançadas destaca-se o MC Dropout, que simula um processo bayesiano usando dropout para estimar incerteza. DBAL combina esta abordagem com redes neurais bayesianas. Métodos mais recentes como VAAL usam arquiteturas generativas adversariais, enquanto MAL introduz um processo minimax que reduz a distância entre dados rotulados e não-rotulados. Abordagens como CAL e core-set selection complementam estas estratégias focando em exemplos contrastivos e aproximações geométricas.
Experimentações demonstram que estas técnicas superam baselines aleatórios em várias tarefas de classificação e segmentação de imagens, oferecendo uma alternativa economicamente viável para treinar modelos com dados limitados.