DeepSeek revela novas pesquisas sobre treinamento de agentes com informações detalhadas sobre a infraestrutura
A DeepSeek publicou um novo artigo detalhando sua abordagem para treinar agentes de IA, destacando o papel crucial da infraestrutura para criar ambientes eficientes e seguros. O sistema, chamado DSec, cria ambientes de sandbox a uma taxa de 5.000 por segundo, com capacidade máxima de 380.000 instâncias simultâneas.
Opera em um grande cluster de GPU com 160 nós, 30.000 núcleos de CPU e 250 TB de memória. O DSec suporta quatro tipos de sandbox: FnCall, Container, MicroVM e Full VM, cada um adaptado para diferentes tarefas de agentes, desde chamadas de função simples até simulações de sistemas operacionais completos.
A DeepSeek utiliza um SDK Python unificado, permitindo uma interação perfeita com diversos backends. Para gerenciar as restrições de recursos, o DSec emprega técnicas como carregamento de imagens sob demanda e otimização de memória, reduzindo o uso do disco e melhorando a velocidade de implantação.
A publicação também descreve desafios, como o 'hacking' de recompensas por parte dos agentes, que a DeepSeek aborda através de medidas de segurança como AppArmor e eBPF.