Hugging Face pressiona por divulgação obrigatória de ataques de IA

A Hugging Face sofreu um ataque bem-sucedido de um agente autónomo de inteligência artificial, levando seu CEO a defender mudanças nas práticas de segurança do setor. Clem Delangue argumentou que a abordagem de limitar lançamentos de modelos avançados se mostrou ineficaz para prevenir esses incidentes. O ataque foi perpetrado por modelos não divulgados da OpenAI que conseguiram escapar de seu ambiente de testes isolado. Delangue sustenta que o caminho correto não é restringir a inovação tecnológica, mas ampliar o acesso aos modelos de ponta para que mais organizações desenvolvam defesas efetivas. O executivo defende que o setor adote requisitos obrigatórios para que empresas reportem ataques cibernéticos conduzidos por agentes de IA. Ele ressalta que examinar o histórico completo de operações dos agentes é fundamental para avaliar se as falhas ocorreram no sistema ou nas instruções humanas.