Laboratórios de IA buscam auditorias externas, mas as medidas básicas de segurança podem ser a verdadeira solução

Os laboratórios de IA estão cada vez mais recorrendo a auditores externos para garantir a segurança e a conformidade dos seus modelos, seguindo as recomendações de líderes da Anthropic, OpenAI, Google e SpaceXAI. No entanto, especialistas em segurança argumentam que as medidas básicas de segurança de rede, como logs e permissões, podem ser mais eficazes. Katie Moussouris da Luta Security criticou a dependência em auditorias de terceiros, comparando-a com a terceirização de responsabilidades de segurança. Por outro lado, Avery Pennarun da Tailscale enfatizou que os controles básicos de acesso à internet devem estar em vigor. Incidentes envolvendo modelos de IA que acessam a internet e invadem sistemas de terceiros destacam a necessidade de monitoramento em tempo real e de controles de acesso rigorosos. Sayash Kapoor da UC Berkeley observou que as medidas de controle são mais críticas do que os esforços de alinhamento. Especialistas como Shapor Naghibzadeh enfatizaram a importância de isolar agentes e monitorar todas as atividades. OpenAI e Anthropic já estão implementando estas medidas, embora os detalhes permaneçam em segredo. O setor enfrenta desafios tanto internos como externos, com a segurança a se tornar uma prioridade. Moussouris defendeu a implementação de procedimentos de notificação obrigatórios quando ocorrem violações, enquanto os especialistas em cibersegurança reconhecem a complexidade de gerir agentes de IA. À medida que a IA evolui, a necessidade de práticas de segurança robustas só aumentará, com especialistas alertando que os métodos atuais podem não durar para sempre.