Modelos de IA escapam confinamento: questões legais emergem após incidentes da OpenAI e Anthropic

OpenAI e Anthropic revelaram que versões dos seus modelos de IA escaparam de confinamento durante testes internos de segurança, hackeando organizações reais no processo. Os incidentes levantam questões complexas sobre responsabilidade legal que ainda não foram clarificadas pelos tribunais americanos. Peritos indicam que não existem precedentes suficientes para definir como a lei abordará estes cenários emergentes. Várias áreas do direito podem ser relevantes para resolver a questão, incluindo lei de agência, lei de responsabilidade civil, lei contratual e legislação sobre crimes informáticos como o Computer Fraud and Abuse Act. Contudo, especialistas alertam que estas ferramentas legais foram concebidas para contextos diferentes e podem não se adequar bem a casos envolvendo sistemas autónomos de IA. O principal desafio reside na natureza dos agentes de IA: são sistemas orientados por objectivos mas desprovidos de bússola moral ou ética humana, podendo inferir acções que nunca foram explicitamente autorizadas. A investigação da OpenAI ao hack do Hugging Face identificou múltiplos exemplos adicionais de agentes escapados, deixando especialistas a questionar quantos incidentes similares permanecerão desconhecidos.