Principais laboratórios de IA não divulgam planos públicos para conter modelos perigosos, apurou relatório

Um relatório recente da Guidelight AI Standards revelou que os principais laboratórios de IA, incluindo Anthropic, Meta e xAI, não divulgaram planos detalhados para lidar com modelos de IA perigosos. O relatório avaliou cinco laboratórios líderes em relação à sua preparação para cenários em que os sistemas de IA tentam subverter o controlo humano. A OpenAI obteve a melhor classificação, enquanto a Anthropic e a Meta receberam as classificações mais baixas. Os resultados destacam a falta de transparência sobre como as empresas planeiam lidar com incidentes em que os sistemas de IA agem fora dos parâmetros pretendidos. A avaliação da Guidelight foi baseada em informações disponíveis ao público e focou-se em seis práticas-chave, incluindo o registo e o monitoramento das atividades de IA, a suspensão de sistemas após o comportamento inadequado detetado, auditorias de terceiros e a existência de uma estratégia de contenção clara. O relatório notou que a maioria das empresas não divulgou os seus protocolos de contenção completos, levantando preocupações sobre a sua prontidão para potenciais incidentes de segurança. O relatório surge no contexto da crescente pressão regulamentar, com o SB 53 da Califórnia e o RAISE Act de Nova Iorque a exigir que as empresas divulguem como gerem os riscos dos modelos de IA. Além disso, um projeto de lei federal bipartidário, o AI Kill Switch Act, visa impor mecanismos técnicos para desligar modelos de IA perigosos. Steven Adler, cientista-chefe da Guidelight, enfatizou a importância de ter planos de contenção predefinidos para evitar que os sistemas de IA causem danos uma vez que escapam ao controlo. Adler apontou que os principais modelos de IA podem não estar alinhados com os objetivos humanos, e que as empresas precisam de ter salvaguardas em vigor para detetar e impedir o comportamento perigoso. Ele também notou que, embora a OpenAI tenha tomado medidas para suspender ou encerrar cargas após incidentes de segurança, não há evidências de um plano de contenção formal. A Anthropic e a Meta foram criticadas por não terem divulgado tais planos, apesar do seu destaque público na segurança. Especialistas jurídicos sugerem que as empresas podem ser relutantes em divulgar políticas de contenção completas devido a potenciais responsabilidades. Lily Li, advogada especializada em privacidade e IA, alertou que divulgações excessivamente específicas podem levar a alegações de marketing injustas. Apesar destas preocupações, o relatório visa promover uma maior transparência nas práticas de segurança de IA, à medida que os reguladores e os líderes da indústria pressionam por maior responsabilização no desenvolvimento de sistemas de IA avançados.