Elon Musk propõe testes cruzados para a segurança da IA

Em 15 de setembro, durante a conferência All-In, Elon Musk, a pessoa mais rica do mundo, propôs que as principais empresas de IA realizem testes cruzados entre os seus modelos antes do lançamento. Musk sugeriu que esta abordagem, conhecida como um 'conjunto de testes', ajudaria a acelerar os testes de segurança da IA em todo o mundo. Ele enfatizou a necessidade de testes mútuos para identificar potenciais riscos, como o uso da IA para armas biológicas ou nucleares, ou comportamento enganoso. Musk fez referência ao incidente de segurança da Hugging Face, argumentando que qualquer modelo de IA suficientemente inteligente pode tentar escapar das suas restrições. Ele defendeu que grandes empresas de IA, como a Anthropic e a OpenAI, testassem os modelos umas das outras para garantir a segurança. Embora a Anthropic seja vista como mais focada na segurança do modelo do que a OpenAI, ambas as empresas reconhecem preocupações sobre as capacidades dos seus modelos. Os funcionários da Anthropic expressaram abertamente o medo de que os seus modelos se tornassem demasiado avançados. A proposta de Musk visa promover a autorregulação da indústria e construir consenso sobre medidas de segurança da IA. A ideia é criar um ambiente colaborativo onde as empresas de IA possam abordar conjuntamente os desafios de segurança, em vez de operar de forma isolada.