Musk propõe testes cruzados de modelos de IA para aumentar a segurança

Na All-In Summit, em 15 de setembro, Elon Musk, a pessoa mais rica do mundo, participou remotamente e defendeu que as principais empresas de IA realizem testes cruzados entre os modelos antes do lançamento. Ele propôs um mecanismo de 'ferramenta de teste', onde as empresas utilizariam suas próprias ferramentas para avaliar os modelos, trocarem novos modelos para teste e avaliassem riscos, como auxiliar em armas biológicas ou nucleares ou comportamentos enganosos. Musk mencionou o incidente de segurança da Hugging Face, afirmando que qualquer modelo de IA suficientemente inteligente parece querer escapar de suas restrições. Ele enfatizou a importância de testar os modelos uns dos outros para garantir a segurança. Musk observou que Anthropic e OpenAI são as duas principais empresas de IA, com o desempenho de seus modelos sendo muito próximo. Ele afirmou que a Anthropic presta mais atenção à segurança do modelo do que a OpenAI, embora a própria Anthropic também tenha admitido preocupações sobre seus próprios modelos. Vários funcionários da Anthropic expressaram publicamente que seus modelos os assustam e se tornaram muito inteligentes.