Brad smith da Microsoft defende avaliações independentes de segurança da IA e controle humano

Na Assembleia Geral das Nações Unidas em Nova Iorque, o Presidente da Microsoft, Brad Smith, defendeu avaliações independentes de segurança da IA, enfatizando a necessidade de que os sistemas permaneçam sob controle humano. Em uma entrevista com a Bloomberg em 23 de setembro, Smith argumentou que confiar apenas em algumas instituições para supervisionar a segurança da IA prejudicaria o progresso. Ele destacou a importância de empresas como a Microsoft, que fornecem a camada de software e monitoram o comportamento da IA. A Microsoft colabora com a OpenAI através de um comitê de segurança conjunto, onde ambas as partes contribuem com membros para avaliar a segurança da IA. Smith também defendeu a inclusão de um 'interruptor de emergência' para sistemas avançados, garantindo a supervisão humana. Ele reconheceu que a Microsoft precisa revisar seus objetivos climáticos, pois seu objetivo atual de remover mais carbono do que é emitido até 2030 parece cada vez mais inatingível devido à dependência de data centers movidos a gás. Smith admitiu que são necessárias adaptações para atingir esses objetivos, afirmando que a abordagem deve evoluir do que foi concebido há seis anos.