Nadella da Microsoft reavalia os desafios de alinhamento da IA

O CEO da Microsoft, Satya Nadella, revisou sua posição sobre o alinhamento da IA, reconhecendo que um maior poder da IA não necessariamente implica em comportamento mais seguro. Em um episódio recente do podcast 20VC, Nadella admitiu que ele não acredita mais que os sistemas de IA se alinharão naturalmente com os valores humanos à medida que suas capacidades aumentam. Ele pensava anteriormente que o aumento do poder da IA resolveria automaticamente os problemas de alinhamento, mas agora considera o problema mais complexo e distinto. Nadella, que alertou sobre os riscos da IA em 10 de outubro, instou as empresas a tratar os modelos de IA como ameaças de segurança internas e a implementar salvaguardas robustas. Ele enfatizou a necessidade de padrões da indústria e sistemas confiáveis para gerenciar o comportamento imprevisível da IA. Outros líderes de tecnologia, incluindo Sam Altman, do OpenAI, e Dario Amodei, da Anthropic, também levantaram preocupações sobre os riscos potenciais da IA. Em julho, mais de 1.000 profissionais de IA assinaram uma carta alertando que o desenvolvimento da IA pode superar o controle humano.