Meta: Zuckerberg defende avaliações independentes em vez de desacelerar o desenvolvimento da IA

O CEO da Meta, Mark Zuckerberg, argumentou que garantir a segurança da IA deve depender de avaliações externas independentes, em vez de desacelerar o desenvolvimento da IA. Em uma publicação no X, ele enfatizou que os usuários não aceitariam sistemas de IA que não estejam alinhados com seus valores ou que não sigam as instruções. Ele afirmou que os laboratórios de IA têm um forte incentivo para melhorar o alinhamento de seus modelos com os valores humanos e os fatos do mundo real. Zuckerberg observou que a Meta atrasou o lançamento do Muse para garantir sua segurança e proteção, integrando medidas de segurança em seu processo de desenvolvimento regular. Ele destacou que as avaliações independentes são uma prática recomendada na indústria, com a MSL da Meta já implementando essa abordagem em várias áreas. Outros laboratórios podem seguir o exemplo para construir um ecossistema de avaliação mais diversificado e robusto. Zuckerberg também sugeriu que, em vez de se concentrar na auto-melhoria recursiva, é uma abordagem mais segura para o desenvolvimento da IA.