Padre alerta contra o cartel de IA e defende a regulamentação democrática

O Padre Paolo Benanti, um sacerdote que aconselha a Igreja Católica sobre IA, adverte que o rápido desenvolvimento da IA por grandes laboratórios corre o risco de criar um 'cartel' que exclui o público da definição de seu futuro. Ele argumenta que os debates éticos devem ser abertos, e não confinados a conselhos corporativos, e critica o foco da indústria em superinteligência, o que pode levar a enquadrar a IA como divina, em vez de uma ferramenta estatística. Ele defende uma regulamentação democrática para garantir o controle humano sobre o desenvolvimento da IA. Em maio, o Papa Leão XIV publicou uma encíclica alertando contra a lógica tecnocrática e defendendo a colaboração internacional para garantir que a IA sirva ao bem comum. Benanti exorta o público a manter a influência sobre a direção da IA, alertando que os debates sobre riscos existenciais podem desviar a atenção de objetivos mais amplos. Benanti destaca as tensões geopolíticas entre os EUA e a China, onde modelos de IA avançados estão sendo desenvolvidos. Empresas como OpenAI e Anthropic, embora defendam uma desaceleração no desenvolvimento, também estão se preparando para ofertas públicas. O CEO da Anthropic, Dario Amodei, defende avaliações independentes e restrições à destilação, enquanto alguns defendem uma proibição da auto-melhora recursiva. Benanti enfatiza que os padrões de IA não devem ser definidos por laboratórios, pois isso consolidaria sua dominância de mercado.