Sacerdote católico advierte sobre el "cartel" de la IA y pide una regulación democrática

El padre Paolo Benanti, un sacerdote que asesora a la Iglesia Católica sobre la IA, advierte que el rápido desarrollo de la IA por parte de los principales laboratorios podría crear un "cartel" que excluya al público de dar forma a su futuro. Argumenta que los debates éticos deben ser abiertos, no limitados a los consejos de las empresas, y critica el enfoque de la industria en la superinteligencia, lo que podría convertir a la IA en algo divino en lugar de una herramienta estadística. Pide una regulación democrática para garantizar el control humano sobre el desarrollo de la IA. En mayo, el Papa León XIV publicó una encíclica advirtiendo contra la lógica tecnocrática y abogando por la colaboración internacional para garantizar que la IA sirva al bien común. Benanti insta al público a mantener su influencia sobre la dirección de la IA, advirtiendo que los debates sobre los riesgos existenciales podrían distraer de los objetivos más amplios. Benanti destaca las tensiones geopolíticas entre Estados Unidos y China, donde se están desarrollando modelos de IA avanzados. Empresas como OpenAI y Anthropic, aunque apoyan una desaceleración en el desarrollo, también se están preparando para cotizar en bolsa. El CEO de Anthropic, Dario Amodei, pide evaluaciones de terceros y restricciones en la "destilación", mientras que algunos abogan por una prohibición de la auto-mejora recursiva. Benanti enfatiza que los estándares de la IA no deben ser establecidos por los laboratorios, ya que esto consolidaría su dominio del mercado.