Líderes de IA buscam controle sobre os padrões de segurança em meio a preocupações sobre a inovação sem controle

Segundo especialistas, os líderes de IA, incluindo o CEO da Anthropic, Dario Amodei, o CEO da OpenAI, Sam Altman, e o co-fundador do Google DeepMind, Demis Hassabis, estão defendendo a auto-regulação e os padrões da indústria para gerenciar os riscos da IA avançada. Anthony Aguirre, CEO do Future of Life Institute, observou que, embora esses líderes reconheçam os perigos da IA, eles buscam controlar o processo de segurança. Aguirre alertou que sua busca pela inteligência artificial geral (IAG) poderia levar a mudanças sociais significativas, incluindo a perda de empregos e a tomada de decisões por IA. Apesar dos apelos por cautela, Amodei e Hassabis defendem o desenvolvimento contínuo da IAG, sugerindo supervisão governamental e um órgão regulador baseado em estruturas regulatórias existentes. Enquanto isso, críticos como Pete Furlong do Center for Humane Technology argumentam que as empresas de IA priorizam sua dominância no setor em detrimento da responsabilidade pública, muitas vezes limitando a transparência nas investigações de segurança. Uma ação judicial coletiva recente alega violações das leis antitruste por parte de grandes empresas de IA, destacando as preocupações legais e éticas em andamento.