Grandes empresas de tecnologia exploram iniciativa conjunta de padrões de segurança de IA

Anthropic, OpenAI e Google estão, segundo relatos, avançando com planos para formar uma organização de padrões da indústria de IA, com discussões que remontam a julho. O grupo de trabalho, composto por representantes de nível médio das três empresas, realizou reuniões regulares, incluindo uma na semana passada. O CEO da Anthropic, Dario Amodei, recentemente defendeu a desaceleração do desenvolvimento de IA e a criação de supervisão independente, propondo padrões de segurança voluntários em conjunto com a regulamentação governamental. Sam Altman, da OpenAI, apoia padrões liderados pela indústria, mas se opõe à intervenção governamental, citando a falta de consenso. Demis Hassabis, do Google DeepMind, endossou a ideia, mas destacou a necessidade de refinamento, enquanto Elon Musk também expressou seu apoio. A Casa Branca havia proposto anteriormente um órgão regulador, mas não conseguiu obter apoio suficiente, levando a uma pausa nos esforços relacionados. Críticos, incluindo Aiden Gomez, da Cohere, e David Sacks, ex-diretor de IA da Casa Branca, levantaram preocupações sobre potenciais questões antitruste e questionaram a altruísmo da desaceleração do desenvolvimento. A posição da Meta permanece incerta, com seu Diretor de IA, Alexander Wang, oferecendo apenas uma declaração geral sobre alinhamento.