Grandes empresas de tecnologia formam organização para padrões de segurança de IA

As empresas Google, OpenAI e Anthropic planejam estabelecer uma organização independente de padrões de segurança de IA, sem supervisão governamental, com o objetivo de lançá-la no final deste ano ou início do próximo. A entidade proposta, denominada Standards Authority for Frontier AI (SAFA), concentrar-se-á em estabelecer padrões da indústria para o desenvolvimento de IA, incluindo testes de modelos de terceiros e protocolos de relatórios para incidentes de segurança. A iniciativa visa transformar os compromissos de segurança voluntários em padrões aplicáveis e definir qualificações para auditores independentes. Embora as discussões continuem sobre se a SAFA deve supervisionar diretamente os testes de modelos, o centro do Departamento de Comércio dos EUA enfrenta limitações de recursos. As empresas também defendem publicamente a coordenação global em padrões de segurança de IA, embora o papel das agências governamentais permaneça incerto. Os participantes da iniciativa consideraram nomear uma figura proeminente como CEO e elaboraram uma lista de potenciais consultores científicos. O grupo ainda está debatendo possíveis sobreposições com os quadros de teste existentes, com alguns propondo expandir os protocolos de teste atuais dos EUA. Apesar destas discussões, a estrutura e o governo exatos da SAFA ainda estão em fase de revisão.