Apelo urgente por regulamentação da IA, à medida que a janela de políticas se fecha

A OpenAI defendeu uma ação imediata em relação às políticas de IA, enfatizando a necessidade de medidas urgentes e significativas, em vez de perfeição. A empresa destacou o rápido avanço das capacidades da IA, enfatizando que as soluções técnicas por si só são insuficientes. O principal cientista da OpenAI, Jakub Pachocki, alertou para os riscos associados à auto-melhoria recursiva, pedindo extrema cautela. A empresa reforçou os mecanismos de monitoramento, alinhamento e segurança em todo o ciclo de desenvolvimento do modelo, incluindo o monitoramento universal de trajetórias completas e portas obrigatórias de avaliação de alinhamento. A OpenAI defende um quadro nacional para a governança da IA, defendendo regulamentações baseadas em capacidades, que evoluem com a tecnologia. A empresa endossou quatro propostas adicionais da Califórnia, incluindo a SB 813, a AB 1405, a SB 1119 e a AB 1864, que visam estabelecer avaliações independentes, transparência e medidas de segurança para sistemas de IA. A OpenAI também apelou à cooperação internacional, notando que as capacidades da IA transcendem fronteiras e exigem padrões globais. A empresa instou o Congresso a agir antes da reunião, enfatizando a importância de proteger o desenvolvimento da IA para garantir a confiança pública e a liderança americana duradoura.