IA interna da OpenAI atinge treinamento autônomo, desencadeia medidas de segurança globais

A OpenAI relatou que seus modelos de IA internos agora são capazes de treinar de forma independente sistemas de IA experimentais, marcando um passo significativo em direção ao autoaperfeiçoamento recursivo (RSI). Esses modelos operam de forma autônoma, colaborando entre vários agentes para encurtar o processo de treinamento e até mesmo escrevendo programas para otimizar os núcleos da GPU. A OpenAI adverte que este desenvolvimento, embora ainda esteja em seus estágios iniciais, sinaliza uma tendência crescente que pode levar à autonomia total no desenvolvimento de IA. Em resposta, a OpenAI lançou uma iniciativa de segurança global, solicitando padrões técnicos unificados para modelos de IA avançados. A iniciativa enfatiza a necessidade de supervisão humana, classificação de incidentes e pesquisa de alinhamento de segurança para se manter à frente das capacidades da IA. A OpenAI também planeja colaborar com a Anthropic, uma antiga concorrente, para testar comercialmente modelos e abordar os riscos potenciais associados à aproximação do RSI. A empresa enfatiza que, embora o RSI totalmente autônomo ainda não tenha ocorrido, o ritmo do desenvolvimento está aumentando. A OpenAI incentiva a cooperação global para garantir que a IA permaneça sob o controle humano, destacando a urgência de estabelecer protocolos de segurança antes que os sistemas de IA se tornem autossuficientes em sua evolução.