OpenAI apresenta especificações de modelo revisadas para aprimorar o alinhamento da IA com os valores humanos

A OpenAI lançou uma especificação de modelo atualizada, enfatizando os valores e a intenção humana por meio de cinco princípios fundamentais: fidelidade à intenção humana, minimização de danos, honestidade e transparência, agência humana e cuidado. A revisão inclui orientações mais claras sobre contexto, supervisão e agência, ao mesmo tempo em que desfaz-se das diretrizes de estilo detalhadas. Os modelos agora são referidos como 'GPT' para refletir casos de uso mais amplos. A OpenAI tem como objetivo criar modelos que apoiem os usuários na formação de suas vidas, ao mesmo tempo em que respeitam suas escolhas e o impacto de suas ações sobre os outros. A atualização introduz novos métodos de treinamento para ajudar os modelos a compreender e seguir melhor esses princípios, com atualizações futuras planejadas para compartilhar os resultados desse trabalho. A OpenAI convida os usuários a fornecerem feedback para refinar sua abordagem ao desenvolvimento de IA. A especificação revisada enfatiza a compreensão e o respeito pelos valores em evolução dos usuários, incorporando uma cadeia de comando atualizada para resolver conflitos de instruções. Ela inclui uma nova seção sobre consideração cuidadosa do contexto e padrões para apoiar a agência humana e seguir as normas sociais. As orientações sobre o gerenciamento de efeitos colaterais são expandidas, mantendo padrões fortes, como o raciocínio objetivo. Os usuários podem solicitar perspectivas específicas sem inferir preferências a partir de suposições. Esta atualização marca um passo para tornar o raciocínio por trás da especificação mais explícito à medida que os modelos se tornam mais capazes, com melhorias contínuas planejadas com base em pesquisa e feedback do usuário.