OpenAI introduce nuevas especificaciones de modelo para mejorar la alineación de la IA con los valores humanos

OpenAI ha publicado una especificación de modelo actualizada, enfatizando los valores y la intención humana a través de cinco principios fundamentales: fidelidad a la intención humana, minimización del daño, honestidad y transparencia, agencia humana y cuidado. La revisión incluye una orientación más clara sobre el contexto, la supervisión y la agencia, al tiempo que se abandonan las directrices de estilo detalladas. Los modelos ahora se denominan 'GPT' para reflejar un uso más amplio. OpenAI tiene como objetivo desarrollar modelos que ayuden a los usuarios a dar forma a sus vidas, respetando sus elecciones y el impacto de sus acciones en los demás. La actualización introduce nuevos métodos de entrenamiento para ayudar a los modelos a comprender y seguir mejor estos principios, y se planean futuras actualizaciones para compartir los resultados de este trabajo. OpenAI invita a proporcionar comentarios para refinar su enfoque en el desarrollo de la IA. La especificación revisada enfatiza la comprensión y el respeto por los valores en evolución de los usuarios, incorporando una cadena de mando actualizada para resolver conflictos de instrucciones. Incluye una nueva sección sobre la consideración cuidadosa del contexto y predetermina opciones para apoyar la agencia humana y seguir las normas sociales. La orientación sobre la gestión de los efectos secundarios se amplía, manteniendo fuertes predeterminaciones como el razonamiento objetivo. Los usuarios pueden solicitar perspectivas específicas sin inferir preferencias a partir de suposiciones. Esta actualización marca un paso hacia hacer que la razón detrás de la especificación sea más explícita a medida que los modelos se vuelven más capaces, con mejoras continuas planificadas basadas en la investigación y los comentarios de los usuarios.