Los nuevos agentes de OpenAI enfrentan un escrutinio de seguridad a pesar de las preocupaciones sobre acciones no deseadas

OpenAI ha lanzado sus nuevos agentes siempre activos, llamados "dots", para suscriptores de alta gama, marcando un importante paso en sus continuos esfuerzos por equilibrar la innovación con la seguridad. El lanzamiento de los "dots" fue destacado durante la conferencia de desarrolladores de OpenAI el martes, en medio de crecientes preocupaciones sobre el potencial de que los agentes autónomos tomen acciones no deseadas. Estos agentes, similares a Muse de Meta, se están poniendo a disposición del público a pesar de los recientes informes de problemas de seguridad con agentes de OpenAI y otros laboratorios de IA. Los líderes de OpenAI, incluido el CEO Sam Altman, han expresado confianza en las medidas de seguridad incorporadas en los "dots", que incluyen salvaguardas de ChatGPT y Codex, así como protecciones adicionales de un sistema conocido como Guardian o revisión automática. Altman enfatizó la importancia de mantener la seguridad, la alineación y la supervisión en conjunto con los avances tecnológicos. La empresa tiene como objetivo no apresurarse ni detener el progreso por completo, sino garantizar que la seguridad siga siendo una prioridad a medida que continúa desarrollando sus agentes. El despliegue de los "dots" ha intensificado las discusiones sobre la seguridad de la IA, cambiando el enfoque de prevenir respuestas dañinas de los chatbots para abordar los riesgos que plantean los agentes autónomos. El enfoque de OpenAI refleja un desafío más amplio de la industria para garantizar que los sistemas de IA operen dentro de los límites previstos al mismo tiempo que avanzan en capacidad. A medida que la empresa avanza, la eficacia de sus medidas de seguridad será observada de cerca tanto por los reguladores como por el público.