Investigadores de OpenAI niegan acusaciones de violaciones de seguridad, exigen transparencia

El 8 de octubre, tres ex investigadores de OpenAI, Jasmine Wang, Tomek Korbak y Mikita Balesni, publicaron una carta abierta negando las acusaciones de violar las políticas de seguridad de la información. Fueron despedidos la semana pasada tras una investigación interna que afirmaba que habían accedido y procesado datos de investigación confidenciales sin la debida autorización. Los investigadores argumentaron que sus acciones formaban parte de una colaboración autorizada con agencias de seguridad de terceros para abordar vulnerabilidades críticas en los modelos de IA, incluida la disminución de la visibilidad en el razonamiento de tipo Chain-of-Thought. La carta enfatizaba que sus despidos habían creado un 'efecto escalofriante' dentro de OpenAI, socavando la supervisión interna de riesgos. Wang señaló específicamente que había denunciado la apertura accidental de un correo electrónico de un ejecutivo a IT, calificando su despido como injustificado. El memorándum interno de OpenAI afirmaba que fomenta las preocupaciones de seguridad, pero niega cualquier acción represiva. El incidente destaca la tensión entre el avance de las capacidades de la IA y garantizar la transparencia en las auditorías de seguridad, planteando urgentes cuestiones de gobernanza en la industria de la IA.