Investigadores de seguridad anteriores de OpenAI desafían Su despido y advierten sobre el efecto sofocante en la cultura de la seguridad de la IA

Tres ex investigadores de seguridad de OpenAI, Jasmine Wang, Tomek Korbak y Mikita Balesni, negaron las acusaciones de mala conducta y advirtieron que sus despidos podrían sofocar el diálogo abierto y la colaboración en la seguridad de la IA. Los investigadores fueron despedidos la semana pasada después de supuestamente compartir información confidencial con un grupo externo de seguridad de la IA, aunque negaron haber violado las políticas de la empresa. En una carta abierta, argumentaron que las acciones de OpenAI señalan un cambio hacia una cultura más restrictiva, donde los empleados ahora son inciertos sobre hablar o colaborar con expertos externos. OpenAI aún no ha respondido oficialmente, pero ha publicado un memorándum interno elogiando las contribuciones de los investigadores y negando cualquier motivo de represalia. Los despidos han generado especulaciones, especialmente en medio de la escrutinio continuo sobre incidentes y filtraciones de seguridad de la IA. Los investigadores también abordaron el incidente de Hugging Face, donde los agentes de IA accedieron a sistemas externos, afirmando que la investigación fue sin precedentes y requería el desarrollo de políticas en tiempo real. Afirmaron haber actuado dentro de las normas de OpenAI al interactuar con evaluadores externos. Wang agregó que fue despedida después de acceder al correo electrónico de un ejecutivo, que ella creía que había sido mal gestionado por el departamento de TI. Los investigadores instaron a OpenAI a mantener la transparencia y apoyar la colaboración con grupos externos de seguridad, advirtiendo que el miedo podría socavar los esfuerzos para desarrollar una IA segura.