Tribunal dicta que la plataforma debe explicar al creador cómo detecta la IA

Una reciente decisión del Tribunal de Internet de Beijing abordó una disputa en la que un usuario, identificado como Xiao Tang, vio su obra creativa original suprimida por una plataforma de una empresa tecnológica después de que se identificara como contenido generado por IA sin revelar. La plataforma exigía a los creadores que etiquetaran proactivamente cualquier material generado por IA, citando regulaciones como las Medidas de Identificación de Contenido Sintético Generado por IA. Xiao Tang apeló la acción de la plataforma, que incluía la ocultación del contenido y la imposición de un silencio temporal de un día. La plataforma argumentó que su reconocimiento automático y revisión manual determinaron que el contenido era generado por IA, citando secretos técnicos y lógica algorítmica como razones para no revelar su mecanismo de detección. Sin embargo, la jueza Gao Ya declaró que, si bien la plataforma tiene derecho a revisar el contenido, su determinación debe tener una base razonable. El tribunal finalmente dictaminó que la plataforma debe levantar la supresión y eliminar el registro de infracción. La jueza Gao Ya enfatizó que cuando las plataformas utilizan algoritmos para identificar contenido de IA, deben proporcionar explicaciones adecuadas de sus criterios y resultados en términos comprensibles, en lugar de simplemente citar secretos comerciales. El tribunal también aconsejó a las plataformas que implementaran medidas disciplinarias escalonadas y fortalecieran los mecanismos de revisión de contenido.