OpenAI detalla Su estrategia de sellado de texto en respuesta a las regulaciones de IA de la UE

OpenAI ha delineado su enfoque para el sellado de texto en cumplimiento con el Reglamento de IA de la UE, que exige que los proveedores de IA generativa hagan que el texto generado sea identificable a través de señales legibles por máquina. La empresa planea introducir el sellado de texto para modelos seleccionados a nivel mundial a partir de hoy, con la opción de activar esta función para los clientes de la API. En la Unión Europea, los usuarios elegibles de ChatGPT y Codex recibirán sellos invisibles en las próximas semanas. OpenAI también está abriendo el acceso a su detector de sellos de texto para investigadores y organizaciones expertas aprobadas, para evaluar y mejorar la tecnología. La tecnología de sellado de texto, llamada textGrain, añade una señal estadística invisible a las salidas del modelo. Sin embargo, el sistema tiene limitaciones, incluyendo tasas de detección reducidas para textos más cortos y contenido editado. Por ejemplo, con una tasa de falsos positivos del 1%, las tasas de detección para pasajes de 200 tokens eran de alrededor del 80%, en comparación con el 95% para pasajes de 40.000 tokens. La edición también puede debilitar el sello, con un reemplazo del 10% de palabras reduciendo la detección del 92% al 66%. OpenAI enfatiza que los sellos no establecen la propiedad, verifican la precisión o identifican a los usuarios. La empresa planea ampliar el acceso al detector a medida que los resultados se vuelvan más interpretables y continúa refinando su enfoque en respuesta a los estándares y regulaciones en evolución.