OpenAI anunció que, en las próximas semanas, empezará a incorporar una marca de agua invisible en los textos producidos por ChatGPT y Codex para usuarios de la Unión Europea, con el fin de alinearse a las reglas de transparencia del Reglamento de IA de la UE. La medida alcanzará todos los planes del chatbot en la región.
La tecnología, denominada textGrain, introduce una señal estadística apenas perceptible en la elección de palabras que realiza el modelo al redactar. OpenAI dispone de un detector propio que puede analizar un fragmento y estimar si fue generado por sus sistemas.
La firma aclaró que, mediante su API, los clientes en cualquier país pueden activar opcionalmente esa marca para determinados modelos. La función no está activada por defecto y depende del criterio de cada desarrollador.
Por ahora, el acceso al detector no es público. OpenAI lanzó una convocatoria para que investigadores y organizaciones especializadas soliciten permiso de uso, en línea con el Código de Prácticas de la UE sobre transparencia de contenidos generados con IA, que la compañía firmó en junio.
El Artículo 50 del Reglamento de IA de la UE exige a las empresas que ofrecen sistemas de IA generativa que sus resultados sean identificables de forma legible por máquinas. Esta obligación comenzó a regir de manera general el 2 de agosto.
OpenAI no es la única que respondió a esa norma. Según Tech Startups, Anthropic ya había introducido marcas de agua invisibles para Claude y decidió aplicarlas en todo el mundo desde su lanzamiento, argumentando que aún no cuenta con una forma estable de limitar su uso únicamente a Europa.
La compañía decidió, en cambio, optar por un despliegue focalizado en la UE y mantenerlo como opción voluntaria en el resto del mundo. “No estamos estableciendo la marca de agua como un estándar global por defecto en este lanzamiento”, afirmó la empresa, y explicó que este enfoque regional les permite aprender del uso real antes de expandirse.
Un informe técnico, elaborado por investigadores de OpenAI junto a académicos de la Universidad de Pensilvania y de Yale, detalla el marco matemático de textGrain y sus resultados de laboratorio. Con una tasa de falsos positivos de apenas 1%, el detector identificó la marca en aproximadamente el 80% de fragmentos de 200 palabras evaluados y en cerca del 95% de fragmentos de 400 palabras, usando textos de divulgación general. Su rendimiento cae notablemente en contenidos donde las palabras tienen menos variaciones, como textos matemáticos.
El propio informe admite que la marca se degrada rápidamente si se edita el texto; si se reemplaza el 10% de las palabras por sinónimos, la detección se ve afectada.
