OpenAI informó que, en las próximas semanas, comenzará a incorporar marcas de agua invisibles en los textos generados por ChatGPT y Codex para los usuarios que operen dentro de la Unión Europea, como parte de las reglas de transparencia del Reglamento de IA del bloque. La medida alcanzará todos los planes del chatbot en la región.
La tecnología detrás de la marca se denomina textGrain y funciona introduciendo una señal estadística prácticamente imperceptible en la selección de palabras que realiza el modelo al redactar. OpenAI también dispone de un detector propio que puede analizar un fragmento y estimar si fue generado por sus sistemas.
La firma aclaró que los clientes que utilicen su API pueden activar esa marca de forma opcional para determinados modelos, en cualquier país. La función viene desactivada por defecto y depende de la decisión de cada desarrollador.
Por el momento, el acceso al detector no es público. OpenAI lanzó una convocatoria dirigida a investigadores y organizaciones especializadas para pedir permiso de uso, en línea con el Código de Prácticas de la UE sobre transparencia de contenido generado por IA, que la compañía firmó en junio.
El Artículo 50 del Reglamento de IA de la Unión Europea obliga a las empresas que ofrecen sistemas de IA generativa a hacer que sus resultados puedan ser identificados de forma legible por máquinas. Esta obligación entró en vigor de manera general el 2 de agosto.
No es la única respuesta en el sector. Según Tech Startups, Anthropic ya había introducido marcas de agua invisibles para Claude en modelos compatibles y, poco después, decidió desplegarlas a nivel global por falta de una forma estable de limitar su uso solo a Europa.
OpenAI, en cambio, decidió iniciar el despliegue restringido a la UE por ahora y mantener la opción voluntaria en el resto del mundo. En el comunicado de la empresa se promovió que esta estrategia regional permita aprender del uso real antes de considerar una expansión.
Un informe técnico, presentado el mismo día y elaborado por investigadores de OpenAI junto a académicos de la Universidad de Pensilvania y de Yale, detalla el marco matemático de textGrain y los resultados obtenidos en laboratorio. En pruebas con textos de divulgación general, la tasa de falsos positivos se fijó en 1% y la detección alcanzó cerca del 80% en fragmentos de 200 palabras y alrededor del 95% en fragmentos de 400 palabras. El rendimiento baja notablemente en contenidos con vocabulario limitado, como textos matemáticos.
El informe admite que la marca se degrada con editaciones: cambiar aproximadamente el 10% de las palabras por sinónimos reduce la probabilidad de detección. Esto subraya tanto el propósito como las limitaciones de la técnica en uso real.
