OpenAI anunció que en las próximas semanas incorporará señales ocultas en los textos creados por ChatGPT y Codex para usuarios dentro de la Unión Europea, en cumplimiento con las reglas de transparencia del Reglamento de IA del bloque. La medida afectará a todos los planes del chatbot en la región.
La tecnología utilizada se denomina textGrain y consiste en introducir una señal estadística prácticamente imperceptible en la elección de palabras que realiza el modelo al redactar. OpenAI desarrolla un detector propio capaz de analizar un fragmento y estimar si fue generado por sus sistemas.
La empresa aclaró que quienes operan su interfaz de programación (API) pueden activar esa marca de forma opcional para modelos seleccionados, sin que esté activada por defecto; la decisión queda a criterio de cada desarrollador.
Por el momento, el acceso al detector no es público. OpenAI abrió una convocatoria para investigadores y organizaciones especializadas para solicitar permiso de uso, en línea con el Código de Prácticas de la Unión Europea sobre la transparencia de contenido generado con IA, al que la compañía adhirió en junio.
El Artículo 50 del Reglamento de IA de la UE impone a las empresas que ofrecen sistemas de IA generativa la posibilidad de identificar sus resultados de forma legible por máquinas. Esa obligación de transparencia entró en vigor de manera general el 2 de agosto.
No es la primera compañía que responde a esa normativa: según Tech Startups, Anthropic había introducido marcas de agua invisibles para los modelos Claude compatibles poco antes y, desde su lanzamiento, decidió aplicarlas a nivel mundial porque todavía no encontró una forma estable de restringirlas solo a Europa.
OpenAI, en cambio, eligió un enfoque inverso: por ahora, limitar el despliegue a la Unión Europea y dejar la opción como voluntaria para el resto del mundo. “No estamos convirtiendo la marca de agua en un estándar global por defecto en este lanzamiento”, señala la compañía en su comunicado, y agrega que este enfoque regional les permitirá aprender del uso real antes de ampliar la implementación.
Un informe técnico publicado el mismo día, elaborado por investigadores de OpenAI junto con académicos de la Universidad de Pensilvania y la Universidad de Yale, detalla el marco matemático de textGrain y los resultados obtenidos en laboratorio.
Con una tasa de falsos positivos fijada en 1%, el detector identificó la marca en aproximadamente el 80% de fragmentos de 200 palabras evaluados y en alrededor del 95% de fragmentos de 400 palabras, usando textos de divulgación general. El rendimiento cae notablemente en contenidos donde las palabras tienen menos opciones, como en textos matemáticos.
El propio informe advierte que la marca se degrada rápidamente ante ediciones: al reemplazar el 10% de las palabras por sinónimos, la detección se reduce significativamente.
