OpenAI confirmó que, en respuesta a las reglas de transparencia del Reglamento de IA de la Unión Europea, empezará a incorporar una señal estadística imperceptible en los textos que generan ChatGPT y Codex para usuarios dentro de la región. El despliegue se efectuará en las próximas semanas y cubrirá todos los planes del chatbot disponibles en la UE.
La tecnología, denominada textGrain, inserta una señal casi imperceptible en la selección de palabras que utiliza el modelo al redactar. OpenAI también dispone de un detector propio capaz de analizar un fragmento y estimar si fue generado por sus sistemas.
Para usuarios de la API, la activación de la marca puede hacerse de forma opcional para ciertos modelos; la función viene desactivada por defecto y queda a criterio de cada desarrollador.
Actualmente, el acceso al detector no es público. OpenAI abrió una convocatoria para que investigadores y organizaciones especializadas soliciten permiso de uso, en línea con el Código de Prácticas de la UE sobre transparencia de contenidos generados con IA, que la empresa firmó en junio.
El Artículo 50 del Reglamento de IA de la UE obliga a las empresas que ofrecen sistemas de IA generativa a hacer que sus resultados sean identificables de forma legible por máquinas. Esa exigencia entró en vigor de manera general el 2 de agosto.
OpenAI no es la única en responder a esa norma. Según Tech Startups, Anthropic ya había introducido marcas de agua invisibles para los modelos Claude poco antes y optó por aplicarlas en todo el mundo desde su lanzamiento, argumentando que aún no cuenta con una vía estable para limitar su uso solo a Europa.
La firma decidió, por ahora, restringir el despliegue a la Unión Europea y mantener la opción disponible para otros mercados de forma voluntaria. “No estamos estableciendo la marca de agua como un estándar global por defecto en este lanzamiento”, aclaró la empresa en su comunicado, que también señala que este enfoque regional les permite aprender del uso real antes de expandirse.
Un informe técnico publicado ese mismo día, elaborado por investigadores de OpenAI junto a académicos de la Universidad de Pensilvania y la Yale University, detalla el fundamento matemático de textGrain y los resultados obtenidos en laboratorio. Con una tasa de falsos positivos fijada en 1%, el detector identificó la marca en aproximadamente el 80% de fragmentos de 200 palabras evaluados y en alrededor del 95% de fragmentos de 400 palabras, usando textos de divulgación general; el rendimiento se degrada en textos con menos alternativas léxicas, como los de matemática.
El informe reconoce además que la marca se atenúa con la edición del texto: cambiar alrededor del 10% de las palabras por sinónimos reduce significativamente la capacidad de detección.
