OpenAI introduce la marca de agua en textos generados por su API con opción desactivada por defecto

OpenAI lanza textGrain, un sistema que implanta una señal estadística en textos creados por IA para identificar su origen, disponible por ahora como opción para desarrolladores y con implantación automática en la Unión Europea ante la nueva regulación.

OpenAI ha anunciado una novedad importante para su API: la posibilidad de incorporar marcas de agua en los textos generados por sus modelos. Se trata de una medida destinada a facilitar la identificación del contenido producido mediante inteligencia artificial, una tarea compleja debido a la diversidad y el formato variable del texto generado.

En una publicación reciente en su blog oficial, OpenAI presentó textGrain, un sistema que introduce una «señal estadística» mediante la elección sutil de palabras en lugar de imponer cambios evidentes. Por ejemplo, cuando el modelo tiene varias opciones válidas para continuar una frase, favorece unas palabras sobre otras para crear un patrón reconocible en toda la secuencia de texto. Esta técnica posibilita que un detector desarrollado por OpenAI reconozca si un texto ha sido generado mediante su tecnología.

A partir de hoy, los desarrolladores que usen la API de OpenAI en todo el mundo podrán activar esta función bajo demanda, ya que la marca de agua permanece desactivada por defecto. La intención es que cada cliente evalúe cómo incorpora esta herramienta para cumplir con sus obligaciones de transparencia y proporcionar una experiencia adecuada a sus usuarios.

Patrocinado

Además, y en cumplimiento con los recientes requisitos del Reglamento Europeo sobre Inteligencia Artificial (EU AI Act), OpenAI comenzará a aplicar automáticamente esta marca de agua a los textos pertinentes generados por ChatGPT y Codex dentro de la Unión Europea. Este movimiento busca garantizar una mayor claridad y responsabilidad en el uso de contenidos generados por IA según la legislación vigente en la región.

Contraste con la estrategia de Anthropic

Esta decisión se diferencia claramente de la estrategia adoptada por Anthropic, el otro gran actor en el sector de la IA. En agosto, Anthropic anunció que aplicarían marcas de agua en todos los textos generados por sus modelos Claude sin ofrecer opción de desactivación o regionalización. Es decir, la marca estaría presente siempre, tanto en productos comerciales como en la API disponible para desarrolladores.

Mientras que Anthropic no ofrece un método para que los desarrolladores opten por prescindir de esta marca, OpenAI permite que la activación se realice a nivel de proyecto o de organización, habilitando a sus clientes para elegir en qué modelos quieren aplicar esta función sin necesidad de modificar individualmente cada petición a la API.

Experiencia previa de OpenAI en trazabilidad de contenido

Esta iniciativa forma parte de una trayectoria de OpenAI en el uso de tecnologías para asegurar la procedencia del contenido generado. Desde 2024, la compañía implementa credenciales de contenido en imágenes generadas, empleando el estándar abierto C2PA (Coalition for Content Provenance and Authenticity) para registrar la procedencia de los archivos.

En 2026, OpenAI incorporó la marca de agua SynthID de Google en imágenes y audios compatibles, complementando la oferta con una API dedicada para comprobar dichos contenidos. Sin embargo, en el caso del texto, la compañía ha preferido desarrollar su propia tecnología, textGrain, con el objetivo de optimizar el equilibrio entre la detectabilidad del watermark y la variedad de respuestas generadas.

OpenAI asegura que textGrain iguala o supera el rendimiento de SynthID en sus pruebas internas, y tiene planes de lanzar esta tecnología al código abierto para que la comunidad pueda contribuir a mejorar los métodos de marcado en textos generados por IA.

Limitaciones y retos en la aplicación del watermark a textos y código

A pesar de sus ventajas, textGrain presenta desafíos, especialmente en contextos donde las opciones léxicas son reducidas, como en textos matemáticos o códigos informáticos. En estos casos, la señal estadística pierde fuerza y la detectabilidad disminuye. OpenAI explica que su detector identifica aproximadamente el 80% de los fragmentos de texto de 200 tokens marcados, y hasta un 95% en pasajes de 400 tokens dentro de ámbitos como la psicología, manteniendo una tasa de falsos positivos cercana al 1%.

No obstante, el sistema es menos fiable en textos con lenguaje más técnico o estructurado, como ocurre en el código. De hecho, OpenAI advierte que el código es más difícil de marcar porque existen menos alternativas plausibles para la siguiente palabra o instrucción comparado con el lenguaje natural.

Además, modificar el texto generado también puede debilitar la marca de agua. En pruebas realizadas, reemplazar un 10% de las palabras por sinónimos en un fragmento de 400 tokens disminuye la capacidad de detección del watermark del 92% al 66%, y con una sustitución del 25%, la tasa baja hasta el 17%.

Aplicación futura en Codex

Respecto a Codex, el generador de código de OpenAI, la compañía anunciará próximamente la activación automática de la marca de agua en la UE para textos “elegibles”, aunque aún no ha especificado qué criterios determinan esta elegibilidad ni si la marca será detectable en código fuente generado.

Esto plantea un desafío técnico considerable, ya que introducir preferencias en la generación de código podría afectar potencialmente la funcionalidad del software producido. Sin embargo, pruebas preliminares con el modelo Astra indican que activar textGrain no degrada de manera significativa el rendimiento en benchmarks de programación y agentes automatizados, apuntando a que la marca puede integrarse sin afectar la calidad del código.

Acceso restringido al detector

Finalmente, es importante destacar que disponer del detector para identificar los textos marcados no está garantizado para todos los usuarios. OpenAI restringirá inicialmente su acceso a entidades de investigación y académicas autorizadas que estudien la trazabilidad del texto y la fiabilidad del sistema. Estos investigadores podrán analizar la permanencia de la marca tras editados y transformaciones, además de evaluar cómo se comporta el detector ante posibles falsos positivos o negativos.

Este paso evidencia la cautela de OpenAI en equilibrar la transparencia y el control del contenido generado, mientras avanza en su compromiso con la trazabilidad y responsabilidad en la era de la inteligencia artificial.

Add a Comment

Deja una respuesta

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *

Patrocinado