Anthropic detalla la marca de agua invisible en Claude: cómo funciona y sus límites

Anthropic ha revelado los detalles técnicos sobre su nueva marca de agua invisible, una tecnología diseñada para identificar contenido generado por su modelo Claude. Esta implementación, que comenzó a desplegarse a principios de agosto a nivel global, responde al cumplimiento de normativas como la Ley de IA de la Unión Europea y el Código de Prácticas sobre Transparencia de Contenido Generado por IA.

Funcionamiento técnico: el método SynthID-Text

El sistema no añade metadatos, caracteres ocultos ni tokens adicionales al contenido. En su lugar, Anthropic utiliza una variante de SynthID-Text, desarrollada por Google DeepMind. La marca de agua se integra en el propio proceso de generación del texto: al elegir entre diferentes opciones de palabras estadísticamente válidas, el modelo utiliza una clave criptográfica que hace que la secuencia resultante sea reconocible para quienes posean dicha clave. Este proceso es imperceptible para el usuario y no afecta la latencia ni el coste de generación. Según la compañía, no hay diferencias en la calidad o creatividad del texto, basándose en pruebas previas que no mostraron variaciones en la percepción del usuario frente a textos sin marcar.

Limitaciones y realidad de la detección

Es fundamental entender que esta marca de agua no es una prueba definitiva de autoría. Anthropic aclara que el sistema solo indica una probabilidad estadística de que Claude haya intervenido en el contenido, pero no puede distinguir si la IA fue la autora principal o si solo realizó tareas de edición, corrección o apoyo. La efectividad de este método es menor en textos muy breves, contenidos estrictamente factuales o bloques de código, donde las opciones de redacción son limitadas y hay menos margen para insertar la marca. Además, si un usuario reescribe el contenido por completo, la marca de agua desaparece. Anthropic planea lanzar próximamente una API dedicada a la detección de este sello para facilitar la identificación de textos generados por sus modelos.