OpenAI ha anunciado la implementación de una marca de agua invisible en los textos generados por su modelo ChatGPT y Codex en la Unión Europea, con el fin de cumplir con las regulaciones establecidas por la Ley de IA de la UE. Esta medida busca mejorar la transparencia de los contenidos producidos por inteligencia artificial en la región.
La Ley de IA de la UE, que entró en vigor el 2 de agosto, requiere a las empresas tecnológicas que marquen de manera identificable el contenido generado por IA. La compañía ha indicado que la marca de agua comenzará a implementarse en las próximas semanas para todos los usuarios elegibles del servicio en la UE. Además, los desarrolladores que utilizan la API de OpenAI en todo el mundo podrán activar esta funcionalidad en ciertos modelos de texto a partir de ahora, aunque de forma opcional y desactivada por defecto.
La marca de agua no es un símbolo visual; en cambio, se integra en las elecciones de palabras del modelo de manera que crea un patrón invisible para los lectores, pero detectable por sistemas especializados. Este método se mantiene en el texto incluso cuando se copia y pega. OpenAI asegura que esta marca no identifica al usuario y que no ha habido cambios significativos en el rendimiento de los modelos con esta opción habilitada.
Detalles Técnicos y Capacidad de Detección
OpenAI ha divulgado un informe técnico sobre su metodología, denominada textGrain, que fue coescrita con investigadores de universidades de renombre. Este documento detalla cómo emplear una clave secreta para ajustar las predicciones del siguiente término en una secuencia, creando un perfil que los detectores pueden reconocer únicamente mediante el texto y la clave correspondiente.
Respecto a la posibilidad de eliminar la marca de agua a través de la edición, las pruebas realizadas por OpenAI sugieren que esto es factible. Por ejemplo, sustituir el 10% de las palabras por sinónimos redujo la tasa de detección del 92% al 66%. Además, fragmentos cortos, respuestas matemáticas y textos traducidos son más complicados de identificar.
La empresa ha decidido restringir el acceso a los detectores iniciales a investigadores aprobados y organizaciones expertas, enfatizando que la ausencia de una marca de agua no necesariamente implica autoría humana. Hay diversas razones por las cuales un texto puede carecer de esta marca, incluidas ediciones excesivas o su creación mediante otras herramientas de IA.
La reciente adopción de esta medida por parte de OpenAI se produce un par de meses después de que Anthropic anunciara su propia iniciativa de marcar textos generados por su modelo Claude a nivel global, que también provocó críticas de usuarios que consideraban que ellos, como creadores del contexto e instrucciones, eran los verdaderos autores.
A pesar de que OpenAI había desarrollado una marca de agua anteriormente, su lanzamiento había sido postergado debido a preocupaciones sobre la posible migración de usuarios a competidores que no implementaban esta característica. Compañías como Anthropic, Google, Meta y Microsoft también han manifestado su compromiso con las regulaciones y prácticas de transparencia relacionadas con el contenido generado por inteligencia artificial en el marco europeo.