OpenAI ha dado a conocer su estrategia para adherirse a las nuevas directrices de transparencia en inteligencia artificial establecidas por la Unión Europea. Estas regulaciones exigen que cualquier texto generado por sistemas de IA sea fácilmente identificable mediante marcas de agua invisibles. La iniciativa se enmarca en el contexto de sus productos ChatGPT y Codex.
La compañía ha presentado el sistema textGrain, el cual inserta una señal estadística imperceptible en la selección de palabras del modelo. Posteriormente, un sistema especializado se encarga de detectar esta señal para determinar si un determinado fragmento de texto contiene la marca de agua de OpenAI. Este proceso será implementado en fases, comenzando con una primera etapa este martes, donde los usuarios globales de la API podrán optar por activar la función en ciertos modelos. Cabe destacar que esta opción estará desactivada como configuración predeterminada.
Para los usuarios ubicados en la Unión Europea, la marca de agua se añadirá automáticamente en las próximas semanas a todos los textos y códigos generados en ambas plataformas, ChatGPT y Codex. Esto cumple con los requisitos estipulados por la Ley de IA de la UE.
Tecnología en desarrollo
OpenAI ha indicado que la tecnología de marca de agua tiene aún limitaciones significativas y que el debate sobre sus aplicaciones éticas y responsables continúa evolucionando. La decisión de implementar este sistema de manera gradual responde tanto a la legislación vigente como a la fase incipiente de la tecnología.
La empresa ha abierto el acceso al detector de marca de agua, aunque inicialmente estará limitado a investigadores y organizaciones aprobadas. Este enfoque selectivo permitirá evaluar la eficacia de la tecnología en un entorno controlado antes de su despliegue más amplio.
Rendimiento bajo estudio
En un informe reciente, OpenAI manifestó que textGrain ha demostrado igualar o superar el rendimiento de otras herramientas existentes, como SynthID. Sin embargo, la compañía advirtió que un alto rendimiento en condiciones controladas no necesariamente se traduce en una fiabilidad en situaciones cotidianas. A medida que se implementa esta tecnología, es crucial entender que los detectores pueden producir dos tipos de errores: falsos positivos, donde se indica la presencia de una marca que no está, y falsos negativos, donde se omite una marca que sí está presente.
Desafíos en la detección efectiva
Las limitaciones actuales de textGrain se hacen especialmente evidentes en textos breves o altamente técnicos, ya que en estos casos hay un menor margen de selección de palabras. Además, la edición de textos también representa un desafío significativo para la detección de la marca de agua; modificar incluso un 25 % de las palabras de un texto resulta en una reducción drástica de la capacidad de detección, pasando de un 92 % a un 17 % en fragmentos de 400 tokens.
La implementación de estas tecnologías representa un paso importante hacia la transparencia en el uso de la inteligencia artificial, aunque quedan retos por superar para mejorar su eficacia y confiabilidad.