La reciente implementación de la nueva ley de transparencia en inteligencia artificial (IA) en California ha despertado un debate significativo sobre la eficacia real de sus medidas para proteger a los consumidores. Aprobada en 2024, esta legislación establece un marco detallado para el manejo de contenido generado por IA, aunque su definición de “transparencia” ha sido cuestionada por su posible falta de impacto directo en los usuarios.
Aspectos destacados de la ley de California
La ley se esfuerza por aportar datos de procedencia relacionados con el contenido generado por IA. Este enfoque busca facilitar el acceso a información crucial para periodistas, investigadores y plataformas, a través de la inclusión de dos tipos de datos de procedencia. El primero incluye metadatos que identifiquen el creador del contenido, la fecha de creación y la herramienta utilizada. Además, se proporcionará un conjunto limitado de información dentro del mismo contenido, como en los píxeles de una imagen generada.
Los desarrolladores de herramientas de IA tendrán la obligación de ofrecer una herramienta pública de detección que identifique estos datos de procedencia. Asimismo, la ley exige que los motores de creación de IA permitan a los usuarios adjuntar etiquetas visibles o audibles que indiquen que el contenido fue generado por IA. Sin embargo, no se establece la obligatoriedad de aplicar estas etiquetas a todos los contenidos generados.
Una de las disposiciones más interesantes es la exigencia de alertar a los usuarios sobre la disponibilidad de datos de procedencia. Desde el próximo año, las redes de distribución de contenido, que incluyen las redes sociales, deberán cumplir con este requerimiento. Sin embargo, no hay un mandato que indique que esta información deba presentarse junto al contenido, lo cual podría limitar la efectividad de la ley.
La dicotomía de la transparencia
La manera en que se redacta la ley sugiere que hay dos entendimientos de lo que significa la “transparencia” en la industria de la IA. Por un lado, se refiere a la capacidad de los sistemas de IA para rastrear y preservar la historia técnica de un contenido. Por otro lado, se habla de la necesidad de que los consumidores de contenido tengan la certeza de que lo que ven realmente es lo que aparenta ser.
La legislación de California se centra principalmente en el primer entendimiento. No obstante, es crucial destacar que la mera disponibilidad de datos de procedencia no garantiza que los consumidores accedan a ellos en el momento adecuado. Lo que se presenta inicialmente a un usuario tiene un impacto considerable, especialmente en un entorno donde la atención es un recurso valioso.
La brecha en la primera impresión
La presentación inicial de un contenido puede influir de manera profunda en la percepción del usuario. Un video generado, por ejemplo, puede crear una impresión duradera que afecte la opinión pública, incluso si posteriormente se proporciona información que desmiente su autenticidad. Esto se convierte en un riesgo significativo para marcas y figuras públicas, ya que ciertas informaciones no pueden ser borradas de la memoria colectiva.
A medida que más usuarios crecen con la premisa de que “ver es creer”, se convierten en blanco fácil para las manipulaciones que pueden surgir de tecnologías avanzadas de IA. La tendencia a resistirse a la disonancia cognitiva puede llevar a los usuarios a aceptar como verdad lo que ven y pasar por alto los datos destinados a confirmar la autenticidad de ese contenido.
A pesar de que la ley de California establece un modelo a seguir para otras jurisdicciones, es evidente que no representa el final de la búsqueda por una transparencia efectiva. La legislación, aunque robusta en su intento de crear una infraestructura de autenticidad, subraya la necesidad de abordar el problema del “último tramo” para garantizar que los usuarios tengan acceso a la historia completa de un contenido cuando más lo necesitan.