El multimillonario Elon Musk, conocido por ser el propietario de la plataforma X y la inteligencia artificial Grok, ha decidido restringir las capacidades de esta última. La razón: una ola de quejas sobre la violación del derecho a la imagen, la privacidad y el honor, así como amenazas de prohibiciones por parte de varios gobiernos, incluido el español.
### Medidas ante las quejas
Grok permitía la generación y edición de imágenes sexualizadas y violentas de mujeres y niñas. La polémica se intensificó rápidamente, superando la capacidad de los organismos reguladores para actuar. La ministra de Juventud e Infancia, Sira Rego, solicitó a la Fiscalía General del Estado que investigara a X y su IA por posibles “delitos de difusión de material de violencia sexual contra la infancia”. Esta acción se alinea con la postura de otros gobiernos europeos que incluso han propuesto la prohibición de la plataforma, acompañada de sanciones.
En respuesta, Musk anunció que las funciones de generación de contenido audiovisual quedan limitadas a suscriptores de pago, quienes deberán estar identificados con sus datos personales. El multimillonario sostiene que la responsabilidad por el contenido generado recae en los usuarios, no en la plataforma. “Cualquiera que use Grok para crear o difundir contenido ilegal enfrentará consecuencias. La responsabilidad legal recae en quien lo crea o lo publica”, afirmó Musk en un reciente comentario.
### La evolución de la polémica
La propagación de imágenes pornográficas y violentas sin consentimiento se generalizó a finales de diciembre, aunque Musk inicialmente minimizó el problema. Hasta llegó a publicar una imagen suya en bikini para ilustrar lo que consideraba una función inocente. Sin embargo, la reacción de gobiernos y usuarios ha llevado a limitar el uso de esta herramienta, restringiéndola a aquellos usuarios que pueden ser fácilmente identificados.
El director de la cátedra de Privacidad y Transformación Digital de la Universidad de Valencia, Ricard Martínez, expresó su preocupación al señalar la ilegalidad de las prácticas de erotización no consentida. “No se puede sexualizar sin consentimiento ninguna imagen; todos tenemos derecho a la propia imagen, a la privacidad y al honor”, comentó.
Martínez también discrepó con Musk en cuanto a la responsabilidad por la difusión de estos contenidos, insistiendo en la necesidad de educación digital y sexual tanto para los creadores como para las plataformas que permiten su creación y difusión, las cuales, según él, deben actuar proactivamente para prevenir abusos.
Así, el entorno digital se enfrenta a un desafío crucial: balancear la innovación con la protección de los derechos individuales, un aspecto vital en la era de la información.
