La aparición de tecnologías avanzadas como la inteligencia artificial ha generado un debate sobre su uso responsable, especialmente en el contexto de la protección de menores. Recientemente, una mujer, identificada como Jane Doe 4, se ha unido a una demanda interpuesta por tres adolescentes en Tennessee contra xAI, la compañía de inteligencia artificial fundada por Elon Musk. La denuncia se centra en los supuestos daños causados por el chatbot Grok, relacionado con la creación y difusión de material de abuso sexual infantil.
La mujer alega que su padrastro utilizó Grok para manipular una fotografía de ella, capturada cuando tenía 11 años, lo que resultó en la creación de más de 7,000 imágenes explícitas. Según informes, su padrastro fue encontrado muerto por suicidio dos días después de que las Fuerzas del Orden descubrieran las imágenes durante una redada.
Esta situación ha llevado a Jane Doe 4 a expresar su preocupación sobre la rapidez con la que estas herramientas están disponibles al público. “El acceso ilimitado a estas herramientas se está propagando rápidamente. Está transformando la vida cotidiana en abuso sexual infantil”, declaró la mujer en un contexto en el que la tecnología está cada vez más presente en nuestras vidas.
Los adolescentes que también participan en la demanda acusan a xAI de no implementar medidas adecuadas para evitar que Grok sea utilizado en la creación de imágenes explícitas de personas reales, en particular menores. Durante el comienzo de este año, la plataforma fue inundada con millones de imágenes sexualizadas generadas por Grok, lo que arroja serias dudas sobre la responsabilidad de la empresa en el control del uso de su tecnología.
Ante el temor de que la inteligencia artificial pueda ser utilizada para fines ilícitos, se vuelve imperativo que las empresas desarrolladoras aborden la ética en sus creaciones y establezcan límites claros en el uso de su tecnología. La demanda busca que el caso tenga estatus de acción colectiva, lo que podría tener implicaciones importantes sobre la regulación y el uso sostenible de la inteligencia artificial en el futuro.