San Francisco ha dado un paso decisivo al ordenar a Apple y Google la eliminación de diversas aplicaciones denominadas “nudify”, las cuales permiten alterar digitalmente imágenes para desvestir a las personas que aparecen en ellas. Esta acción se enmarca dentro de un contexto legal más amplio en California, donde se han implementado leyes que tipifican como delito cualquier actividad que facilite la creación de pornografía deepfake no consensuada.
Desde 2025, la legislación en el estado permite que las víctimas puedan emprender acciones civiles contra aquellos que facilitan la difusión de este tipo de contenido. A pesar de que Apple y Google tienen conocimiento de estas regulaciones, la ciudad sostiene que ambas empresas han continuado con la provisión de estas aplicaciones en sus plataformas, generando ganancias a partir de actividades consideradas ilegales.
David Chiu, Fiscal de la Ciudad de San Francisco, declaró que “Apple y Google están beneficiándose de aplicaciones que explotan a mujeres y niñas al generar deepfakes íntimos no consensuados”. Chiu enfatizó que, aunque ambas compañías han eliminado algunas aplicaciones problemáticas, tienen la responsabilidad de ser proactivas en la prevención del abuso sexual relacionado con este tipo de tecnología.
Las cartas enviadas a Apple y Google por la oficina del Fiscal también recordaron que las empresas han estado “en aviso” sobre su papel en el procesamiento de pagos por compras ilegales desde hace casi un año. Esto pone de manifiesto una seria inquietud sobre la responsabilidad de las grandes tecnológicas en la regulación del contenido que facilitan en sus plataformas.
Investigaciones previas, como las realizadas por el Tech Transparency Project, han señalado que decenas de aplicaciones que ofrecen la creación de imágenes no consensuadas estaban disponibles en los app stores de ambas compañías. A pesar de los reiterados avisos sobre estas violaciones, ambas empresas no tomaron las medidas adecuadas hasta ahora.
Un informe reciente destacó que Apple y Google probablemente han obtenido “millones de dólares en tarifas” a través de aplicaciones que ofrecen servicios de este tipo. Las comunicaciones de Chiu advierten que la falta de acción podría derivar en sanciones civiles para ambos gigantes tecnológicos, instándolos a tomar medidas en un plazo de 28 días.
En sus respuestas, un portavoz de Apple dijo que se han eliminado tres de las aplicaciones mencionadas y que se están tomando medidas contra otros desarrolladores que violan sus políticas. Por su parte, Google afirmó haber suspendido los cinco aplicaciones referidos en la carta de Chiu, asegurando que investigan cada violación reportada y toman acciones rápidas al respecto.
A medida que la tecnología de deepfake avanza, se espera que este tipo de cuestiones legales y éticas se conviertan en un desafío cada vez más complejo para las industrias de la tecnología y el entretenimiento. Si bien la problemática ha afectado en gran medida a celebridades femeninas, la accesibilidad de estas aplicaciones permite que cualquier persona con una foto pública se convierta en víctima de este abuso digital.