El abogado de la ciudad de San Francisco, David Chiu, ha enviado órdenes formales de cese y desistimiento a los gigantes tecnológicos Apple y Google, exigiendo la eliminación inmediata de 13 aplicaciones que utilizan inteligencia artificial para generar imágenes falsas de desnudos de personas reales. Así lo informa Wired. Las aplicaciones se comercializan aparentemente como herramientas de intercambio de caras, pero en la práctica se utilizan para «desvestir» imágenes de mujeres y niñas sin su consentimiento.

13 aplicaciones en el punto de mira

Según la orden de cese y desistimiento, ocho de las aplicaciones están disponibles en la App Store de Apple, mientras que cinco se encuentran en Google Play Store. El abogado de la ciudad afirma que ambas compañías obtienen beneficios activamente de esta práctica al tomar una parte de los pagos que se realizan dentro de las aplicaciones, y que esto las hace cómplices en la difusión de lo que, en sentido jurídico, se denomina pornografía deepfake.

La ley de California prohíbe apoyar servicios que produzcan dicho material, y esto constituye la base legal para las demandas presentadas a Apple y Google.

San Francisco exige la eliminación de 13 aplicaciones de IA para desnudos de App Store y Google Play - Bilde 1

Google confirma la eliminación — Apple endureció sus directrices en junio

Google, por su parte, ha declarado que la compañía ya ha eliminado «cientos» de aplicaciones con funcionalidad de desnudos por violar sus directrices, incluyendo las cinco nombradas en la carta del abogado de la ciudad. Apple actualizó en junio de 2026 las directrices de su App Store con requisitos más estrictos sobre la responsabilidad de los desarrolladores por el contenido pornográfico, pero hasta el momento no ha emitido ningún comentario oficial sobre la orden de cese y desistimiento en sí.

«Esto no es innovación, esto es abuso sexual» — abogado de la ciudad David Chiu

Se basa en una acción legal anterior

La acción contra las tiendas de aplicaciones no es el primer ataque de la ciudad en este ámbito. En agosto de 2024, la oficina de David Chiu presentó una demanda contra los operadores de 16 sitios de desnudos impulsados por IA. Como resultado de esa demanda, diez de estos sitios web han sido cerrados o ya no están disponibles para los usuarios en California, y una empresa fue multada con 100 000 dólares en sanciones civiles.

El abogado de la ciudad describió el trabajo con la demanda anterior como adentrarse en los «rincones más oscuros de internet», y subrayó que los servicios afectan a mujeres y niñas reales.

Aumenta la presión sobre las empresas de plataformas

La nueva acción no se dirige directamente contra los desarrolladores de las aplicaciones, sino contra las plataformas de distribución que se ponen a disposición de los usuarios finales y que cobran por ello. Según Wired, el abogado de la ciudad argumenta que Apple y Google, al ofrecer estas aplicaciones y obtener ingresos de ellas, «ayudan e instigan» activamente la venta de material deepfake explícito — un material que afecta abrumadoramente a mujeres y niñas jóvenes.

El caso ilustra una creciente presión sobre las grandes empresas tecnológicas para que asuman la responsabilidad editorial y legal del contenido que distribuyen, no solo del contenido que ellas mismas producen. Por el momento, no se sabe si la orden de cese y desistimiento dará lugar a nuevas acciones legales contra Apple y Google.