San Francisco exige a Apple y Google eliminar apps de IA que generan desnudos

⏱ Tiempo de lectura: 4 min

San Francisco ha ordenado a Apple y Google eliminar 13 aplicaciones que generan imágenes de desnudos sintéticos usando inteligencia artificial. La fiscal de la ciudad, David Chiu, envió cartas de cese y desista a ambas empresas exigiendo remover estas herramientas de intercambio de rostros que crean imágenes sexuales no consensuales. Las compañías deben dejar de "facilitar y encubrir" la distribución de pornografía deepfake y cortar relaciones comerciales con los desarrolladores.

Apple y Google reciben demanda por aplicaciones nudificadoras

David Chiu señala que generar imágenes íntimas no consensuales es ilegal, perjudicial e inaceptable. Ambas plataformas han ganado millones de dólares en comisiones por estas aplicaciones a través de compras dentro de la app. Las leyes de California prohíben facilitar servicios que creen pornografía deepfake. Chiu asegura que estas empresas tienen responsabilidad de garantizar que las aplicaciones en sus plataformas no faciliten abuso sexual. Su oficina ya ha emprendido acciones legales previas contra 16 sitios web populares de deepfakes.

Datos confirmados sobre las aplicaciones detectadas

Eight aplicaciones fueron identificadas en la App Store de Apple, cinco en Google Play. Las ocho apps de Apple incluyen promoción de intercambio de rostros con capacidad oculta de crear imágenes sexuales deepfake. Una aplicación con más de 1 millón de descargas ofrece estilos como "bikini queen curvy", "calm busty" e "intimidad cinemática". Otra app promociona videos "gratuitos y sin censura". Google ya ha eliminado cientos de aplicaciones nudificadoras por violaciones de política. Apple confirmó la eliminación de tres apps señaladas y está terminando cuentas de desarrollador. Las otras cuatro deben resolver violaciones de política o serán removidas. Según reportes previos, entre 90 escuelas han registrado incidents donde se crearon imágenes de abuso sexual deepfake de menores. La Tech Transparency Project encontró aproximadamente 100 apps en ambas plataformas con capacidad de crear imágenes desnudas no consensuales, totalizando alrededor de 480 millones de descargas y $120 millones en ingresos combinados.

Elemento	Detalle
Apps identificadas en App Store	8 aplicaciones de intercambio de rostros con capacidad de crear imágenes sexuales
Apps identificadas en Google Play	5 aplicaciones similares con capacidad de nudificación
Acción de Apple	Eliminó 3 apps y está terminando cuentas de desarrollador; las 4 restantes deben resolver violaciones de política
Acción de Google	Ha eliminado cientos de apps nudificadoras; cinco de las identificadas por la ciudad ya fueron removidas
Descargas reportadas (total industria)	Aproximadamente 480 millones en ambas plataformas según Tech Transparency Project
Ingresos estimados (total industria)	$120 millones en ingresos combinados de estas aplicaciones
Casos de menores afectados	Aproximadamente 90 escuelas con registros de imágenes de abuso sexual deepfake de menores
Apps sin etiquetas explícitas	420 apps de intercambio de rostros general detectadas; 70% podría crear imágenes desnudas sin medidas de seguridad
Periodo de acción legal	Cartas de cese y desista emitidas en la semana mencionada; acciones previas contra 16 sitios web de deepfakes

Qué se puede esperar ahora

Chiu indica que su oficina continuará persiguiendo el problema tras quedar "absolutamente horrorizado" por el daño y escala de la tecnología. Las imágenes generadas se usan para acosar, humillar y amenazar a mujeres y niñas, afectando reputación, salud mental y autonomía. Espera que Apple y Google eliminen inmediatamente estas apps y fortalezcan sistemas de revisión para evitar que futuras aplicaciones similares lleguen a sus tiendas.

Preguntas frecuentes sobre apps deepfake y nudificación

¿Cuál es la diferencia entre estas 13 apps y otras aplicaciones de intercambio de rostros?

Las 13 apps identificadas se promocionan como herramientas de intercambio de rostros "general", pero incluyen capacidad explícita o directa de crear imágenes sexuales deepfake. Las 420 apps de intercambio de rostros detectadas en investigaciones más amplias actúan como "dual-use": se presentan como benign pero el 70% puede generar contenido sexual sin protecciones.

¿Hay fecha confirmada para que Apple y Google las eliminen?

No se especifica en el texto fuente recibido una fecha exacta. Apple ya eliminó tres y está terminando cuentas. Google removió cinco de las identificadas. Las restantes deben resolverse según la política de cada plataforma.

¿Estas aplicaciones están disponibles en español o localizadas para otras regiones?

No se especifica en el texto fuente recibido. Las apps operan globalmente a través de App Store y Google Play.

Qué conviene mirar de cerca

La escala del problema es preocupante: 480 millones de descargas totales y $120 millones en ingresos subrayan que estas herramientas han permanecido disponibles durante años. El hecho de que 70% de las 420 apps de intercambio de rostros "general" puede crear contenido sexual sin medidas de seguridad sugiere que las técnicas de evasión de moderación están muy avanzadas. Las compañías prometen seguridad, pero reportes de 2024 y 2025 muestran ciclos repetitivos de eliminación sin prevención estructural.

En Inteligencia Artificial creemos que esta acción de San Francisco marca un precedente importante: la responsabilidad de las plataformas no debe limitarse a reaccionar después de reportes, sino anticipar cómo aplicaciones "dual-use" pueden abusarse. ¿Deberían las tiendas exigir autenticación o límites de uso para cualquier herramienta de manipulación de imágenes de personas?

Fuente: www.wired.com