Meta permitió anuncios de deepfake sexual de políticas

⏱ Tiempo de lectura: 4 min

Meta ejecutó campañas publicitarias para Kromix, una herramienta de IA que genera pornografía sintética, incluyendo videos deepfake de políticas estadounidenses prominentes. Los anuncios burlaban las políticas de la plataforma contra contenido sexual y fueron detectados por el Tech Transparency Project antes de su eliminación.

Cómo Meta permitió anuncios de contenido sexual prohibido

Según reportes de Wired, Meta aprobó y distribuyó al menos 32 anuncios de Kromix, una aplicación que se presenta como "estilizador de imágenes IA" pero funciona como generador de pornografía sintética. Los anuncios, dirigidos exclusivamente a usuarios hombres con el lema "Unleash Next-gen AI Magic", mostraban a mujeres que se asemejan a políticas estadounidenses frente a banderas nacionales, seguidas de escenas pornográficas explícitas. La campaña se ejecutó entre 5 y 46 horas por anuncio, con la mayoría recibiendo menos de 10 impresiones. Meta reconoce que sus sistemas automatizados fallaron en detectar violaciones claras de sus propias políticas.

Detalles técnicos y capacidades de la herramienta bloqueada

Kromix, alojada en la App Store de Apple antes de su eliminación, permitía a usuarios pagos cargar fotos para insertar caras en escenarios sexuales, incluyendo violaciones simuladas y contenido de películas conocidas. La voz en off promocional enfatizaba "sin restricciones" y "todos los personajes son personas reales". Apple confirmó que la aplicación agregó contenido prohibido después de pasar la revisión inicial. Cindy Southworth, jefa de seguridad para mujeres en Meta, declaró que la plataforma removió 344.000 anuncios de aplicaciones "nudify" entre noviembre y enero, pero este caso muestra que sistemas nuevos siguen siendo eludidos por tácticas adversariales como usar imágenes de playas o montañas como portada de contenido pornográfico.

Contexto de ataques a políticas mediante deepfakes

Políticas electas, abrumadoramente mujeres, han sido objetivos recurrentes de imágenes deepfake no consentidas durante años. En enero de 2026, cuando Grok generó aproximadamente 3 millones de imágenes sexualizadas de mujeres y menores, funcionarios en Suecia, Inglaterra e Irlanda del Norte fueron atacados específicamente. Benjamin Shultz, investigador principal del American Sunlight Project, subraya que herramientas sin código han convertido retratos oficiales y videos de conferencias de prensa en material para ataques de bajo costo. Meta también removió más de 50 anuncios que contenían material de abuso sexual infantil con deepfakes entre noviembre de 2025 y agosto, algunos de los cuales alcanzaron miles de personas en EE.UU., Reino Unido y Europa.

Aspecto	Detalle
Aplicación bloqueada	Kromix (presentada como estilizador de imágenes IA)
Plataforma de distribución	App Store de Apple (removida tras consulta de Wired)
Anuncios ejecutados en Meta	32 anuncios, duración 5-46 horas, mayoría con menos de 10 impresiones
Audiencia objetivo	Usuarios hombres exclusivamente
Contenido de la campaña	Imágenes deepfake de políticas estadounidenses en actos sexuales explícitos
Anuncios adicionales bloqueados	50+ anuncios con material de abuso sexual infantil deepfake (noviembre 2025-agosto 2026)
Aplicación relacionada	MaskAI (removida de App Store tras consulta sobre deepfakes infantiles)
Removidos por Meta (noviembre-enero)	344.000 anuncios de aplicaciones nudify

Preguntas frecuentes sobre el caso Kromix

¿Por qué Meta permitió estos anuncios si viola sus políticas?

Meta utiliza herramientas automatizadas para revisar anuncios antes de su publicación, pero los anunciantes usan tácticas adversariales como cubrir contenido pornográfico con imágenes benévolas para eludir detección. Meta reconoce que el sistema no es perfecto y sigue investigando cómo mejorarlo.

¿Cuándo fueron detectados y removidos?

Los anuncios fueron descubiertos por el Tech Transparency Project y removidos después de que Wired contactara a Meta para comentar. El sitio publicitario se creó el 3 de agosto con cero seguidores, dos señales que podrían haber indicado actividad sospechosa.

¿Qué acción legal está en curso?

San Francisco envió una carta de cese y desista a Apple en verano 2026 exigiendo remover 13 aplicaciones específicas. Meta ha demandado a al menos una compañía que promocionaba servicios nudify y comparte información de aplicaciones removidas con otras empresas tecnológicas.

Qué falta por confirmar

El alcance real del daño a políticas afectadas no se especifica en la fuente, así como si hay investigaciones formales en curso. Meta planea mejorar detección con IA nueva, pero no clarifica cronograma ni métricas de efectividad. Apple también no detalló cuántas otras aplicaciones similares permanecen en la App Store.

En Inteligencia Artificial, este caso ilustra un patrón persistente: herramientas de síntesis de contenido sexual avanzan más rápido que defensas automatizadas, afectando desproporcionadamente a mujeres en espacios públicos. ¿Debe haber responsabilidad penal para plataformas que monetizan anuncios de contenido sexual no consentido?

Fuente: arstechnica.com