Grok demanda usuarios por contenido ilegal: xAI apunta a Harwood

⏱ Tiempo de lectura: 4 min

xAI demandó el martes a Terry Wayne Harwood, primer usuario acusado por la empresa de usar Grok para generar contenido sexual infantil ilegal. La demanda llega una semana después de que una menor se sumara a una demanda colectiva representando a varios niños supuestamente perjudicados por Grok. Harwood fue arrestado este año por posesión y distribución de material de abuso sexual infantil (CSAM). xAI alegó que Harwood utilizó al menos dos cuentas durante meses para desnudar o «nudificar» imágenes no sexuales de múltiples víctimas, incluida una niña que parecía tener apenas 10 años.

La demanda de xAI contra Harwood: intentar trasladar la responsabilidad

xAI argumenta que solo los usuarios son responsables del contenido generado por Grok, presentándolo como una «herramienta neutral sujeta al control del usuario». La empresa sostiene que cada respuesta, imagen y generación resulta de los indicadores y direcciones del usuario. Harwood utilizó las cuentas desde el 8 de diciembre hasta el 18 de febrero, modificando indicadores para eludir salvaguardas de contenido. xAI reconoció que algunas solicitudes fueron rechazadas por violar sus políticas, pero alega que Harwood «fue a grandes esfuerzos para eludir» los sistemas de seguridad tecnológica de Grok mediante indicadores engañosos.

Antecedentes: víctimas y reportes sin acción legal

En la demanda colectiva propuesta, se alega que xAI infrareporta a la Red Nacional de Menores Desaparecidos y Explotados (NCMEC). Un reporte de 2026 de NCMEC confirmó que el 90 % de los reportes enviados por xAI «no fueron procesables por la aplicación de la ley porque xAI rechazó incluir información del usuario que permitiera rastrear y localizar a los perpetradores». En el caso de otra víctima, xAI habría rechazado ayudar a la policía a identificar al usuario que subió su imagen a Grok. Se alega que ese usuario creó 7000 imágenes sexualizadas de ella antes de distribuirlas en la red oscura. Elon Musk había mantenido que no había visto ejemplos de CSAM generado por Grok, aunque advirtió en enero que «cualquiera que use Grok para hacer contenido ilegal sufrirá las mismas consecuencias que si sube contenido ilegal».

Datos clave de la demanda y acusaciones

Harwood enfrentó cargos de «distribuir, transportar, exhibir, recibir, vender, comprar, intercambiar o solicitar CSAM a través del uso de una plataforma de inteligencia artificial». xAI no reveló ejemplos de indicadores exitosos de Harwood ni métodos específicos para eludir filtros, probablemente para evitar que otros actores malintencionados los repliquen. En la demanda colectiva, se alega que en el caso de la víctima más reciente, xAI reportó solo un indicador en relación con «violación en grupo» de 7000 resultados dañinos. xAI busca que el tribunal determine que Harwood violó sus términos de servicio y que solo los usuarios—no xAI—son responsables por CSAM generado por Grok y contenido íntimo no consensual (NCII).

Qué cambia con esta información

La demanda representa un giro estratégico: xAI pasa de negar problemas a intentar trasladar toda responsabilidad a usuarios individuales. Si el tribunal falla a favor de xAI, podría fortalecer defensas en futuras demandas colectivas que podrían involucrar miles de víctimas. El caso también expone una tensión regulatoria fundamental: si Grok es una herramienta neutral controlada por usuarios, ¿cómo puede ser responsable un usuario de imágenes generadas por IA?

Dato	Detalle
Demandante	xAI
Demandado	Terry Wayne Harwood
Acusación	Uso de Grok para generar imágenes de abuso sexual infantil (CSAM)
Período de actividad denunciada	8 de diciembre a 18 de febrero
Cuentas utilizadas	Al menos 2 cuentas con nombres de usuario ofuscados
Argumento de xAI	Grok es herramienta neutral; usuarios son responsables de outputs
Reporte NCMEC 2026	90% de reportes de xAI no procesables porque xAI no incluye datos de usuario
Contexto legal	Demanda colectiva propuesta con múltiples víctimas menores; Harwood ya arrestado

Preguntas frecuentes sobre Grok y responsabilidad por CSAM

¿Qué argumenta xAI en su demanda contra Harwood?

xAI sostiene que Grok es una herramienta neutral controlada por usuarios y que Harwood es responsable porque «modificó indicadores para eludir salvaguardas» y violó los términos de servicio. La empresa busca que se reconozca una cláusula de indemnización que establezca que solo usuarios—no xAI—son responsables por contenido generado.

¿Cuál es el antecedente de la demanda?

Una menor se sumó a una demanda colectiva hace una semana alegando que su padrastro usó Grok para crear 7000 imágenes sexualizadas de ella y distribuirlas en la dark web. Luego se suicidó. xAI habría rechazado ayudar a la policía a identificar al usuario. Harwood es el primer caso donde xAI demanda directamente a un usuario.

¿Qué hace xAI respecto a reportes de CSAM?

Según un reporte de NCMEC de 2026, xAI reporta casos a la organización pero el 90% son «no procesables por ley» porque xAI rechaza incluir información que permita rastrear y localizar perpetradores. En demandas civiles, se alega subir reportaje insuficiente de solicitudes dañosas.

El punto clave para la comunidad tech

La estrategia de xAI marca un cambio: dejó de negar que Grok genere CSAM y ahora intenta aislar responsabilidad en usuarios individuales. Si prospera legalmente, podría establecer un precedente donde generadores de IA no son responsables por abuso de su plataforma. Fuente: arstechnica.com

En Inteligencia Artificial, este caso expone una brecha crítica: mientras xAI argumenta que los usuarios generan contenido, un reporte oficial muestra que la empresa obstaculiza activamente la identificación de perpetradores. ¿Una herramienta neutral puede rechazar cooperar con autoridades?