No existe un método que detecte con certeza el contenido generado por IA. Lo más fiable es combinar tres cosas: herramientas de detección como indicio, credenciales de procedencia como C2PA cuando existen y verificación humana del contexto. Un detector sirve para orientar una revisión, no para dictar sentencia.
¿Se puede saber con certeza si algo lo ha creado una IA?
No, salvo que el propio contenido lleve una marca o una credencial verificable. Sin ellas, cualquier herramienta trabaja con probabilidades: estima si un texto, una imagen o una voz se parece a lo que producen los modelos generativos.
Hay dos razones de fondo. Primero, los modelos mejoran y sus resultados se parecen cada vez más a la producción humana. Segundo, cualquiera puede editar, parafrasear o recomprimir un contenido y borrar las huellas que un detector busca.
Por eso conviene desconfiar de dos pistas muy repetidas. Que un texto parezca «demasiado perfecto» no prueba nada, porque muchas personas escriben con corrección y los asistentes pueden imitar un estilo informal. Tampoco prueba nada que incluya enlaces comerciales: es una práctica habitual en contenido humano de marketing.
Las señales útiles son otras y apuntan a la verificación, no al estilo:
- Citas, estudios o sentencias que no existen al buscarlos.
- Datos concretos que no se pueden contrastar con ningún documento.
- Detalles que se contradicen dentro del mismo texto.
- Ausencia de experiencia propia verificable donde cabría esperarla.
¿Cómo funcionan los detectores de texto y por qué fallan?
Los detectores de texto suelen usar dos enfoques. El primero mide propiedades estadísticas, como la perplejidad (lo predecible que resulta cada palabra para un modelo) y la variación del ritmo entre frases. El segundo es un clasificador, un sistema de machine learning entrenado con ejemplos de textos humanos y textos sintéticos.
La idea es que un LLM tiende a elegir palabras probables, así que su salida es más predecible que la de una persona. Es una tendencia, no una regla. Un texto técnico, una nota de prensa o un ensayo escolar también son predecibles, aunque los haya escrito un humano.
Falsos positivos: el riesgo para las personas
Un falso positivo ocurre cuando el detector acusa de IA a un texto humano. Una investigación de Stanford (Liang et al., «GPT detectors are biased against non-native English writers») mostró que varios detectores clasificaban mal ensayos de personas que escriben en inglés como segunda lengua. Un vocabulario más limitado se parece, para el detector, a una redacción «predecible».
El estudio analiza inglés. No debe extrapolarse sin más al español, pero señala un riesgo que afecta a estudiantes extranjeros, a personas con dislexia y a quien escribe con estructuras muy normalizadas.
Textos editados y parafraseados
El problema inverso son los falsos negativos. Si alguien reescribe a mano partes del texto, lo pasa por un parafraseador o mezcla su redacción con la del asistente, las huellas estadísticas se diluyen. Cuanto más se edita, menos fiable es el veredicto.
Un cálculo que explica por qué un porcentaje no basta
Supón, con cifras inventadas solo para ilustrar, que un profesor recibe 200 trabajos. De ellos, 190 los escribió el alumnado sin IA y 10 con ayuda de un asistente. El detector, por hipótesis, marca erróneamente el 5 % de los textos humanos y acierta en el 80 % de los que sí usaron IA.
- Textos humanos marcados por error: 5 % de 190, unos 9 o 10.
- Textos con IA marcados correctamente: 80 % de 10, es decir, 8.
En total se marcan unos 18 trabajos, y más de la mitad son de alumnos inocentes. Incluso con una tasa de error que parece baja, una alerta aislada no es una prueba. Cuanto menos frecuente es el uso real de IA, peor funciona este razonamiento.
¿Cómo se detectan imágenes, vídeo y voz sintéticos?
En imagen y vídeo se combinan análisis automáticos y revisión manual. Los clasificadores buscan huellas que dejan los generadores, por ejemplo los basados en difusión como los que explicamos en nuestra guía de Stable Diffusion. A mano se revisan manos, texto dentro de la imagen, sombras, reflejos y coherencia de fondos.
Esos fallos visuales desaparecen con cada generación de modelos, así que no son una garantía. Más sólido es investigar el contexto: dónde apareció primero, quién lo publicó, si hay otras tomas del mismo hecho y qué dicen los metadatos. Estos pueden borrarse, de modo que su ausencia no demuestra nada.
En voz, los detectores analizan rasgos acústicos que las voces clonadas pueden dejar. La compresión de una llamada o de un audio reenviado degrada esas pistas y aumenta los errores. Para la voz, el control más eficaz suele ser de proceso: devolver la llamada a un número conocido o confirmar por otro canal.
| Método | Qué analiza | Ventajas | Límites |
|---|---|---|---|
| Detector estadístico o clasificador de texto | Predecibilidad y patrones del lenguaje | Rápido, útil para priorizar revisiones | Falsos positivos, sesgo contra escritores no nativos, se evade editando |
| Marca de agua en texto | Patrón estadístico introducido al generar | Detección con base matemática | Solo funciona si el proveedor la aplica; se debilita al parafrasear |
| Detector de imagen o vídeo | Huellas de generación y artefactos | Puede revisar grandes volúmenes | Queda obsoleto con nuevos modelos; la recompresión lo confunde |
| Detector de voz | Rasgos acústicos de síntesis | Apoyo en prevención de fraude | Pierde fiabilidad con ruido y compresión |
| Credenciales de contenido (C2PA) | Firma criptográfica del historial | Procedencia verificable, no probabilística | Solo existe si se añadió; puede perderse al reenviar |
| Verificación humana del contexto | Origen, coherencia, contraste | Funciona con cualquier formato | Requiere tiempo y método |
¿Qué son las marcas de agua y los estándares de procedencia como C2PA?
La detección a posteriori adivina. Las marcas de agua y la procedencia intentan lo contrario: dejar constancia de cómo se creó el contenido desde el principio. Son dos ideas distintas y conviene no mezclarlas.
Marcas de agua
Una marca de agua puede ser visible, como un logotipo, o invisible, incrustada en los píxeles, en el audio o en la elección de palabras. En texto, una propuesta académica conocida es la de Kirchenbauer y otros, «A Watermark for Large Language Models». El modelo favorece de forma sutil ciertas palabras y un test estadístico posterior comprueba si ese patrón aparece.
Tiene limitaciones claras. Solo detecta contenido de proveedores que la apliquen. Reescribir o traducir el texto puede debilitarla. Y un modelo sin marca, como uno de código abierto ejecutado en local, no deja ninguna.
C2PA y credenciales de contenido
La Coalición para la Procedencia y Autenticidad del Contenido (C2PA) publica un estándar abierto. Permite adjuntar a un archivo un manifiesto firmado criptográficamente con información sobre su origen y sus ediciones: qué cámara o herramienta lo creó, si se usó IA generativa y qué cambios se aplicaron.
Hay que leerlo con precisión. Una credencial válida indica que quien firmó declara ese historial y que el archivo no se alteró después sin dejar rastro. No garantiza que lo mostrado sea verdad. Y la ausencia de credencial no significa que el contenido sea falso: muchas plataformas eliminan los metadatos al subir un archivo.
Qué dice la regulación europea
El Reglamento europeo de inteligencia artificial incluye obligaciones de transparencia en su artículo 50. En esencia, exige que los proveedores marquen en formato legible por máquina los contenidos sintéticos y que quien despliegue deepfakes lo indique. Puedes consultar el texto en EUR-Lex. Conviene comprobar el calendario de aplicación vigente y las posibles modificaciones, porque afecta a cuándo se exigen estas obligaciones. Para seguir el debate, tenemos una sección de ética y regulación.
¿Qué buenas prácticas deben seguir docentes, medios y empresas?
Docentes
- Define qué usos de IA están permitidos en cada tarea y comunícalo antes de que el alumnado trabaje.
- No uses un detector como única prueba. Una alerta debe abrir una conversación, no una sanción.
- Pide procesos, no solo resultados: borradores, historial de versiones, esquemas y fuentes consultadas.
- Complementa con una breve defensa oral del trabajo.
- Cuida los datos personales. Subir trabajos del alumnado a un servicio externo supone tratar datos; consulta antes la política de tu centro.
Para la defensa oral, un asistente puede ayudarte a preparar preguntas. Si aplicas buenas técnicas de prompt engineering, el resultado mejora. Ejemplo de prompt, sin pegar datos identificables del alumno:
Actúa como docente de Historia de 4.º de ESO. Te pego un fragmento anónimo de un trabajo sobre la Transición española. Redacta 5 preguntas orales breves que solo pueda responder bien quien haya elaborado el trabajo: sobre decisiones de redacción, fuentes elegidas y un dato concreto del texto. Añade una pregunta de cada una que exija explicar con palabras propias un concepto del fragmento. No evalúes si el texto parece escrito por una IA.Resultado esperado: cinco preguntas ancladas en el contenido del fragmento, como «¿por qué elegiste esta fuente para explicar tal hecho?». Si el alumno responde con soltura, la sospecha pierde fuerza. Si no sabe explicar su propio trabajo, tienes un motivo mejor fundado para seguir hablando con él.
Medios de comunicación
- Verifica imágenes y vídeos con búsqueda inversa, análisis de metadatos y credenciales de contenido cuando existan.
- Contacta con quien grabó o publicó primero el material y pide el archivo original.
- Contrasta el hecho con otras tomas, testigos o datos de geolocalización.
- No publiques «es falso» o «es IA» basándote solo en un detector. Explica el grado de certeza y el método.
- Publica una política clara sobre el uso de IA en la redacción y etiqueta el material sintético.
Empresas
- Establece controles de proceso frente al fraude con voz o vídeo clonados: doble canal, devolución de llamada y aprobación de pagos por más de una persona.
- Define una política interna de uso de IA y de etiquetado de contenidos generados.
- Pide a proveedores y agencias que declaren si usan IA y qué credenciales de procedencia mantienen.
- Forma a los equipos de atención al cliente, finanzas y comunicación en casos reales de suplantación.
Si gestionas una organización pequeña, nuestra guía de IA para pymes ayuda a ordenar estos usos sin grandes recursos.
¿Por dónde empezar?
Si quieres reducir riesgos de verdad, empieza por el proceso y no por la herramienta. Define una regla simple: ningún contenido relevante se acepta, se publica o se paga basándose solo en un detector. Exige procedencia verificable (credenciales, archivo original, historial de edición) y reserva los detectores para decidir qué revisar primero.
Preguntas frecuentes
¿Hay algún detector de IA que sea fiable al cien por cien?
No. Todos devuelven estimaciones y pueden equivocarse en ambos sentidos. Se pueden usar como apoyo, pero la decisión debe apoyarse en más pruebas.
¿Un texto con faltas o muy pulido es más o menos probable que sea de IA?
Ninguna de las dos cosas permite concluir nada. Las personas escriben bien o mal por muchos motivos, y un asistente puede imitar ambos registros. Es más útil comprobar datos, citas y coherencia.
¿Qué significa que una imagen no tenga credenciales C2PA?
Solo que no las conserva. Puede deberse a que la herramienta no las añadió o a que una plataforma las eliminó al subirla. Tampoco una credencial válida garantiza que el contenido sea veraz.
¿Puedo acusar a alguien de usar IA a partir de un detector?
No es prudente. Un resultado aislado no demuestra autoría y puede perjudicar a personas inocentes. Lo adecuado es contrastar con otras pruebas, pedir explicaciones y respetar el derecho de la persona a defenderse.
