La ética de la inteligencia artificial es el conjunto de principios y prácticas que buscan que estos sistemas respeten los derechos de las personas. Se resume en cinco ideas: transparencia, justicia, privacidad, responsabilidad y seguridad. Hay marcos de referencia (UNESCO, OCDE, Unión Europea) y métodos concretos para aplicarlos en una organización.
¿Qué es la ética de la IA y por qué no basta con las buenas intenciones?
La ética de la IA estudia cómo deben diseñarse, entrenarse y usarse los sistemas de inteligencia artificial para que no dañen a las personas. Pregunta quién se beneficia, quién asume los riesgos y quién responde cuando algo falla.
Importa porque estos sistemas ya intervienen en decisiones con consecuencias: seleccionar candidatos, evaluar solvencia, priorizar casos médicos o moderar contenidos. Un error técnico se convierte en un problema de derechos cuando afecta a muchas personas sin que nadie pueda revisarlo.
Las declaraciones de principios no son suficientes. Una empresa puede publicar un código ético y aun así desplegar un sistema opaco, sin pruebas de sesgo y sin nadie responsable. La ética se mide en procesos, documentos y decisiones verificables.
¿Cuáles son los principios básicos de la ética de la IA?
Los distintos marcos usan palabras diferentes, pero coinciden en cinco principios. Cada uno se traduce en preguntas concretas.
Transparencia y explicabilidad
Las personas deben saber cuándo interactúan con una IA o cuándo una decisión se apoya en un sistema automatizado. Además, deben poder obtener una explicación comprensible de por qué se llegó a ese resultado.
Esto es difícil en los modelos complejos, como las redes neuronales o los LLM. Aun así, se puede documentar con qué datos se entrenó el sistema, para qué sirve y cuáles son sus límites conocidos.
Justicia y no discriminación
Un sistema de machine learning aprende patrones de datos históricos. Si esos datos reflejan desigualdades, el modelo puede reproducirlas o amplificarlas.
La justicia exige medir si el sistema trata de forma distinta a grupos por sexo, origen, edad o discapacidad. También exige corregirlo o descartar el uso si no se logra.
Privacidad y protección de datos
Entrenar y usar IA suele implicar datos personales. El principio pide recoger solo lo necesario, tener una base legal, informar a los afectados y proteger los datos frente a filtraciones o usos distintos del declarado.
En la Unión Europea, el RGPD añade un derecho clave: según su artículo 22, las personas no pueden quedar sometidas, con carácter general, a decisiones basadas únicamente en tratamiento automatizado que les afecten de modo significativo, salvo excepciones y con garantías.
Responsabilidad y supervisión humana
Un algoritmo no responde ante un juez; lo hacen las personas y organizaciones que lo diseñan o despliegan. Debe estar claro quién decide, quién revisa y quién corrige.
La supervisión humana solo es real si la persona tiene tiempo, información y autoridad para contradecir al sistema. Si se limita a pulsar «aceptar», es una formalidad.
Seguridad y robustez
El sistema debe funcionar de forma fiable en las condiciones previstas y resistir errores, ataques y usos indebidos. Incluye pruebas previas, monitorización posterior y un plan para desactivarlo si falla.
¿Qué marcos de referencia existen: UNESCO, OCDE y Unión Europea?
No todos los marcos tienen el mismo peso. Algunos orientan y otros obligan, y conviene distinguirlos.
| Marco | Naturaleza | Qué aporta | Límite |
|---|---|---|---|
| Recomendación de la UNESCO (2021) | Instrumento no vinculante adoptado por los Estados miembros | Visión global centrada en derechos humanos, con atención a género, medio ambiente y diversidad cultural | Depende de que cada país la traduzca en políticas |
| Principios de la OCDE (2019, revisados en 2024) | Estándar intergubernamental no vinculante | Principios sobre bienestar, derechos, transparencia, robustez y rendición de cuentas; sirve de base a muchas políticas nacionales | No impone sanciones |
| Reglamento (UE) 2024/1689 | Ley directamente aplicable en la UE | Obligaciones según el nivel de riesgo, prohibiciones y sanciones | Solo rige en la UE o para sistemas que se usan en ella |
El Reglamento europeo clasifica los sistemas por riesgo. Prohíbe ciertas prácticas, como la puntuación social. Impone requisitos estrictos a los sistemas de «alto riesgo», entre ellos algunos usos en empleo, educación o acceso a servicios esenciales. Y exige transparencia en casos como los chatbots o los contenidos sintéticos.
Las prohibiciones se aplican desde febrero de 2025. El calendario del resto de obligaciones ha sido objeto de propuestas de ajuste, así que conviene consultar el vigente antes de planificar. Tienes un resumen en nuestra guía del Reglamento europeo de inteligencia artificial.
Para lectores de Latinoamérica, la UNESCO y la OCDE son el punto de partida más común. Las leyes nacionales varían mucho y están en distintas fases de desarrollo, por lo que hay que revisar la normativa de cada país.
¿Qué dilemas éticos reales ha provocado la IA?
Los casos documentados muestran que los problemas no son hipotéticos. Estos cuatro se repiten en el debate público.
- Selección de personal. En 2018, Reuters informó de que Amazon abandonó una herramienta experimental de reclutamiento porque penalizaba currículos asociados a mujeres. Había aprendido de un historial de contrataciones dominado por hombres.
- Justicia penal. En 2016, ProPublica analizó el sistema COMPAS, usado en Estados Unidos para estimar el riesgo de reincidencia. Concluyó que los errores se distribuían de forma desigual entre grupos raciales. La metodología fue discutida, y el caso mostró que existen varias definiciones de «justicia» matemática que no pueden cumplirse a la vez.
- Reconocimiento facial. El estudio «Gender Shades» (2018), de Joy Buolamwini y Timnit Gebru, halló que varios sistemas comerciales tenían peores resultados con mujeres de piel oscura. El dato de partida determinaba quién sufría los errores.
- Responsabilidad ante un chatbot. En 2024, un tribunal canadiense responsabilizó a Air Canada por información errónea que dio su asistente virtual a un cliente. La empresa no pudo escudarse en que «lo dijo el chatbot».
También hay dilemas sin sentencia. ¿Es legítimo entrenar modelos con obras o datos personales publicados en internet? ¿Cuándo un contenido generado debe etiquetarse? ¿Cuánta vigilancia es aceptable a cambio de seguridad? Aquí las respuestas dependen de la ley, del contexto y del equilibrio entre derechos.
¿Cómo se aplica la ética de la IA en una organización?
No hace falta un departamento enorme. Una pyme puede empezar con un proceso sencillo y repetible, como los que describimos en nuestra guía de IA para pymes.
- Inventaría los usos. Lista qué herramientas de IA se utilizan, para qué, con qué datos y quién las gestiona. Incluye las que empleen los empleados por su cuenta.
- Clasifica el riesgo. Pregúntate si el sistema afecta a derechos, empleo, salud, crédito o menores. Si es así, aplica más controles y revisa si encaja en el «alto riesgo» del Reglamento.
- Asigna responsables. Cada uso necesita un propietario con nombre y apellidos, y una persona que pueda detenerlo.
- Evalúa datos y sesgos. Revisa el origen de los datos, el consentimiento y la protección de datos. Mide resultados por grupos antes de lanzar.
- Informa y ofrece vías de reclamación. Avisa a las personas cuando interactúan con IA y permite pedir revisión humana.
- Monitoriza y documenta. Registra incidentes, revisa periódicamente y forma al equipo.
Ejemplo resuelto: auditar un filtro de currículos
Una empresa usa una herramienta que preselecciona candidatos. Antes de seguir, compara las tasas de selección por grupo. Estos datos son hipotéticos y sirven para ilustrar el cálculo.
- Candidatos hombres: 100, preseleccionados 40 → tasa del 40 %.
- Candidatas mujeres: 100, preseleccionadas 24 → tasa del 24 %.
- Cociente: 24 ÷ 40 = 0,6.
Una referencia habitual en auditorías es la «regla de los cuatro quintos», de origen estadounidense: si el cociente baja de 0,8, hay indicio de impacto desigual. No es un umbral legal europeo ni una prueba de discriminación, pero obliga a investigar.
Con 0,6, el siguiente paso es revisar qué variables pesan en el modelo, si hay proxies del sexo y si el criterio guarda relación real con el puesto. Si no se corrige, lo prudente es suspender el uso automático. Conviene consultar a un especialista legal, porque el empleo es un ámbito regulado.
Un prompt para revisar un caso de uso
Un asistente como ChatGPT, Gemini o Claude puede ayudarte a preparar la evaluación, aunque no la sustituye. Si quieres afinar este tipo de instrucciones, consulta la guía de prompt engineering.
Actúa como revisor de ética de IA. Evalúo este uso en mi empresa:
un sistema que preselecciona currículos para puestos administrativos.
Datos: currículos de los últimos cinco años. Decide una persona de RR. HH.
Para cada principio (transparencia, justicia, privacidad, responsabilidad,
seguridad) indica: 1) riesgo principal, 2) pregunta que debo responder,
3) prueba o evidencia que debo reunir. Termina con una lista de
5 acciones priorizadas. No des asesoramiento legal; señala qué puntos
debería revisar un especialista.El resultado esperado es una tabla o lista con riesgos como sesgo histórico en los datos, falta de información a los candidatos o revisión humana meramente formal. Trata esa salida como un borrador de checklist y valida cada punto con tu equipo.
¿Por dónde empezar?
Si quieres aplicar la ética de la IA en tu organización, empieza por el inventario de usos: sin saber qué sistemas tienes, quién los gestiona y qué datos tocan, no puedes evaluar nada más. Después, elige el uso que afecte a más personas y somételo a la auditoría del apartado anterior. Para seguir las novedades normativas, consulta nuestra sección de ética y regulación y el glosario de inteligencia artificial.
Preguntas frecuentes
¿La ética de la IA es lo mismo que cumplir la ley?
No. La ley fija un mínimo obligatorio y la ética pide ir más allá cuando el riesgo para las personas lo justifica. Algo puede ser legal y aun así injusto o poco transparente.
¿Quién es responsable si una IA causa un daño?
Responden las personas y organizaciones que la diseñan, la comercializan o la despliegan, según su papel y la norma aplicable. El caso del chatbot de Air Canada muestra que una empresa no puede desentenderse de lo que dice su sistema.
¿Se puede eliminar por completo el sesgo de un modelo?
No de forma absoluta. Se puede medir, reducir y vigilar, pero las definiciones de equidad pueden entrar en conflicto entre sí. Por eso importa documentar qué criterio se eligió y por qué.
¿Los marcos de la UNESCO y la OCDE son obligatorios?
No son vinculantes por sí mismos. Funcionan como referencia y orientan leyes y políticas nacionales. El Reglamento europeo, en cambio, sí es de obligado cumplimiento en la UE.
