UD06 · Notebook 2 — Análisis de un caso ético¶
Objetivo: aplicar un método de análisis ético reproducible a un caso real de sesgo o riesgo de la IA (RA6-a, RA6-c, RA6-f), argumentando con principios deontológicos, métricas y normativa.
Es práctica: se trabaja en clase y no se entrega ni puntúa. Es la preparación del debate y de la auditoría de sesgos con Fairlearn, que sí se entregan.
Fase 1 — Elige el caso¶
Elige uno de estos casos (o propón otro y valídalo con el profesor):
| Caso | Dato de partida | Dónde está en la teoría |
|---|---|---|
| COMPAS (reincidencia penal) | Falsos positivos: 44,9 % en personas negras frente al 23,5 % en blancas, con la misma calibración | §9.4 |
| Obermeyer (gestión sanitaria) | El proxy «coste» en vez de «necesidad»: corregirlo pasaría del 17,7 % al 46,5 % de pacientes negros derivados | §9.5 |
| Amazon 2018 (reclutamiento) | Penalizaba currículos con términos asociados a mujeres | §4.1 |
| Google Photos 2015 (visión) | Etiquetó a personas negras como gorilas; «arreglado» borrando la etiqueta | §4.1 |
| Uber en Tempe 2018 (conducción autónoma) | 69 km/h · detección 6 s antes · 4,7 s sin actuar | §4.1 |
| Deepfake CFO (Hong Kong, 2024) | Fraude de 25,6 M USD con una videollamada falsa | §4.1 |
| Ofqual 2020 (notas de acceso, Reino Unido) | Un algoritmo bajó el 36 % de las notas propuestas por los centros | — |
| Una noticia de actualidad | La que elijas, de las recogidas en el notebook 1 | — |
Cómo no quedarse en la superficie¶
No basta con decir «se vulneró la equidad». Di qué definición de equidad de las seis del §9.2 se vulneró, porque en la mayoría de los casos reales se cumplía otra. Ese es el nivel de análisis que se pide.
✏️ Respuesta: el caso elegido y en dos líneas por qué te interesa.
(escribe aquí)
Fase 2 — Hechos y partes afectadas¶
Separa lo que ocurrió de lo que se opina que ocurrió: es el paso que más se salta.
| Hechos verificables (con fuente) | |
| Datos que faltan para juzgar | |
| Quién decide | |
| Quién se beneficia | |
| Quién sufre las consecuencias | |
| Quién no estaba en la sala cuando se decidió |
Fase 3 — Principios en conflicto¶
Un caso es interesante justo porque dos principios buenos chocan.
| Principio | ¿A favor de qué? | ¿A costa de qué? |
|---|---|---|
✏️ Respuesta: enuncia el conflicto en una frase del tipo «para conseguir X hay que renunciar a Y».
(escribe aquí)
Fase 4 — Análisis técnico¶
✏️ Respuesta: ¿el problema es técnico, de diseño o de decisión? ¿Se habría evitado con más datos, con otro modelo, o no era un problema de modelo?
| Qué sistema se usó | |
| Qué datos | |
| Qué falló técnicamente | |
| Qué habría hecho falta para detectarlo antes |
Fase 5 — Normativa aplicable¶
✏️ Respuesta: completa citando el artículo o considerando, no solo el nombre de la norma.
| Norma | Qué dice sobre este caso | ¿Se cumplió? |
|---|---|---|
| RGPD | ||
| LOPDGDD | ||
| AI Act — nivel de riesgo | ||
| Otra |
Cuidado con la fecha¶
Varios de estos casos son anteriores al AI Act, que se aplica con carácter general desde el 2 de agosto de 2026. La pregunta interesante no es solo «¿era ilegal entonces?», sino «¿sería legal hoy?». Contesta las dos.
Fase 6 — Decisión y propuesta¶
✏️ Respuesta: qué habrías decidido tú, con qué salvaguardas, y qué renuncias asumes. Una decisión sin coste es señal de que no has entendido el conflicto de la Fase 3.
(escribe aquí)
Qué tienes que tener al terminar¶
Las cinco tablas rellenas, las cuatro respuestas de la Fase 4 y los cuatro puntos de la Fase 6, en este mismo notebook. Extensión orientativa: lo que ocuparían dos o tres páginas.
No se entrega: se comenta en clase y te sirve de base para el debate y para la auditoría de sesgos. Las soluciones no se publican.