UD06 · Taller 1 — Análisis de un caso ético¶
Entregable · cuenta en el 40 % de actividades del RA6
Se trabaja en parejas (salvo indicación del profesor) durante la sesión 3, y se entrega en Moodle un informe breve. Este taller es además la preparación técnica de los dos debates: el caso que analices aquí te sirve de munición allí.
Objetivo: aplicar un método de análisis ético reproducible a un caso real de sesgo o riesgo de la IA (RA6-a, RA6-c, RA6-f), argumentando con principios deontológicos, métricas y normativa.
Entrega: informe en PDF o Markdown con las cinco tablas rellenas y las respuestas de la Fase 6.
Hazlo en el notebook
Tienes este taller como notebook con las celdas a rellenar: UD06_T01_analisis_caso_etico.ipynb. Esta página es la referencia; lo que se entrega es el notebook completado.
Fase 1 — Elige el caso¶
Elige uno de estos casos (o propón otro y valídalo con el profesor):
| Caso | Dato de partida | Dónde está en la teoría |
|---|---|---|
| COMPAS (reincidencia penal) | Falsos positivos: 44,9 % en personas negras frente al 23,5 % en blancas, con la misma calibración | §9.4 |
| Obermeyer (gestión sanitaria) | El proxy «coste» en vez de «necesidad»: corregirlo pasaría del 17,7 % al 46,5 % de pacientes negros derivados | §9.5 |
| Amazon 2018 (reclutamiento) | Penalizaba currículos con términos asociados a mujeres | §4.1 |
| Google Photos 2015 (visión) | Etiquetó a personas negras como gorilas; «arreglado» borrando la etiqueta | §4.1 |
| Uber en Tempe 2018 (conducción autónoma) | 69 km/h · detección 6 s antes · 4,7 s sin actuar | §4.1 |
| Deepfake CFO (Hong Kong, 2024) | Fraude de 25,6 M USD con una videollamada falsa | §4.1 |
| Ofqual 2020 (notas de acceso, Reino Unido) | Un algoritmo bajó el 36 % de las notas propuestas por los centros | — |
| Una noticia de actualidad | La que elijas | — |
Fase 2 — Hechos y partes afectadas¶
| Elemento | Descripción |
|---|---|
| ¿Qué ocurrió? (hechos, con fechas) | |
| ¿Quiénes son las partes afectadas? | |
| ¿Quién decidió desplegar el sistema y con qué finalidad declarada? | |
| ¿Qué datos usaba el sistema? | |
| ¿Qué decisión tomaba el sistema y qué efecto tenía sobre una persona? | |
| ¿Había intervención humana significativa? |
Fase 3 — Principios en conflicto¶
Identifica al menos dos principios éticos en conflicto —eficiencia frente a no discriminación, precisión frente a equidad, autonomía frente a supervisión humana, seguridad frente a privacidad— y apóyalos en los marcos del §4.3 (ACM, IEEE EAD, UNESCO, Directrices de la UE).
| Principio | ¿Quién lo defiende en tu caso? | ¿A qué se opone? | Marco que lo respalda |
|---|---|---|---|
Nota sobre la tabla anterior.
Cómo no quedarse en la superficie
No basta con decir «se vulneró la equidad». Di qué definición de equidad de las seis del §9.2 se vulneró, porque en la mayoría de los casos reales se cumplía otra. Ese es el nivel de análisis que se pide.
Fase 4 — Análisis técnico¶
Para tu caso, responde:
- ¿Qué fuente de sesgo o de riesgo está presente? (datos históricos, subrepresentación, variable proxy, objetivo que minimiza el error agregado, el propio proceso de desarrollo, opacidad, manipulación…)
- ¿Qué métrica de equidad se vería afectada: paridad demográfica, igualdad de oportunidades o calibración? ¿Alguna se cumplía?
- ¿Hay paradoja de Simpson en juego? Es decir, ¿podría la métrica global decir algo distinto de las métricas por subgrupo?
- Si el sistema fuera tuyo, ¿qué modo de fallo habría detectado un FMEA (§7.3) antes de desplegarlo?
Fase 5 — Normativa aplicable¶
| Norma | ¿Aplica? | ¿Por qué? |
|---|---|---|
| RGPD art. 5 (principios: minimización, limitación de la finalidad) | ||
| RGPD art. 22 (decisiones automatizadas) | ||
| RGPD art. 25 (privacy by design) y art. 35 (EIPD) | ||
| LOPDGDD (derechos digitales concretos) | ||
| AI Act: nivel de riesgo y obligaciones asociadas | ||
| AI Act art. 50 (transparencia) | ||
| Ley 15/2022 (igualdad de trato; inversión de la carga de la prueba) | ||
| Directiva 2024/2853 (responsabilidad del producto) |
Nota sobre la tabla anterior.
Cuidado con la fecha
Varios de estos casos son anteriores al AI Act, que se aplica con carácter general desde el 2 de agosto de 2026. La pregunta interesante no es solo «¿era ilegal entonces?», sino «¿sería legal hoy?». Contesta las dos.
Fase 6 — Decisión y propuesta¶
Como equipo de auditoría, redactad:
- La decisión sobre el caso: ¿el sistema podría desplegarse, con condiciones, o no?
- Las medidas de corrección, separadas en: datos, modelo, proceso y gobernanza.
- Cómo lo documentaríais: qué iría en el datasheet del conjunto de datos y qué en la model card del modelo.
- Quién asume la responsabilidad si el sistema vuelve a fallar, y con qué norma lo justificáis.
Entrega¶
Sube a Moodle un documento con las cinco tablas rellenas, las cuatro respuestas de la Fase 4 y los cuatro puntos de la Fase 6. Extensión orientativa: dos o tres páginas.
Corrección
Las soluciones no se publican: se corrigen y comentan en clase.