UD06 · Debate 2 — El algoritmo contra el crimen¶
Actividad evaluable · sesión 4
Segunda de las dos actividades evaluables de la unidad, con la misma rúbrica que el Debate 1. Reflexión escrita en Moodle, máximo 300 palabras, 30 de los 100 puntos.
Pregunta del debate: ¿un sistema judicial en el que un algoritmo decida penas sería más justo o más peligroso?
Este debate cierra la unidad, y no por casualidad: es el que pone a prueba todo lo del §9. La justicia algorítmica es el único caso en el que puedes medir el sesgo, demostrar que dos definiciones de equidad son incompatibles y ver a un tribunal pronunciándose sobre el derecho de defensa.
Antes de clase: el documental¶
Hay que verlo antes de la sesión. Está en las actividades guiadas.
Temas que trae el documental y que conviene tener frescos: sesgos en los datos históricos, saturación judicial, opacidad de los algoritmos y vigilancia predictiva.
Lo que ya sabes de la teoría y aquí vas a usar¶
A diferencia del primer debate, aquí llegas con datos duros. Repásalos:
| De la teoría | El dato | Para qué sirve en el debate |
|---|---|---|
| §9.4 · COMPAS y la calibración | Con puntuación 7/10 reincide el 60 % de blancos y el 61 % de negros: el sistema está bien calibrado | Es el mejor argumento a favor del algoritmo, y es cierto |
| §9.4 · COMPAS y los falsos positivos | Entre quienes no reincidieron, se marcó como alto riesgo al 44,9 % de negros y al 23,5 % de blancos | Es el mejor argumento en contra, y también es cierto |
| §9.4 · Kleinberg et al. (2016) | Con tasas base distintas, cumplir la calibración y la igualdad de oportunidades es matemáticamente imposible | Explica por qué ProPublica y Northpointe tenían razón los dos |
| §9.4 · Estado contra Loomis | El acusado alegó que el secreto del algoritmo violaba su derecho al debido proceso; Wisconsin le dio la razón en las advertencias, no en el fallo | Traslada el debate de la estadística al derecho |
| §9.4 · No hay verdad de referencia | Los datos no dicen quién cometió un delito, sino quién fue condenado | Desmonta el «los números no mienten» |
| §9.5 · Obermeyer (2019) | Un proxy cómodo («coste») produjo discriminación racial sin usar la raza | Prueba de que quitar la variable no basta |
| §9.5 · Paradoja de Simpson | Berkeley 1973: 44,2 % de admisión en hombres frente al 34,6 % en mujeres… que se desvanece al mirar por departamento | Enseña que el sesgo puede estar antes del algoritmo |
| §6.1 · AI Act | La IA en justicia es de alto riesgo: gestión de riesgos, datos de calidad, documentación, supervisión humana | Marca qué sería legal hoy en Europa |
| §9.8 · Ley 15/2022 | Invierte la carga de la prueba: el responsable debe demostrar que no discrimina | Cambia quién tiene que probar qué |
Cómo funciona¶
Se asignan 9 roles distintos por sorteo. Quien no reciba rol será Observador Crítico: habla en su propio nombre, defiende su opinión personal real sobre la justicia algorítmica y lanza las preguntas incómodas en la fase 6. Se califica con la misma rúbrica.
Los roles se sortean en clase y cada persona recibe solo el suyo
Ni las fichas de rol ni el guion se publican: si todos conocen de antemano los argumentos de los demás, la actividad deja de funcionar. Recibirás tu ficha impresa al empezar, con tu postura, tus argumentos y el contraargumento que te van a lanzar.
| Fase | Tiempo | Qué ocurre |
|---|---|---|
| 1 · Presentación del tema | 5-10 min | Contexto y recordatorio de los temas del documental |
| 2 · Normas y sorteo | 5 min | Reparto de roles y reglas |
| 3 · Preparación individual | 5 min | 2-3 argumentos centrales y 1 contraargumento previsto |
| 4 · Defensa individual | ~18 min | 2 minutos por rol |
| 5 · Debate moderado | 15-20 min | Turno abierto con preguntas del profesor por ejes |
| 6 · Turno de los observadores críticos | 10 min | Postura personal, preguntas incómodas y votación rápida |
| 7 · Reflexión | 5-10 min | Votación, cambios de opinión y arranque del escrito |
Las reglas¶
- Respeta los tiempos: dos minutos en la intervención inicial, cronometrados.
- Argumenta desde el rol, identificándote al intervenir: «Como… sostengo que…».
- No se personalizan las críticas: se atacan las posturas, nunca las personas.
- Trae datos. En este debate, más que en el otro: la tabla de arriba es tu munición, y una cifra con su fuente vale por tres opiniones.
- El profesor puede interrumpir con un escenario imprevisto al que todos deben reaccionar.
Ejes por los que va a ir el debate¶
| Eje | Preguntas que van a salir |
|---|---|
| Sesgos y datos | ¿Puede ser imparcial un algoritmo si los datos históricos son racistas? ¿Es justo un sistema que discrimina estadísticamente a un grupo aunque mejore la «eficiencia»? |
| Transparencia y poder | Si el software es privado, ¿cómo se evita que una empresa condicione la justicia? ¿Quién audita al auditor? |
| Garantías procesales | ¿Puede defenderse un acusado de una decisión que ni el juez entiende? ¿La IA agrava o alivia la saturación judicial? |
| Justicia y sociedad | ¿Debería un algoritmo recomendar la libertad condicional sin intervención humana? Si el delito tiene causas sociales, ¿de qué sirve predecir la reincidencia sin ofrecer reinserción? |
Nota sobre la tabla anterior.
El argumento que gana este debate
No es «el algoritmo discrimina» ni «los datos son objetivos». Es entender que la discusión no era estadística, sino normativa: había que elegir una definición de justicia, y esa elección no la resuelve la estadística. Quien llegue a esa idea desde su rol, sea el que sea, estará en la banda alta de la rúbrica.
Cómo se califica¶
La rúbrica, con todos sus niveles, está en las actividades entregables.
| Criterio | Puntos |
|---|---|
| Dominio del rol | 20 |
| Argumentación ética | 20 |
| Participación activa | 15 |
| Empatía y perspectiva | 15 |
| Reflexión escrita | 30 |
Nota sobre la tabla anterior.
70 de los 100 puntos se juegan en el aula
Los cuatro primeros criterios se observan en directo y no se recuperan después.
La reflexión escrita¶
Escrito individual en Moodle, máximo 300 palabras, sobre qué has aprendido al defender una postura ajena:
- ¿Qué te sorprendió de la postura que defendiste?
- ¿Cómo influyen los intereses del rol en la percepción de la IA?
- ¿Cambiaste tu opinión sobre la justicia algorítmica?