El algoritmo que decide cuánto tiempo sigues preso
Por Osvaldo Hernández Olivera
Abogado en Derecho Informático | Opinión Legal sobre Tecnología y Futuro .
En algunos estados de México, una herramienta de inteligencia artificial ya participa en decisiones de libertad condicional. Sin auditoría, sin transparencia y sin que nadie pueda impugnarla .
Imagine que una persona lleva tres años en prisión preventiva: el juez que debe evaluar su preliberación y consulta un sistema automatizado que calcula su probabilidad de reincidir. El sistema dice: riesgo alto. No explica por qué; no cita evidencia específica de su conducta, solo utiliza variables como su código postal, su nivel educativo, el historial de su entorno familiar. La persona no puede ver el modelo, su abogado tampoco. Y el juez, honestamente, tampoco lo entiende del todo. Pero el número está ahí y pesa.
Lo que ya pasa, aunque nadie lo anuncia .
México no tiene una ley que regule el uso de inteligencia artificial en el sistema de justicia; tampoco tiene un registro público sobre qué herramientas automatizadas se utilizan en juzgados, centros penitenciarios o instancias de ejecución de sentencias. Lo que sí tiene son evidencias fragmentadas — reportes de organizaciones civiles, declaraciones de funcionarios estatales, licitaciones públicas disponibles en compranet — sobre herramientas de evaluación de riesgo de reincidencia que ya se usan en algunos estados para informar decisiones sobre libertad condicional, medidas cautelares y condiciones de internamiento.
No es un fenómeno nuevo en el mundo .
En Estados Unidos, el sistema COMPAS — Correctional Offender Management Profiling for Alternative Sanctions — es un sistema de gestión de casos y apoyo a la toma de decisiones, lleva años siendo utilizado en varios estados para recomendar sentencias y condiciones de libertad. En 2016, una investigación de ProPublica demostró que el modelo clasificaba a personas afroamericanas como de mayor riesgo que a personas blancas con historiales similares. El sesgo era estadísticamente medible, éticamente inaceptable y legalmente invisible, porque nadie estaba obligado a divulgarlo; México va por ese mismo camino sin el debate que al menos en Estados Unidos existe.
El debido proceso que el algoritmo no conoce .
La Constitución mexicana garantiza en su artículo 20 el derecho a conocer los datos del proceso, a ofrecer pruebas y a contar con una defensa adecuada. El Código Nacional de Procedimientos Penales establece que toda decisión que afecte la libertad debe estar motivada y fundada. Esos principios tienen un problema de compatibilidad estructural con los modelos de IA opacos: si el modelo no puede explicar sus conclusiones en términos que un abogado pueda impugnar y un juez pueda revisar, la motivación de la decisión es, en el mejor de los casos, incompleta. ¿Puede un imputado solicitar la revisión del modelo que lo clasificó como reincidente? ¿Puede su defensor pedir los datos de entrenamiento para demostrar sesgo? ¿Existe algún mecanismo de impugnación específico para decisiones judiciales informadas por IA? La respuesta a las tres preguntas en México hoy, es la misma: NO . Ese mecanismo no existe, no hay esa obligación. Y en ausencia de regulación, la práctica simplemente avanza.
La opacidad que siempre beneficia al sistema, nunca al preso .
Hay algo particularmente grave en aplicar opacidad algorítmica en el sistema penitenciario. En otros contextos — crédito, publicidad, recomendaciones de contenido — el sesgo de un algoritmo tiene consecuencias económicas o informativas. En el sistema de justicia, el sesgo de un algoritmo puede significar años adicionales de privación de libertad para una persona que, si hubiera tenido un proceso transparente, habría salido antes. El argumento a favor de estas herramientas es siempre el mismo: reducen la subjetividad del criterio humano, son consistentes, son escalables. Es un argumento que tiene algo de verdad y mucho de coartada. Porque la subjetividad humana, al menos puede ser interrogada, confrontada y en ocasiones avergonzada hasta cambiar. Un modelo entrenado con datos históricos de un sistema de justicia que ya discriminaba, reproduce esa discriminación a escala industrial, sin posibilidad de ruborizarse.
En México, podría haber personas que lleven más tiempo en prisión de lo que deberían porque un algoritmo que nadie puede ver calculó que son peligrosas. Eso no es justicia asistida por tecnología: es prejuicio automatizado. Y la diferencia importa cuando quien la paga, lo hace con años de su vida .
