Las instituciones penitenciarias españolas llevan ya algún tiempo usando herramientas informáticas predictivas para establecer los niveles de riesgo de reincidencia de los presos. En The Conversation explican los distintos algoritmos que se usan, en particular la Tabla de Valoración de Riesgo y el RisCanvi. Pero apuntan que a pesar de ser herramientas tecnológicas no son infalibles y en ocasiones reproducen sesgos discriminatorios y dan falsos positivos. Por lo que se plantean dudas a la hora de dejar en manos de un algoritmo la decisión de otorgar o no una libertad condicional.

sakhorn/Shutterstock
Lorena Alemán Aróstegui, Universidad Pública de Navarra

Hace ya varios años que, en las cárceles españolas, se utilizan algoritmos para intentar predecir cómo se comportarán las personas presas. ¿Cometerá Pablo un nuevo delito? ¿Cualquier delito o uno violento? ¿Intentará quebrantar su condena?

Estas y otras preguntas son las que tratan de responderse por medio de herramientas informáticas predictivas en las prisiones. La información que devuelven estos sistemas se traduce en niveles de riesgo. Por ejemplo, el algoritmo indica que Pablo presenta un riesgo alto de cometer un nuevo delito violento.

Y no solo eso. Los niveles de riesgo que se obtienen por este medio se tienen en cuenta en la toma de decisiones penitenciarias que afectan a la libertad. ¿Conviene conceder a Laura un permiso de salida de tres días? ¿Es adecuado clasificarla en tercer grado para que cumpla la pena en semilibertad? ¿Y concederle la libertad condicional?

Inseguridad, gestión del riesgo y cárceles

El veloz desarrollo tecnológico de las últimas décadas, la globalización y los procesos de desregulación de los mercados y de debilitación del Estado social han generado nuevos peligros y, sobre todo, un clima de incertidumbre y miedo. Con todo ello, se ha generalizado una sensación de inseguridad que ha llevado a hablar de que vivimos en una sociedad del riesgo.

Alrededor de esta idea, las técnicas de detección y control de riesgos, propias del sector empresarial y de los seguros, se han extendido a otros ámbitos. Su manifestación en lo punitivo se ha denominado new penology –nueva penología, la ciencia que atañe a la aplicación de castigos– y ha llevado a que el cumplimiento de las penas de prisión tienda a guiarse por modelos basados en el riesgo.

En estos modelos, el objetivo es minimizarlo y, al mismo tiempo, utilizarlo como información que guíe la ejecución de la pena, y contribuir así a la propia gestión del mismo. Es decir, el tiempo que Laura y Pablo permanecerían encerrados dependería de sus niveles de riesgo y el tratamiento penitenciario tendría como objetivo reducir esos niveles al máximo.

Instrumentos para medir el riesgo

Aquí entran en juego los algoritmos. En las cárceles, se utilizan herramientas informáticas basadas en modelos predictivos para determinar los niveles de riesgo que presentan las personas presas en cada momento.

Se construyen a partir de estudios estadísticos que indican que determinadas variables (características de la persona, de su personalidad, de su entorno sociofamiliar, de su situación actual o de su pasado, etc.) son factores de riesgo.

Por ejemplo, si estadísticamente se aprecia una correlación significativa entre no tener recursos económicos y cometer delitos, este será un factor de riesgo que formará parte de la herramienta. Después, el algoritmo combina esas variables, les otorga distintos pesos –también en función de datos estadísticos– y genera unos resultados en forma de niveles de riesgo.

Tabla de Valoración de Riesgo y RisCanvi

En las cárceles españolas, hay dos herramientas que se utilizan para medir riesgos con base en algoritmos: la TVR y el protocolo RisCanvi.

Por un lado, la Tabla de Valoración de Riesgo (TVR) fue creada a principios de la década de 1990, para usarla únicamente en la concesión de permisos de salida. No se ha actualizado desde entonces y este es uno de los motivos principales por los que se cuestiona que sea fiable: ¿qué capacidad predictiva tiene en la actualidad, si funciona con datos estadísticos de hace más de treinta años? Además, en ella tiene un peso muy importante la variable de extranjería: si una persona es extranjera, automáticamente devuelve entre un 85% y un 100% de probabilidades de quebrantamiento de la ley.

Por otro lado, RisCanvi es una herramienta que se utiliza desde el año 2009 en las cárceles catalanas. Se aplica a todas las personas encarceladas, de forma periódica, para todas las decisiones.

Desde que una persona ingresa en presión, se le evalúa con RisCanvi, y en función de sus resultados, se le pautan unos programas de tratamiento. Cada vez que hay que tomar una decisión penitenciaria importante, como la concesión de un permiso o la clasificación, se vuelve a aplicar el protocolo.

RisCanvi es central en el modelo penitenciario catalán, del que se puede afirmar que es un modelo basado en el riesgo. Un aspecto positivo de la herramienta es que se ha recibido actualizaciones, se ha trabajado en la mejora del algoritmo y, además, ha sido sometida a estudios críticos y auditorías.

Apariencias, sesgos y falsos positivos

La medición de riesgos en el medio penitenciario con estas herramientas se presenta como una técnica científico-estadística basada en la evidencia empírica, y esto genera problemas porque los algoritmos parecen objetivos e infalibles.

Sin embargo, el concepto de riesgo no es neutro, sino que se construye cultural y políticamente. A través de él, se reproducen sesgos discriminatorios a los que se da apariencia científica y que quedan ocultos en la oscuridad del algoritmo.

Además, la medición del riesgo, como el cálculo de la probabilidad de que ocurra un suceso, está condicionado por el tipo de suceso de que se trate. No es lo mismo hacer este cálculo sobre fenómenos físicos, que se rigen por leyes naturales, que respecto al comportamiento de una persona, mucho más impredecible.

De hecho, los estudios demuestran que la capacidad predictiva de los algoritmos en el ámbito penitenciario es muy limitada: en torno a la mitad de las veces fallan. Y, sobre todo, lo hacen generando falsos positivos: se detecta que hay riesgo de que la persona vuelva a delinquir y, sin embargo, no lo hace.

En juego… la libertad

El mayor problema de los algoritmos en las prisiones es que puedan llegar a condicionar la libertad.

¿Un resultado de riesgo alto impedirá que Pablo disfrute del permiso de salida que ha solicitado? ¿Qué ocurrirá si el equipo técnico de la cárcel no está de acuerdo con ese nivel de riesgo? ¿Cómo lo valorará el juzgado de vigilancia penitenciaria? ¿Y cómo lo puede cuestionar su abogada?

Está prohibido que la administración penitenciaria tome decisiones basándose exclusivamente en algoritmos. Sin embargo, quienes participan en estos procesos decisorios, tanto desde la Administración como en el ámbito judicial, señalan la relevancia del dato del riesgo y las dificultades que tienen para contradecir una información que es aparentemente científica –y que no saben cómo rebatir porque no entienden cómo se ha generado–.

El uso de algoritmos tiene numerosas ventajas y puede resultar muy positivo en determinados ámbitos. Sin embargo, cuando la libertad está en juego… hay que sacarlos de la partida.

Lorena Alemán Aróstegui, Profesora Ayudante Doctora en Derecho Penal, Universidad Pública de Navarra

Este artículo fue publicado originalmente en The Conversation. Lea el original.

Radiocable.com y su programa La Cafetera se financian con las aportaciones de lectores y oyentes. Necesitamos tu ayuda para sobrevivir. Si te gusta el periodismo que defiende el programa y sientes que te acompaña, hazte suscriptor-mecenas aquí.