El sistema penitenciario en Cataluña se ha valido durante 15 años de RisCanvi, un algoritmo diseñado para apoyar a los jueces en decisiones delicadas como la concesión de tercer grado o libertad condicional. No obstante, una auditoría inversa realizada por Eticas Foundation ha revelado que la actuación de este programa es cuestionable y parece ser impredecible en sus resultados.
RisCanvi calcula el riesgo de reincidencia de los presos en base a diversas variables, pero su funcionamiento y la estructura del algoritmo no son de dominio público. Esta falta de transparencia ha generado dudas sobre su fiabilidad y justicia en la toma de decisiones.
La Generalitat de Cataluña ha rechazado una auditoría convencional gratuita, lo que llevó al equipo de Eticas Foundation a realizar una auditoría inversa. Durante el proceso, se consultó a expresos, educadores sociales, psicólogos, juristas y activistas, así como se analizaron datos públicos de individuos liberados de prisiones catalanas en 2015. Los resultados apuntan a posibles fallas en la equidad y fiabilidad de RisCanvi.
Según Gemma Galdon, fundadora de Eticas.ai, RisCanvi no ha sido evaluado en cuanto a su impacto, incumpliendo normativas vigentes sobre inteligencia artificial en España. La falta de colaboración de las autoridades ha dificultado el proceso de auditoría y ha generado desconfianza en torno al algoritmo.
Una herramienta cuestionable
RisCanvi se actualiza semestralmente con información proporcionada por los funcionarios penitenciarios, quienes introducen informes de los reclusos en el sistema. El algoritmo considera una serie de factores para determinar el nivel de riesgo del interno, dividiendo en bajo, medio o alto riesgo.
La auditoría ha revelado que la ponderación de estos factores para la evaluación de riesgo no es pública, lo que genera preocupación sobre la objetividad y la posibilidad de manipulación de los resultados. Expertos consultados han expresado dudas sobre la capacidad de un algoritmo para predecir el comportamiento humano y han señalado la importancia de la transparencia en estos procesos.
Evaluación y críticas
Expertos en ética algorítmica han cuestionado la utilidad de realizar auditorías a algoritmos como RisCanvi, argumentando que este enfoque puede validar sistemas cuestionables. A pesar de que el algoritmo busca estandarizar la evaluación de riesgo, su aplicación no es vinculante, pero sí obligatoria.
En medio de las críticas, se destaca la necesidad de analizar a fondo el rol de la justicia y de los sistemas algorítmicos en los procesos administrativos. La falta de claridad en torno a RisCanvi plantea interrogantes sobre la equidad y la efectividad de su función en el sistema penitenciario catalán.
Santander (España), 1985. Después de obtener su licenciatura en Periodismo en la Universidad Complutense de Madrid, decidió enfocarse en el cine y se matriculó en un programa de posgrado en crítica cinematográfica.
Sin, embargo, su pasión por las criptomonedas le llevó a dedicarse al mundo de las finanzas. Le encanta ver películas en su tiempo libre y es un gran admirador del cine clásico. En cuanto a sus gustos personales, es un gran fanático del fútbol y es seguidor del Real Madrid. Además, ha sido voluntario en varias organizaciones benéficas que trabajan con niños.
