Tres sistemas de policía predictiva en España: VIOGÉN, RISCANVI y VERIPOL: Evaluación desde una perspectiva de derechos humanos

Quina capacitat predictiva tenen els algorismes dissenyats per a prevenir la delinqüència? Són eficaços? Són prou transparents? Tenen biaixos? Per a respondre aquestes preguntes, aquest estudi analitza tres eines algorítmiques utilitzades per l’Administració espanyola per a fer estimacions de risc en els àmbits policial i penitenciari (VioGén, RisCanvi i VeriPol, la darrera amb intel·ligència artificial), amb la finalitat d’avaluar-ne el funcionament, en particular en termes del seu respecte als drets fonamentals.

L’estudi combina mètodes quantitatius i qualitatius, i ha estat realitzat per professors de la Universitat de València i de la Universitat Politècnica de València experts en diferents branques del dret (penal, administratiu i constitucional), així com en estadística i matemàtiques. Els objectius principals són analitzar la capacitat predictiva dels tres sistemes i la seua eficàcia per a assolir l’objectiu que pretenen (reducció de la delinqüència); valorar el seu grau de transparència, tant per a la ciutadania en general com per a les persones directament afectades pel seu ús; identificar i discutir possibles biaixos, i comprovar si respecten el marc legal europeu i espanyol vigent, amb especial atenció a la normativa sobre protecció de dades personals i a la regulació de l’ús de sistemes automatitzats de presa de decisions.

També s’analitza si els costos per als drets fonamentals que comporta l’ús d’aquestes eines excedeixen el que seria legítim, necessari o proporcionat en relació amb el benefici actual o probable en termes de prevenció del delicte. L’estudi subratlla la importància de la transparència per a fer possible el necessari debat públic que ha d’existir sobre eines que, com les tres analitzades, són utilitzades pels poders públics com a suport per a prendre decisions que poden redundar en restriccions de drets fonamentals.