Un outil de police prédictive montre que même les législateurs de l’UE peuvent être des cibles

La police prédictive a révélé un nouveau groupe de futurs criminels : les eurodéputés.

Un nouveau système de test a mis en lumière cinq politiciens européens comme « à risque » de commettre de futurs crimes. Heureusement pour eux, ce n’est pas un outil utilisé par les forces de l’ordre, mais un outil conçu pour mettre en évidence les dangers de tels systèmes.

Le projet est l’idée de Procès équitables, un chien de garde de la justice pénale. L’ONG milite pour l’interdiction de la prédiction policière, qui utilise données des analyses pour prévoir quand et où les crimes sont susceptibles de se produire – et qui peut les commettre.

Les partisans soutiennent que l’approche peut être plus précise, objective et efficace que les services de police traditionnels. Mais les critiques avertissent qu’il ancre les préjugés historiques, cible de manière disproportionnée les groupes marginalisés, amplifie la discrimination structurelle et porte atteinte aux droits civils.

« Il peut sembler incroyable que les autorités chargées de l’application de la loi et de la justice pénale fassent des prédictions sur la criminalité en fonction des origines, de la classe, de l’ethnicité et des associations des personnes, mais c’est la réalité de ce qui se passe dans l’UE », a déclaré Griff Ferris, Senior Legal and Policy. Officier des procès équitables.

En effet, la technologie est de plus en plus populaire dans L’Europe . En Italie, par exemple, un outil connu sous le nom de Dalia a analysé données ethniques profiler et prédire la criminalité future. Aux Pays-Bas, entre-temps, la soi-disant liste des 600 meilleurs a été utilisé pour prévoir quels jeunes commettront des crimes à fort impact. Un sur trois personnes sur la liste – dont beaucoup ont signalé harcelés par la police – se sont avérés être d’origine marocaine.

Pour illustrer les impacts, Fair Trials a développé une simulation d’évaluation du comportement criminel futur.

Contrairement à de nombreux systèmes réels utilisés par la police, l’analyse a été rendue entièrement transparente. Le test utilise un questionnaire pour dresser le profil de chaque utilisateur. Plus ils donnent de réponses « Oui », plus leur résultat de risque est élevé. Vous pouvez l’essayer par vous-même ici.

Des politiciens des Socialistes et Démocrates, de Renew, des Verts/ALE et du groupe de gauche ont été invités à tester l’outil. Après avoir répondu au quiz, les députés Karen Melchior, Cornelia Ernst, Tiemo Wölken, Petar Vitanovet Patrick Breyer ont tous été identifiés comme présentant un « risque moyen » de commettre un crime futur.

«Il ne devrait pas y avoir de place dans l’UE pour de tels systèmes – ils ne sont pas fiables, biaisés et injustes.

Le gang ne subira aucune conséquence pour ses infractions potentielles. Dans la vie réelle, cependant, de tels systèmes pourraient les mettre dans les bases de données de la police et les soumettre à une surveillance étroite, à des interrogatoires aléatoires ou à des interpellations et fouilles. Leurs scores de risque peuvent également être partagés avec les écoles, les employeurs, les agences d’immigration et les services de protection de l’enfance. Algorithmes ont même conduit les gens à être emprisonnés avec peu de preuves.

« J’ai grandi dans un quartier à faible revenu, dans un pays pauvre d’Europe de l’Est, et l’algorithme m’a présenté comme un criminel potentiel », a déclaré Petar Vitanov, député européen du Parti socialiste bulgarea déclaré dans un communiqué.

« Il ne devrait pas y avoir de place dans l’UE pour de tels systèmes – ils ne sont pas fiables, biaisés et injustes. »

Fair Trials a publié les résultats des tests au milieu d’appels croissants pour interdire la police prédictive.

Le sujet s’est avéré source de discorde dans les propositions de loi sur l’IA, qui devrait devenir le tout premier cadre juridique sur l’intelligence artificielle. Certains législateurs font pression pour une interdiction totale de la police prédictive, tandis que d’autres veulent donner une marge de manœuvre aux forces de l’ordre.

Fair Trials a donné aux partisans des systèmes une nouvelle raison de reconsidérer leur point de vue : la technologie peut également les cibler.