L’UE s’apprête à interdire la police prédictive et la reconnaissance faciale

L’UE se rapproche d’une interdiction historique de la police prédictive et la reconnaissance faciale.

Lors d’un vote serré aujourd’hui sur le fleuron du bloc IA Act, deux commissions de députés européens ont approuvé à une écrasante majorité de nouvelles règles radicales sur l’intelligence artificielle. Le texte passe maintenant au vote de l’ensemble du Parlement européen en juin. Une fois approuvée, la réglementation deviendra la première loi globale sur l’IA au monde.

Lors du vote de jeudi, les députés ont approuvé une version renforcée du livret de règles. La loi interdit désormais la police prédictive et la reconnaissance faciale dans les espaces publics.

Les modifications introduisent également de nouvelles restrictions sur les modèles génératifs, tels que ChatGPT, et la reconnaissance des émotions.

Les militants des libertés civiles ont salué cette décision. Procès équitables, un chien de garde de la justice pénale, a décrit le vote comme «un résultat historique» pour les droits de l’homme.

« Ces systèmes automatiser l’injusticeexacerbant et renforçant le racisme et la discrimination dans les services de police et le système de justice pénale, et alimentant les inégalités systémiques dans la société », a déclaré Griff Ferris, responsable juridique et politique chez Fair Trials.

« Le Parlement européen a franchi une étape importante en votant pour l’interdiction de ces systèmes, et nous les exhortons à terminer le travail lors du vote final en juin. »

L’industrie répond

Dans le secteur de la technologie, les réactions au vote ont été mitigées. La Software Alliance (BSA)un groupe de pression qui représente Microsoft et IBM, a appelé à des éclaircissements supplémentaires.

« L’industrie des logiciels d’entreprise reste préoccupée par la répartition des responsabilités dans le IA chaîne de valeur et le traitement des modèles de fondation », a déclaré Matteo Quattrocchi, directeur des politiques de BSA.

« Les règles telles qu’elles sont actuellement rédigées ne sont pas adaptées pour refléter les rôles des entreprises dans le IA écosystème, ou des différences dans les modèles commerciaux et IA utilisations, et ne répondra probablement pas à certaines des préoccupations soulevées par des applications spécifiques de certains modèles de fondation.

Les experts en protection de la vie privée, quant à eux, peuvent s’attendre à une demande supplémentaire pour leurs services. Isabelle Roccia, MD pour l’Europe à l’Association internationale des professionnels de la vie privéeanticipe un impact significatif.

« Les organisations devront de plus en plus compter sur leurs équipes de confidentialité pour opérationnaliser l’IA, car leur expertise en gestion des données est hautement transférable et extrêmement pertinente pour la gouvernance de l’IA », a-t-elle déclaré.