La Commission européenne adoptera une position ferme contre l'IA «à haut risque»

La Commission européenne s'apprête à dévoiler un nouvel ensemble de réglementations pour les produits d'intelligence artificielle. Alors que certaines technologies d'IA seraient purement et simplement interdites, d'autres systèmes potentiellement dangereux seraient forcés de passer par un processus de vérification avant que les développeurs ne puissent les divulguer au grand public.

La législation proposée, par une fuite obtenue par Melissa de Politico Heikkila, interdirait les systèmes qu'elle considère comme «contraires aux valeurs de l'Union ou violant les droits fondamentaux».

La réglementation, si elle est adoptée, pourrait limiter les dommages potentiels causés par les systèmes alimentés par l'IA impliqués dans des zones d'opération à «haut risque» telles que comme reconnaissance faciale et systèmes de crédit social.

Par une déclaration de l'UE :

Cette proposition visera à sauvegarder les valeurs et les droits fondamentaux de l'UE et la sécurité des utilisateurs en obligeant les systèmes d'IA à haut risque à respecter des obligations exigences liées à leur fiabilité. Par exemple, assurer une surveillance humaine et des informations claires sur les capacités et les limites de l'IA.

La législation anticipée de la commission fait suite à des années de recherche en interne et avec des groupes tiers, y compris un livre blanc de 2019 ] détaillant les lignes directrices éthiques de l'UE pour une IA responsable.

On ne sait pas à l'heure actuelle exactement quand une telle législation serait adoptée, l'UE ne lui a donné qu'un calendrier «2021».

Aussi peu clair: ce que cela signifiera exactement pour les Européens startups et équipes de recherche en intelligence artificielle. Il sera intéressant de voir exactement comment les interdictions de développement se dérouleront, d'autant plus qu'aucune réglementation de ce type n'existe aux États-Unis, en Chine ou en Russie.

La réglementation vise clairement les grandes entreprises technologiques et les startups d'IA de taille moyenne qui se spécialisent. dans les technologies d'IA controversées telles que la reconnaissance faciale. Mais, même avec la proposition divulguée, il y a encore peu d'informations sur la manière dont l'UE envisage d'appliquer ces réglementations ou sur la manière exacte dont les systèmes seront contrôlés.