La loi IA entre innovation et protection des consommateurs

Surtout, les modèles d’IA Open source [in tedesco] ils ne doivent pas être trop réglementés, demande LAION, car ils permettent notamment une plus grande transparence et sécurité dans son utilisation. De plus, l’IA open source pourrait empêcher quelques entreprises de contrôler et de dominer la technologie. Ainsi, une réglementation modérée contribuerait à faire progresser la souveraineté numérique de l’Europe.

Trop peu de réglementation porte atteinte aux droits des consommateurs

Au contraire, la Fédération des organisations allemandes de consommateurs (vzbv) [in tedesco] demande plus de droits. Selon sa déclaration, à l’avenir, les décisions des utilisateurs seront de plus en plus influencées par des systèmes de recommandation basés sur l’intelligence artificielle, tels que ChatGPT. Pour exclure les risques de l’IA générative, la loi sur l’IA envisagée doit garantir des droits solides aux consommateurs et la possibilité d’une évaluation indépendante des risques.

« Le risque que les systèmes d’intelligence artificielle conduisent à des recommandations d’achat, des évaluations et des informations incorrectes ou manipulées est élevé. Intelligence artificielle [in tedesco] ce n’est pas toujours aussi intelligent que son nom l’indique », a déclaré Ramona Pop, directrice exécutive de la vzbv. Les conséquences pourraient être graves. « Il est nécessaire de veiller à ce que les consommateurs soient correctement protégés contre la manipulation, la tromperie et la fraude, par exemple par des systèmes de recommandation contrôlés par l’IA. L’accès aux systèmes pour évaluer leurs risques et leur fonctionnement doit être autorisé à des scientifiques indépendants ».

« Nous avons besoin des droits individuels des personnes concernées à appliquer contre les opérateurs d’IA », a poursuivi Pop. Les gens doivent être habilités à corriger et à supprimer si, par exemple, des systèmes comme ChatGPT causent des inconvénients en nuisant à leur réputation. » Les exigences de la vzbv : La loi AI doit garantir que les applications d’intelligence artificielle respectent les lois européennes et respectent les valeurs européennes.

Évaluation des risques : l’auto-évaluation des fabricants ne suffit pas

Le TÜV a un avis similaire [in tedesco]. Bien que l’association TÜV salue en principe le fait que les groupes politiques du Parlement européen soient parvenus à s’entendre sur une position commune pour la loi sur l’intelligence artificielle, elle voit un potentiel d’amélioration supplémentaire. « Des bases juridiques claires sont nécessaires pour protéger les gens des conséquences négatives de la technologie et en même temps pour promouvoir l’utilisation de l’IA dans l’économie », a déclaré Joachim Bühler, PDG de l’association TÜV.

Bühler demande que le respect du cahier des charges soit garanti, notamment en ce qui concerne la transparence des algorithmes. Cependant, un audit indépendant n’est prévu que pour une petite fraction des systèmes d’IA à haut risque. « La plupart des applications d’IA critiques, telles que la reconnaissance faciale, les logiciels de recrutement ou les vérifications de crédit, pourront continuer à être mises sur le marché avec une simple auto-déclaration du fabricant », critique l’homme du TÜV. De plus, la classification en tant qu’application à haut risque sera basée en partie sur une auto-évaluation par les fournisseurs. « Les erreurs de jugement sont inévitables », conclut Bühler.