L'un des domaines où le Règlement général sur la protection des données (GDPR) laissera sa marque en évidence est l'industrie de l'intelligence artificielle. Les données sont le pain et le beurre de AI contemporaine et en vertu des règlements précédemment laxistes, les entreprises de technologie s'étaient aidées aux données des utilisateurs sans craindre les conséquences.
Tout a changé le 25 mai quand GDPR est entré en vigueur. Le GDPR exige que toutes les entreprises qui collectent et gèrent les données des utilisateurs dans l'Union européenne soient plus transparentes sur leurs pratiques et plus responsables de la sécurité et de la confidentialité de leurs utilisateurs. Le défaut de se conformer entraînera une pénalité qui s'élève à 20 millions d'euros ou quatre pour cent des revenus de l'entreprise, selon le plus élevé des deux.
Naturellement, une réglementation plus stricte remettra en question les pratiques actuelles des IA. données pour la recherche et l'amélioration de leurs services. Mais cela ne signifie pas nécessairement que cela entravera la recherche sur l'intelligence artificielle et l'innovation . L'industrie devra (doit) trouver des moyens de continuer à développer de nouvelles technologies d'IA tout en restant respectueuse de la vie privée des utilisateurs.
Propriété des données
Mais dans le cadre du GDPR, ils devront non seulement être transparents sur toutes les données qu'ils recueillir, mais ils devront également laisser les utilisateurs obtenir ces données ou demander à l'entreprise de les supprimer entièrement.
La suppression de données peut s'avérer être un défi pour deux raisons. Tout d'abord, les entreprises IA aiment conserver les données des utilisateurs, même après que les utilisateurs quittent leur plate-forme. Cela leur permet de comparer et de prédire les comportements des autres utilisateurs. Il leur serait plus facile de conserver les données telles quelles. Maintenant, ils devront aller les étapes supplémentaires pour anonymiser les données de l'utilisateur s'ils veulent le garder pour leur IA après que l'utilisateur demande de l'effacer.
Le deuxième problème avec la suppression des données est comment suivre toutes les instances d'un utilisateur. données à travers le backend d'une entreprise. Les entreprises IA ont tendance à utiliser divers outils et plateformes pour créer et former leurs algorithmes IA. Parfois, ils envoient les données à des services tiers qui exécutent ces algorithmes pour le compte de l'entreprise. Ils devront adopter des pratiques et mettre en place des outils leur permettant de suivre leurs données au fur et à mesure qu'elles se déplacent et se dupliquent sur les serveurs de l'entreprise et ailleurs
Le problème de la boîte noire
Selon le texte du GDPR, les entreprises doivent informer les utilisateurs de «l'existence d'une prise de décision automatisée» et leur fournir «des informations significatives sur la logique impliquée, ainsi que la signification et les conséquences envisagées d'un tel traitement pour les données Cela signifie que si votre entreprise gère des algorithmes IA, vous devez expliquer à vos utilisateurs quand ils sont soumis à la fonctionnalité de ces algorithmes et leur expliquer les raisons des décisions prises par ces algorithmes.
la partie n'est pas très difficile, mais la deuxième partie peut être particulièrement difficile. Parfois, les entreprises ne veulent pas révéler le fonctionnement interne de leurs algorithmes parce qu'elles les considèrent comme des secrets commerciaux étroitement liés.
Et parfois, ils ne peuvent honnêtement pas expliquer pourquoi leurs algorithmes AI ont pris une décision spécifique. , la principale technologie derrière les produits AI actuels, prend des décisions basées sur des modèles compliqués et des corrélations qu'il trouve dans les grands ensembles de données qu'il examine. Ceci est en contraste avec le logiciel classique, dans lequel les programmeurs humains définissent les règles de comportement.
Le problème est que les algorithmes AI ne sont pas assez intelligents pour expliquer leur comportement. Et parfois leur comportement devient si compliqué que même les humains qui les construisent ne peuvent pas comprendre le processus et le raisonnement derrière leurs décisions. C'est pourquoi les algorithmes d'apprentissage en profondeur et les réseaux neuronaux profonds sont parfois appelés boîtes noires .
Le problème de la boîte noire devient de plus en plus exacerbé quand l'IA entre domaines plus critiques tels que les soins de santé, le droit, les prêts et l'éducation. Les gens devront être capables de défier les décisions qui changent la vie des algorithmes de l'IA, et sans une explication claire, aucune de ces innovations ne pourra s'introduire dans le courant dominant.
Le GDPR empêchera-t-il les innovations IA?
Les utilisateurs, par contre, ne seront plus dans le noir et ne seront plus avoir à se soucier de ce qui se passe dans les recoins sombres des serveurs des entreprises qu'ils confient avec leurs données. Naturellement, GDPR ne résoudra pas tous nos problèmes du jour au lendemain, et il y aura toujours des acteurs qui voudront faire des utilisations louche des données de l'utilisateur. Mais avec les pénalités prévues par les nouvelles règles (20 millions d'euros ou 4% du chiffre d'affaires, le plus élevé), nous pouvons au moins être assurés que le GDPR lèvera la barrière suffisamment pour décourager un grand nombre d'entités concoctant des abuser de la confiance et des données des utilisateurs.
Cette histoire est réédite de TechTalks le blog qui explore comment la technologie résout les problèmes – et en crée de nouveaux. Comme eux sur Facebook ici et suivez-les ici:
Source link