Fermer

juin 8, 2018

GDPR est une opportunité pour les entreprises d'IA d'établir la confiance2 minutes de lecture



L'un des domaines où le Règlement général sur la protection des données (GDPR) laissera sa marque en évidence est l'industrie de l'intelligence artificielle. Les données sont le pain et le beurre de AI contemporaine et en vertu des règlements précédemment laxistes, les entreprises de technologie s'étaient aidées aux données des utilisateurs sans craindre les conséquences.

Tout a changé le 25 mai quand GDPR est entré en vigueur. Le GDPR exige que toutes les entreprises qui collectent et gèrent les données des utilisateurs dans l'Union européenne soient plus transparentes sur leurs pratiques et plus responsables de la sécurité et de la confidentialité de leurs utilisateurs. Le défaut de se conformer entraînera une pénalité qui s'élève à 20 millions d'euros ou quatre pour cent des revenus de l'entreprise, selon le plus élevé des deux.

Naturellement, une réglementation plus stricte remettra en question les pratiques actuelles des IA. données pour la recherche et l'amélioration de leurs services. Mais cela ne signifie pas nécessairement que cela entravera la recherche sur l'intelligence artificielle et l'innovation . L'industrie devra (doit) trouver des moyens de continuer à développer de nouvelles technologies d'IA tout en restant respectueuse de la vie privée des utilisateurs.

Propriété des données

 cyber-security-data-violation-hack "width =" 696 " height = "522" data-attachment-id = "1637" données-permalink = "https://bdtechtalks.com/2017/10/05/what-makes-software-supply-chain-attacks-extremely-dangerous/cyber -security-data-violation-hack / "data-orig-file =" https://i0.wp.com/bdtechtalks.com/wp-content/uploads/2017/10/cyber-security-data-breach-hack .jpg? fit = 2048% 2C1536 & ssl = 1 "données-orig-size =" 2048,1536 "données-commentaires-ouvertes =" 1 "data-image-meta =" {"ouverture": "0", "crédit" : "", "camera": "", "légende": "", "created_timestamp": "0", "copyright": "", "focale": "0", "iso": "0", " shutter_speed ":" 0 "," title ":" "," orientation ":" 0 "}" data-image-title = "cyber-sécurité-violation de données-hack" data-image-description = "" data- medium-file = "https://i0.wp.com/bdtechtalks.com/wp-content/uploads/2017/10/cyber-security-data-breach-hack.jpg?fit=300%2C225&ssl=1" données -l arge-file = "https://i0.wp.com/bdtechtalks.com/wp-content/uploads/2017/10/cyber-security-data-breach-hack.jpg?fit=696%2C522&ssl=1" données -recalc-dims = "1" données-lazy-loaded = "1" data-src = "https://i0.wp.com/bdtechtalks.com/wp-content/uploads/2017/10/cyber-security- data-violation-hack.jpg? resize = 696% 2C522 & ssl = 1 "data-lazy =" true "/></figure></p><p>" Je vous donne un accès gratuit à mon service en ligne, et en échange, vous me permettez de recueillir votre données. "C'est une version simplifiée de l'accord en ligne des services d'exécution d'algorithmes d'intelligence artificielle avec leurs utilisateurs.</p><p> À première vue, cela semble raisonnable. En général, les utilisateurs trouvent plus de valeur dans les quelques dollars qu'ils économisent que les données qu'ils abandonnent. D'autre part, les entreprises AI peuvent utiliser ces données pour former leurs algorithmes IA, créer des profils numériques de leurs utilisateurs, prédire leurs comportements, fournir de meilleurs services et générer des milliards de dollars pour diffuser des annonces et vendre ces données à d'autres parties. Google et Facebook sont deux exemples qui font d'énormes bénéfices en étant capables de prédire les préférences de leurs utilisateurs et de leur servir des publicités pertinentes.</p><p> Sans surveillance légale, les entreprises technologiques n'avaient aucune obligation de révéler toute l'étendue des données qu'elles stockaient sur les utilisateurs, et dans leur ultime quête pour aiguiser leurs algorithmes, ils ont pris des décisions <span> </span><a href= au détriment de leurs utilisateurs .

Mais dans le cadre du GDPR, ils devront non seulement être transparents sur toutes les données qu'ils recueillir, mais ils devront également laisser les utilisateurs obtenir ces données ou demander à l'entreprise de les supprimer entièrement.

La suppression de données peut s'avérer être un défi pour deux raisons. Tout d'abord, les entreprises IA aiment conserver les données des utilisateurs, même après que les utilisateurs quittent leur plate-forme. Cela leur permet de comparer et de prédire les comportements des autres utilisateurs. Il leur serait plus facile de conserver les données telles quelles. Maintenant, ils devront aller les étapes supplémentaires pour anonymiser les données de l'utilisateur s'ils veulent le garder pour leur IA après que l'utilisateur demande de l'effacer.

Le deuxième problème avec la suppression des données est comment suivre toutes les instances d'un utilisateur. données à travers le backend d'une entreprise. Les entreprises IA ont tendance à utiliser divers outils et plateformes pour créer et former leurs algorithmes IA. Parfois, ils envoient les données à des services tiers qui exécutent ces algorithmes pour le compte de l'entreprise. Ils devront adopter des pratiques et mettre en place des outils leur permettant de suivre leurs données au fur et à mesure qu'elles se déplacent et se dupliquent sur les serveurs de l'entreprise et ailleurs

Le problème de la boîte noire

 ai blackbox

Selon le texte du GDPR, les entreprises doivent informer les utilisateurs de «l'existence d'une prise de décision automatisée» et leur fournir «des informations significatives sur la logique impliquée, ainsi que la signification et les conséquences envisagées d'un tel traitement pour les données Cela signifie que si votre entreprise gère des algorithmes IA, vous devez expliquer à vos utilisateurs quand ils sont soumis à la fonctionnalité de ces algorithmes et leur expliquer les raisons des décisions prises par ces algorithmes.

la partie n'est pas très difficile, mais la deuxième partie peut être particulièrement difficile. Parfois, les entreprises ne veulent pas révéler le fonctionnement interne de leurs algorithmes parce qu'elles les considèrent comme des secrets commerciaux étroitement liés.

Et parfois, ils ne peuvent honnêtement pas expliquer pourquoi leurs algorithmes AI ont pris une décision spécifique. , la principale technologie derrière les produits AI actuels, prend des décisions basées sur des modèles compliqués et des corrélations qu'il trouve dans les grands ensembles de données qu'il examine. Ceci est en contraste avec le logiciel classique, dans lequel les programmeurs humains définissent les règles de comportement.

Le problème est que les algorithmes AI ne sont pas assez intelligents pour expliquer leur comportement. Et parfois leur comportement devient si compliqué que même les humains qui les construisent ne peuvent pas comprendre le processus et le raisonnement derrière leurs décisions. C'est pourquoi les algorithmes d'apprentissage en profondeur et les réseaux neuronaux profonds sont parfois appelés boîtes noires .

Le problème de la boîte noire devient de plus en plus exacerbé quand l'IA entre domaines plus critiques tels que les soins de santé, le droit, les prêts et l'éducation. Les gens devront être capables de défier les décisions qui changent la vie des algorithmes de l'IA, et sans une explication claire, aucune de ces innovations ne pourra s'introduire dans le courant dominant.

Le GDPR empêchera-t-il les innovations IA?

 ampoule "width =" 696 "height =" 464 "data-attachment-id =" 2772 "data-permalink =" https://bdtechtalks.com/2018/05/21/gdpr-data-artificial- intelligence-régulation / light-bulb-2 / "data-orig-file =" https://i1.wp.com/bdtechtalks.com/wp-content/uploads/2018/05/light-bulb-1.jpeg? fit = 1920% 2C1280 & ssl = 1 "données-orig-size =" 1920,1280 "données-commentaires-ouvertes =" 1 "data-image-meta =" {"ouverture": "0", "crédit": "" , "camera": "", "légende": "", "created_timestamp": "0", "copyright": "", "longueur_focus": "0", "iso": "0", "shutter_speed": "0", "title": "", "orientation": "0"} "data-image-title =" ampoule "description-image-de-données =" "data-medium-file =" https: // i1 .wp.com / bdtechtalks.com / wp-content / uploads / 2018/05 / ampoule-lumière-1.jpeg? fit = 300% 2C200 & ssl = 1 "données-grand-fichier =" https: // i1 .wp.com / bdtechtalks.com / wp-content / uploads / 2018/05 / ampoule-lumière-1.jpeg? fit = 696% 2C464 & ssl = 1 "données-recalc-dims =" 1 "données-paresseux = "1" data-src = "https://i1.wp.com/bdtechtalks.com/wp-content/uploads/2018/05/light-bulb-1.jpeg?resize=696%2C464&ssl=1" data- paresseux = "vrai" data-srcset = "https://i1.wp.com/bdtechtalks.com/wp-content/uploads/2018/05/light-bulb-1.jpeg?w=1920&ssl=1 1920w, https : //i1.wp.com/bdtechtalks.com/wp-content/uploads/2018/05/light-bulb-1.jpeg? resize = 300% 2C200 & ssl = 1 300w, https://i1.wp.com/ bdtechtalks.com/wp-content/uploads/2018/05/light-bulb-1.jpeg?resize=768%2C512&ssl=1 768w, https://i1.wp.com/bdtechtalks.com/wp-content/uploads /2018/05/light-bulb-1.jpeg?resize=1024%2C683&ssl=1 1024w, https://i1.wp.com/bdtechtalks.com/wp-content/uploads/2018/05/light-bulb- 1.jpeg? Resize = 696% 2C464 & ssl = 1 696w, https://i1.wp.com/bdtechtalks.com/wp-content/uploads/2018/05/light-bulb-1.jpeg?resize=1068%2C712&ssl = 1 1068w, https://i1.wp.com/bdtechtalks.com/wp-content/uploads/2018/05/light-bulb-1.jpeg?res ize = 630% 2C420 & ssl = 1 630w, https://i1.wp.com/bdtechtalks.com/wp-content/uploads/2018/05/light-bulb-1.jpeg?w=1392&ssl=1 1392w "/></figure></p><p> Les nouvelles restrictions que le GDPR mettra sur les algorithmes avides de données des entreprises d'intelligence artificielle remettront certainement en question leur mode de fonctionnement actuel. Ils ne pourront plus collecter les vôtres et extraire les données utilisateur sans leur consentement explicite et explicite. Ils ne seront plus capables de tester leurs algorithmes sur des utilisateurs non avertis.</p><p> Mais cela signifie-t-il que le GDPR entravera l'innovation de l'IA? Probablement pas. Auparavant, les pratiques opaques et injustes des sociétés d'IA ont conduit les utilisateurs à perdre leur confiance dans l'industrie de la technologie. Le GDPR obligera les entreprises technologiques à adopter des solutions plus transparentes et à adopter des mesures qui fournissent à leurs clients les assurances nécessaires sur la façon dont leurs données sont utilisées. Un exemple est <span> </span><a href= l'intelligence artificielle décentralisée des innovations IA qui reposent sur la transparence et le partage des connaissances au lieu d'approches de jardins clos. Un autre effort notable est le développement de intelligence artificielle explicable des algorithmes d'IA que les humains peuvent comprendre et décomposer.

Les utilisateurs, par contre, ne seront plus dans le noir et ne seront plus avoir à se soucier de ce qui se passe dans les recoins sombres des serveurs des entreprises qu'ils confient avec leurs données. Naturellement, GDPR ne résoudra pas tous nos problèmes du jour au lendemain, et il y aura toujours des acteurs qui voudront faire des utilisations louche des données de l'utilisateur. Mais avec les pénalités prévues par les nouvelles règles (20 millions d'euros ou 4% du chiffre d'affaires, le plus élevé), nous pouvons au moins être assurés que le GDPR lèvera la barrière suffisamment pour décourager un grand nombre d'entités concoctant des abuser de la confiance et des données des utilisateurs.

Cette histoire est réédite de TechTalks le blog qui explore comment la technologie résout les problèmes – et en crée de nouveaux. Comme eux sur Facebook ici et suivez-les ici:




Source link