C’est ainsi que les DSI devraient aborder l’éthique et la confidentialité

Quand une entreprise annonce la mauvaise gestion des données des utilisateurs, la discussion tournera principalement autour des implications juridiques: déterminer si la politique de confidentialité et les conditions de service de l’entreprise couvrent ou non l’utilisation des données en question. Les implications éthiques d'une violation ne peuvent pas être mises aussi profondément sous les projecteurs.

Toutefois, aujourd'hui, les lois GDPR et des lois similaires sur la protection de la vie privée, telles que la future loi californienne sur la protection des renseignements personnels des consommateurs (CCPA), poussent les entreprises à considérer l'éthique comme un avantage concurrentiel. Les acteurs les plus innovants chercheront à se différencier de leurs concurrents en organisant des comités d'examen éthique, des équipes d'éthique et des responsables de l'éthique des données pour examiner de manière formelle les implications des algorithmes et de l'apprentissage automatique sur la confiance des clients et les résultats commerciaux.

(Chief Information Officer) et le directeur informatique ont une grande responsabilité en ce qui concerne le respect de l’utilisation éthique des données. Ces personnes doivent superviser la gestion appropriée des données tout en permettant à leur organisation de transformer ces informations en valeur commerciale.

Équilibrer les avantages et les risques créés par l'utilisation des données

Au sein d'une organisation, les équipes sont chargées de transformer les données en valeur. Les DSI doivent aider ces équipes à créer quelque chose de bénéfique pour la société tout en atténuant les risques pour les personnes dont les données sont utilisées.

Par exemple, une étude de recherche sur les soins de santé peut expliquer la manière dont les nouveaux médicaments et autres interventions cliniques sont développées, la manière dont les pratiques cliniques sont appliquées et, au final, améliorer les résultats pour les patients.

Dans la mesure où un comité d’éthique estime que la méthode de recherche ne présente pas de risque excessif pour les personnes dont les données sont utilisées ou partagées dans l’étude, cette étude peut générer des avantages sociétaux plus importants sans compromettre les informations sensibles ni avoir d’autres conséquences néfastes personnes dont les données sont utilisées dans l’étude.

Lorsque les entreprises créent des outils basés sur l'intelligence artificielle, les leaders technologiques ont la responsabilité de limiter les biais. Si une plate-forme d'IA est censée offrir un avantage, mais empêche en fin de compte d'empêcher des individus d'obtenir un prêt, une couverture d'assurance ou un travail, c'est un exemple de technologie qui n'a pas été créée avec l'éthique intégrée.

Utilisation éthique des données est également requis à des fins internes. Une agence de marketing doit examiner avec soin la quantité d’informations personnellement identifiables (PII) qu’elle doit ingérer pour pouvoir diffuser des publicités aux publics appropriés. Si les leaders technologiques de ces types d’entreprises ne considèrent pas soigneusement la manière dont l’organisation gère les données, les résultats d’une mauvaise utilisation des données peuvent être dangereux pour les personnes dont les données sont utilisées.

Avant d’utiliser les données des clients pour générer de la valeur commerciale, les leaders technologiques doivent s’assurer que leurs équipes utilisent les données de manière à ne pas discriminer ou stigimiser par inadvertance les individus, ni leur causer du tort. Ce type d’équilibre – lié aux concepts d’utilitarisme – est le plus pertinent pour l’éthique des données. Pour créer des produits ou utiliser autrement des données en ayant à l'esprit l'éthique, les directeurs informatiques doivent tenir compte des pratiques suivantes:

Les contrôles d'éthique équilibrent les risques moindres

Premièrement, les leaders technologiques doivent procéder à des analyses d'impact sur la vie privée. Ces analyses devraient déterminer les risques inhérents à la technologie ou à ses utilisations pour les individus. Les analyses devraient également examiner si les pratiques du produit et de la société en matière de données sont conformes aux lois ou aux règlements et si les contrôles mis en place peuvent réduire le risque de manière adéquate.

Ils devraient se demander s'ils ont besoin de certains éléments de données, ce que l'équipe tente de réaliser et comment cet objectif pourrait mettre des personnes en danger. Lorsque le risque l'emporte sur l'avantage, les dirigeants ont l'obligation de le réduire.

Par exemple, le règlement général sur la protection des données (RDPP) et la loi générale sur la protection des données au Brésil (LGPD) imposent une analyse risques / avantages. L'intégration de ces exigences dans une évaluation de l'impact sur la confidentialité ou sur des règles de conception respectueuses de la déontologie est souvent l'approche la moins onéreuse pour la plupart des entreprises, car elle leur permet de tirer parti des processus existants.

création d'un comité d'éthique. Ce comité devrait être composé de personnes ayant une expérience et une expertise en éthique, qui sont des conseillers externes. Le comité devrait instituer une bonne gouvernance et des politiques afin de déterminer au mieux si les pratiques en matière de données d'une organisation atténuent ou non les risques pour les individus.

L'objectif de ces pratiques est d'obliger les entreprises à se conformer aux lois sur la protection de la vie privée tout en réfléchissant au comportement éthique approprié.

L’utilisation éthique des données conduit à une innovation durable

Lorsque les entreprises peuvent réaliser des innovations durables, les avancées technologiques se traduisent souvent par des avantages pour la société. L’innovation qui ne prend pas en compte l’éthique se heurte à des scénarios de blocage du travail. La technologie de reconnaissance faciale, par exemple, est un type de technologie qui n’a pas été soumise aux analyses d’impact éthique requises.

En conséquence, des lois comme celles qui ont été adoptées récemment à San Francisco vont voir le jour pour limiter toute sorte de progrès réalisés avec des produits plus éthiques.

Il est impératif que les leaders en technologie comprennent les risques liés à l'utilisation de leurs données et les atténuent autant que possible. En effectuant correctement les évaluations d'impact, en suivant les directives existantes, en faisant intervenir les parties prenantes et en leur demandant de peser pour équilibrer ces risques, les entreprises peuvent considérablement améliorer leurs chances d'avoir un impact positif sur la société.

Si les directeurs informatiques ne parviennent pas à intégrer le respect de l’éthique dans les processus de leurs équipes, la probabilité de maintenir les innovations et d’apporter des avantages à long terme à la société est bien moindre.

Publié le 15 octobre 2019 – 11:00 UTC