Comment l’automatisation de la décision résout les biais liés au Big Data

Derrière chaque décision prise par une entreprise, il y a un réel impact humain.

Dans l’environnement numérique d’aujourd’hui, l’intelligence artificielle (IA) et l’apprentissage automatique (ML) sont devenus de plus en plus importants. Par conséquent, le débat sur la question de savoir si les données utilisées pour soutenir l’IA et l’apprentissage automatique sont biaisées est crucial. Un système d’IA biaisé peut ternir la réputation d’une entreprise tout en créant des résultats injustes et préjudiciables.

Qu’est-ce que le biais de données ?

Les biais involontaires dans les grands ensembles de données peuvent avoir des conséquences néfastes. Même si les données sont scientifiquement fondées et objectives, elles peuvent toujours être biaisées en faveur de différents groupes.

Un bon exemple de ceci peut être trouvé dans l’assurance. Lorsqu’il s’agit d’estimer les réclamations d’assurance et médicales sur la base de l’historique des coûts des soins de santé, les systèmes d’IA peuvent être biaisés, ce qui peut être injuste pour certains groupes. Par exemple, si un code postal est utilisé comme variable dans un système AI/ML qui automatise les demandes d’assurance automobile, un excellent conducteur qui vit dans un quartier mal noté pourrait voir sa demande rejetée.

« Bien que cela puisse être involontaire par les scientifiques de l’apprentissage automatique qui créent des modèles, le biais humain dans les données peut produire des modèles biaisés qui sont discriminatoires envers certaines populations », a déclaré Shirley Knowles, responsable de l’inclusion et de la diversité chez Progress. « Ce même biais peut empêcher les organisations d’atteindre des objectifs internes et externes de diversité, d’équité et d’inclusion, ce qui peut être difficile à récupérer à long terme. »

Comment une solution basée sur des politiques peut-elle aider votre entreprise ?

Pour préserver les décisions qui ont un impact direct sur la vie quotidienne de vos clients, il est essentiel d’éliminer les biais du Big Data. Parce que l’IA/ML est si importante dans de nombreux secteurs, une approche axée sur les politiques peut aider à limiter le risque de biais dans le Big Data.

Les entreprises doivent automatiser les décisions tout en décrivant comment ces décisions interagissent les unes avec les autres. Si personne n’est présent pour superviser les sélections de l’algorithme, il y a un risque dans les décisions prises. Les directeurs de l’analyse, les directeurs des risques et les analystes de données devraient être les plus préoccupés par ces dangers et ils devraient approfondir les algorithmes de leurs organisations pour rechercher les biais.

1. Évitement et minimisation des risques

Dans la plupart des secteurs hautement réglementés, tels que la banque et la santé, la minimisation des risques est un objectif clé. Un diagnostic erroné a une variété de conséquences indésirables, y compris une observance réduite et un risque humain accru. Lorsque la partialité entre dans les opérations d’une entreprise, elle peut être perçue comme indigne de confiance, ce qui entraîne une perte de bonne volonté, de respect et d’activité.

2. Décision éthique = Appel du client

Cela est particulièrement vrai pour les clients soucieux de leur valeur. Les clients qui recherchent des entreprises qui utilisent des pratiques commerciales éthiques sont de plus en plus importants dans le monde d’aujourd’hui. Ils peuvent acheter un produit si les valeurs de l’entreprise correspondent aux leurs. Cela s’applique également aux futurs employés, qui pourraient préférer travailler pour des entreprises qui mènent leurs activités quotidiennes de manière éthique.

3. Opportunités de marché

Il est possible d’atteindre ces marchés mal desservis. En mettant l’accent sur la prise de décision éthique, vous pourrez atteindre un plus large éventail de publics.

3 façons dont une entreprise peut aborder la prise de décision éthique

1. Élaborez un cadre pour évaluer le coût des « mauvaises » décisions dans votre entreprise.

L’impact de ces mauvais jugements sur vos clients peut être mesuré sur une échelle. Les mauvaises recommandations sur un site de commerce électronique, par exemple, pourraient être au bas de l’échelle, où la valeur financière est faible et le niveau de préjudice pour le client est faible.

D’autre part, nous avons des décisions haut de gamme qui ont un impact néfaste sur le bien-être des clients. Cela a une valeur monétaire élevée ainsi qu’un niveau élevé de préjudice pour le consommateur. Par exemple, être rejeté pour un prêt immobilier, être ignoré pour un emploi, recevoir un diagnostic médical incorrect, etc.

Cela permettra de voir plus facilement ce qui peut être automatisé et ce qui nécessite une intervention humaine.

2. Mettre l’accent sur la transparence et la traçabilité.

Il est essentiel de pouvoir voir vos décisions automatiques. AI/ML peut être en mesure d’aider, mais il a encore besoin d’une évaluation humaine. Il est également crucial d’être ouvert avec vos clients ; avoir des réponses aux décisions que vous avez prises peut faire toute la différence dans ce cas. Expliquer pourquoi un consommateur s’est vu refuser un prêt est plus crucial que de laisser l’ordinateur prendre lui-même la décision complète. De plus, à mesure que les règles et les normes de nombreuses industries deviennent plus strictes, il serait avantageux de disposer d’un outil pour aider à expliquer les résultats afin de se conformer à la réglementation.

3. Soyez proactif.

Créer des mécanismes de détection et de mesure des biais. Savoir ce qu’est le biais et comment il affecte votre entreprise vous aidera à prendre des décisions plus sûres à l’avenir. Vous pouvez désormais prendre en charge les besoins commerciaux nécessaires pour entreprendre l’automatisation des décisions éthiques, que vous fournissiez des logiciels ou des solutions finales une fois que vous avez identifié ces biais potentiels.

Comment Progress Corticon peut-il aider ?

Progress Corticon est un système de gestion des règles métier (BRMS) qui peut être utilisé pour créer des règles/politiques afin de détecter et d’éliminer les biais. Corticon peut automatiser les choix basés sur des politiques. En effet, les réglementations sont « lisibles par l’homme » et peuvent être débattues avec un large éventail de parties prenantes. Parce que les règles ne sont pas enfouies dans des lignes de code, elles sont également accessibles et révisables par les utilisateurs.

Cliquez sur ici pour télécharger le livre blanc complet pour en savoir plus sur l’importance de la prise de décision éthique et sur la manière dont elle affectera votre organisation et vos clients.

Télécharger le livre blanc