L’Outil Surpuissant pour Exploser ton Chiffre d'Affaires en 2024 !
Sondage : 65 % des cadres pensent que le biais des données existe dans leurs organisations
La partialité des données devient un problème de plus en plus pressant pour les entreprises qui tirent parti de l’intelligence artificielle et de l’apprentissage automatique, mais de nombreuses organisations ont du mal à y faire face efficacement.
Deux tiers des dirigeants pensent qu’il existe actuellement un biais lié aux données dans leur organisation, selon une étude mondiale sponsorisée par Progress et menée par Insight Avenue.
La partialité des données est devenue une préoccupation majeure pour les entreprises qui utilisent l’intelligence artificielle (IA) et l’apprentissage automatique (ML) pour analyser et donner un sens à leurs données. Avec tout ce qui passe au numérique, les entreprises ont désormais accès à une mine d’informations – dans la plupart des cas, trop d’informations pour savoir par où commencer.
L’IA et le ML peuvent tirer des informations exploitables du Big Data, aidant ainsi les entreprises à prendre de meilleures décisions commerciales.
Il n’est donc pas étonnant que de plus en plus d’entreprises aient commencé à utiliser et à s’appuyer sur l’IA : l’étude a montré que 66 % des organisations prévoient de devenir plus dépendantes de l’IA et/ou du ML pour la prise de décision.
Bien que l’intention soit de rendre les entreprises plus intelligentes et plus efficaces, l’utilisation de l’IA a également entraîné des conséquences involontaires, le biais des données étant l’un des principaux.
Les décisions prises avec des données biaisées peuvent avoir un impact négatif sur les finances, l’informatique, le numérique, les opérations, les ventes et la stratégie. Pire encore, le biais des données peut entraîner une mauvaise expérience client et nuire aux entreprises’ réputations et freiner les efforts d’inclusion et de diversité.
“Chaque jour, les préjugés peuvent avoir un impact négatif sur les opérations commerciales et la prise de décision, de la gouvernance à la perte de confiance des clients, en passant par les implications financières et les risques juridiques et éthiques potentiels” a déclaré John Ainsworth, vice-président exécutif et directeur général, Application and Data Platform, Progress.
“Nous plaçons nos clients au centre de tout ce que nous faisons et alors que nous explorons tout ce que l’IA/ML peut faire, nous voulons nous assurer que nos clients disposent des bonnes informations pour prendre les meilleures décisions faire progresser leur entreprise, » il ajouta.
Chez Progress, nous voulions avoir une idée de l’étendue de la partialité des données, des mesures prises par les entreprises pour prévenir et combattre la partialité, des obstacles à sa résolution et des implications d’une partialité incontrôlée. En partenariat avec Insight Avenue, basée au Royaume-Uni, nous avons commandé une enquête mondiale auprès de 640 chefs d’entreprise et responsables informatiques qui utilisent les données pour prendre des décisions ou envisagent d’utiliser l’IA ou l’apprentissage automatique pour soutenir la prise de décision. Tous les dirigeants dirigeaient des entreprises de plus de 500 employés.
L’étude a révélé que si 78 % pensent que le biais de données deviendra un problème plus important à mesure que l’utilisation de l’IA/ML augmentera, seuls 13 % s’attaquent actuellement au biais de données et ont un processus d’évaluation en cours pour l’éliminer. De plus, plus de la moitié des répondants considèrent le manque de sensibilisation aux biais potentiels comme un obstacle à la résolution des biais de données.
Lire plus de faits saillants de l’étude ci-dessous ou téléchargez une copie de l’étude pour obtenir une image complète de l’état des biais de données dans les entreprises.
Reconnaître la menace du biais de données
Bien que les entreprises varient dans leurs stratégies pour faire face au biais potentiel de données, les entreprises sont conscientes du risque et des conséquences du biais de données peut amener.
77 % des personnes interrogées reconnaissent qu’elles doivent en faire plus pour comprendre et traiter les biais dans leur organisation, et 76 % déclarent que les implications sociales sont plus larges si les entreprises ne traitent pas de manière adéquate le problème des biais de données.
La plupart des dirigeants (78 %) sont conscients qu’à mesure que l’IA sera plus largement utilisée, le problème ne fera que s’intensifier. Dans cet esprit, 67 % des dirigeants pensent que leur organisation a évalué la technologie pour lutter contre le biais de données, et 40 % ont déclaré que le biais de données était une considération lors de l’évaluation des fournisseurs d’IA/ML.
Il faudra probablement une combinaison de personnes, d’outils, de formation et de politiques pour éviter la partialité des données : 76 % reconnaissent qu’il est préférable de traiter la partialité des données de manière centralisée dans l’ensemble de l’organisation au lieu de confier le problème à des départements cloisonnés.
Où les organisations peuvent s’améliorer
Lorsqu’il s’agit de lutter contre les biais de données, les organisations ont plusieurs obstacles à surmonter avant de pouvoir progresser. Les principaux obstacles à la lutte contre les biais de données comprennent un manque de sensibilisation aux biais potentiels (51 %), un manque de compréhension de la manière d’identifier les biais (43 %) et un manque de ressources spécialisées (31 %).
Seulement 9 % des personnes interrogées ont déclaré ne pas considérer la partialité des données comme un problème, ce qui indique que l’inaction peut être attribuée à des problèmes de planification et d’exécution, plutôt qu’à une incapacité à reconnaître la menace de la partialité des données.
77 % des personnes interrogées ont déclaré que leurs organisations devaient encore faire plus pour comprendre les biais de données. Les dirigeants pensent que les mesures les plus efficaces seront la technologie et les outils (65%), plus de formation (59%) et l’ajustement de leur stratégie et de leur vision (49%).
Comment les entreprises peuvent traiter et éviter les biais de données
Alors que de plus en plus d’organisations commencent à s’appuyer sur l’IA et le ML, la nécessité de traiter les biais de données potentiels devient plus urgente. Les entreprises devront mettre en place des plans et des processus pour identifier et prévenir les biais de données, et les entités devront reconnaître comment cela peut menacer tous les aspects d’une entreprise.
Les organisations devront examiner toutes les parties d’un projet, de l’embauche et de la diversité des équipes à la formation et à la technologie. Le biais de données peut avoir un impact sur les décisions quotidiennes de n’importe quelle entreprise et avoir un effet néfaste sur ses victimes. Ceux qui dirigent les efforts en matière de technologie et de formation devront s’assurer que leur travail favorise l’équité et la justice sur le lieu de travail.
Pour en savoir plus sur l’état actuel des biais de données dans les entreprises et pour savoir comment éviter et traiter les biais de données dans votre propre organisation, télécharger l’étude complète ou lisez ce blog de MarkLogic.
Source link