Dans les affaires, la science des données et l’intelligence artificielle sont généralement orientées vers une efficacité et une croissance puissantes. La confiance des utilisateurs est souvent négligée. Cela peut rapidement se transformer en un problème majeur, en particulier lorsque l’IA est introduite pour soutenir les choix stratégiques.
Les équipes de science des données et d’IA se concentrent constamment sur la méthodologie et la précision. Ceci est essentiel, garantissant que les algorithmes fournissent des informations et des analyses précieuses et prennent en charge une automatisation accrue.
Néanmoins, la plupart des organisations sont confrontées à des problèmes croissants de confiance des utilisateurs dans les algorithmes. D’une part, la qualité de l’analyse automatisée n’est pas clairement comprise, et d’autre part, il y a une menace perçue de machines rendant l’expertise des gens redondante. Cela est devenu une difficulté particulière dans un domaine crucial de l’IA : l’aide à la décision.
« Dès que les modèles commencent à guider les décisions stratégiques, il y a un changement dans les exigences », explique René Traue, data scientist senior au cabinet de conseil et d’intelligence de marché GfK. « Les utilisateurs doivent pouvoir faire profondément confiance aux applications. Ils doivent les trouver indispensables pour faire des choix majeurs. Sinon, ils peuvent finir par s’éloigner d’eux.
Bâtir la confiance
Afin de surmonter ce problème, les applications exécutant des algorithmes d’IA doivent être conçues pour renforcer la confiance dans les résultats. « Considérez un système d’aide à la décision comme une voiture à conduite assistée. Cette voiture pourrait freiner automatiquement si vous vous approchez trop du conducteur qui vous précède ou corriger la direction si vous déviez de la voie. Cependant, de nombreuses personnes ne seraient pas ravies de faire directement confiance à l’automatisation pour prendre le contrôle de cette manière : elles doivent d’abord avoir confiance dans la qualité du système d’assistance », explique Traue.
Les constructeurs automobiles ont agi en ajoutant des avertissements lorsque leurs voitures sont sur le point de freiner automatiquement ou en s’assurant que les conducteurs gardent le contrôle ultime via le volant lorsqu’une correction est effectuée.
« Les conducteurs peuvent alors de plus en plus faire confiance à la voiture pour prendre les bonnes décisions. Ils peuvent arrêter instinctivement de « lutter contre cela » et permettre à l’automatisation de fonctionner », explique Traue. « C’est la même idée en affaires. L’aide à la décision doit être appliquée de manière très transparente, permettant à l’utilisateur de garder un niveau de contrôle clé dans un premier temps, tandis que le système se révèle toujours bon et utile. Il existe une exigence clé supplémentaire : les stratèges de l’entreprise s’attendent à recevoir des preuves claires du système pour étayer toutes les actions conseillées.
Respecter les limites
Le propre système d’aide à la décision de GfK, gfknewron, éclaire les décisions dans des contextes tels que la prévision des ventes, la fixation des prix, la prise de décisions concernant la marque et les tests de scénarios, pour n’en nommer que quelques-uns. « Nous restons parfaitement conscients de l’importance de trouver les bonnes solutions, nous nous concentrons donc entièrement sur ce qui fonctionne et sur les limites », explique Traue. Il s’agit notamment de s’assurer que toutes les conclusions analytiques reposent non seulement sur des données détaillées, mais également sur un processus d’assurance qualité rigoureux. Le système de GfK examine tous les résultats et signale, voire supprime, ceux qui présentent d’éventuels problèmes de qualité, ce qui permet aux experts humains de GfK d’examiner et d’accepter ou de corriger, si nécessaire. Il s’agit d’un domaine d’investissement critique, pour éviter tout risque d’envoi d’orientations potentiellement trompeuses.
« gfknewron est conçu pour que les gens puissent comprendre la justification des recommandations qu’il leur donne. Nous évaluons constamment les algorithmes, en utilisant non seulement nos data scientists mais aussi – et de plus en plus – nos des analystes spécialisés MLOps, qui surveillent en permanence la validité et l’exactitude de nos modèles », dit-il. « Nous voulons aider les décideurs à faire confiance à la fiabilité totale de gfknewron pour accélérer les bons choix et libérer leur temps. » De plus, l’entreprise encourage les commentaires radicalement transparents des utilisateurs.
Éliminer la complexité
Tout comme une expérience négative peut inciter les gens à éviter complètement un système d’aide à la décision basé sur l’IA, une expérience bénéfique tend à accroître la confiance. L’IA a un énorme potentiel pour prendre en charge de plus en plus de domaines de décision, lorsque les utilisateurs la voient bien fonctionner. Traue conclut : « Le monde devient si complexe. Les marques technologiques et grand public peuvent gérer plusieurs produits, canaux de distribution, campagnes de promotion et canaux de marketing à la fois. Lorsque les décideurs disposent d’une IA fiable pour réduire cette complexité et ces données, ils peuvent concentrer leur temps sur l’identification de la meilleure option à partir des recommandations, afin de développer un avantage concurrentiel sur le marché.
Pour en savoir plus sur gfknewron, visitez www.gfk.com/products/gfknewron
Source link