Comprendre les risques et les limites

Si vous créez des produits numériques pour le secteur des services financiers ou de la technologie, vous vous demandez peut-être quel rôle l’IA y jouera. Avant d’adopter une nouvelle technologie, c’est une bonne idée d’en explorer les risques, les limites et les défis. Nous le ferons dans cet article.

La perturbation de l’IA est là pour rester. Mais pour un secteur aussi fortement réglementé que celui des services financiers, l’IA peut-elle être utilisée de manière réaliste ? Ou est-ce trop risqué lorsque l’argent et d’autres données sensibles des clients sont en jeu ?

Cet article explorera les risques et les défis qui limiteront la façon dont vous utilisez l’IA (pour l’instant, en tout cas).

Quels sont les défis et les risques liés à l’utilisation de l’IA dans la Fintech ?

Bien que l’IA soit souvent saluée pour tous ses avantages en matière de gain de temps et de traitement des données, son utilisation comporte de sérieux risques. Ils sont encore plus sérieux lorsqu’ils sont utilisés dans la fintech et FinServ.

Voici quelques-uns des défis et des risques à garder à l’esprit lorsque vous envisagez l’utilisation de l’IA lors du développement de produits fintech :

1. Sécurité des données

Le secteur des services financiers est très réglementé. Pour rendre les choses plus compliquées, il existe des réglementations que vous devez respecter lors du développement de produits numériques.

Protéger les données et les finances de vos utilisateurs est une affaire sérieuse. Et même si vous en avez peut-être tenu compte lors de la création de votre produit numérique, l’IA est une autre histoire.

À moins que vous ne construisiez votre propre IA, vous devez maintenant vous demander si la solution d’IA tierce ne rendra pas votre produit et l’entreprise qui y est rattachée non conformes. Avec autant de données privées circulant dans les produits fintech, une IA non sécurisée ou non conforme peut causer de gros problèmes à votre entreprise.

La première chose à faire est d’évaluer le processus auquel vous souhaitez attacher l’IA.

Par exemple, certains chatbots de sites Web et d’applications traitent les demandes d’assistance technique telles que « Comment puis-je effectuer un dépôt ? » Si l’IA est programmée pour seulement Si vous traitez des questions de cette nature, des choses comme la conformité au RGPD et à la PCI DSS ne constitueront peut-être pas un obstacle aussi important.

Supposons toutefois que vous mettiez en œuvre une solution d’analyse prédictive pour fournir aux clients des informations sur leurs habitudes de dépenses ou leurs investissements prévus. Dans ce cas, vous faire doivent se préoccuper de la sécurité et de la conformité des données. Dès que les données confidentielles et sensibles de vos clients transitent par l’IA, vous devez réfléchir à ce qu’il advient de ces données en cours de route.

Ce ne sont pas seulement les failles de sécurité via l’IA dont vous devez vous soucier, mais également l’utilisation abusive de ces données. La prochaine étape à franchir consiste donc à choisir un partenaire IA qui prend au sérieux la conformité et la sécurité des données.

Une autre chose que vous devrez faire est d’élaborer une politique en matière d’IA afin que les clients sachent qu’elle est utilisée et dans quel but. Vous devrez expliquer plus que les bases. Par exemple, la politique doit décrire comment l’IA est formée, à quelles données elle a accès, ainsi que où et pendant combien de temps les données sont stockées (le cas échéant).

Si vous ne pouvez pas répondre à ces questions, vous devriez probablement repenser la solution que vous avez choisie.

2. Biais, cohérence et précision

L’une des raisons pour lesquelles l’intelligence artificielle a été adoptée massivement réside dans ses capacités massives de traitement des données. Cependant, pour traiter ces données, les IA doivent être entraînées.

Mais tout comme une mauvaise formation d’un employé peut conduire à de mauvais résultats, la même chose peut se produire avec l’IA. Et à une échelle bien plus grande. Le pire, c’est que l’IA est souvent incapable d’expliquer comment certaines décisions sont prises.

Voici quelques-uns des problèmes les plus courants rencontrés par les utilisateurs avec la sortie de l’IA :

• Biais basé sur une contribution humaine, des ensembles de données limités ou une logique erronée
• Des réponses incorrectes qui semblent correctes car l’IA n’a pas pu gérer les nuances de la demande mais n’est pas programmée pour l’admettre
• Réponses incohérentes dues au fait que l’IA reçoit trop de sources ou des sources contradictoires

Vous devez donc faire très attention avant de confier à l’IA des tâches critiques, puis de vous fier aux jugements et aux résultats.

Pour résoudre ces problèmes, la première chose à faire est de commencer petit. Utilisez les IA pour des tâches plus simples et plus directes. Par exemple, il serait plus sûr d’utiliser des chatbots de support qui fournissent aux utilisateurs un ensemble de choix pré-écrits.

Puis bifurquez. La prochaine étape pourrait consister à implémenter le traitement du langage naturel dans la fonctionnalité de recherche de votre application. L’IA serait ensuite formée pour extraire des résultats correspondants ou presque directement à partir de la documentation de votre produit ou de vos FAQ.

Vous pourriez ensuite passer à une certaine personnalisation en termes de marketing et de ventes. À l’aide des données que vos clients ont partagées avec vous, vous pouvez programmer votre IA pour afficher des offres personnalisées et des produits financiers associés dans leur tableau de bord.

Une mauvaise expérience avec une IA ou un contenu généré par une IA n’aura pas une mauvaise image de l’IA dans l’esprit de vos clients. Cela aura une mauvaise image de votre organisation financière. Il est donc important de faire attention à ce que vous confiez aux IA.

3. Inclusivité et accessibilité

Si vous envisagez d’utiliser la technologie électronique Know Your Customer (eKYC), l’inclusivité/exclusivité pourrait devenir un problème. Ces technologies sont utilisées dans des secteurs réglementés comme le secteur bancaire pour vérifier l’identité du demandeur ou du client.

Il existe différentes formes d’eKYC utilisées. Par exemple:

• Documents téléchargés comme les permis de conduire
• Reconnaissance biométrique (généralement faciale ou vocale)
• Authentification à deux facteurs ou mots de passe à usage unique

Si une méthode est nécessaire (et sans alternative autorisée), elle pourrait empêcher certaines personnes d’accéder au produit ou service numérique.

Par exemple, une personne ayant des difficultés d’élocution ne serait pas en mesure de fournir une reconnaissance vocale. Et une personne sans smartphone ni imprimante ne serait pas en mesure de soumettre facilement les documents requis.

Vous devez également réfléchir à la fiabilité et à la précision de l’IA lorsqu’il s’agit de vérifier les identités via eKYC. Cela pourrait facilement bloquer l’accès de quelqu’un à un produit fintech si les données biométriques ne correspondent pas à celles contenues dans la base de données. Ou, pire encore, cela pourrait leur donner accès au compte de la mauvaise personne (si, par exemple, leurs visages ou leurs voix étaient trop similaires), mettant ainsi en danger les données des utilisateurs et leur vie privée.

4. Expérience utilisateur

L’IA a certainement eu un impact important sur les secteurs du design et de l’écriture l’année dernière. Même si certaines entreprises ont afflué vers cette technologie rentable pour générer des sites Web, des graphiques et des copies, cela comporte des risques.

Par exemple, l’IA générative reproduit le contenu existant. Il n’y a rien d’original là-dedans. L’IA est également incapable d’empathie. Ce sont deux éléments essentiels du travail que nous effectuons lors de la création de produits numériques pour nos clients ou employeurs et de la conception d’expériences pour leurs utilisateurs finaux.

Cela ne veut pas dire que l’IA ne peut pas être utilisée pour accélérer les choses. Par exemple, vous pouvez utiliser l’IA pour faire des choses comme:

• Créer du contenu de remplissage pour les wireframes ou les maquettes
• Fournissez un texte de démarrage pour les réponses de base du chatbot
• Générer des variations de conceptions préexistantes

Cependant, il est trop risqué de s’appuyer sur l’IA pour créer des conceptions finales destinées au client ou des copies pour les sites Web et les applications que vous concevez. Vous pourriez vous retrouver avec un produit froid et déconnecté ou, d’un autre côté, un produit intrusif et effrayant.

Seuls certains aspects du développement de produits numériques nécessitent une touche humaine. Et lorsque vous créez des produits pour lesquels l’établissement de la confiance et la transmission de l’empathie sont aussi essentiels que dans la fintech, vous ne pouvez pas déléguer ce type de travail à l’intelligence artificielle.

Alors, que pouvez-vous faire avec l’IA dans la Fintech ?

Maintenant que vous connaissez les limites et les défis de l’IA dans la fintech, parlons brièvement de cas d’utilisation réalistes de cette technologie.

Chatbots pour les clients

Chatbots Fintech sont déjà utilisés par diverses applications et à des fins différentes. L’article lié montre des entreprises comme Venmo, QuickBooks, American Express et Bank of America utilisant des assistants virtuels pour rationaliser le support client en ligne.

Chatbots pour les employés

Lors du développement de produits fintech destinés aux équipes internes, les chatbots seront également utiles. Par exemple, les employés nouvellement intégrés peuvent se référer aux chatbots pour des questions sur la façon d’utiliser l’application plutôt que de harceler leurs collègues ou leurs managers pour obtenir de l’aide. Ils peuvent également être utilisés pour améliorer les fonctionnalités de recherche interne, les tableaux de bord analytiques, etc.

Contenu personnalisé

Être capable de développer un produit fintech qui propose un contenu dynamique en fonction de qui l’utilise est un énorme avantage. Vous pouvez proposer à vos utilisateurs des offres et des réductions personnalisées en fonction de leurs besoins et de leur situation personnelle. Vous pouvez également afficher du contenu plus pertinent comme des articles, des vidéos et des rapports en fonction de leurs données.

C’est là que nous commençons à entrer dans ces zones troubles avec l’IA. Cependant, si les données sont suffisamment inoffensives (comme les préférences de contenu des utilisateurs, le type de compte général et les données démographiques de base), les risques liés à leur utilisation peuvent être minces.

Analyse prédictive pour les ventes et le marketing

L’IA peut être utile lorsqu’il s’agit de tâches telles que l’analyse de marché et le développement de personnalités d’utilisateurs. Vous pouvez également l’utiliser pour ses qualités prédictives. Pour ce faire, vous devrez cependant combiner les données générales du marché avec les données clients existantes. De cette façon, l’IA peut profiler plus précisément les utilisateurs potentiels et prédire ce qu’ils recherchent et ce qui les convertira de prospects en utilisateurs.

Ce type d’apprentissage automatique de l’IA serait particulièrement utile lors de la refonte et du perfectionnement des produits fintech. Vous pouvez les utiliser pour le produit lui-même et pour toutes les expériences de vente et de marketing qui y mènent (comme le site Web, les publicités sur les réseaux sociaux, etc.).

Analyse prédictive pour l’utilisation des clients

L’IA prédictive peut également être utile pour vos utilisateurs finaux, en particulier si vous développez un produit qui présente aux utilisateurs des données historiques et des recommandations.

Prenons, par exemple, une application de suivi budgétaire comme Mint. Les utilisateurs s’attendent à trouver certaines fonctionnalités dans une application comme celle-ci : synchronisation en un clic avec leurs comptes bancaires, catégorisation des dépenses et suivi des dépenses. L’analyse prédictive permettrait à l’application de prendre l’historique de cet utilisateur, d’anticiper les augmentations de dépenses (comme pendant les vacances) et de formuler des recommandations sur la façon d’économiser de l’argent ou de réduire les dépenses entre-temps.

Contrairement à l’analyse prédictive des ventes, ce type d’IA aurait besoin d’accéder aux données financières réelles des utilisateurs. Il est donc crucial de trouver une solution d’IA responsable, sécurisée et conforme.

Résumé

Le secteur des services financiers a déjà commencé à adopter les technologies d’intelligence artificielle. Et il existe de nombreuses raisons de tirer parti de l’innovation, depuis la réduction des coûts et l’augmentation de l’efficacité jusqu’au traitement plus rapide des données et bien plus encore.

Mais avant de mettre en œuvre une nouvelle solution d’IA dans votre produit fintech, considérez d’abord les défis connus. La sécurité des données, les biais, l’exclusivité et une expérience utilisateur défectueuse sont des facteurs de risque majeurs. Certains mettent en danger les données et les finances de vos utilisateurs finaux, tandis que d’autres pourraient nuire à votre marque.

Comme pour toutes les nouvelles technologies que vous rencontrez, demandez-vous : cette solution d’IA en vaut-elle la peine ? La liste des risques et des cas d’utilisation ci-dessus devrait vous inciter à réfléchir à des moyens pratiques et sûrs de commencer à l’utiliser.

Les informations fournies sur ce blog ne constituent pas et ne sont pas destinées à constituer des conseils juridiques. Tout lecteur ayant besoin de conseils juridiques doit contacter son avocat pour obtenir des conseils sur toute question juridique particulière. Aucun lecteur, utilisateur ou navigateur de ce contenu ne doit agir ou s’abstenir d’agir sur la base des informations contenues dans le présent document sans demander au préalable un avis juridique à un avocat de sa juridiction concernée.