Pouvez-vous faire confiance à AI pour influencer les décisions de l'entreprise?

L’innovation est la pierre angulaire du progrès, mais comme le rappelle l’invention de la dynamite d’Alfred Nobel, les nouvelles découvertes comportent toujours des avantages et . Alors que les entreprises insufflent des informations issues de l'apprentissage automatique aux processus métier et que les robots intelligents effectuent des tâches autonomes, il est juste de se demander: que se passera-t-il si les algorithmes d'IA sous-jacents ne fonctionnent pas comme prévu?

La bonne nouvelle est que, dans de nombreuses applications de l'IA. , il n’est pas difficile de répondre à des questions éthiques telles que celle que pose le prix Nobel, comme l’automatisation d’une activité industrielle qui ne traite pas de données à caractère personnel et n’impose pas de risques pour l’homme (comme la pulvérisation de peinture guidée par la vision). En général, plus les décisions automatisées affectent les humains, plus l'impact potentiel d'une prise de décision erronée sur les humains est important et plus les fournisseurs de logiciels doivent se préoccuper de la sécurisation du processus et du contrôle des résultats. Pour ces scénarios affectant les activités humaines, il existe des meilleures pratiques de qualité et de sécurité sur lesquelles vous pouvez compter pour prévenir et atténuer les risques associés à l'adoption d'IA. Examinons certains d’entre eux.

Processus de développement de logiciels sonores

Les algorithmes et les modèles d’IA sont des programmes logiciels et, comme tous les logiciels destinés aux entreprises, ils doivent être développés conformément aux meilleures pratiques. Que vous achetiez votre logiciel d'intelligence artificielle auprès d'un fournisseur externe ou que vous le développiez en interne, vous devez vous assurer qu'il est produit avec les systèmes de gestion de la qualité mis en place pour piloter des processus de développement normalisés. Ces processus permettent aux utilisateurs de partager et d’appliquer les meilleures pratiques permettant de maintenir et d’améliorer la qualité du logiciel.

En outre, dans le cas de l’IA, il est vivement recommandé que deux équipes différentes participent à l’effort de développement visant à: éviter les préjugés inconscients ou les idées préconçues d'une équipe pour fausser les prédictions vers un résultat spécifique. Par exemple, si un développeur suppose qu'une tâche donnée serait accomplie par un employé de sexe masculin, son algorithme de recrutement pourrait être biaisé en faveur de caractéristiques que l'on retrouve le plus souvent chez les hommes.

Données représentatives et relatives à la conformité GDPR

De bonnes données pour la formation des modèles d'IA constituent probablement l'étape la plus critique pour obtenir des résultats positifs de l'adoption de l'IA. Si les données que vous sélectionnez sont orientées vers un résultat spécifique ou ne sont pas assez complètes pour être représentatives de la situation réelle que vous souhaitez traiter, les prédictions générées par le logiciel d'intelligence artificielle seront probablement erronées.

Prenez l'exemple d'une application qui utilise l'IA pour déterminer les profils de risque en fonction de la propension des catastrophes naturelles dans une région donnée. Si le jeu de données ne contient pas suffisamment de données historiques, l’application pourrait qualifier à tort une zone de «risque élevé» en raison d’une série inhabituelle d’événements météorologiques. Pire encore, l'inverse pourrait se produire pour les zones qui ont récemment eu de la chance et qui sont connues sous le nom de zones à haut risque.

De plus, vous devez être attentif à l'utilisation des données dans le respect de l'éthique et dans le respect des réglementations en matière de confidentialité, telles que le GDPR. Par exemple, si les données que vous utilisez contiennent des informations sensibles sur des personnes, les prédictions dérivées de telles données peuvent exposer votre société à des responsabilités et porter atteinte à la confiance de vos clients.

Il est impératif que vous disposiez d'une visibilité et d'un contrôle permanents sur le mode de traitement des données. source, sélection et maintenance.

Développement à des fins spécifiques et évaluation de la qualité dans un contexte réel

Pour être efficaces, les logiciels d'intelligence artificielle doivent être conçus pour un objectif bien identifié et testés dans des scénarios réels. Cela est essentiel pour vérifier que les modèles d'intelligence artificielle sous-jacents correspondent à l'utilisation prévue dans votre environnement et qu'ils fonctionneront comme prévu.

Avant de déployer un logiciel d'intelligence artificielle dans un environnement de production, assurez-vous que votre fournisseur de logiciel travaille en étroite collaboration avec vos utilisateurs finaux. et experts en la matière. Cela est essentiel pour valider l'exactitude des recommandations basées sur l'IA et garantir que la solution globale aura un impact positif sur votre entreprise. Il est très probable que votre fournisseur de logiciel devra ajuster davantage la qualité, la sécurité, la fiabilité et la sécurité des systèmes pour garantir le résultat attendu.

Développement éthique, distribution et utilisation de la technologie d'intelligence artificielle

Comme de la dynamite, une IA modèle pourrait être utilisé à des fins éthiques et contraires à l'éthique. Par exemple, une application peut utiliser la reconnaissance faciale alimentée par l'IA pour garantir que seul le personnel autorisé peut accéder à un laboratoire de test. Cette même technologie d'intelligence artificielle pourrait également être utilisée pour suivre les mouvements de citoyens illégalement.

Cela signifie que les créateurs, les vendeurs et les utilisateurs de la technologie d'intelligence artificielle se partagent la charge de la responsabilité de veiller à ce qu'un bon algorithme d'intelligence artificielle ne soit pas pris en compte. les mauvaises mains. La solution n'est pas simple, mais il est important que les équipes qui créent l'IA soient conscientes et engagées à faire leur part. En outre, les fournisseurs éthiques devraient demander à leurs clients d'utiliser des solutions d'IA uniquement aux fins pour lesquelles ils ont obtenu une licence et encourager leurs employés, clients et partenaires à à prendre conscience des formidables opportunités et risques engendrés par AI . [19659002] En savoir plus sur la mise en place de garanties autour de l'utilisation éthique de de l'IA .

<! – Commentaires ->