5 étapes pour aider les entreprises technologiques à réduire les biais dans l'IA

Les enfants s'adaptent inévitablement à la culture dans laquelle ils ont été élevés. Les parents ou tuteurs façonnent la lentille à travers laquelle ils voient le monde, en grande partie à travers les exemples qu'ils donnent. De nombreux parents éprouvent de l'horreur humoristique lorsqu'un enfant relève un mot inapproprié, probablement issu d'une conversation d'adulte entendue, et commence à utiliser cette expression dans son discours de tous les jours. Peu importe que le parent fabrique intentionnellement ou non l'objectif pour l'enfant – ils reprendront toujours les points de vue et les habitudes des parents.

Nous assistons à cette même progression dans le monde tech. Les systèmes d'intelligence artificielle adoptent la vision du monde de leurs créateurs, tout comme les enfants adoptent la vision du monde des adultes qui les ont élevés. C'est problématique car l'intelligence artificielle ne peut pas développer sa propre vision du monde, apprendre de ses expériences de vie ou remettre en question la vision du monde de son créateur comme un enfant pourrait le faire en vieillissant.

Voici cinq initiatives qui aideront à prévenir les biais technologiques.

1. Rendre l'enseignement technologique accessible

Les systèmes d'intelligence artificielle sont biaisés et la technologie suit généralement le point de vue de ses créateurs. Alors que la société a considérablement changé au cours du dernier demi-siècle, les entreprises ont toujours des biais sous-jacents (qu'elles les réalisent ou non). Il est essentiel que nous prenions des mesures actives pour inverser nos préjugés afin d'empêcher que d'autres préjugés ne se développent dans l'intelligence artificielle, et la meilleure façon d'y parvenir est de rendre l'industrie technologique plus accessible à un plus large éventail de personnes.

Initiatives. comme Girls Who Code, AI4ALL et d'autres programmes éducatifs permettent aux enfants de développer un intérêt pour la technologie. Pour réduire les préjugés et diversifier l'industrie de la technologie, les dirigeants doivent investir dans l'éducation des jeunes afin qu'ils puissent développer un intérêt pour le domaine et acquérir les compétences nécessaires pour poursuivre une carrière. Les entreprises technologiques devraient investir très tôt dans une gamme d'étudiants, sachant que les investissements dans l'éducation donnent des résultats à long terme.

Connexe : C'est l'outil d'intelligence artificielle le plus puissant au monde[19659006]2. Embaucher et promouvoir en gardant à l'esprit la diversité

Malgré les nombreux appels des principaux leaders de l'industrie, le monde de la technologie manque toujours de diversité. La Harvard Business Review a rapporté que les grandes entreprises comme Google n'ont fait que progresser vers une plus grande diversité parmi les membres de leur personnel. Même près de sept ans après que les entreprises technologiques ont commencé à signaler leurs efforts en matière de diversité, la plupart des organisations technologiques de premier plan échouent – ​​les minorités ne représentant qu'un pourcentage à un chiffre de la main-d'œuvre globale.

Il va sans dire, mais les entreprises doivent activement embaucher et promouvoir avec la diversité. à l'esprit. C'est le moyen le plus efficace d'éliminer les biais dans l'intelligence artificielle, car avec une main-d'œuvre plus diversifiée, l'IA sera développée avec des points de vue et des expériences à multiples facettes à l'esprit. Et nous ne pouvons pas simplement le faire au niveau d'entrée – la diversité doit s'étendre jusqu'au sommet du leadership technologique afin que ceux qui approuvent les projets puissent voir les angles morts dans les systèmes.

3. Évaluer les ensembles de données 

Le biais est déjà présent dans vos ensembles de données et vous ne devez pas l'ignorer. Pour contrer les biais, chaque développeur de technologie d'IA devrait consacrer du temps à évaluer les ensembles de données avec lesquels le système a été créé. Cette évaluation doit avoir lieu à chaque étape du développement, de la conception initiale aux preuves finales.

La meilleure façon d'évaluer l'IA pour les biais est de poser des questions spécifiques. La FTC fournit des lignes directrices pour déterminer si l'intelligence artificielle est sur la bonne trajectoire et pour clarifier ce qui est autorisé (ou interdit) par la loi. Les développeurs doivent se remettre en question et s'interroger sur la technologie qu'ils créent. Il est impératif que les développeurs comprennent leurs propres préjugés – en particulier les inconscients – et puissent évaluer leur travail en conséquence. Travailler pour éliminer les préjugés n'est pas un processus linéaire, car il faudra plusieurs allers-retours. Réévaluez régulièrement les systèmes pour détecter les biais

Les évaluations rigoureuses ne peuvent s'arrêter aux ensembles de données. La technologie se développe et évolue à un rythme si rapide, et les stratégies, les systèmes et même les résultats doivent être réévalués à chaque étape du processus. Afin d'inverser les biais déjà présents dans l'intelligence artificielle et d'empêcher que d'autres biais ne se développent, les entreprises doivent vérifier leur travail encore et encore.

L'intelligence artificielle peut apprendre de nouvelles données et ainsi développer de nouveaux biais à mesure que le système grandit et change. Les entreprises doivent comprendre l'impact que cela pourrait avoir sur leurs systèmes et les personnes qui les utilisent. Les logiciels d'intelligence artificielle devraient être régulièrement évalués, en particulier à partir de l'interface destinée aux consommateurs, afin que les biais soient pris en compte et éliminés.

5. Ajuster et répéter le processus

La technologie n'a jamais évolué de manière linéaire. Il en va de même pour l'intelligence artificielle : les données, les processus, les systèmes et même les robots eux-mêmes doivent être ajustés au fil du temps. La meilleure voie à suivre est d'adopter une approche préventive. Cela signifie que ces cinq étapes pour réduire les biais dans l'IA doivent être ajustées et répétées plusieurs fois sur un système donné.

La compassion humaine est au cœur de cette mission vers l'égalité en intelligence artificielle. Afin de créer une technologie qui sert l'humanité au lieu de lui nuire, nous devons la construire en pensant aux gens. C'est une période charnière pour la technologie, et il est essentiel que les entreprises adoptent une approche plus humaine de l'intelligence artificielle en se concentrant sur la création de systèmes exempts de préjugés. ]

Source link