Le biais humain est un énorme problème pour l'IA. Voici comment nous allons le réparer

Les machines n'ont pas de biais. L'IA ne veut pas que quelque chose soit vrai ou faux pour des raisons qui ne peuvent pas être expliquées par la logique. Malheureusement, il existe un biais humain dans l'apprentissage automatique depuis la création d'un algorithme jusqu'à l'interprétation des données – et jusqu'à présent pratiquement personne n'a essayé de résoudre ce problème énorme.

Une équipe de scientifiques de République tchèque et d'Allemagne a récemment Le livre blanc de l'équipe explique comment 20 biais cognitifs différents pourraient potentiellement modifier le développement des règles d'apprentissage automatique et propose des méthodes de "debiasing". Biais comme «biais de confirmation» (lorsqu'une personne accepte un résultat parce qu'il confirme une croyance antérieure) ou «biais de disponibilité» (en mettant davantage l'accent sur l'information pertinente pour l'individu que l'information de valeur égale de moins de familiarité) peut rendre l'interprétation des données d'apprentissage automatique inutile

Lorsque ces types d'erreurs humaines deviennent cuites ts d'une IA – ce qui signifie que notre parti pris est responsable de la sélection d'une règle d'entraînement qui façonne la création d'un modèle d'apprentissage automatique – nous ne créons pas d'intelligence artificielle: nous dissimulons nos propres observations erronées dans une boîte noire.

Selon l'article, tout cela est un nouveau territoire:

En raison du manque de recherches antérieures, notre revue transfère les résultats généraux obtenus en psychologie cognitive au domaine de l'apprentissage automatique. Il doit être remplacé par des études empiriques spécifiquement destinées au domaine de l'apprentissage automatique

Le paysage de la responsabilité personnelle évolue avec la mise en ligne de systèmes alimentés par l'IA. Bientôt, la plupart des véhicules seront exploités par des machines et un grand nombre de chirurgies et de procédures médicales seront menées par des robots. Cela mettra les développeurs d'IA au premier plan quand la tragédie frappe et que les gens cherchent quelqu'un à blâmer.

Les chercheurs proposent une solution de debiasing à chaque biais cognitif qu'ils ont examiné. Pour la plupart des problèmes, la solution était aussi simple que de changer la façon dont les données sont représentées. L'équipe émet l'hypothèse, par exemple, en changeant la sortie des algorithmes pour utiliser des nombres plus naturels que les ratios, ce qui pourrait réduire considérablement le risque de mauvaise interprétation de certains résultats.

Malheureusement, il n'y a pas de solution facile au problème global. La plupart du temps, nous ne savons pas que nous sommes biaisés. Nous croyons que nous sommes intelligents ou intuitifs – ou nous n'y pensons tout simplement pas. Et il y a bien plus que 20 biais cognitifs différents que les programmeurs d'apprentissage automatique doivent prendre en compte.

Même lorsque les algorithmes sont parfaits et les résultats sont immuables, nos biais cognitifs rendent notre interprétation des données peu fiable. Tout le monde a ces biais à un degré ou un autre – ce qui fait qu'il y a eu si peu de recherches sur la façon dont ils effectuent l'interprétation des données.

Selon l'équipe:

A notre connaissance, les biais cognitifs n'ont pas encore été discutés. relation avec l'interprétabilité des résultats d'apprentissage automatique. Nous avons donc initié cette revue de la recherche publiée en sciences cognitives avec l'intention de donner une base psychologique aux changements dans les algorithmes d'apprentissage des règles inductives, et à la façon dont leurs résultats sont communiqués. Notre revue a identifié vingt biais cognitifs, heuristiques et effets qui peuvent donner lieu à des erreurs systématiques lors de l'interprétation des règles induites.

Il est important que les chercheurs du monde entier s'appuient sur ce travail et découvrent des méthodes pour éviter complètement les biais cognitifs. Sinon, l'IA n'est rien de plus qu'un amplificateur pour les BS humaines. Et la mauvaise science est vouée à faire de mauvais robots.

La conférence 2018 du Next Web est presque là, et ce sera ??. Découvrez tout sur nos pistes ici .

Lire la suite:

Ces polices gratuites vous permettent d'écrire comme David Bowie, John Lennon, et d'autres légendes de la musique