Cet article fait partie de Demystifying AI une série d'articles qui (tentent) de désambiguïser le jargon et les mythes entourant l'IA.
Le Wall Street Journal a récemment publié un article détaillant comment les entreprises qui fournissent des services de messagerie électronique analysent les boîtes de réception de millions d'utilisateurs Gmail . En soi, ce n'est pas un secret.
Nous ne payons pas.
Découvrez Hard Fork de TNW.
Leurs contrats de service indiquent clairement qu'ils ont besoin d'accéder à votre messagerie électronique pour que leurs algorithmes d'intelligence artificielle
Ce qu'ils ne vous disent pas, c'est que, dans certains cas, leurs employés lisent aussi vos e-mails, car leur IA ne peut tout simplement pas fonctionner comme promis.
L'une des sociétés présentées dans l'article du Wall Street Journal utilise l'IA pour ajouter une fonctionnalité de «réponse intelligente» à votre courrier électronique. ce qui peut faire une grande différence si vous gérez votre compte à partir d'un appareil mobile.
Cependant, le problème est que la création d'une IA capable de comprendre le contexte des conversations et de trouver des réponses pertinentes est très difficile. Vous avez juste besoin de jeter un coup d'œil à la fonctionnalité de réponse intelligente de Skype récemment ajoutée pour voir à quel point il est utile que l'IA devienne utile dans les dialogues humains, surtout lorsqu'elle n'est pas centrée sur un sujet restreint.
C'est pourquoi la société mentionnée dans l'article utilise les humains dans la boucle. Ses ingénieurs lisent les courriels des clients et corrigent l'IA lorsque ses réponses ne sont pas pertinentes pour la conversation.
Ce processus, appelé supervise l'apprentissage . Il est très courant d'utiliser l'apprentissage supervisé dans les phases de développement et de test de la création d'une IA. Mais l'utiliser en temps réel avec des données humaines en direct est une autre question.
Dans une interview avec le Journal, les ingénieurs de la société ont clairement indiqué qu'ils avaient signé des accords pour ne rien partager et qu'ils travaillaient sur des machines
Il est néanmoins effrayant de savoir qu’un humain peut lire tout ce qui entre et sort de votre compte de messagerie.
En outre, le problème est que le cycle peut se poursuivre indéfiniment, ce qui signifie il y aura toujours des humains assis en arrière-plan et jouant le rôle de l'IA.
Ce n'est pas la première fois que des humains agissent comme des robots. Appelée "technique du magicien d'Oz l'utilisation des humains comme bots est devenue une pratique courante pour les entreprises qui ne respectent pas leurs promesses.
Les limites de l'intelligence artificielle contemporaine
Certains scientifiques pensent que dans les prochaines décennies, nous créerons intelligence générale artificielle AI peut traiter des informations et décider comme des humains.
Mais pour le moment, nous avons étroite AI qui convient à des fins très spécifiques telles que classer des images dans Google Photos ou recommander des films dans Netflix .
Ces dernières années, les progrès des réseaux neuronaux artificiels et des applications d’apprentissage en profondeur ont ouvert la voie à l’application de l’IA dans de nombreux autres cas auparavant considérés comme exclusifs à l’intelligence humaine. Un exemple notable est vision par ordinateur la branche de l'IA qui permet aux ordinateurs de comprendre le contenu des images et des vidéos. Une autre est la capacité des réseaux de neurones profonds à à imiter l'image et la voix des êtres humains avec une très grande précision.
étroite AI, même si ils sonnent et se sentent comme de vrais humains . Mais nous avons tendance à exagérer les capacités de l’apprentissage en profondeur, menant à des attentes et à des craintes qui sont mal placées.
L'apprentissage en profondeur et les réseaux de neurones profonds ont des limites très différentes . Tâches spécifiques pour lesquelles ils sont formés, ils échouent spectaculairement dans des scénarios qui ne sont pas dans leur domaine.
Ils requièrent également des quantités énormes de données de qualité et de puissance de calcul, un produit auquel toutes les entreprises n'ont pas accès. C'est pourquoi ils doivent recourir à la technique du Magicien d'Oz pour combler leurs lacunes.
Les entreprises ne tiennent pas leurs promesses
La révélation de Wall Street Journal la pratique consistant à utiliser des robots humains pour pallier les lacunes de l'IA est devenue courante, même pour les grandes entreprises de technologie.
En 2015, Facebook a annoncé M effectuer diverses tâches, comme faire des achats, acheter des cadeaux, commander un taxi et mener des conversations sérieuses.
M était alimenté par l'IA de Facebook et soutenu par une équipe d'opérateurs qui superviseraient ses performances et interviendraient là où elle commencerait.
Facebook a initialement déployé M pour un nombre limité d'utilisateurs dans la Bay Area afin d'évaluer ses performances et d'apprendre à l'IA à être moins dépendante des humains. Finalement, l'assistant deviendra accessible à tout le monde.
En 2018, Facebook a fermé le projet déclarant que "nous avons beaucoup appris". supprimer complètement les humains, mais si ce n'était pas le cas, fournir les services de M aux 2 milliards d'utilisateurs de Facebook aurait nécessité l'embauche d'une énorme équipe de robots humains.
D'autres sociétés comme X.ai utilisent AI pour aider Les utilisateurs gèrent leur travail en lisant leurs e-mails et en planifiant automatiquement les tâches, les réunions, les appels, etc. X.ai utilise le traitement du langage naturel une branche de l'IA qui analyse le contenu text.
Cependant, X.ai est également soutenu par une équipe de bots humains assis dans un immeuble sécurisé à Manille, aux Philippines, surveillant et corrigeant étroitement les performances de l'IA. L'une des tâches compliquées des opérateurs humains consiste à déterminer comment traiter les options de calendrier pour les réunions, que les humains ont tendance à exprimer de diverses manières.
En 2017, Expensify, une entreprise qui fournit un outil d'analyse automatique des images. et extrait des données de documents soumis par les utilisateurs pour remplir des formulaires, a admis que avait utilisé Mechanical Turk le magasin de données en ligne d'Amazon, dans différentes capacités pour une tâche supposée être effectuée par des algorithmes AI
Les utilisateurs soumettaient des documents sensibles au service de l'entreprise, y compris des reçus, des formulaires de remboursement et des demandes de prestations.
Nécessité de la transparence de l'IA
Ces histoires et bien d'autres montrent jusqu'où nous devons encore aller nous comprenons toute la capacité de nos technologies d'intelligence artificielle.
Dans le sillage de la démonstration de Google sur Google Duplex, dans laquelle la société a démontré l'utilisation d'un assistant d'IA qui téléphonait et parlait comme un vrai humain, J'affirmais que les entreprises devaient faire preuve de transparence quant à leur utilisation de l'intelligence artificielle.
Les entreprises devraient explicitement informer les utilisateurs qu'elles interagissent avec un agent de l'intelligence artificielle un opérateur humain, parce que ne pas le faire causerait probablement de la frustration, surtout si l'agent d'IA commence à agir de manière douteuse.
L'inverse est également vrai. Si les utilisateurs s'attendent à interagir avec un agent d'intelligence artificielle, les entreprises devraient leur dire clairement s'il y a un être humain derrière l'application.
Les humains sont plus enclins à divulguer des informations . sur eux-mêmes, quand ils pensent qu'ils interagissent avec une machine au lieu d'un humain. Les entreprises ne doivent pas abuser de cette confiance.
Nous devons également reconnaître les forces et les faiblesses de nos technologies. AI est une augmentation de l'intelligence humaine et non son remplacement.
Tant que nous essayons de créer des applications d'IA qui imitent exactement le comportement et les fonctions des humains, le Magicien d'Oz ne va disparaître et nous finirons par créer plus de bots humains qui agissent comme une IA qui agit comme des humains.
Cette histoire est republiée de TechTalks le blog qui explore comment la technologie résout des problèmes … et en créer de nouveaux. Aimez-les sur Facebook ici et suivez-les ici:
Lire la suite:
Des experts en IA de classe mondiale partagent leur algorithme préféré
Source link