Comment les assistants vocaux sexués font mal en aidant

Les articles ne manquent pas ces derniers temps sur la façon dont la pandémie a fait reculer les femmes. Comme les femmes ont tendance à gagner moins que les hommes, quand est venu le temps de s'occuper des enfants qui ne pouvaient plus aller à l'école ou à la garderie, les femmes se sont retrouvées avec le travail. Partout dans le monde, les femmes qui travaillent ont été forcées de quitter leur carrière pour devenir des mères au foyer à temps plein avec tous les soins et la lessive qui vont avec.

Pour une société qui n'est pas tout à fait sortie de son mentalité autour des rôles de genre traditionnels, voir les femmes comme les aides de tout le monde au lieu de leur propre peuple avec leur propre destin fait partie du cours. Nous voyons même cela se refléter dans le domaine émergent des assistants vocaux IA – qui sonnent tous féminins.

"Alexa, pourquoi ressemblez-vous à une fille?" une longue lignée d'assistants vocaux qui ont semblé féminins. Mais pourquoi ?

Eh bien, il y a ces attitudes profondément ancrées de la société autour des rôles de genre que nous avons dû travailler si dur pour défaire. Et puis vous avez sûrement entendu parler de l'inégalité actuelle entre les sexes dans les domaines STEM, où seulement 12% des chercheurs en IA et un responsable informatique britannique sur 10 sont des femmes. Lorsque plus de femmes sont à la table et ont le pouvoir de s'exprimer, elles peuvent soulever des inquiétudes à propos de ce genre de choses. ]Rapport UNESCO 2019. Selon l'équipe à l'origine de l'assistant Google, il y a des raisons techniques pour lesquelles leur système 2016 était féminin, même s'il souhaitait initialement utiliser une voix masculine. En raison de biais dans leurs données historiques de synthèse vocale (TTS), l'assistant fonctionnait mieux lorsqu'il utilisait la voix féminine qu'avec l'homme. Et avec la pression du temps sur eux – leur produit de mise sur le marché est resté uniquement féminin.

Mais pourquoi leurs anciens systèmes TTS ont-ils été formés sur des données biaisées en premier lieu ? Et pourquoi semblons-nous nous soucier de la façon dont nos téléphones parlent ?

Shrill, passive, whiny…

Ces trois mots sont couramment utilisés pour décrire les voix des locuteurs féminins. Ils ne sont pas vraiment flatteurs ! Même les sociolinguistes ont passé une grande partie des années 70 à étiqueter les caractéristiques linguistiques passives comme « discours de femmes », qui à son tour a été décrit comme inférieur au langage puissant et affirmé utilisé par les hommes.

Il existe des preuves que l'utilisation d'une voix féminine améliore réellement l'expérience utilisateur. Une étude de 2019 de Voicebot a révélé une préférence des consommateurs pour les voix féminines synthétiques par rapport à leurs homologues masculins, avec une augmentation moyenne de 12,5 % ; l'inverse était vrai lorsque les voix humaines étaient évaluées.

En résumé : les gens préfèrent une voix féminine – mais seulement lorsqu'elle est robotique.

« Donc, mon assistant vocal est une fille – et alors ? »

Le problème avec les assistants vocaux n'est pas seulement qu'ils sonnent tous femelle. Ce sont les « personnalités » passives qui ont été conçues pour eux.

Imaginez ceci : vous êtes une femme marchant dans la rue, s'occupant de ses propres affaires. Soudain, un homme passe et crie par la fenêtre de la voiture : « Tu as chaud ! » C'est évidemment un comportement inacceptable, et y réagir signifierait probablement lever un doigt spécifique.

Mais si vous dites la même chose à Alexa, vous entendrez « c'est gentil de votre part de le dire » en réponse. Si vous lanciez des insultes sexistes, telles que salope ou sl*t, Alexa vous remercierait simplement poliment pour vos commentaires.

Décider du rôle d'un assistant affable, passif et désireux de plaire est celui qui convient le mieux à un femme renforce le stéréotype fatigué de la soumission féminine. Vous pouvez ordonner à Alexa de vous rappeler de sortir les poubelles, d'envoyer un SMS à votre mère et d'éteindre les lumières, sans même un « s'il vous plaît ». Quel bot bien élevé elle est !

Mais comment cela nous apprend-il à mieux traiter les femmes quand nous pouvons simplement lancer des ordres dans la direction générale d'une assistante à consonance féminine ?

Nous avons vu des progrès, mais il y a encore du travail à faire

Ce n'est pas que de mauvaises nouvelles. Depuis la publication du rapport de l'UNESCO, Alexa s'est déclarée féministe. Le premier assistant vocal non sexiste au monde, Q, est en cours de développement pour résoudre ce problème. Et on met beaucoup plus l'accent sur l'intégration des femmes dans les STIM dès leur plus jeune âge, ce qui sera payant dans les années à venir. nous ne pouvons même pas réaliser que nous devons être défaits. Le meilleur endroit pour commencer est d'embaucher plus de femmes et de leur donner les moyens d'appeler quand quelque chose est manifestement sexiste. Si nous travaillons tous ensemble, nous pouvons créer une IA qui fonctionne pour tout le monde.