Le racisme est déjà réel dans le métaverse – voici comment nous pouvons y remédier

Les personnes marginalisées souffrent souvent le plus des conséquences imprévues des nouvelles technologies. Par exemple, les algorithmes qui prennent automatiquement des décisions sur qui peut voir quel contenu ou comment les images sont interprétées souffrent de préjugés raciaux et sexistes . Les personnes qui ont plusieurs identités marginalisées, comme le fait d'être noir et handicapé, sont encore plus à risque que celles qui ont une seule identité marginalisée.

C'est pourquoi, lorsque Mark Zuckerberg a présenté sa vision de le métaverse – un réseau d'environnements virtuels dans lequel de nombreuses personnes peuvent interagir les unes avec les autres et avec des objets numériques – et a déclaré qu'il toucherait chaque produit construit par l'entreprise, j'étais effrayé. En tant que chercheuse qui étudie les intersections de la race, de la technologie et de la démocratie – et en tant que femme noire – je pense qu'il est important d'examiner attentivement les valeurs qui sont encodées dans cet Internet de nouvelle génération.

Des problèmes font déjà surface. Les avatars, les personnages graphiques que les gens peuvent créer ou acheter pour se représenter dans des environnements virtuels, sont facturés différemment en fonction de la race perçue de l'avatar, et le harcèlement raciste et sexiste fait son apparition dans les environnements immersifs actuels pré-métavers. Cela nécessitera également une réglementation rigoureuse pour que les Big Tech soient responsables de l'intérêt public. Sans ceux-ci, le métaverse risque d'hériter des problèmes des médias sociaux d'aujourd'hui, sinon de devenir pire. radicalement différent de la vie dans le monde physique. Par exemple, les gens voyaient Internet comme un moyen d'échapper à certaines parties de leur identité, telles que les distinctions de race, de sexe et de classe. En réalité, l'internet est loin d'être sans race.

Alors que les techno-utopies communiquent les visions souhaitées du futur, la réalité des nouvelles technologies n'est souvent pas à la hauteur de ces visions. . En fait, Internet a causé de nouvelles formes de préjudice à la société, telles que la diffusion automatisée de propagande sur les réseaux sociaux et les biais dans les algorithmes qui façonnent votre expérience en ligne.

Zuckerberg a décrit le métavers comme un Internet plus immersif et incarné qui « débloquera beaucoup de nouvelles expériences étonnantes ». Il s'agit d'une vision non seulement d'un futur Internet, mais d'un futur mode de vie. Aussi hors cible que puisse être cette vision, le métaverse est susceptible – comme les versions antérieures d'Internet et des médias sociaux – d'avoir des conséquences généralisées qui transformeront la façon dont les gens socialisent, voyagent, apprennent, travaillent et jouent.[19659002]La question est, ces conséquences seront-elles les mêmes pour tout le monde ? L'histoire suggère que la réponse est non.

La technologie n'est jamais neutre

Les technologies largement utilisées supposent souvent des identités et des corps masculins blancs par défaut. L'informaticienne du MIT Joy Buolomwini a montré que les logiciels de reconnaissance faciale fonctionnent moins bien sur les femmes et encore plus sur les femmes au visage plus sombre. D'autresétudes l'ont confirmé.

La blancheur est intégrée par défaut dans ces technologies, même en l'absence de race en tant que catégorie pour les algorithmes d'apprentissage automatique. Malheureusement, racisme et technologie vont souvent de pair. Les femmes politiques et journalistes noires ont été ciblées de manière disproportionnée avec des tweets abusifs ou problématiques, et les électeurs noirs et latinos ont été ciblés dans des campagnes de désinformation en ligne pendant le cycle électoral de 2020.

Cette relation historique entre la race et la technologie me laisse préoccupé par le métavers. Si le métavers est censé être une version incarnée d'Internet, comme l'a décrit Zuckerberg, cela signifie-t-il que des personnes déjà marginalisées subiront de nouvelles formes de préjudice ?

Facebook et sa relation avec les Noirs

Le général La relation entre la technologie et le racisme n'est qu'une partie de l'histoire. Meta entretient de mauvaises relations avec les utilisateurs noirs sur sa plate-forme Facebook, et avec les femmes noires en particulier.

En 2016, les journalistes de ProPublica ont découvert que les annonceurs sur le portail publicitaire de Facebook pouvaient exclure des groupes de personnes qui voient leurs publicités sur la base du race des utilisateurs ou ce que Facebook a appelé une « affinité ethnique ». Cette option a reçu beaucoup de pushback parce que Facebook ne demande pas à ses utilisateurs leur race, ce qui signifiait que les utilisateurs se voyaient attribuer une « affinité ethnique » en fonction de leur engagement sur la plate-forme, comme comme les pages et les publications qu'ils aimaient.

En d'autres termes, Facebook faisait essentiellement un profilage racial de ses utilisateurs en fonction de ce qu'ils faisaient et aimaient sur sa plate-forme, créant ainsi la possibilité pour les annonceurs de discriminer les personnes en fonction de leur race. Facebook a depuis mis à jour ses catégories de ciblage publicitaire pour ne plus inclure les « affinités ethniques ».

Cependant, les annonceurs peuvent toujours cibler des personnes en fonction de leur race présumée via des proxies de racequi utilisent des combinaisons d'intérêts des utilisateurs pour déduire des races. Par exemple, si un annonceur voit dans les données Facebook que vous avez exprimé un intérêt pour la culture afro-américaine et les BET Awards, il peut en déduire que vous êtes noir et vous cibler avec des publicités pour des produits qu'il souhaite commercialiser auprès des Noirs.

Pire, Facebook a fréquemment supprimé les commentaires des femmes noires qui dénoncent le racisme et le sexisme. Ironiquement, les commentaires des femmes noires sur le racisme et le sexisme sont censurés – familièrement connus sous le nom de se faire foutre – pour avoir ostensiblement violé les politiques de Facebook contre le discours de haine. Cela fait partie d'une tendance plus large au sein des plateformes en ligne de femmes noires punies pour avoir exprimé leurs préoccupations et réclamé justice dans les espaces numériques.

Selon un récent rapport du Washington Post, Facebook savait ] son ​​algorithme nuisait de manière disproportionnée aux utilisateurs noirs, mais a choisi de ne rien faire. ] : « Si vous ne pouvez pas gérer les commentaires sur Instagram, comment pouvez-vous gérer le t-shirt qui contient des propos haineux dans le métaverse ? Comment pouvez-vous gérer le rassemblement de haine qui pourrait se produire dans le métavers ? » De même, si les Noirs sont punis pour avoir dénoncé le racisme et le sexisme en ligne, alors comment peuvent-ils le faire dans le métavers ? justice du design et régulation des médias sociaux.

La justice du design met les personnes qui ne détiennent pas le pouvoir dans la société au centre du processus de conception pour éviter de perpétuer les inégalités existantes. Cela signifie également commencer par une considération des valeurs et des principes pour guider la conception.

Les lois fédérales ont protégé les sociétés de médias sociaux de toute responsabilité pour les publications et les actions des utilisateurs sur leurs plateformes. Cela signifie qu'ils ont le droit mais pas la responsabilité de contrôler leurs sites. Réglementer les Big Tech est crucial pour faire face aux problèmes des médias sociaux aujourd'hui, et au moins aussi important avant qu'ils ne construisent et contrôlent la prochaine génération d'Internet.

Le métavers et moi

Je ne suis pas contre le métavers. Je suis pour un métavers démocratiquement responsable. Pour que cela se produise, cependant, j'affirme qu'il doit y avoir de meilleurs cadres réglementaires en place pour les sociétés Internet et des processus de conception plus justes afin que la technologie ne continue pas à être en corrélation avec le racisme.

Dans l'état actuel des choses, les avantages du métavers ne l'emportent pas sur ses coûts pour moi. Mais cela ne doit pas rester ainsi.

Article de Breigha Adeyemodoctorante en communication, University of Illinois at Chicago

Cet article est republié à partir de The Conversation sous une licence Creative Commons. Lire l'article d'origine.