Facebook vend-il toujours des publicités discriminatoires?

En mai, une agence de soins de santé du Wisconsin, Tenderness Health Care, a publié une offre d'emploi sur Facebook à la recherche de personnel soignant. Selon la fenêtre contextuelle «Pourquoi est-ce que je vois cette publicité» de Facebook, lorsque l'agence a acheté l'annonce, elle a demandé à Facebook de ne la montrer à personne de plus de 54 ans. Et ils ont demandé à Facebook de le montrer spécifiquement aux personnes qui ont «une affinité multiculturelle afro-américaine». Facebook, apparemment, s'est conformé.

Le problème? La loi fédérale interdit aux employeurs de discriminer sur la base de l'âge et de la race, y compris dans la publicité des emplois vacants.

Lorsque The Markup a attiré l'attention de Facebook sur la publicité, l'entreprise l'a supprimée, selon Tom Channick, un porte-parole de Facebook. (Le PDG de Tenderness, Julio Fernandez, n'a pas répondu aux demandes de commentaires de The Markup.)

Ce n'est pas la première fois que Facebook est accusé d'autoriser la discrimination sur sa plateforme.

Des groupes de défense des droits civils ont accusé Facebook de violer les lois fédérales antidiscrimination et intenté au moins cinq poursuites contre l'entreprise, qui ont abouti à un règlement historique l'année dernière . Dans ce document, Facebook a accepté de modifier ses pratiques qui permettaient aux annonceurs d'exclure les personnes de certains sexes, âges et «affinités multiculturelles» de la visualisation des annonces de logement, d'emploi et de services financiers. (Facebook ne recueille pas de données sur la race des utilisateurs, mais avait jusqu'à récemment une catégorie d '«affinité multiculturelle», qu'il n'a pas clairement définie.)

La société défend toujours un autre procès intenté par le gouvernement fédéral

La plupart des problèmes juridiques concernaient la manière dont une grande partie de la publicité en ligne fonctionne, y compris celle de Facebook. Contrairement à de nombreuses publicités imprimées et aux premières publicités sur Internet, qui apparaissaient à côté du contenu connexe, la publicité de Facebook cible les gens.

La mine de données détaillées de Facebook sur ses utilisateurs permet aux entreprises qui font de la publicité pour tout, des emplois aux jeans, de choisir parmi un vaste menu de caractéristiques démographiques et les intérêts au moment de choisir qui voit leurs publicités – et cela a valu à l'entreprise des milliards de dollars année après année.

Facebook a défendu cette pratique, arguant que les entreprises pourraient légitimement utiliser le ciblage en fonction de l'âge pour adapter leurs messages ou pour sensibiliser les groupes sous-représentés. Ses politiques écrites interdisent la discrimination, a-t-il déclaré.

Et le ciblage peut parfois être inoffensif. Un lieu hip-hop de plus de 21 ans à Atlanta pourrait avoir de bonnes raisons de ne pas vouloir dépenser de l'argent pour faire de la publicité auprès de jeunes de 18 ans, de personnes vivant à New York ou de personnes dont le comportement en ligne ne révèle aucun intérêt pour le hip-hop.

Mais il y a des circonstances où le ciblage d'une publicité basée sur les caractéristiques d'une personne est illégal. Les lois fédérales interdisent la discrimination en matière de logement, d'emploi et de services financiers, notamment dans les publicités sur le logement. Ces règlements ont été imposés après des décennies de propriétaires et de quartiers interdisant les locataires et les propriétaires appartenant à des minorités et à des immigrants; les employeurs discriminent en raison de la race, du sexe et de la sexualité; et les créanciers qui vendent aux minorités de mauvais taux de prêt et des produits financiers.

«Aider à prévenir la discrimination dans les annonces d'offres d'emploi est un domaine dans lequel nous dirigeons l'industrie», a déclaré le porte-parole de Facebook, Channick, dans un courriel.

Alors, pourquoi Markup est-il toujours en mesure de trouver une offre d'emploi discriminatoire? Channick ne le dirait pas.

L'entreprise utilise des contrôles automatisés pour limiter quand et comment les annonceurs peuvent cibler des publicités en fonction de l'âge et du sexe, conformément à son règlement civil.

Channick n'a pas répondu à une question concernant Facebook Les contrôles automatisés fonctionnent toujours.

Facebook avait interdit l'utilisation de catégories «multiculturelles» pour le ciblage dans les offres d'emploi. Mais ces catégories ont été utilisées par d'autres types d'annonces par des groupes de défense des droits civils et de vote, des groupes de défense de la santé axés sur les Noirs, des politiciens des deux côtés de l'allée et des annonceurs commerciaux.

Une semaine après que The Markup ait contacté Facebook, Facebook ] a annoncé qu'il éliminait complètement les catégories d'affinité multiculturelle après des années de débat interne .

En plus de permettre aux annonceurs de cibler des publics spécifiques, certains critiques affirment que Facebook discrimine tout seul dans la diffusion de ces publicités . C'est ce que soutient le ministère du Logement et du Développement urbain dans son action en justice .

L'algorithme de Facebook a ses propres biais

Une fois qu'un annonceur choisit son public cible, l'algorithme de Facebook prend ses propres décisions sur l'utilisateur spécifique. auprès du public cible auquel diffuser une annonce.

L'objectif de cet algorithme, selon Facebook est d'essayer de prédire quelles personnes pourraient être intéressées par l'annonce, en fonction de leur activité sur Facebook et les données démographiques qu'il peut extraire de leurs pages personnelles – y compris l'âge, le sexe et d'autres facteurs.

«Facebook ne donne pas à l'utilisateur ce qu'il veut – Facebook donne à l'utilisateur ce qu'il pense qu'un stéréotype démographique veut» a écrit le Lawyers 'Committee for Civil Rights Under Law dans un dossier judiciaire.

En 2019, des chercheurs de la Northeastern University et du groupe de défense des droits civiques numériques Upturn ont diffusé des dizaines de leurs propres publicités, toutes ciblées sur le même public, et a découvert que Facebook montrait les publicités cherchant à embaucher des secrétaires principalement à des femmes.

On ne sait pas si Facebook a programmé ses algorithmes pour montrer l'annonce d'emploi de secrétaire à une femme donnée parce qu'elle a elle-même fait quelque chose pour exprimer son intérêt pour le secrétariat, ou simplement parce qu'elle était une femme.

Une équipe de l'Université Carnegie Mellon a récemment analysé des publicités réelles pour des choses comme les emplois, le logement et crédit qui a été inclus (parfois par erreur) dans les archives publiques de Facebook d'annonces politiques. Les annonces ont été publiées avant et après le changement de politique de Facebook.

«Pour à peu près tous les types d'annonces de crédit que nous avons analysés», a déclaré Sara Kingsley, Ph.D. étudiant qui a mené cette recherche, «les hommes ont tendance à représenter un pourcentage plus élevé» des personnes qui ont montré l'annonce. Mais les publicités individuelles peuvent varier considérablement:

Les choses que Facebook peut considérer comme des points de données inoffensifs peuvent être si fortement corrélées avec l'âge, le sexe ou la race que «l'algorithme voit les circonstances des femmes noires plus âgées, qui en sont le résultat. de discrimination systémique et d'iniquité, et interprète à tort ces circonstances comme des préférences ”David Brody, avocat au Comité des avocats pour les droits civils en vertu de la loi, a déclaré dans un courriel.

“ Donc, la prochaine fois que le L'algorithme rencontre un utilisateur correspondant aux qualités d'une femme noire plus âgée, il va imputer ces soi-disant préférences à cet utilisateur et, ce faisant, renforcer le modèle de discrimination systémique », a-t-il déclaré.

Qu'a fait Facebook il?

Le règlement de 2019 de Facebook avec les groupes de défense des droits civiques l'obligeait à mettre en œuvre de nouvelles règles, telles que l'obligation pour les annonceurs de cliquer sur un bouton pour auto-déclarer les annonces de logement, d'emploi et de crédit. Facebook supprime ensuite certains choix de ciblage démographique du menu d'options de cette annonce.

Et Facebook a commencé à exiger des annonceurs qu'ils acceptent un accord promettant de ne pas discriminer. La société a également promis de rechercher les biais dans ses algorithmes. Mais les chercheurs et les militants des droits civiques disent qu'ils sont frustrés que la société n'ait publié aucun résultat.

Une étude interne aurait trouvé des préjugés contre les utilisateurs qui avaient été classés comme correspondant à l'affinité multiculturelle afro-américaine. " Catégorie. Facebook a fait des ajustements mais a interrompu les recherches parce que cette catégorie n'était pas censée représenter la race – des données que Facebook n'a pas collectées auprès de ses utilisateurs.

«Ils ont choisi de ne pas collecter ces données parce qu'ils ne veulent pas les activer.

Il y a quelques semaines à peine, Facebook a créé des équipes pour étudier les préjugés raciaux sur ses plateformes.

Attendez, la discrimination n'est-elle pas illégale?

La loi californienne interdit la discrimination «intentionnelle» dans les lieux «d'hébergement public», y compris sur les sites Web. Un procès en cours devant un tribunal fédéral du nord de la Californie soutient que les publicités de Facebook enfreignent cette loi parce que les résultats des algorithmes traitent les gens différemment en fonction de caractéristiques comme l'âge et le sexe.

«Écoutez, ils ont écrit l'algorithme». Brody a dit The Markup. «Personne ne sait comment fonctionne l'algorithme à part eux. Ils sont responsables de tout ce que fait l'algorithme. » (Facebook a refusé de commenter le procès, mais dans les dépôts judiciaires, il a nié avoir enfreint la loi.)

Les lois fédérales interdisent également la discrimination, mais la loi fédérale protège également les entreprises technologiques comme Facebook de toute responsabilité concernant le contenu de leurs plateformes – en particulier Section 230 (c) de la Communications Decency Act qui dit essentiellement que les sites Web ne sont pas responsables des choses que les autres disent sur leurs sites.

Réponse juridique de Facebook au public Le procès en matière d'hébergement en Californie invoque la section 230 – disant essentiellement que l'entreprise ne peut pas être poursuivie pour des publicités sur sa plateforme – une question juridique qui n'a pas encore été réglée.

Le sénateur Mark Warner, un démocrate, dans une déclaration envoyée à The Markup , a qualifié l'argument de Facebook dans la lutte contre le procès en matière d'hébergement public de «mauvaise utilisation de l'article 230». C’est «l’un des exemples les plus urgents de la nécessité de réformer cette loi désuète», a-t-il déclaré. «Les justifications d'exceptionnalisme d'Internet ne devraient pas faire obstacle au respect des principes de longue date d'équité et de non-discrimination.»

Ceci L'article a été initialement publié sur The Markup par Jeremy B. Merrill et a été republié sous la licence Creative Commons Attribution-NonCommercial-NoDerivatives .