Pourquoi les États-Unis et d'autres pays pourraient commencer à réglementer les grandes technologies

Juillet
29, 2020

15+ min de lecture

Cette histoire est apparue à l'origine sur PCMag

Cambridge Analytica. Pirates informatiques russes et ingérence électorale. La violation de données Equifax. Fake news. Harcèlement Twitter et Instagram. Facebook exploite nos données personnelles et, dans le meilleur des cas, les utilise sans vergogne pour nous vendre des produits.

Que doit faire une société? La nôtre a commencé à réclamer des boycotts et des réglementations, même pour briser les plus grands géants de la technologie . Pendant une décennie (ou deux), l'industrie de la technologie, dirigée par les entreprises les plus grandes et les plus prospères, a présenté les tentatives de le réglementer comme une innovation étouffante; un obstacle au nouveau système utopique «la technologie résoudra tout» que ces fondateurs bienveillants cherchent à construire. C'est peut-être vrai, mais compte tenu des abus mentionnés ci-dessus, l'édit « Don't be evil » semble contenir moins d'eau, et # deletefacebook pourrait enfin avoir son moment.

Les candidats à la présidence ont fait de la lutte contre la confiance une partie de leurs plates-formes. L’Europe et la Californie ont institué une législation destinée à permettre aux citoyens de mieux contrôler leurs données personnelles et la manière dont elles sont utilisées. D'autres États emboîtent le pas, soutenus par un soutien bipartisan. On a l'impression qu'une réglementation technologique majeure est à venir, mais il n'est pas clair s'il s'agit du point culminant de décennies de décisions réglementaires ou d'un simple pas sur la voie.

«Gratuit» n'est pas gratuit

Vous connaissez probablement quelques notions de base sur la manière dont la publicité sur Internet cible ses téléspectateurs. Parfois, les publicités peuvent sembler un peu trop pertinentes, ce qui vous amène à vous demander si votre téléphone écoute vos conversations. Vous vous sentez mal à l'aise, même si vous admettez que vous préférez voir des publicités pour des choses que vous aimez plutôt que pour quelque chose de totalement inintéressant pour vous. Du point de vue des annonceurs, il est beaucoup plus efficace de ne cibler que quelques personnes et de s’assurer que ces personnes voient leurs annonces plutôt que de perdre du temps et de l’argent à les présenter à des personnes qui n’ont pas besoin de ce qu’elles vendent ou qui ne se soucient pas de ce qu’elles vendent. Les entreprises qui font cela peuvent même suivre si un utilisateur qui a vu une annonce particulière visite alors le magasin en question.

Nous nous sommes installés dans un modèle «freemium»: en échange de nos données, nous pouvons utiliser des services gratuits, notamment la messagerie électronique et les réseaux sociaux. C'est ainsi que des entreprises comme Facebook gagnent de l'argent tout en nous fournissant les services dont nous bénéficions (bien que des recherches aient montré que passer plus de temps sur Facebook vous rend moins heureux, plutôt que plus ).

Crédit image: Ink Drop / Shutterstock

Mais il y a plus d'une raison de s'inquiéter de laisser nos données personnelles être aspirées par les entreprises technologiques. Il existe de nombreuses façons dont la collecte massive de données est abusée ou pourrait être abusée, du chantage au harcèlement ciblé en passant par les mensonges politiques et l'ingérence électorale. Il renforce les monopoles et a conduit à la discrimination et à l'exclusion, selon un rapport de 2020 du Conseil norvégien des consommateurs . Au pire, cela perturbe l'intégrité du processus démocratique (nous en parlerons plus tard).

De plus en plus, la collecte de données privées est décrite en termes de droits de l'homme – vos pensées, opinions et idées sont les vôtres, de même que toutes les données qui les décrivent. Par conséquent, la collecte sans votre consentement est un vol. Il y a aussi la sécurité de toutes ces données et le risque pour les consommateurs (et le grand public) lorsqu'une entreprise dérape et qu'une entité – des pirates, la Russie, la Chine – y accède.

«Vous en avez certainement eu beaucoup. du chaos politique aux États-Unis et ailleurs, coïncidant avec le retour de l'industrie technologique sur Terre et le fait que notre scepticisme général vis-à-vis des grandes entreprises ne laisse plus aucune chance », déclare Mitch Stoltz, un avocat de haut niveau à l'Electronic Frontier Foundation. «Si tant de gens n'obtenaient pas la majorité de leurs informations sur le monde de Facebook, alors les politiques de Facebook concernant la publicité politique (ou presque toute autre chose) ne ressembleraient pas à la vie ou à la mort.»

Les suggestions politiques incluent l'honnête Ads Act, introduite pour la première fois en 2017 par les sénateurs Mark Warner et Amy Klobuchar, qui exigerait que les publicités politiques en ligne contiennent des informations sur qui les a payés et qui elles ciblent, de la même manière que la publicité politique fonctionne à la télévision et à la radio. C'était en partie une réponse au scandale Facebook-Cambridge Analytica de 2016 .

Cambridge Analytica explose

Il est facile de se battre sur Facebook. Ce n’est pas le seul réseau social avec des politiques de collecte de données douteuses, mais c’est le plus important. Facebook vous permet de créer un profil personnel, de connecter ce profil à d'autres personnes et de communiquer via des messages, des publications et des réponses aux publications, photos et vidéos des autres. Son utilisation est gratuite et l'entreprise fait de l'argent en vendant des annonces, que vous voyez lorsque vous parcourez vos pages. Qu'est-ce qui pourrait mal se passer?

En 2013, un chercheur nommé Aleksandr Kogan a développé une version d'application d'un quiz de personnalité appelé «thisisyourdigitallife» et a commencé à le partager sur Facebook. Il paierait les utilisateurs pour qu'ils passent le test, apparemment à des fins de recherche psychologique. Cela était acceptable en vertu de la politique de Facebook à l'époque. Ce qui n'était pas acceptable (selon Facebook, bien qu'il ait peut-être donné son approbation tacite, selon les dénonciateurs du documentaire The Great Hack ), c'est que le quiz n'a pas seulement enregistré vos réponses – il a également gratté toutes vos données, y compris vos goûts, vos publications et même vos messages privés. Pire encore, il a collecté des données auprès de tous vos amis Facebook, qu'ils aient ou non répondu au quiz. Au mieux, les profils de 87 millions de personnes ont été récoltés.

Zuckerberg sur Capitol Hill, avril 2018

Crédit d'image: Yasin Ozturk / Anadolu Agency / Getty Images

Kogan était chercheur à l'Université de Cambridge, ainsi que l'Université d'État de Saint-Pétersbourg, mais il a partagé ces données avec Cambridge Analytica. L'entreprise a utilisé les données pour créer des profils psychologiques robustes de personnes et cibler certaines d'entre elles avec des publicités politiques les plus susceptibles de les influencer. Steve Bannon, qui était le vice-président de Cambridge Analytica, a apporté cette technique et ces données à la campagne Trump 2016 qui en a tiré parti pour influencer les électeurs, souvent sur le dos d'informations douteuses ou incendiaires. Une tactique similaire a été employée par la société lors du référendum sur le Brexit de 2016 .

En 2017, Christopher Wylie, consultant en données et employé de Cambridge Analytica, a dénoncé l'entreprise. Cela a déclenché une série d'événements qui ont amené Facebook sur la sellette et Mark Zuckerberg devant les comités sénatoriaux du commerce et de la justice .

En donnant à ceci la meilleure tournure possible, c'est une version plus récente et meilleure de ce qu'a fait la campagne du président Obama tirant parti des techniques intelligentes des médias sociaux et des nouvelles technologies pour bâtir une industrie de la publicité politique plus fluide, plus efficace, parfois sournoise mais pas carrément illégale ou immorale, que tout le monde utiliserait bientôt.

Une interprétation plus sombre: ce sont des «données militarisées», comme l’ont appelé les dénonciateurs; psyops qui utilisent des techniques de guerre de l'information empruntées à des institutions comme le ministère de la Défense pour tirer parti de nos informations contre nous, corrompant notre processus démocratique au point que nous ne pouvons même pas dire si nous votons pour (ou contre) quelque chose parce que nous croyons ou parce qu'une IA alimentée par les données savait quel levier psychologique pousser. Même appliqué aux publicités, c'est effrayant. Ai-je acheté un produit en particulier parce que son fabricant savait comment et quand m'en donner envie? Quelles décisions nous prenons sont les nôtres?

L'ironie est que Facebook a été vendu à ses premiers utilisateurs en tant que service axé sur la protection de la vie privée.

«Vous pourriez dire: 'Eh bien, ce qui s'est passé avant les dernières élections – c'était assez sacrément malveillant », déclare Vasant Dhar, professeur de science des données au NYU Stern Center of Business. «Certaines personnes pourraient dire:« Je ne sais pas – ce n’était pas si malveillant, il n’y a rien de mal à utiliser les médias sociaux pour influencer; et en plus, il n’ya pas de pistolet fumant, il n’ya aucune preuve qu’il a réellement fait quoi que ce soit. »Et c’est aussi une position raisonnable.»

L’ironie est que Facebook a été vendu à ses premiers utilisateurs en tant que service axé sur la confidentialité. Vous vous souvenez peut-être comment MySpace est tombé dans l'oubli après l'arrivée de Facebook. Ce n’était pas un accident; Facebook s'est volontairement présenté comme une alternative au monde très ouvert de MySpace.

Zuckerberg et le co-fondateur Chris Hughes en 2004.

Crédit image: Rick Friedman / Corbis via Getty Images

À cette époque, «la vie privée était… une forme cruciale de concurrence», a écrit la chercheuse Dina Srinivasan, membre du Thurman Arnold Project à l'Université de Yale, dans son article Berkeley Business Law Journal « L'affaire antitrust contre Facebook . " Puisque les médias sociaux étaient gratuits et qu'aucune entreprise n'avait la mainmise sur le marché, la promesse de la vie privée était une différenciation importante. Vous aviez besoin d'une adresse e-mail .edu pour vous inscrire à Facebook, et seuls vos amis pouvaient voir ce que vous disiez. Facebook a initialement fait cette promesse: «Nous n'utilisons pas et n'utiliserons pas de cookies pour collecter des informations privées auprès de tout utilisateur.» En revanche, MySpace avait une politique dans laquelle n'importe qui pouvait voir le profil de n'importe qui d'autre. Les utilisateurs, décidant qu'ils favorisaient la confidentialité, ont décampé en masse. acheter d'autres services – il a essayé de revenir sur certaines de ces promesses de confidentialité. En 2007, la société a publié Beacon, qui suivait les utilisateurs de Facebook lorsqu'ils visitaient d'autres sites. Et en 2010, il a introduit le bouton «J'aime», qui a permis à l'entreprise de suivre les utilisateurs (qu'ils aient cliqué ou non sur le bouton) sur les pages où il était installé.

En 2014, après avoir acheté Instagram et avec une introduction en bourse record à son actif, Facebook a annoncé publiquement qu'il utiliserait du code sur des sites Web tiers pour suivre et surveiller les gens – renonçant ainsi au promesse qu’elle avait utilisée pour établir la domination du marché en premier lieu. En 2017, Facebook a payé une amende de 122 millions de dollars en Europe pour avoir enfreint une promesse de ne pas partager les données WhatsApp avec le reste de l'entreprise, ce qu'il a ensuite fait.

En 2019, la FTC a annoncé un règlement de 5 milliards de dollars avec Facebook pour une variété de violations de la vie privée, y compris Cambridge Analytica et mentir au sujet de son logiciel de reconnaissance faciale. Et en janvier de cette année, Facebook a déclaré qu'il ne limiterait pas les publicités politiques, même les fausses. Et cela ne vérifie pas les faits et ne les empêche pas de cibler des groupes particuliers, ce qui est précisément ce qui s'est produit avec Cambridge Analytica. Actuellement, la société est confrontée à d'intenses critiques sur sa crypto-monnaie proposée, Libra.

Crédit d'image: vchal / Shutterstock.com

Pour des chercheurs comme Srinivasan, il s'agit d'un exemple classique d'un monopole tirant parti de son le pouvoir de gagner plus d'argent au détriment des consommateurs – pas une dépense fiscale, puisque le service est gratuit, mais en livrant un produit moins bon; dans ce cas, un produit offrant moins d'intimité. La part de marché dans les médias sociaux ne fonctionne pas tout à fait comme dans d'autres secteurs: l'effet de réseau crée une boucle de rétroaction positive où, à mesure qu'un site rassemble des utilisateurs, il devient plus attrayant parce que de ces utilisateurs, ce qui le rend particulièrement difficile pour un concurrent de gagner en traction. Bien que la taille d'une entreprise n'indique pas qu'elle a abusé de son pouvoir, nous supportons les atteintes à la vie privée de Facebook parce que nous n'avons pas d'alternatives.

«Je veux être abonné à un réseau social, comme Facebook, qui compte plus de monde », déclare Nicholas Economides, professeur d'économie à la NYU Stern School of Business. «La grande taille est récompensée. Si une entreprise parvient à vraiment [gain] une grande part de marché, comme Facebook ou Google dans son propre domaine, elle en tire de gros avantages. Les consommateurs aiment vraiment être avec eux. Cela signifie qu'ils ont la capacité de contrôler le marché. »

À ce stade, Facebook détenait une telle part du marché que des tiers tels que les sites d'actualités ne pouvaient pas très bien désinstaller leurs boutons J'aime – ils en avaient besoin pour générer du trafic.

La version big tech des monopoles

Bill Gates et Steve Ballmer en 2000

Crédit image: DAN LEVINE / AFP via Getty Images

Maintenant que nous parlons sur les monopoles, il est temps de faire appel à Microsoft. En 1995, sentant que contrôler la façon dont les gens se déplaçaient sur Internet pouvait être encore plus précieux que les systèmes d'exploitation déjà installés sur les ordinateurs de tout le monde, Microsoft a intégré le navigateur Internet Explorer dans son système d'exploitation Windows, s'assurant ainsi que chaque ordinateur était livré avec un ordinateur prêt à l'emploi. navigateur par défaut à emporter – celui de Microsoft.

Le ministère de la Justice a poursuivi Microsoft, et après un long procès et de nombreux témoignages, un juge a décidé que Microsoft serait divisé en une partie qui exécute le système d'exploitation Windows et une autre partie qui fait tout le reste. Une cour d'appel a ensuite réduit la peine, mais l'affaiblissement de Microsoft a ouvert la voie à une période d'innovation technologique qui nous a donné Google, Facebook, Amazon et un Apple renouvelé. De nombreux économistes affirment qu'il s'agissait de la dernière action antitrust majeure.

Dans les années 1980 environ, une théorie économique connue sous le nom de Chicago School a commencé à gagner la faveur des législateurs et des juges. Il adopte une approche de laissez-faire de la loi antitrust, limitant la définition du préjudice causé aux consommateurs aux augmentations de prix et affirmant que le marché réglera tout le reste. Lorsque le prix de votre réseau de médias sociaux, de votre système de messagerie électronique ou de votre hébergement vidéo est gratuit, il est presque impossible d'intenter une action antitrust en vertu de cette théorie. Mais nous devons arrêter de penser aux utilisateurs comme aux clients, selon Dhar de NYU. «Les clients sont ceux qui les paient, et les utilisateurs ne les paient pas», dit-il. "Les utilisateurs ne font que leur fournir les données qu'ils utilisent pour la publicité."

"L'industrie de la technologie confond une grande partie de l'orthodoxie antitrust qui est appliquée par les tribunaux et les agences d'exécution du gouvernement … Parce que la concurrence fonctionne différemment », déclare Stoltz de l'EFF. «Au lieu d'avoir plusieurs produits similaires en concurrence, vous avez des produits différents, mais ils sont en concurrence les uns avec les autres pour l'accès aux données, la fidélisation des clients et le capital-risque.»

Malgré cela, les États commencent à agir. Une coalition de 50 procureurs généraux, dirigée par Ken Paxton du Texas, a annoncé une enquête sur Google sur sa domination dans la publicité et sur la façon dont il utilise les données pour maintenir cela, et d'autres ont commencé à poursuivre Facebook sur des allégations d'anti -des tarifs publicitaires compétitifs et la qualité des produits. Le comité judiciaire de la Chambre et le sous-comité antitrust ont entendu des arguments sur le rôle d'Amazon, Google, Facebook et Apple pour décider si les entreprises ont abusé de leur pouvoir de marché. Et les politiciens au niveau national, en particulier lors de la candidature, ont menacé d'actions spécifiques y compris la séparation d'Instagram de Facebook.

Dans une certaine mesure, cela relève de l’intérêt personnel, dit Economides de NYU. Le fil d'actualité de Facebook et Google Actualités touchent une part suffisamment importante d'Américains pour que ces plates-formes puissent avoir un impact important sur ce que nous voyons, intentionnellement ou non. La plupart des gens ne feront probablement pas défiler la première page de résultats après une recherche. Il est donc extrêmement important de savoir quelles bulles vers le haut ( et ce qui ne l’est pas ). «Cela donne un pouvoir énorme à ces entreprises pour façonner le débat politique… et il est très difficile de le supprimer», déclare Economides.

En 2011, le personnel de la FTC a conclu que Google avait utilisé des pratiques anticoncurrentielles et abusé du pouvoir de monopole.

Google a fait face à plusieurs enquêtes antitrust. En 2011, le personnel de la FTC a conclu que Google avait utilisé des pratiques anticoncurrentielles et abusé du pouvoir de monopole, notamment en biaisant les résultats de recherche pour favoriser ses propres sites de magasinage, de voyage et de financement, et en copiant le contenu d'autres sites uniquement pour en tirer parti – et en menaçant de supprimer les chercher s'ils se plaignaient. En 2013, suite à quelques concessions de Google mais aucune promesse d'arrêter les pires infractions les commissaires de la FTC ont voté à l'unanimité pour mettre fin à l'enquête. Puis en 2019, la FTC a condamné Google à une amende de 170 millions de dollars pour avoir suivi les historiques de visionnage des enfants sur YouTube.

Toujours en 2019, Google s'est associé à Ascension un opérateur de soins de santé dans 21 États, pour obtenir des résultats de laboratoire, des diagnostics médicaux, des dossiers d'hospitalisation, des médicaments, des conditions médicales, des scans radiologiques, des dates de naissance et des noms, adresses, membres de la famille, allergies, immunisations, et plus encore de millions de patients sans en informer eux ou leurs médecins, encore moins obtenir leur consentement. Ce n'était pas une violation de la HIPAA (loi sur la portabilité et la responsabilité de l'assurance maladie), car Google fournissait un logiciel d'IA pour aider à suggérer de meilleures options de soins pour les patients. Mais Google a également demandé l'autorisation de la FTC pour acheter Fitbit ce qui donnerait à la société encore plus de données sur la santé des utilisateurs, telles que les horaires de sommeil, l'exercice et la fréquence cardiaque. Le partenariat Ascension et l'achat proposé ont suscité des préoccupations en matière de confidentialité parmi les législateurs (l'accord Fitbit n'a pas encore été approuvé).

Fitbit Ionic

Crédit image: Fitbit

Amazon , quant à lui, a conquis son marché après des années de fonctionnement à perte, en se concentrant sur la croissance plutôt que sur les bénéfices, les prix d'éviction et l'intégration verticale qui lui permet d'exercer une pression sur les prix des concurrents ou même un effet de levier sa livraison et réseau de distribution contre eux. Cela a souvent abouti à des prises de contrôle peu amicales, comme l'affaire de Diapers.com . Amazon a suivi les prix des couches sur son concurrent diapers.com, a maintenu des prix plus bas et a proposé des promotions et des remises dans le cadre d'un nouveau programme «Amazon Mom», mais a réduit les remises une fois que la société mère de Diapers.com a été obligée de vendre à Amazon.

«Amazon exploite le fait que certains de ses clients sont aussi ses rivaux», conclut Lina Khan, auteur de un article de 2017 Yale Law Review ] Sur la façon dont Amazon a confondu les accords antitrust traditionnels.

Crédit d'image: Helen H. Richardson / MediaNews Group / The Denver Post via Getty Images

vendeurs pour des histoires de réussite uniquement pour offrir des produits similaires sous sa marque AmazonBasics, à un prix inférieur. En outre, la société fixe les prix de manière variable en fonction de plusieurs facteurs, souvent plusieurs fois par jour. La société a déclaré qu’elle n’indiquait pas des prix différents pour différents clients, mais cette pratique rend difficile la preuve de prix prédateurs.

Le modèle commercial d’Amazon présente des avantages pour les consommateurs. Amazon rend de nombreux produits largement disponibles et, dans le cas d'articles populaires, très bon marché. Sa volonté de croissance plutôt que de profit lui a permis de séduire les clients et de révolutionner le commerce électronique. Amazon Prime, par exemple, n’existe pas pour gagner de l’argent; son but est d'amener les gens à faire des achats uniquement sur Amazon .

La valeur des données

Les données entrent également en jeu ici. Amazon a ses propres atouts, en particulier en ce qui concerne le comportement des consommateurs, ce qui est particulièrement précieux pour les annonceurs. Il peut retracer qui a acheté quoi, quand et auprès de qui (et ce que vous avez demandé à Alexa), même les choses que vous avez consultées mais pas achetées ou depuis combien de temps quelque chose est resté dans votre panier.

Amazon conserve les données que vous lui communiquez volontairement, y compris les contacts, les images et les vidéos que vous avez mises en ligne, les rappels d’occasion spéciale, les listes de lecture, les listes de surveillance, les listes de souhaits, etc. Et l'entreprise recueille automatiquement votre emplacement, l'utilisation de vos applications et les sites Web que vous visitez avant et après votre arrivée sur Amazon.com. Dans les magasins et magasins Amazon Go qui utilisent sa technologie Just Walk Out, la vidéo et l'apprentissage en profondeur AI pour savoir qui saisit quoi.

a poursuivi The Weather Company .

CONNEXION [19659071] Certaines applications partagent des informations très sensibles, telles que la sexualité d'un individu ou son statut VIH . Et même si Grindr a déclaré qu'il cesserait de partager son statut sérologique, Google permet aux tiers de savoir quelles applications vous utilisez – et si les annonceurs savent que vous utilisez Grindr, ils peuvent faire une estimation assez sûre de votre orientation sexuelle. Si vous avez rempli un profil OkCupid vous vous souviendrez comment il vous pose des questions personnelles sur votre consommation de drogue, votre parti politique, vos penchants sexuels et sur quel côté du lit vous aimez dormir. Ces informations sont utilisées pour vous aider à sélectionner des correspondances, mais la société envoie également ces informations à une société adtech appelée Braze.

Plus tôt cette année, la FCC a infligé une amende de aux principaux fournisseurs de téléphonie mobile de 200 millions de dollars pour avoir vendu les données de localisation en temps réel des consommateurs à des tiers. Le New York Times a obtenu un fichier de ces données, qu'il a utilisé pour découvrir les adresses et les lieux de travail des utilisateurs de téléphones portables, y compris les fonctionnaires et les manifestants politiques. «Ils peuvent voir les endroits où vous allez à chaque instant de la journée, où vous rencontrez ou passez la nuit, où vous priez, que vous vous rendiez dans une clinique de méthadone, un cabinet de psychiatre ou un salon de massage», le Times

La vente de données

Alors, qui achète ces informations? Ce ne sont pas des annonceurs, du moins pas au début. Un réseau obscur de centaines (ou peut-être des milliers) de tiers connus sous le nom de «courtiers en données» (ou parfois l'industrie «adtech», bien que les deux ne soient pas précisément interchangeables), collectent et traitent des données provenant de nombreux sources, y compris les rapports de crédit, la vérification d'identité, les dossiers publics, les données des smartphones, l'historique du navigateur, les programmes de fidélité, les médias sociaux, les transactions par carte de crédit, les appareils connectés, les informations extraites de sites Web, les études de marché, etc. Une partie est accessible au public et une partie est achetée.

Il s'agit d'entreprises dont vous n'avez probablement pas entendu parler. Ils utilisent un numéro d'identification unique pour rassembler d'énormes parcelles d'informations sur nous. Ils ont créé un profil virtuel de vous, pas sans rappeler ce que Cambridge Analytica a fait. Vous êtes donc influencé par des facteurs dont vous n'êtes pas au courant, mais que les courtiers en données savent tout: ils savent quels boutons appuyer ou quels leviers tirer et quand vous amener à faire ce qu'ils veulent.

Ces publicités qui le font On dirait que votre téléphone écoute mais peut-être sont-ils si doués pour vous comprendre qu'ils prédisent en fait de quoi vous allez parler. Ce n’est pas aussi loin qu’il y paraît. Si votre profil inclut vos intérêts, une IA avec suffisamment de données peut probablement en déduire plusieurs de vos sujets de conversation.

Il ne s'agit pas seulement de vous vendre des choses; il s'agit également de vous persuader de faire des choses, ce qui se trouve être l'achat de ce qu'un annonceur veut que vous achetiez.

N'oubliez pas que tout cela repose sur le Big Data. Ce n’est pas qu’à un moment donné, vous avez acheté ce truc et que vous avez publié votre humeur à ce sujet. Par conséquent, ils pensent que vous serez peut-être intéressé par cette autre chose. Il regroupe tous les endroits où vous êtes allé et toutes les choses que vous avez achetées pour faire des prédictions sur votre comportement de consommateur. Ensuite, cela est vendu aux annonceurs. Il ne s’agit pas seulement de vous vendre des choses; il s'agit également de vous persuader de faire des choses, ce qui se trouve être l'achat de ce qu'un annonceur veut que vous achetiez.

Vos données sont souvent vendues à des annonceurs, mais les courtiers en données peuvent également vendre à d'autres parties, y compris la notation de crédit et compagnies d'assurance . Et comme deux personnes ne verront pas les mêmes annonces, il est difficile de repérer la discrimination par les prix, la désinformation et d'autres exclusions. Les courtiers ont dressé des listes qui pourraient intéresser les annonceurs potentiels, tels que les propriétaires, les coureurs ou les joueurs vidéo – mais parfois cela peut devenir beaucoup plus sombre, comme en 2013, lorsque le courtier de données MEDbase 200 a été surpris en train de proposer des listes de victimes de viol alcooliques et personnes souffrant de dysfonction érectile. Et en 2017, Facebook a permis aux annonceurs de logement de s'assurer que les publicités pour le logement n'étaient pas montrées aux Afro-Américains et s'est vanté auprès d'autres annonceurs de la possibilité de cibler les adolescents qui se sentaient en insécurité, sans valeur, anxieux, inutiles, etc.

Une fois qu'une entité a acheté vos données, il y a une guerre des enchères. À partir du moment où vous cliquez sur une page jusqu'au moment où les annonces se chargent sur cette page, les annonceurs potentiels utilisent des outils automatisés pour enchérir sur le montant qu'ils sont prêts à payer pour que vous voyiez une annonce, et les résultats de ces enchères en temps réel sont alors ajouté à votre profil.

Amazon, par exemple, ne vend pas les données qu'elle collecte (que vous pouvez voir et contrôler ici ). Mais il permet aux tiers qui diffusent des publicités d'installer des cookies, qu'ils peuvent utiliser pour obtenir des informations sur vous, y compris votre adresse IP et plus encore. Et Amazon achète des données à des courtiers en données, sous une forme dite «pseudonymisée» – votre nom est remplacé par un identifiant différent, comme un numéro aléatoire – qui peut ensuite être associé à votre profil pour cibler des annonces. Comme l’a constaté le Times il est facile pour les parties qui disposent d’une partie de vos données de les associer à d’autres éléments, de créer ces profils robustes et prédictifs.

Que font les législateurs à ce sujet?

Sen. Kirsten Gillibrand

Crédit d'image: Tom Williams / CQ-Roll Call, Inc. via Getty Images

Plusieurs lois importantes récentes ont abordé le problème de la confidentialité, et d'autres sont à venir. L'UE, en 2018, a mis en œuvre le Règlement général sur la protection des données (RGPD) qui applique des normes de protection des données, une responsabilité légale en cas d'échec des entreprises et des pratiques requises en cas de piratage. Il donne également aux citoyens le droit d'accéder à leurs données personnelles et de demander aux entreprises qui les détiennent de les supprimer.

En 2020, le California Consumer Privacy Act (CCPA) est entré en vigueur, ce qui est similaire à certains égards au RGPD, permettant aux internautes de demander les données qui ont été collectées sur eux (et de savoir où elles ont été vendues), de demander leur suppression et de se retirer de la collecte future. Facebook, Google et bien d'autres ont réorganisé leurs pages de confidentialité, permettant aux utilisateurs de basculer entre ce que les entreprises pouvaient et ne pouvaient pas collecter, et ce qu'elles pouvaient et ne pouvaient pas faire avec ce qu'elles collectaient. La loi s'applique également aux courtiers en données, mais vous devez contacter chacun d'eux vous-même, en supposant que vous puissiez les trouver. Ainsi, une start-up appelée DoNotPay a commencé offrant un service automatisé qui contacte les courtiers en données en votre nom et leur demande de supprimer vos informations.

En l'absence de politique nationale, d'autres États élaborent leur propre législation . Un certain nombre d'États, de Floride à État de Washington ont examiné les factures de protection de la vie privée des consommateurs cette année, mais peu ont gagné une véritable traction en partie grâce au COVID-19 restrictions. Au Congrès, la sénatrice Kirsten Gillibrand (D-NY) a proposé la Data Protection Act qui créerait une agence fédérale indépendante pour superviser la confidentialité et la sécurité des données.

Les groupes de protection de la vie privée et les entreprises technologiques ont signalé des failles dans certains de ces règlements y compris des lacunes (les entreprises peuvent rejeter les demandes de données des utilisateurs, par exemple, en disant qu'elles ont besoin d'une confirmation d'identité). Vous vous souvenez de la guerre des enchères en temps réel que vous déclenchez lorsque vous cliquez sur un lien avec des publicités? Si vous refusez d'autoriser les entreprises à vendre vos données, comme le CCPA le permet aux Californiens, cette enchère se produit sans que les soumissionnaires en sachent autant sur vous, et l'annonce a moins de valeur. Mais Google a trouvé un moyen de tourner cela à son avantage: lorsqu'un utilisateur se désiste, Google n'autorise pas du tout d'autres parties à enchérir le limitant à ses propres soumissionnaires internes.

Crédit d'image: Trismegist san / Shutterstock

Et ces lois sont suffisamment récentes pour qu'on ne sache pas avec quelle efficacité elles seront appliquées, et dans quelle mesure. La législation peut avoir des conséquences inattendues, souligne Ashutosh Bhagwat, professeur de droit constitutionnel à l'Université de Californie-Davis. Toute politique qui mine le modèle commercial de base d'un secteur doit offrir une alternative à moins que nous n'ayons l'intention de vivre sans les médias sociaux. (Peu probable.) Et payer pour des services plutôt que de compter sur la publicité peut accentuer la «fracture numérique», en refusant les médias sociaux aux gens du monde entier qui n'en ont pas les moyens.

«Je pense que les préoccupations en matière de confidentialité sont quelque peu légitimes, mais je pense qu'ils sont un peu exagérés. Il y a beaucoup de choses du genre «le ciel tombe», et je ne pense pas que nous soyons encore arrivés à ce point. Maybe facial recognition will be the technology that’s the killer app for privacy,” says Bhagwat. “People vastly exaggerate how easy it would be to solve this [privacy] problem.”

Although the current COVID-19 pandemic has dominated the media cycle, some of these issues are coming to a head behind the scenes as people work from home and spend more time online. Online meeting software Zoom was busted, and then suedfor sending information — including device, operating software, carrier, time zone, IP address, and more — to Facebook without permission via the “Login with Facebook” SDK. (Zoom has since removed the SDK.) 

Although the current COVID-19 pandemic has dominated the media cycle, some of these issues are coming to a head behind the scenes

Meanwhile, governments around the world have been using a variety of phone data to track and combat the disease, including enforcing social distancing and mapping the spread. Many have raised concerns about sacrificing privacy during a crisis, only to never get it back, but the response in Taiwan, where the government installed location trackers on the phones of people suspected of having COVID, has been positive because policies there have been so effective at stopping the spread. Kinsa Health has been cheered for its ability to quickly spot potential outbreaks — sometimes weeks ahead of the CDC — based on the body temperatures of its users sent to the company by its smart thermometers.

Google has launched a site that offers community mobility reports, which uses location information to show public health officials (or anyone who wants to look) where people are and aren’t going. Google says the information is collected in aggregate and won’t show actual numbers, just percent change. Through it all, Congress has been moving forward with the EARN IT Actwhich would eliminate end-to-end encryption (as used in messaging apps like WhatsApp or Signal) in the name of fighting child exploitation.

Still, some sort of privacy regulation is necessary, says the EFF’s Stoltz. “Broadly, they take the right approach to privacy, in that they start from a framework of privacy being a human right, not something that a person can sell or trade away,” he says. “We really do need both baseline privacy rules … [and] robust antitrust law that says the concentration of economic power is harmful, just like concentrations of political power are harmful.”