Fermer

janvier 25, 2020

Comment Confucius perd la face dans le nouveau régime de surveillance de la Chine8 minutes de lecture

Comment Confucius perd la face dans le nouveau régime de surveillance de la Chine


Bien que conçu et fonctionnant différemment dans divers contextes, «face» décrit un phénomène qui existe dans chaque société humaine. Son sens le plus fondamental concerne la présentation publique et la perception de soi. Quelqu'un qui a le visage possède quelque chose de valeur sociale positive qui découle de l'approbation sociale du statut, de l'action ou de l'état d'être d'une personne; une personne qui perd la face a subi une perte de valeur sociale concernant son statut, son comportement ou son état d'être. En plus de la perception du public, le «visage» a également un aspect psychologique interne: il capture l'image de soi et l'évaluation de soi par rapport aux normes éthiques partagées et aux hiérarchies, attentes et normes sociales.

Le visage est particulièrement important en Orient Des sociétés asiatiques comme la Chine, et se retrouvent sous deux formes liées. La première conception, plus populaire, mianzi (面子), concerne principalement la richesse, le statut social, la position, le pouvoir et le prestige; le second, lian (臉), concerne le caractère moral et le comportement. Une personne peut avoir mianzi – par exemple, statut, position, etc. – mais ne pas avoir un niveau correspondant de lian par exemple, être considérée comme moralement mauvaise. Un manque complet de lian érode et finit par saper son mianzi tandis que quelqu'un avec un grand lian aura une quantité considérable mianzi .

la société chinoise contemporaine, la question du visage a pris une forme nouvelle et inquiétante qui affecte profondément ces conceptions plus traditionnelles d'inspiration confucéenne. Le réseau chinois en pleine expansion de caméras de surveillance s'appuie de plus en plus sur la technologie de reconnaissance faciale assistée par l'IA pour accomplir une grande partie de sa mission principale: suivre, enregistrer, contrôler et modifier le comportement de ses citoyens. Dans ce système, le «visage» n’a vraiment rien à voir avec les conceptions traditionnelles du statut moral ou social – du moins, leurs formes idéales; il ne s'agit pas de savoir comment on se voit ou comment les membres de sa communauté se considèrent.

Il s'agit plutôt d'être un objet sous le regard d'un système de surveillance gouvernementale systématique mis en place par le Parti communiste chinois (PCC) et guidé par une IA de plus en plus sophistiquée. Mon principal intérêt est ce que cela fait aux notions traditionnelles de mianzi lian et aux idées connexes sur la vertu, mais je noterai également une implication imprévue que la nouvelle surveillance de masse entraîne pour le CPC , une implication qui dénote une préoccupation plus générale avec l'éthique de l'IA.

Ma principale affirmation est que la nouvelle culture de la surveillance élimine largement non seulement le souci mais aussi la possibilité de conceptions traditionnelles du visage d'inspiration confucéenne et des conceptions connexes de la vertu . En se concentrant sur le visage physique pour l'identification et en évaluant les citoyens uniquement en fonction de leur avantage ou préjudice perçu pour l'État – mesuré en termes de système de crédit social (社会 信用 体系) – la nouvelle culture de la surveillance modifie fondamentalement les sens et les fonctions de ces concepts traditionnels, éliminant à la fois la dimension interne et morale du visage ainsi que sa dimension externe, socialement constituée. Dans un sens très réel, il constitue une perte de visage ultime et complète.

I En Occident, des questions similaires sont discutées en termes de droit à la vie privée et de nécessité de protéger l'espace personnel, social activités et institutions, et ce raisonnement présente un grand mérite. Ici, cependant, je présente un argument indépendant qui peut compléter de telles préoccupations mais découle des idées confucéennes traditionnelles sur la compréhension et l'amélioration de soi. Il est important d'explorer et d'analyser cette perspective non seulement parce qu'elle fournit une approche morale alternative de la surveillance de masse, mais aussi parce qu'elle revêt une grande importance pour les personnes de ces cultures, en particulier parce que cette approche de la vertu est souvent détournée par ceux qui cherchent à défendre la État de surveillance.

Une telle tentative d'appropriation fait appel à l'idée que, puisque les confucians «collectivistes» soutiennent que tout le monde est capable et devrait viser à devenir moralement noble, pourquoi devraient-ils s'inquiéter de la surveillance? Étant donné que l'État poursuit cette politique afin de «  maintenir l'ordre '' et d'éliminer les «  éléments perturbateurs '', y compris bien sûr les «  terroristes '', les personnes bien intentionnées et «  patriotiques '' devraient accueillir et adopter la surveillance étatique guidée par l'IA comme une prothèse contribuant à la la culture de soi, ou xiuyang (修養), et qui offre une technologie nouvelle et puissante pour améliorer à la fois le soi et la société.

Ceci, cependant, déforme les hypothèses, les buts et les méthodes fondamentales des traditions Confucianisme. Alors que le confucianisme englobe une vaste gamme de conceptions différentes de la nature humaine et de la façon de l'améliorer, toutes partagent l'idée de base que la moralité concerne une vision de la nature humaine et de sa culture, visant à améliorer le bien-être de soi et la société en produisant des personnes de caractère humain et admirable.

Le tableau de base commence par un défi de nous améliorer et d'étendre la portée de notre préoccupation morale – de nous-mêmes et de notre famille et amis immédiats, aux voisins, à la société et finalement à tous. le monde. Le but ultime est de passer de l'individu à «tout sous le ciel» et d'apporter la paix, la prospérité et le bonheur à tous.

Un aspect central de ce processus est la nécessité pour les gens d'être vigilants lorsqu'ils sont seuls (君子 慎 其獨), qui est, en gros, un appel à être vigilant à ses pensées et à ses sentiments en vue d'une amélioration morale. Mais sous le regard implacable de la surveillance de masse, nous ne sommes presque jamais seuls; nous sommes privés de l'opportunité de nous mettre en route en cultivant la capacité de surveiller nos propres pensées et sentiments, et de les réguler, les ordonner, les augmenter et les améliorer dans un effort continu pour nous cultiver.

Dans de telles circonstances, le confucéen de base les idéaux moraux comme atteindre la «sincérité», ou cheng (誠), et un bon sens de la honte, ou chi (恥), ne sont plus possibles. Au lieu de regarder à l'intérieur pour comprendre, évaluer et façonner mes pensées et mes sentiments dans un effort continu pour me cultiver, je suis obligé de m'organiser et de ma vie autour du but de plaire à l'État et à son superviseur de l'IA. Dans de telles conditions, je perds de vue ce que je crois réellement à propos de la bonté et de la vertu, et mes jugements indépendants sur ces questions perdent leur pouvoir de motivation. Notre responsabilité personnelle pour nous-mêmes et nos efforts collectifs pour comprendre, façonner et améliorer notre vie sociale partagée sont sous-traités à l'État, en particulier au CPC, et délégués à un algorithme.

Mis à part les dommages profonds que la nouvelle surveillance de masse En ce qui concerne les notions traditionnelles de visage, il y a une implication imprévue pour le CPC qui traduit une préoccupation éthique générale concernant les machines autonomes et intelligentes. Le parti défend vigoureusement son programme de surveillance de masse en faisant appel aux prétendus avantages qu'il apporte à la société, qui comprennent généralement la défense contre les menaces imminentes de terrorisme, de criminalité, de troubles sociaux, de valeurs en décomposition et de saper l'harmonie sociale globale. En tant qu'avant-garde du prolétariat, le parti se charge de déterminer ce qui est le mieux pour la société en ce qui concerne ces biens et d'autres, et de concevoir des politiques pour les atteindre.

Quels que soient les mérites de tels arguments, le récent, croissant l'utilisation de l'IA pour gérer la surveillance de masse du parti et le système de crédit social connexe introduit un mécanisme nouveau dans le mécanisme de l'État; maintenant, les décisions sur ce qui constitue une menace pour l'État et ce qui est dans l'intérêt de la société, ainsi que sur la façon d'obtenir des résultats optimaux, sont de plus en plus contrôlées non pas par les membres du parti mais par les machines autonomes et intelligentes qui gèrent le système.

On ne sait pas du tout pourquoi quelqu'un croirait que ces machines continueront à choisir et à utiliser des valeurs, des objectifs et des méthodes alignés sur ceux des membres dirigeants du PCC. Il semblerait que la trajectoire actuelle exclut non seulement les membres individuels de la société du processus de décision sur le type de vie qu'ils veulent vivre, mais rendra de plus en plus le parti et sa direction superflus. L'État pourrait en effet «dépérir», comme l'avait prédit le philosophe allemand Friedrich Engels en 1878, mais pas de la manière ni avec les conséquences qu'il a décrites.

l'article a été initialement publié par Philip Ivanhoe à Aeon et a été republié sous Creative Commons.



Source link