Le projet d'Apple de déployer des outils pour limiter la diffusion de matériel pédopornographique a suscité les éloges de certains experts en protection de la vie privée et de la sécurité ainsi que des groupes de défense de la protection de l'enfance. Il y a également eu un tollé au sujet des atteintes à la vie privée.
Ces préoccupations ont masqué un autre problème encore plus gênant qui a reçu très peu d'attention : la nouvelle fonctionnalité d'Apple utilise des éléments de conception démontrés par la recherche pour se retourner contre lui.[19659002]L'une de ces nouvelles fonctionnalités ajoute une option de contrôle parental aux messages qui bloque la visualisation d'images sexuellement explicites. On s'attend à ce que la surveillance parentale du comportement de l'enfant diminue la visualisation ou l'envoi de photos sexuellement explicites, mais cela est très discutable. ]informaticien. Nous avons mené des recherches approfondies sur les raisons pour lesquelles les gens partagent des images à risque en ligne. Nos recherches récentes révèlent que les avertissements concernant la confidentialité sur les réseaux sociaux ne réduisent pas le partage de photos et n'augmentent pas les préoccupations concernant la confidentialité. En fait, ces avertissements, y compris les nouvelles fonctionnalités de sécurité pour enfants d'Apple, peuvent augmenter plutôt que réduire le partage risqué de photos. introduire de nouvelles fonctions de sécurité pour enfants dans trois domaines. La première fonctionnalité, relativement peu controversée, est que l'application de recherche d'Apple et l'assistant virtuel Siri fourniront aux parents et aux enfants des ressources et de l'aide s'ils rencontrent du matériel potentiellement dangereux.
La deuxième fonctionnalité numérisera les images sur les appareils des personnes qui sont également stockées dans iCloud Photos pour rechercher des correspondances dans une base de données d'images d'abus sexuels sur des enfants fournie par le Centre national pour les enfants disparus et exploités et d'autres organisations de sécurité des enfants. Une fois qu'un seuil pour ces correspondances est atteint, Apple examine manuellement chaque correspondance de machine pour confirmer le contenu de la photo, puis désactive le compte de l'utilisateur et envoie un rapport au centre. Cette fonctionnalité a suscité de nombreuses controverses. Il avertit également les enfants du contenu, présente des ressources utiles et leur assure qu'il n'y a pas de problème s'ils ne veulent pas voir la photo. Si l'enfant a 12 ans ou moins, les parents recevront un message si l'enfant voit ou partage une photo à risque.
Il y a eu peu de discussions publiques sur cette fonctionnalité, peut-être parce que la sagesse conventionnelle veut que le contrôle parental soit nécessaire et efficace. Ce n'est pas toujours le cas, cependant, et de tels avertissements peuvent se retourner contre eux.
Lorsque les avertissements se retournent
En général, les gens sont plus susceptibles qu'improbables d'éviter le partage risqué, mais il est important de réduire le partage qui se produit. Une analyse de 39 études a révélé que 12% des jeunes ont transmis un sexto, ou une image ou une vidéo sexuellement explicite, sans consentement, et 8,4% avaient un sexto d'eux-mêmes transmis sans consentement. Les avertissements peuvent sembler être un moyen approprié de le faire. Contrairement aux attentes, nous avons constaté que les avertissements concernant les violations de la vie privée se retournent souvent contre eux.
Remarquablement, notre recherche révèle souvent des effets paradoxaux. Les participants qui ont reçu des avertissements aussi simples que de déclarer qu'ils devaient tenir compte de la vie privée des autres étaient plus susceptibles de partager des photos que les participants qui n'ont pas reçu cet avertissement. Lorsque nous avons commencé cette recherche, nous étions sûrs que ces mesures de confidentialité réduiraient le partage de photos à risque, mais elles ne l'ont pas fait.
Les résultats sont cohérents depuis que nos deux premières études ont montré que les avertissements se sont retournés contre eux. Nous avons maintenant observé cet effet à plusieurs reprises et avons constaté que plusieurs facteurs, tels que le style d'humour d'une personne ou son expérience de partage de photos sur les réseaux sociaux influencent sa volonté de partager des photos et la manière dont elle pourrait réagir aux avertissements.
Bien qu'il ne soit pas clair pourquoi les avertissements se retournent contre eux, une possibilité est que les préoccupations des individus concernant la vie privée soient atténuées lorsqu'ils sous-estiment les risques du partage. Une autre possibilité est la réactance, ou la tendance des règles ou des incitations apparemment inutiles à provoquer l'effet inverse de ce qui était prévu . Tout comme un fruit défendu devient plus sucré, les rappels constants sur les problèmes de confidentialité peuvent rendre le partage de photos risqué plus attrayant.
Les avertissements d'Apple fonctionneront-ils ?
Il est possible que certains enfants soient plus enclins à envoyer ou recevoir des messages sexuellement explicites. photos après avoir reçu un avertissement d'Apple. Il existe de nombreuses raisons pour lesquelles ce comportement peut se produire, allant de la curiosité – les adolescents apprennent souvent le sexe auprès de leurs pairs – à la remise en cause de l'autorité des parents et des problèmes de réputation, comme être perçu comme cool en partageant des photos apparemment risquées. À une étape de la vie où la prise de risque a tendance à culmineril n'est pas difficile de voir comment les adolescents pourraient trouver qu'un avertissement d'Apple est un insigne d'honneur plutôt qu'une véritable source de préoccupation.
Apple a annoncé le 3 septembre 2021 qu'il retardait le déploiement de ces nouveaux outils CSAM en raison des préoccupations exprimées par la communauté de la confidentialité et de la sécurité. La société prévoit de prendre plus de temps au cours des prochains mois pour recueillir des commentaires et apporter des améliorations avant de publier ces fonctionnalités de sécurité pour les enfants.
Ce plan n'est cependant pas suffisant, sans savoir également si les nouvelles fonctionnalités d'Apple auront l'effet souhaité sur le comportement des enfants. . Nous encourageons Apple à collaborer avec les chercheurs pour s'assurer que leurs nouveaux outils réduiront plutôt qu'encourageront le partage problématique de photos. et sciences du cerveau, Université de l'Indiana ; Apu Kapadiaprofesseur d'informatique, Indiana Universityet Kurt Hugenbergprofesseur de psychologie et de sciences du cerveau, Indiana Universityest republié à partir de The Conversation sous une licence Creative Commons. Lire l'article d'origine .
Source link