Les « Deadbots » et « l’industrie numérique de l’au-delà » risquent de hanter les vivants

IA Les éthiciens ont appelé à des mesures de protection urgentes contre une industrie émergente de « l’au-delà numérique ».

Les préoccupations se concentrent sur les chatbots qui imitent l’apparence, le discours et la personnalité des personnes décédées.

Connus sous le nom de « Deadbots » ou « Griefbots », ces clones d’IA sont entraînés sur données à propos du défunt. Ils proposent ensuite des interactions simulées avec des recréations virtuelles des défunts.

Cette « présence post-mortem » peut causer des dommages sociaux et psychologiques, selon des chercheurs de l’Université de Cambridge.

Leur nouvelle étude met en évidence plusieurs risques. L’une d’entre elles implique l’utilisation de robots morts à des fins publicitaires. En imitant l’aimé perdu ceuxles robots morts pourraient manipuler leurs vulnérabilités survivants en achetant des produits.

Une autre préoccupation concerne les applications thérapeutiques. Les chercheurs craignent que ceux-ci ne créent un «poids émotionnel écrasant. Cela pourrait intensifier le processus de deuil et le transformer en interactions virtuelles sans fin.

Les robots morts prennent vie

L’étude envisage également que des robots morts envoient des spams aux utilisateurs avec des notifications indésirables. Les chercheurs comparent cela au fait d’être « traqué numériquement par des morts ».

C’est une perspective qui devient rapidement une réalité. Des services tels que «Project December » et « HereAfter » offrent déjà aux clients la possibilité de ressusciter numériquement les morts.

Pour atténuer leurs risques, les chercheurs ont demandé aux concepteurs de robots morts d’obtenir le consentement des « donneurs de données » avant leur mort. Ils souhaitent également que les produits alertent régulièrement les utilisateurs sur les risques, fournissent des protocoles de désinscription simples et interdisent les utilisations irrespectueuses des robots morts.

Une autre garantie suggérée concerne les méthodes de résiliation conviviales. Celles-ci pourraient même impliquer des « funérailles numériques » pour le robot mort.

Toutes ces mesures doivent tenir compte à la fois des morts et de ceux qu’ils laissent derrière eux.

« Il est essentiel que les services numériques d’au-delà prennent en compte les droits et le consentement non seulement de ceux qu’ils recréent, mais aussi de ceux qui devront interagir avec les simulations », a déclaré le Dr Tomasz Hollanek, l’un des co-auteurs de l’étude.

« Ces services courent le risque de causer une énorme détresse aux gens s’ils sont soumis à des hantises numériques indésirables provenant de recréations IA d’une précision alarmante de ceux qu’ils ont perdus. L’effet psychologique potentiel, en particulier dans une période déjà difficile, pourrait être dévastateur. »