Un algorithme défectueux pour les prestations sociales au Royaume-Uni «  pousse les gens dans la pauvreté ''

Un algorithme défectueux qui détermine les prestations de sécurité sociale reçues par les personnes au Royaume-Uni cause la faim, la dette et la détresse psychologique, a averti Human Rights Watch.

Le modèle calcule les avantages auxquels les gens ont droit mois en fonction de l’évolution de leurs revenus. Mais Human Rights Watch a découvert un défaut dans le système.

L'algorithme analyse uniquement les salaires que les gens reçoivent dans un mois civil et ignore la fréquence à laquelle ils sont payés. Cela signifie que les personnes qui reçoivent plusieurs chèques de paie en un mois – un phénomène courant dans le travail irrégulier et faiblement rémunéré – peuvent voir leurs revenus surestimés et leurs paiements considérablement réduits.

Human Rights Watch affirme que le système pourrait être amélioré en utiliser des périodes plus courtes d'évaluation du revenu ou des gains moyens sur des périodes plus longues. Alors que le gouvernement évalue ces propositions, le chien de garde a appelé à la mise en œuvre de mesures urgentes, telles que des subventions ponctuelles pour les candidats.

«Le gouvernement a mis un algorithme défectueux chargé de décider du montant à verser aux gens. louer et nourrir leurs familles », a déclaré Amos Toh, chercheur principal en IA et droits humains à Human Rights Watch. «La tentative du gouvernement d’automatiser le système de prestations – quel que soit le coût humain – pousse les gens au bord de la pauvreté.»

[Lire: Les véhicules électriques sont-ils trop chers? Voici 5 mythes courants, démystifiés ]

L'algorithme est au cœur de Universal Credit, une refonte du système de protection sociale du Royaume-Uni qui combine six prestations en une seule somme mensuelle.

Le système a été conçu pour rationaliser les paiements, mais a été largement critiqué depuis son lancement en 2016. Quiconque en fait la demande doit attendre cinq semaines avant de recevoir son premier paiement, et les personnes ayant des compétences numériques ou un accès Internet limités ont du mal à gérer Internet.

L'algorithme utilisé par le Royaume-Uni reflète une tendance mondiale à automatiser les systèmes de sécurité sociale. En octobre dernier, un expert des droits de l'homme de l'ONU a déclaré que ces programmes étaient souvent conçus pour réduire l'aide sociale, intensifier la surveillance gouvernementale et générer des profits pour les intérêts des entreprises.

Human Rights Watch veut que le Le gouvernement britannique doit adopter une approche plus centrée sur l'humain. Mais les problèmes avec l'algorithme ne devraient pas laisser les décideurs politiques s'en tirer.

L'IA vous intéresse donc? Puis rejoignez notre événement en ligne, TNW2020 où vous découvrirez comment l'intelligence artificielle transforme les industries et les entreprises.

Publié le 29 septembre 2020 – 17:55 UTC