Voici 5 choses qui me font peur à propos de l'IA

L'IA est de plus en plus utilisée pour prendre des décisions importantes. De nombreux experts en IA (dont Jeff Dean chef de l'IA chez Google et Andrew Ng fondateur de Coursera et deeplearning.ai) disent que des avertissements sur les robots sensibles sont exagérés, mais d'autres préjudices ne reçoivent pas assez d'attention. Je suis d'accord. Je suis chercheur en IA et Je suis inquiet de certains des impacts sociétaux que nous constatons déjà.

Avant de plonger, je dois clarifier un point c'est important à comprendre: les algorithmes (et les systèmes complexes dont ils font partie) peuvent faire des erreurs. Ces erreurs proviennent de diverses sources: bogues dans le code, données inexactes ou biaisées, approximations que nous devons faire (par exemple, vous voulez mesurer la santé et vous utilisez les réadmissions à l'hôpital comme proxy, ou vous êtes intéressé par le crime et utilisez des arrestations comme un proxy. Ces choses sont liées, mais pas les mêmes), les malentendus entre les différentes parties prenantes (décideurs, ceux qui collectent les données, ceux qui codent l'algorithme, ceux qui les déploient), comment les systèmes informatiques interagissent avec les systèmes humains, et plus encore. [19659007] Les algorithmes sont souvent mis en œuvre sans moyens de corriger les erreurs

Après l'état de L'Arkansas a mis en œuvre un logiciel pour déterminer les prestations de soins de santé des personnes, de nombreuses personnes ont vu une réduction drastique de la quantité de soins qu'elles reçu, mais n'a reçu aucune explication et aucun moyen de faire appel. Tammy Dobbs, une femme atteinte de paralysie cérébrale qui a besoin d'une aide pour l'aider à sortir du lit, à aller aux toilettes, à se procurer de la nourriture, etc. Pour le pire. Finalement, un long procès a révélé des erreurs dans la mise en œuvre du logiciel, et les heures de Tammy ont été rétablies (ainsi que celles de beaucoup d'autres qui ont été affectées par les erreurs).

Les observations de la classe de Sarah Wysocki, enseignante de cinquième année, ont donné des critiques positives. Son directeur adjoint a écrit « C'est un plaisir de visiter une salle de classe dans laquelle les éléments d'un bon enseignement, d'élèves motivés et d'un environnement d'apprentissage positif sont si efficacement combinés .» Deux mois plus tard , Elle a été licenciée par un algorithme opaque, avec plus de 200 autres enseignants. Le chef de la PTA et un parent d'un des élèves de Wyscoki l'ont décrite comme « l'une des meilleures enseignantes avec qui j'ai jamais été en contact. Chaque fois que je la voyais, elle était attentive aux enfants, reprenait leurs devoirs, elle prenait du temps avec eux et s'assurait. "Que les gens perdent des soins de santé sans explication ou soient renvoyés sans explication est vraiment dystopique! [19659012] Titres de The Verge et du Washington Post