Fermer

juin 8, 2018

Les principes de Google pour développer l'IA ne sont pas assez bons



Le PDG de Google, Sundar Pichai, a publié les nouvelles règles de son entreprise régissant le développement de l'IA. Au cours de sept principes, il énonce une politique large (et inutile) laissant plus de marge de manœuvre qu'un pantalon de clown.

Si vous racontez l'implication de Google dans l'édification de l'IA pour l'armée américaine, cela prend tout son sens . Dans un tel cas, l'histoire commencerait avec la compagnie de Mountain View créant une politique pour développer l'IA, et ensuite elle utiliserait ces principes pour guider ses actions.

Malheureusement, la réalité est que l'entreprise a développé l'IA aussi longtemps que ça a été autour. Il est difficile d'étouffer le fait que ce n'est que maintenant, après que l'éthique de l'entreprise a été remise en question qu'un contrat militaire le PDG ait été préoccupé par ces lignes directrices

. pour suggérer que c'est une entreprise qui développe la technologie de l'IA sans surveillance. En fait, il est clair que les ingénieurs, les chercheurs et les scientifiques de Google sont parmi les meilleurs au monde et que nombre de ces employés ont le plus haut degré d'éthique. Mais au niveau de l'entreprise, c'est comme si les avocats dirigeaient le show.

Non, mon propos est de suggérer que le blog de Pichai n'est rien de plus qu'une bagatelle à peine voilée destinée aux journalistes de technologie et aux autres experts. Malheureusement, il n'y a aucune substance à tout cela.

Cela commence par le premier principe de la nouvelle politique d'IA de Google: être socialement bénéfique. Cette partie énonce un service en disant qu'elle s'efforcera de développer une intelligence artificielle qui profite à la société, mais ne discute pas de ce que cela signifie ni de la façon dont elle va accomplir un tel principe abstrait.

Curieusement, la dernière phrase du premier principe est "Et nous continuerons à évaluer soigneusement quand rendre nos technologies disponibles sur une base non commerciale. "C'est juste une salade de mot sans plus de profondeur que de dire" Google est une entreprise qui continuera à faire des affaires. "

Au lieu de" être socialement bénéfique, "J'aurais préféré voir quelque chose de plus comme" refuser de développer l'intelligence artificielle pour toute entité qui ne dispose pas d'un ensemble clair de règles éthiques pour son utilisation. "

Malheureusement, comme show les dirigeants de Google étaient plus préoccupés par les certifications gouvernementales que par les considérations éthiques lorsqu'ils ont conclu un contrat avec le gouvernement des États-Unis – une entité sans directives éthiques formelles sur l'utilisation de l'IA.

Pearl, chacun des sept principes énoncés par Pichai sont des puces générales qui se lisent comme des déclarations de couverture de soi-même. Et, chacun correspond à une préoccupation très légitime que l'entreprise semble éviter d'aborder. Après le premier principe mentionné ci-dessus, il devient juste plus insipide:

  1. «Éviter de créer ou de renforcer des préjugés injustes.» Ceci, au lieu d'un engagement à développer des méthodes pour combattre les préjugés. dit: «Nous continuerons à développer et appliquer de solides pratiques de sûreté et de sécurité pour éviter les résultats imprévus qui créent des risques de préjudice.» Il est intéressant que les gens de Pichai ne pensent pas qu'il y ait un risque de conséquences imprévues. »
  2. « Soyez responsable envers les gens. »Plutôt que de« développer l'IA avec transparence », ce qui serait génial, cela signifie simplement que Google tiendra finalement un humain responsable de la création de son IA
  3. principes de conception. "Apple juste a dévoilé la technologie conçu pour empêcher les grandes sociétés de données de recueillir vos données. Google juste a dit qu'il se soucie de la vie privée. Les actions parlent plus fort que les mots.
  4. "Défendre des normes élevées d'excellence scientifique." Les recherches de Google se déroulent à l'intérieur d'une chambre d'écho scientifique interne. Les chiffres 4, 5 et 6 devraient être remplacés par «soyez transparent».
  5. «Soyez disponible pour des usages conformes à ces principes.» Dans ce même document, Pichai souligne que Google effectue une grande partie de son travail sur l'IA. disponible en code open-source. Il est facile de dire que vous ne développerez l'IA qu'avec les meilleures intentions et que vous ne l'utiliserez que pour le bien, tant que vous ne serez pas responsable de son utilisation une fois que les génies de votre société auront fini de l'inventer

servir un peu plus de but que, peut-être, finir par devenir une référence hypertexte dans une future apologie.

Si Google veut réparer sa réputation récemment ternie, il devrait prendre la question de développer l'IA assez sérieux pour arriver à un un ensemble de principes réalistes pour orienter le développement futur, qui répond directement aux préoccupations éthiques. Sa tentative actuelle n'est rien de plus que sept nuances de zone grise, et cela n'aide personne.




Source link