Fermer

mars 8, 2020

Les arguments en faveur d'une IA qui place la nature et l'éthique au premier plan, pas les humains11 minutes de lecture



Saviez-vous que TNW Conference a une piste entièrement dédiée à réunir les plus grands noms de la technologie pour présenter des conférences inspirantes de ceux qui pilotent l'avenir de la technologie cette année? Tim Leberecht, l'auteur de cette pièce, est l'un des conférenciers. Découvrez le programme complet « Impact » ici.

Le 20 juillet 1969, le premier humain a atterri sur la lune. Cinquante ans plus tard, nous avons désespérément besoin d'un autre «coup de lune» pour résoudre certains des problèmes urgents et extrêmement importants de notre époque – de la crise climatique au déclin de la démocratie aux bouleversements de nos marchés du travail et de nos sociétés causés par la montée des la technologie numérique exponentielle – en particulier l'intelligence artificielle (IA).

Au cours de la dernière décennie, nous avons fait confiance à la technologie comme ultime solutionneur de problèmes, et toute sorte d'innovation était liée aux progrès technologiques. Mais alors que la Silicon Valley a perdu une partie de son halo et, sans doute, sa légitimité, nous avons réalisé que le facteur le plus critique pour permettre un avenir humain est nous, les humains, et plus précisément la façon dont nous nous relions les uns aux autres et à la planète que nous habitons. La véritable lune de notre temps est l'innovation écologique, sociale et émotionnelle.

Mais ne vous y trompez pas: l'IA est là, et elle va tout changer. Mais ces changements sont-ils positifs? Et avec l'IA qui a un si grand impact sur notre façon de travailler, de vivre, de jouer et même d'aimer, pensons-nous assez grand? Comment l'IA peut-elle être notre compagnon dans notre quête pour permettre non seulement notre avenir, mais notre humanité?

«Les modèles commerciaux des 10 000 prochaines startups sont faciles à prévoir: prenez X et ajoutez l'IA», fondateur de Wired [19659009] Kevin Kelly a proclamé en 2016. Cela peut s'avérer vrai, mais en même temps, il est décevant de voir que la plupart des applications révolutionnaires de l'IA, de l'analyse de modèle basée sur des quantités massives de données, l'apprentissage par renforcement dans le style d'Alpha Go de Deep Mind pour les réseaux contradictoires génératifs effectuant des tâches créatives, ont été conçus et utilisés pour améliorer principalement l'efficacité (pour l'entreprise) et / ou la commodité (pour le consommateur).

Bien que ces avantages soient précieux, la préoccupation est de plus en plus que nous cédons à un paradigme de «réductionnisme forcé» (pour emprunter un terme à l'ancien directeur du MIT Media Lab Joi Ito ), nous-mêmes en nous donnant un modèle purement mécaniste et utilitaire de la technologie. Alors que l'IA devient de plus en plus puissante et envahissante, elle peut inévitablement changer notre monde pour s'aligner sur ces principes de conception. La conséquence pourrait être un monde plein de «sociétés monochromes», comme le PDG d'Infineon Dr. Reinhard Pless le dit.

Il y a d'autres soucis: des acteurs non bénins, des biais inconscients et conscients informant les algorithmes et fomentant une nouvelle fracture numérique, la manipulation et même l'oppression, la menace d'une société de surveillance, les humains se transformer en machines super-optimisées, et non la moindre super-intelligence qui pourrait bientôt dominer les humains ou nous rendre finalement obsolètes.

Enfin, il y a un problème plus philosophique qui va au coeur du problème: l'IA actuelle est basée sur un système binaire, dans la tradition d'Aristote, Descartes et Leibniz. Un chercheur en IA Twain Liu soutient que «le binaire réduit tout à 0 et 1 sans signification, lorsque la vie et l'intelligence opèrent XY en tandem. Cela rend la lecture et le traitement des données quantitatives plus pratiques, efficaces et économiques pour les machines, mais cela au détriment des nuances, de la richesse, du contexte, des dimensions et de la dynamique de nos langues, cultures, valeurs et expériences . »

Nous prenons quelques indices de la nature, qui est tout sauf binaire. La recherche quantique, par exemple, a montré que les particules peuvent avoir des états de superposition enchevêtrés où ils sont à la fois 0 et 1 à la fois – tout comme le concept chinois de YinYang, qui met l'accent sur la dynamique symbiotique des hommes et des femmes dans l'univers et en nous. Liu écrit: «La nature ne se pige pas dans les binaires – pas même avec les pigeons. Alors, pourquoi le faisons-nous dans l'informatique? »

Il y a une autre raison pour laquelle nous devons étudier la nature en ce qui concerne l'avenir de l'IA: la nature remplace la programmation numérique, comme le fait valoir l'historien de la technologie George Dyson . Il souligne qu'il n'y a plus de modèle algorithmique capable de saisir le beau chaos manifeste dans le graphique dynamique de Facebook. Facebook est une machine qu'aucune autre machine ne peut comprendre, et encore moins l'intelligence humaine. Il écrit: «Le réseau social performant n'est plus un modèle du graphe social, c'est le graphe social.» Et plus loin: «Ce qui a commencé comme une cartographie de la signification humaine définit maintenant la signification humaine et a commencé à contrôler, plutôt que simplement cataloguer ou indexer, la pensée humaine.»

Il conclut: «La nature s'appuie sur le codage analogique et l'informatique analogique pour intelligence et contrôle. Pas de programmation, pas de code. Pour ceux qui recherchent l'intelligence, l'autonomie et le contrôle réels entre les machines, le domaine de l'informatique analogique, et non de l'informatique numérique, est l'endroit où chercher. »