Les arguments en faveur d'une IA qui place la nature et l'éthique au premier plan, pas les humains
Saviez-vous que TNW Conference a une piste entièrement dédiée à réunir les plus grands noms de la technologie pour présenter des conférences inspirantes de ceux qui pilotent l'avenir de la technologie cette année? Tim Leberecht, l'auteur de cette pièce, est l'un des conférenciers. Découvrez le programme complet « Impact » ici.
Le 20 juillet 1969, le premier humain a atterri sur la lune. Cinquante ans plus tard, nous avons désespérément besoin d'un autre «coup de lune» pour résoudre certains des problèmes urgents et extrêmement importants de notre époque – de la crise climatique au déclin de la démocratie aux bouleversements de nos marchés du travail et de nos sociétés causés par la montée des la technologie numérique exponentielle – en particulier l'intelligence artificielle (IA).
Au cours de la dernière décennie, nous avons fait confiance à la technologie comme ultime solutionneur de problèmes, et toute sorte d'innovation était liée aux progrès technologiques. Mais alors que la Silicon Valley a perdu une partie de son halo et, sans doute, sa légitimité, nous avons réalisé que le facteur le plus critique pour permettre un avenir humain est nous, les humains, et plus précisément la façon dont nous nous relions les uns aux autres et à la planète que nous habitons. La véritable lune de notre temps est l'innovation écologique, sociale et émotionnelle.
La dystopie est une IA générale qui est trop étroite
Mais ne vous y trompez pas: l'IA est là, et elle va tout changer. Mais ces changements sont-ils positifs? Et avec l'IA qui a un si grand impact sur notre façon de travailler, de vivre, de jouer et même d'aimer, pensons-nous assez grand? Comment l'IA peut-elle être notre compagnon dans notre quête pour permettre non seulement notre avenir, mais notre humanité?
«Les modèles commerciaux des 10 000 prochaines startups sont faciles à prévoir: prenez X et ajoutez l'IA», fondateur de Wired [19659009] Kevin Kelly a proclamé en 2016. Cela peut s'avérer vrai, mais en même temps, il est décevant de voir que la plupart des applications révolutionnaires de l'IA, de l'analyse de modèle basée sur des quantités massives de données, l'apprentissage par renforcement dans le style d'Alpha Go de Deep Mind pour les réseaux contradictoires génératifs effectuant des tâches créatives, ont été conçus et utilisés pour améliorer principalement l'efficacité (pour l'entreprise) et / ou la commodité (pour le consommateur).
Bien que ces avantages soient précieux, la préoccupation est de plus en plus que nous cédons à un paradigme de «réductionnisme forcé» (pour emprunter un terme à l'ancien directeur du MIT Media Lab Joi Ito ), nous-mêmes en nous donnant un modèle purement mécaniste et utilitaire de la technologie. Alors que l'IA devient de plus en plus puissante et envahissante, elle peut inévitablement changer notre monde pour s'aligner sur ces principes de conception. La conséquence pourrait être un monde plein de «sociétés monochromes», comme le PDG d'Infineon Dr. Reinhard Pless le dit.
Il y a d'autres soucis: des acteurs non bénins, des biais inconscients et conscients informant les algorithmes et fomentant une nouvelle fracture numérique, la manipulation et même l'oppression, la menace d'une société de surveillance, les humains se transformer en machines super-optimisées, et non la moindre super-intelligence qui pourrait bientôt dominer les humains ou nous rendre finalement obsolètes.
Recherché: IA non binaire qui est enchevêtrée avec la nature
Enfin, il y a un problème plus philosophique qui va au coeur du problème: l'IA actuelle est basée sur un système binaire, dans la tradition d'Aristote, Descartes et Leibniz. Un chercheur en IA Twain Liu soutient que «le binaire réduit tout à 0 et 1 sans signification, lorsque la vie et l'intelligence opèrent XY en tandem. Cela rend la lecture et le traitement des données quantitatives plus pratiques, efficaces et économiques pour les machines, mais cela au détriment des nuances, de la richesse, du contexte, des dimensions et de la dynamique de nos langues, cultures, valeurs et expériences . »
Nous prenons quelques indices de la nature, qui est tout sauf binaire. La recherche quantique, par exemple, a montré que les particules peuvent avoir des états de superposition enchevêtrés où ils sont à la fois 0 et 1 à la fois – tout comme le concept chinois de YinYang, qui met l'accent sur la dynamique symbiotique des hommes et des femmes dans l'univers et en nous. Liu écrit: «La nature ne se pige pas dans les binaires – pas même avec les pigeons. Alors, pourquoi le faisons-nous dans l'informatique? »
« Ce qui a commencé comme une cartographie de la signification humaine définit maintenant la signification humaine »
Il y a une autre raison pour laquelle nous devons étudier la nature en ce qui concerne l'avenir de l'IA: la nature remplace la programmation numérique, comme le fait valoir l'historien de la technologie George Dyson . Il souligne qu'il n'y a plus de modèle algorithmique capable de saisir le beau chaos manifeste dans le graphique dynamique de Facebook. Facebook est une machine qu'aucune autre machine ne peut comprendre, et encore moins l'intelligence humaine. Il écrit: «Le réseau social performant n'est plus un modèle du graphe social, c'est le graphe social.» Et plus loin: «Ce qui a commencé comme une cartographie de la signification humaine définit maintenant la signification humaine et a commencé à contrôler, plutôt que simplement cataloguer ou indexer, la pensée humaine.»
Il conclut: «La nature s'appuie sur le codage analogique et l'informatique analogique pour intelligence et contrôle. Pas de programmation, pas de code. Pour ceux qui recherchent l'intelligence, l'autonomie et le contrôle réels entre les machines, le domaine de l'informatique analogique, et non de l'informatique numérique, est l'endroit où chercher. »
Si nous traitons l'IA comme le meilleur optimiseur, cela nous optimisera à mort [19659026] Cela indique que toute vision plus sophistiquée de l'IA doit aller au-delà de trois limites conceptuelles actuelles: elle doit passer du binaire à l'intersection, de l'efficacité à l'efficacité, de l'exploitation à l'incorporation dans la nature.
Alors que les concepts de éthique explicable ou responsable L'IA est louable, elle ne suffit pas, car elles sont toujours toutes coincées dans nos confins. vouloir réguler l'IA de résolution de problèmes. Mais nous devons cesser de traiter l'IA comme le grand résolveur de problèmes et surmonter notre mentalité d'ingénierie. Nous devons plutôt penser à l'IA de manière plus holistique, non seulement en ce qui concerne son objectif et ses résultats, mais aussi la façon dont elle fonctionne.
S'inspirant des sciences humaines et des arts, et ancré dans notre tradition de discours et de pensée critique, l'IA doit être éthique, mais pas seulement dans le sens de la conformité extrinsèque, mais dans le sens de la vraie compassion. Elle doit respecter la vérité, ce qui signifie qu'elle doit parfois se contenter de solutions qui ne sont pas les plus percutantes, les plus rapides ou les plus rentables.
Si nous réduisons l'IA à être le meilleur optimiseur, cela nous optimisera à mort. Pour lier l'IA à la dignité humaine, nous devons la traiter nous-mêmes avec dignité. Pour nous assurer de ne pas nous retrouver avec une «société monochrome» de machines sans âme, nous devons inculquer l'âme à l'IA.
De «centré sur l'humain» à conscient
Cela implique cependant que nous dépassions le type d'anthropocentrisme qui se cache derrière des dénominateurs communs tels que «IA centrée sur l'humain» qui sont empruntés au monde du design et maintenant promus par des institutions telles que le nom éponyme Institut de Stanford pour l'intelligence artificielle centrée sur l'homme ou «technologie sans cruauté», terme popularisé par le Centre for Humane Technology . Même l'accent mis sur le «bien-être humain» adopté par les normes éthiques de l'IEE IEEE (l'organisation professionnelle mondiale des ingénieurs) éthiques ne semble pas répondre au biais cognitif le plus tenace qui sous-tend tout nos efforts autour de l'IA – nous sommes, pour ce qu'elle vaut et certainement compréhensible, biaisés vers les humains.
Pourtant, à une époque de catastrophe écologique imminente causée par notre exploitation négligente, égoïste et même volontairement ignorante des ressources planétaires, elle devient de plus en plus évident que la menace la plus existentielle non seulement pour notre propre bien-être mais aussi celui du monde qui nous entoure (dont nous sommes une petite partie fugace, dans le grand schéma des choses) est nous. L'IA «centrée sur l'humain» axée sur la promotion du bien-être humain et de l'épanouissement ne peut donc plus être un objectif incontesté. Une IA écologiquement consciente et éthique doit transcender l'anthropocentrisme façonné par la pensée rationaliste et néolibérale.
Représentation d'un artiste d'ancêtres rejoignant un groupe en conversation à l'atelier d'IA à Hawaï. | Image de Sergio Garzon. Gracieuseté de l'Initiative for Indigenous Futures.
Une autre approche possible peut être trouvée dans les cultures non occidentales. La culture animiste shintoïste du Japon par exemple, croit que les choses animées et inanimées ont un esprit: des morts à chaque animal, chaque fleur, chaque particule de poussière, chaque machine. Après un siècle à vénérer l'ingéniosité humaine et la technologie dans des sociétés modernes de plus en plus sécularisées, l'animisme nous invite à revenir à une vision polythéiste du monde.
Comme l'animisme, les communautés autochtones du monde entier supposent que toutes choses sont interdépendantes. «Les épistémologies autochtones ne considèrent pas l'abstraction ou la généralisation comme un bien naturel ou un ordre d'engagement intellectuel supérieur», selon les chercheurs autochtones Jason Edward Lewis Noelani Arista, Archer Pechawis et Suzanne Kite [19659010] écrire dans un article pour le MIT . Les cultures autochtones proposent des rituels et des protocoles pour respecter et se rapporter à «nos parents non humains», car «l'homme n'est ni la hauteur ni le centre de la création». Les auteurs proposent que «nous, en tant qu'espèce, trouvions comment traiter ces nouveaux parents non humains avec respect et réciprocité – et non pas comme de simples outils, ou pire, des esclaves de leurs créateurs».
Cela inclut l'IA, qu'ils demandez-nous d'accepter dans notre «cercle de parenté». intériorité sur les connaissances externalisées, relations sur les transactions et qualité de vie comme la santé des personnes et des terres – de toutes les choses animées ou inanimées.
La beauté est la fin
Seul ce nouveau type d'IA peut surmonter le dualisme qui a conduit à l'exploitation des ressources et une mentalité cynique gagnant-tout. Il nous permet, en tant qu'êtres humains, de favoriser l'innovation à travers différentes générations, cultures et couches socio-économiques, pas seulement au sein de nos tribus homogènes. Cela nous permet de nous attaquer collectivement aux très gros problèmes de notre époque tels que la crise climatique ou la fracture croissante dans nos sociétés et la nécessité de nous relier à «l'autre», y compris à nos proches non humains.
Il y a un mot pour ce type d'IA: le beau.
Le beau implique ce qui est essentiellement humain et en même temps plus grand que nous: l'esthétique, l'éthique et l'écologie interconnectée que nous habitons. Il décrit une relation sensorielle au monde, une relation d'harmonie et d'harmonisation. Cela signifie également la biodiversité et la neurodiversité: le concept de nos relations, de nos organisations et de notre travail en tant que jardins, pas en tant que machines, comme un large éventail d'identités ethniques, culturelles, cognitives et émotionnelles qui sont fluides et pas nécessairement cohérentes. [19659057] Le beau est ce qui nous concerne, ce qui nous touche et nous transcende. La beauté est la fin, pas seulement le moyen. La beauté est la qualité. La beauté est la qualité .
entreprise qui aide les organisations et les individus à créer des visions, des histoires et des expériences transformatrices. Leberecht est également le co-fondateur et conservateur de la House of Beautiful Business, un groupe de réflexion et une communauté mondiale avec un rassemblement annuel à Lisbonne qui rassemble les dirigeants et les changemakers avec la mission d'humaniser les affaires à l'ère des machines.
