Fermer

avril 5, 2019

Nous perdons le contrôle de l’avenir de la technologie – voici comment nous pouvons le récupérer



Nous semblons être à la croisée des chemins en ce qui concerne l'avenir de la technologie. Les avancées dans des domaines tels que l’intelligence artificielle soulèvent des dangers auxquels nous devons nous attaquer collectivement en tant que société avant qu’il ne soit trop tard.

James Bridle, artiste multimédia et auteur à succès, discutera des obstacles technologiques auxquels nous sommes confrontés à la TNW Conference à Amsterdam les 9 et 10 mai. Son nouveau livre New Dark Age, est une collection d'exemples saisissants de la manière dont nous identifions les dangers que représente la technologie.

Bridle fait appel à des illustrations du monde réel, que nous connaissons tous. avec, et nous le présente sous un nouvel éclairage choquant. Prenons, par exemple, l’amélioration massive de Google Translate au cours des dernières années. Sans le savoir, l’intelligence artificielle derrière son succès a adopté de nouvelles formes de puissance de calcul, que même ses créateurs ne comprennent pas parfaitement. Bridle éclaire les lecteurs sur les dures réalités de notre monde numérique et nous oblige à réévaluer les méthodes de la technologie d'avenir.

Nous nous sommes assis avec lui pour discuter de ses points de vue saisissants.

Votre passion pour l'IA est très claire. , apprentissage automatique et technologie en général.

J'ai étudié l'informatique et l'intelligence artificielle à la toute fin du dernier cycle de battage médiatique de l'IA, il y a presque 20 ans. C'est à ce moment-là que les gens ont commencé à se rendre compte que les modèles d'IA basés sur le cerveau humain n'allaient pas fonctionner.

La dernière vague dans laquelle nous nous trouvons actuellement est tellement intéressante parce qu'elle est complètement différente de cette idée: comme les réseaux de neurones reposent sur des modèles cérébraux simplifiés, l’apprentissage automatique tel que nous le développons actuellement – et son déploiement dans tous les domaines de la vie, des marchés boursiers à l’évaluation des assurances, des diagnostics médicaux à la gestion de l’énergie – est très différent, quelque chose de très différent. étranger à l'intelligence humaine et en grande partie opaque. En tant que personne motivée à comprendre ces technologies et leur impact sur la société, cela représente un défi intéressant.

Pourquoi avez-vous décidé de travailler sur plusieurs supports? En quoi l'expérience d'écriture de livres a-t-elle été différente de vos installations artistiques?

Je ne dirais même pas que c'était une décision claire. Un travail qui ne s'inscrit pas dans les modes de production et de critique technologiques établis – que ce soit dans le secteur des technologies ou dans le monde universitaire – trouve sa place dans l'art, le journalisme et l'écriture publique.

L'art a toujours été où des modes d'investigation qui Finis les logiques de production et de consommation, et pour moi, il s’agit de trouver d’autres utilisations et possibilités pour nos technologies – comment pouvons-nous les plier et les réécrire, comment pouvons-nous raconter différentes histoires à leur sujet et ainsi produire des résultats différents? [19659002] Mon écriture n’est pas si différente: il s’agit de trouver d’autres moyens de raconter ces histoires et d’en arriver à des interprétations très différentes d’elles. Cela prend parfois la forme d'œuvres d'art, parfois de journalisme ou de conférences, et parfois, comme dans le cas de New Dark Age d'un livre de forme plus longue. Chacun est un processus d'enquête, de débat, de compréhension et de critique.

Vous utilisez beaucoup d'exemples, allant de la politique aux échecs, dans le livre. Ces événements vous ont-ils conduit à écrire New Dark Age ou ont-ils fait l'objet de recherches?

Ce sont toutes des choses que j'ai trouvées intéressantes, pendant de nombreuses années! Je ne peux pas vraiment dire mieux que ça. Quand je trouve un sujet intéressant, qu’il s’agisse d’un événement politique ou social, des échecs automatiques, des drones, des voitures autonomes ou de l’apprentissage automatique, je cherche à savoir ce qui peut être dit, ce qui peut être fait. 19659019] Je trouve ces choses fascinantes – et je pense qu'en les connectant, en voyant comment le langage que nous utilisons autour d'eux, les modèles que nous en faisons, façonnent et produisent la société de différentes manières, nous pouvons comprendre quelque chose sur nous-mêmes et le monde dans lequel nous vivons.

L'expérience de l'écriture New Dark Age a-t-elle eu une incidence sur votre interaction avec les applications, Internet et la technologie en général?

Oui. J'étais déjà assez critique dans mon utilisation de la technologie: je n'ai jamais utilisé Facebook, par exemple, parce que je ne comprends tout simplement pas l'utilité d'un système d'exploitation social basé sur le comportement d'un petit nombre de personnes affreuses à Harvard, et pourquoi le monde entier devrait s'y conformer.

Mais j'ai aussi beaucoup appris sur la façon dont les réseaux centralisés et surveillés façonnent fondamentalement les relations de pouvoir et donc notre vie quotidienne, et sur la manière dont des activités physiques et psychologiques effroyables – même neurologiques – les bidouilles sont intégrées à beaucoup des choses avec lesquelles nous interagissons tout le temps, des manipulations des moteurs de recommandation aux récompenses dopaminergiques des alertes contextuelles en passant par des chronologies défilant sans fin.

En conséquence, je suis beaucoup plus intéressés par les réseaux décentralisés et distribués, les applications et les systèmes d'exploitation open source, et la technologie conçue avec soin pour éduquer et soutenir les utilisateurs, plutôt que d'encourager, le pouvoir et même les radicaliser.

À la fin de chaque chapitre, vous terminez en disant que nous avons l'agence pour veiller à ce que nous travaillions de manière positive avec les machines. Comment pouvons-nous nous y prendre et existe-t-il des exemples de ce que nous faisons déjà?

Il existe différentes façons de penser à ce sujet, qu'il s'agisse du modèle coopératif de Advanced Chess de Kasparov – où l'homme et la machine jouent ensemble plutôt que contre les unes des autres – ou la restructuration des réseaux de propriété sous-jacents rendue possible par les technologies Web distribuées et des applications entre homologues telles que DAT, IPFS, Mastodon, Secure Scuttlebutt, Appear.in, Jit.si, etc.

Il y a aussi une opposition catégorique: refuser de participer à des systèmes de domination et de contrôle et s'obscurcir délibérément par le cryptage et le retrait – utilisez PGP, utilisez des VPN, etc. Mais la seule stratégie à long terme qui ait jamais fonctionné est l’entraide et l’éducation mutuelles: permettre à chacun de participer utilement à la conception et à la construction de ces systèmes, et transformer les machines de domination et d’extraction en outils de compréhension et de remise en question.

la forme d’une meilleure éducation technologique – apprendre à coder de manière critique est un moyen très direct de gagner du pouvoir au sein de ces systèmes – mais elle nécessite également l’engagement de ceux qui construisent nos systèmes de soutien social et vital pour guider les utilisateurs tout au long de ces processus. ne sont pas privés de leur pouvoir, mais sont élevés par les technologies qu’ils utilisent.

Vous voulez en savoir plus sur le point de vue de James Bridle sur la technologie? Il ne manque pas de parler de l’avenir de la technologie à TNW2019. Si vous ne l’avez pas déjà fait, assurez-vous de commander son livre New Dark Age.

Publié le 5 avril 2019 – 16:08 UTC
                                




Source link