La montée des véhicules autonomes et l'importance de l'éthique

Il ne fait aucun doute que les véhicules autonomes, plus communément appelés voitures autonomes, sont en passe de transformer. Le marché devrait atteindre environ 42 milliards de dollars d'ici 2025 avec un taux de croissance annuel composé (CAGR) de projeté à 21% d'ici 2030 . Non seulement cette perturbation sera immense, donnant naissance à de nouveaux types d’entreprises, de services et de modèles d’entreprise, mais leur introduction aura également des implications éthiques immenses.

L’Organisation mondiale de la Santé (OMS) affirme qu’environ 1,35 million de personnes dans le monde monde meurent chaque année dans des accidents de la route. S'il existait un moyen efficace d'éliminer 90% de ces accidents, je ne pense pas que la plupart des gens l'appuieraient. C’est le but recherché par les véhicules autonomes: éliminer la principale source d’accidents de la route, à savoir l’erreur humaine. Les avantages des véhicules autonomes sont certes évidents: gain de temps, productivité accrue, sécurité accrue, disponibilité constante des services, mais les problèmes restent, et s'ils ne sont pas résolus, ils pourraient potentiellement compromettre les promesses de cette technologie.

Véhicules autonomes

L'un des principaux défis en matière de véhicules autonomes est centré sur la valorisation de la vie humaine. Qui décide qui vit et qui meurt en une fraction de seconde? Qui décide la valeur d'une vie humaine sur une autre? Et, plus important encore, comment cette décision est-elle calculée? Être sur une route est intrinsèquement dangereux, et ce danger signifie que des compromis seront opérés lorsque les voitures autonomes rencontrent des situations de vie ou de mort. C'est inévitable. Et avec les compromis, vous avez besoin de directives éthiques.

Si un véhicule autonome commet une erreur, cela peut directement entraîner des pertes de vies humaines. Dans ces scénarios, il est très important de savoir qui décide qui habite et comment ces décisions sont prises. Les chercheurs luttent contre cette notion depuis des années. Le problème du tramway a été proposé par le philosophe Phillipa Foot en 1967 et a proliféré sous de nombreuses variantes. Généralement, il est utilisé pour évaluer les décisions que les gens prendraient lorsqu'on leur demandait de tuer, par exemple, une personne par rapport à 10 personnes.

Supposons qu'un véhicule autonome subisse une défaillance mécanique, son accélération augmente, et la voiture est incapable de s'arrêter. Si cela continue, un grand groupe de piétons se heurtera ou la voiture pourrait dévier, heurter un obstacle et tuer le conducteur à l'intérieur de la voiture. Que doit faire la voiture, qui décide ce que la voiture doit faire et où la responsabilité incomberait-elle? Des conducteurs humains expérimentés sont programmés depuis des années pour prendre de telles décisions en une fraction de seconde et ils ne réussissent toujours pas correctement.

Utilité morale contre devoir moral

Les véhicules autonomes devraient-ils peut-être adopter des principes utilitaires lorsqu'ils choisissent qui vit et qui meurt? Les principes utilitaires, tels que défendus par le grand philosophe anglais Jeremy Bentham, pourraient offrir un cadre pour aider les décisions éthiques que doivent prendre les IA. L'accent serait mis sur les décisions qui apportent le plus grand bien pour le plus grand nombre de personnes. Cependant, à quel prix? Comment les calculs utilitaires violant les droits individuels sont-ils réconciliés? Pourquoi ma vie serait-elle moins importante que celle de cinq inconnus que je ne connais pas?

Ou les véhicules autonomes devraient-ils suivre les principes du devoir tels que préconisés par le philosophe allemand Emmanuel Kant? En vertu de ce système, un principe tel que "tu ne tueras pas" garantirait à la voiture le maintien de son cap même si elle nuit à autrui tant que le conducteur reste en sécurité. Avec des principes liés au devoir, donner la priorité à votre sécurité individuelle pourrait en réalité causer encore plus de tort.

Je suppose que la clé réside dans la façon dont les clients finissent par adopter et utiliser les véhicules autonomes et les services qu’ils offrent. Les consommateurs seraient-ils intéressés à posséder des voitures autonomes qui suivent les principes utilitaires et pourraient nous tuer pour sauver un tas d'étrangers? Ou serions-nous seulement intéressés à acheter des voitures autonomes qui accordent la priorité à notre propre sécurité, même si cela pourrait signifier de potentiellement tuer un tas d’étrangers? Qui décide quelles lignes directrices éthiques concernant l'IA des véhicules autonomes vont suivre? La dure vérité, c’est qu’en fin de compte, nous le savons en tant que consommateurs.

Les véhicules autonomes arriveront sur le marché et ne seront pas parfaits. Nous savons que les véhicules autonomes ont du mal à détecter de petits objets tels que des écureuils. Il est tout à fait possible qu’ils ne puissent pas non plus détecter de nids-de-poule et de roches de la taille d’un écureuil qui pourraient être à l’origine de scénarios mettant leur vie en danger de mort.

Comme pour la plupart des avancées technologiques antérieures, les consommateurs décident de la tendance technologique des fournisseurs de technologie. Nous le faisons en votant avec notre argent. Si 90% des ventes de véhicules autonomes sont destinées à des unités qui donnent la priorité à nos vies, potentiellement au détriment des autres, et que seulement 10% des véhicules autonomes sont vendus selon des principes utilitaires, devinez quel sera l’attention portée aux futurs véhicules autonomes? Oui, il pourrait y avoir des solutions de rechange atténuantes. Les constructeurs de véhicules autonomes pourraient décider de laisser aux consommateurs le choix du mode de fonctionnement de leur véhicule. Mais à quel prix? Et cette capacité serait-elle facilement extensible selon les régions et les cultures?

Pouvoir décisionnel des consommateurs

Les constructeurs de véhicules autonomes pourraient décider que pour vendre leurs voitures autonomes, ils doivent les développer en fonction des préférences des consommateurs. Dans le passé, la réglementation a été utilisée pour résoudre ce type d’énigmes, mais avec le monde de la technologie qui s’accélère à un rythme exponentiel, la réglementation ne semble pas pouvoir suivre le rythme. Et même si c'était le cas, l'offre et la demande (comme d'habitude) guideront la conception des futurs produits.

L'utilisation accrue de véhicules autonomes est finalement fondée sur la confiance. Les personnes qui les achètent ou les utilisent doivent faire confiance à la technologie et doivent être à l'aise pour utiliser cette technologie pour que leur valeur réelle soit réalisée. Pour construire cette confiance et cette acceptation, les constructeurs de véhicules autonomes doivent garantir la sécurité de la technologie et répondre aux besoins de leurs consommateurs, quels qu'ils soient.

Au début des années 1900, lorsque les ascenseurs devinrent autonomes, ils firent beaucoup les gens très mal à l'aise. Les gens étaient tellement habitués à la présence d'un conducteur dans l'ascenseur que l'idée d'un ascenseur fonctionnant de manière autonome les effrayait. Personne ne voulait les utiliser. Les fabricants ont donc inventé des compromis. Des voix apaisantes ont été introduites, de gros boutons d’arrêt rouges ont été installés. Les pare-chocs de sécurité ont été introduits et des annonces créatives ont contribué à dissiper les craintes. Peu à peu, les gens ont accepté le changement. Aujourd'hui, nous pensons à peine à monter dans un ascenseur.

Attendre que la technologie soit meilleure n'est tout simplement pas une option viable. Rien ne garantit le temps qu’il faudra pour perfectionner et, en attendant, des millions de personnes continueront de mourir. Les progrès doivent être itératifs, car la technologie d’aujourd’hui peut aider à sauver des millions de vies. Nous ne devrions pas laisser la perfection être l’ennemi du bien pour le moment, surtout si l’on considère l’alternative. C’est peut-être le véritable dilemme éthique auquel nous sommes confrontés avec les véhicules autonomes?

Une voie à suivre obscurcie

Il ya aussi l’idée que nous n’avons peut-être pas à décider comment valoriser la vie humaine. Serait-il logique de laisser Amnesty International déterminer elle-même ses résultats, guidée uniquement par des principes moraux de base acceptés dans le monde entier? Peut-être un ensemble de principes similaires aux trois lois de la robotique d’Isaac Asimov? Le défi est que l'éthique diffère, tout comme les valeurs diffèrent. La manière dont ils se manifestent diffère culturellement selon les pays et les régions. Ce qui est acceptable au Japon pourrait ne pas l'être en Europe. La valeur que nous accordons à la vie à l'Est pourrait être différente à l'Ouest. Certes, cette diversité présente des avantages, mais elle pose également d’énormes difficultés pour concevoir des systèmes capables de fonctionner de manière universelle.

De nos jours, les technologies de pointe sont développées sous le contrôle des principales institutions technologiques et non sous le contrôle des gouvernements. Le montant dépensé par les cinq plus grands sous-traitants de la défense américains en recherche et développement en est un exemple. Cela représente moins de la moitié du total des recherches effectuées par les principaux acteurs de la technologie tels que Microsoft, Apple, Google, Amazon et Uber.

Il convient de noter que les décideurs ne régissent pas les technologies de pointe dans le monde commercial; en fin de compte, les fournisseurs de technologies le font. Certaines conséquences peuvent être anticipées et sont liées aux promesses faites au nom de la technologie, tandis que certaines conséquences, malheureusement, restent imprévues.

J'espère que nous nous efforcerons de ne pas être surpris par des conséquences inattendues qui pourraient démentir la promesse de cette percée. Les offres technologiques simplement parce que nous n’avons pas pris un moment pour prévoir comment nous pourrions les traiter. Après tout, le bien et le mal sont influencés par des facteurs autres que le pour et le contre d'une situation. Si nous posons maintenant les questions difficiles, nous pouvons conduire notre monde dans la direction où nous le voulons, pas seulement pour nous aujourd'hui, mais pour nos enfants demain.

En combinant des technologies de transformation, du blockchain au Big Data, le l’industrie automobile peut passer de la vente de voitures à la vente d’expériences Découvrez ce qui se produit lorsque la technologie, les personnes et les données se combinent pour permettre des expériences «segmentées dans une», mieux prédire les besoins en services, engager de manière proactive les clients avant les modifications de produits et bien plus encore. Télécharger le livre blanc.