Qui devrait décider de ce qui est éthique à mesure que la technologie progresse?

La technologie est mûre avec des dilemmes éthiques. La nouvelle technologie vient généralement avec plus de puissance et des capacités plus avancées; nous pourrions être en mesure de remodeler le monde de manière nouvelle et innovante, ou nous pourrions exposer l'esprit humain à des conditions qui n'ont jamais été vécues auparavant.

Évidemment, cela ouvre la porte à des défis éthiques, comme déterminer éditer le génome humain ou programmer des voitures sans chauffeur à se comportent de manière alignée avec nos morales .

Je pourrais écrire un article avec des milliers de questions éthiques auxquelles nous devons encore répondre, couvrant artificiel l'intelligence (AI), la réalité virtuelle (VR), les percées médicales et l'internet des objets (IoT). Mais il y a une plus grande question qui affecte tous les autres, et nous ne passons pas assez de temps pour y répondre: qui peut décider des réponses à ces questions?

défis de niveau

Il y a quelques défis de haut niveau que nous devons considérer ici:

1. Équilibrer l'éthique et l'innovation. Notre processus législatif est intentionnellement lent conçu pour faire en sorte que chaque nouvelle loi soit soigneusement étudiée avant d'être adoptée. De même, il faut souvent des années, voire des décennies, de recherche scientifique pour comprendre pleinement un sujet. Si chaque société de technologie attendait que les scientifiques et les régulateurs prennent une décision éthique, l'innovation s'arrêterait, nous devons donc trouver un moyen d'équilibrer la vitesse et la rigueur.

2. Garder la puissance équilibrée. Nous devons également faire attention à ne pas faire pencher la balance du pouvoir. Si une classe de personnes, ou un pays, a accès à une technologie extrêmement puissante ou avancée, cela pourrait entraîner des niveaux inhumains d'inégalité ou de guerre. Si une autorité est autorisée à prendre toutes les décisions éthiques concernant la technologie, ces décisions pourraient injustement fonctionner en sa faveur, au détriment de tous les autres intervenants.

3. Prendre des décisions éclairées L'éthique est subjective, mais ne devrait pas être basée sur une réaction instinctive, ou nos sentiments sur un sujet donné. Ils devraient être exhaustivement bien documentés et compris avant qu'une décision soit prise; en d'autres termes, ces décisions ne devraient pas être prises par une personne non instruite ou par un non-expert.

4. Considérant plusieurs domaines. Nous devons également considérer les conséquences dans plusieurs domaines. Il ne s'agit pas seulement de protéger la vie humaine, mais aussi la santé humaine, la psychologie humaine et le bien-être de notre planète.

Les options

Alors, qui pourrions-nous envisager? prendre des décisions éthiques pour notre technologie?

Scientifiques. Nous pourrions faire confiance aux scientifiques, qui par nature sont des chercheurs de vérité objectifs. Le problème est que la recherche prend des années ou des décennies à se terminer, et même alors, les combats pourraient mettre un terme au processus.

Inventeurs et entrepreneurs. Nous pourrions faire confiance aux inventeurs et aux distributeurs de technologie pour nous protéger, et il y a beaucoup d'exemples de sociétés qui font de leur mieux pour protéger les consommateurs et "ne font pas de mal", mais il y a aussi des profiteurs. en empêchant certains dans l'industrie de se comporter de façon éthique.

Régulateurs. Historiquement, nous avons fait confiance aux politiciens et aux législateurs pour protéger le public et prendre des décisions éthiques à grande échelle. Cependant, les législateurs ne sont pas les plus éduqués sur le sujet et peuvent avoir de la difficulté à adopter une loi aussi rapidement que nous en avons besoin, ou d'une manière qui satisfasse toutes les parties.

Le grand public. Nous pouvions faire confiance à des décisions éthiques majeures au grand public, à travers un système démocratique ou à travers la prise de décision de base des consommateurs. Cependant, le citoyen moyen n'est pas un expert dans le domaine de l'éthique technologique et on ne peut s'attendre à ce qu'il prenne la décision la plus logique.

Organisations externes. Enfin, nous pourrions déléguer le pouvoir à un organisme externe spécialisé en éthique technologique, en nommant ou en formant des experts pour superviser les opérations des entreprises technologiques et prendre des décisions éthiques pour nous. Ceci est plus équilibré que d'autres options sur cette liste, mais pose la question: qui décide qui est en charge de ces organisations?

Le facteur de la connaissance

[19659002] Je soutiens qu'aucune des options ci-dessus ne fonctionne comme une autorité ultime pour prendre des décisions éthiques pour la technologie; chacun a des faiblesses flagrantes qui l'empêchent d'être un candidat approprié, bien que l'organisation neutre et externe soit certainement prometteuse.

Donc, plutôt que de désigner une autorité pour prendre une décision, nous devrions plutôt nous efforcer de transformer ces décisions. de qui les fabrique, pour être plus facile à faire. La seule façon de le faire est de découvrir plus d'informations sur les technologies que nous créons et utilisons, et de rendre ces connaissances plus accessibles au public. Voici trois façons de le faire:

1. Comprendre les conséquences. Premièrement, nous devons travailler plus fort pour comprendre les conséquences des technologies que nous utilisons déjà (et celles qui seront publiées à l'avenir). Les cigarettes ont été fumées pendant des décennies avant que nous ayons réalisé leurs véritables ramifications de santé; nous ne voulons pas d'un niveau d'ignorance similaire pour nous cacher les répercussions d'une technologie beaucoup plus répandue, avec un potentiel beaucoup plus grave pour l'humanité tout entière. La réponse ici est presque toujours une recherche plus impartiale. Par exemple, certaines études scientifiques ont exploré la possibilité de mutations non intentionnelles lors de l'utilisation de CRISPR-Cas9 pour éditer des gènes in vivo.

2. Informer le public. Nous ne pouvons pas simplement travailler pour obtenir de nouvelles informations. nous devons distribuer cette information au public. Cela introduit le public comme un puissant moyen de contrôle pour les organisations qui pourraient autrement contrôler le récit, et garantit que le public peut prendre des décisions éclairées sur la technologie qu'ils utilisent avant que les régulateurs puissent agir pour les protéger. L'information du public est également nécessaire pour encourager le public à prendre des mesures collectives lorsque cela est nécessaire, comme demander des changements juridiques. Par exemple, le Future of Life Institute a été fondé en partie pour promouvoir l'éducation du public sur les questions de sécurité de l'IA et l'impact potentiel des armes technologiquement avancées. Consacrer des ressources. Nous avons également besoin que les entreprises consacrent des ressources internes et externes à l'amélioration de leur compréhension de leur propre technologie. Par exemple, le projet AI de DeepMind de Google a son ​​propre comité d'éthique dédié travaillant pour que le système fonctionne de la manière la plus éthique possible. Les comités d'éthique devraient être intégrés à la majorité des entreprises technologiques, et si elles ne sont pas possibles, les entreprises devraient travailler pour former des organisations neutres et tierces destinées à en savoir plus sur la façon dont leurs produits sont utilisés, et garder les choses en équilibre.

Aucune personne ou aucun groupe ne peut surmonter le défi de décider ce qui est éthique dans la technologie, mais avec suffisamment de connaissances transparentes, nous pouvons tous décider pour nous-mêmes. Pour que l'innovation progresse sans compromettre notre sécurité, notre santé ou notre équilibre dans la société, nous devons tenir nos entreprises et les autres responsables de ces principes de base, et continuer à pousser pour plus d'informations et d'éducation.

Cet article fait partie de notre série de contributeurs. Les opinions exprimées sont celles de l'auteur et ne sont pas nécessairement partagées par TNW.