Avoir un cadre éthique est le meilleur moyen d'atténuer les risques dans les technologies autonomes

De nombreux professionnels de la technologie résument le mot éthique comme un sujet intangible plus susceptible de devenir un cours de formation obligatoire qu’une partie de la limitation quotidienne des risques.

Mais quand on vous demande de défendre comment vous atténuez le risque de marque et de relations publiques a Tay Chatbot ou 787 pilote automatique Max, vous êtes susceptible de «trouver une religion» sous forme d'éthique. Le déploiement de systèmes autonomes et intelligents (A / IS) s'accélère et la gestion des risques sera fondamentalement différente des vagues technologiques précédentes.

Nous avions l'habitude de renforcer la confiance dans la technologie au moyen de tests et de certifications. Mais si vous aviez la possibilité de demander à Tay, le chatbot décrirait un test exhaustif comme étant impossible car il n’existait plus aucun contrôle sur les entrées atteignant votre système ou vos algorithmes. Dans un monde A / IS, il existe un nombre infini de cas de test, dont beaucoup peuvent être simulés mais pas tous testés. Afin de convaincre vos clients, PDG, conseil d'administration, employés et responsables de la responsabilité sociale, des tests et un cadre éthique seront nécessaires.

Qu'est-ce qui différencie A / IS?

L'adoption de la technologie dans les entreprises est courante. Mais A / IS est fondamentalement différent des générations précédentes de technologie.

Le risque se déplace de l'homme aux machines

• Traditionnellement, les contrôles ont été exercés sur les humains qui utilisent la technologie et les intrants qu'ils créent; mais plus de technologies fonctionnent de manière algorithmique et autonome
• Même ceux qui développent des algorithmes ne peuvent pas prédire complètement comment ils fonctionneront "à l'état sauvage".
• Il existe des situations où il n'y a pas d'humain dans le système.
• S'assurer contre les risques liés aux A / IS diffère fondamentalement de l'évaluation de la compétence et de la capacité humaines.
• Les lois actuelles définissent une personne comme responsable. la responsabilité d'A / IS n'est pas toujours évidente pour les assureurs ou les régulateurs.

L'adoption d'A / IS par les entreprises s'accélère

• Des réductions massives de coûts sont réalisées grâce à A / IS.
  • Ceux qui paient 3 000 dollars / heure pour un hélicoptère habité à l'inspection peuvent obtenir les mêmes résultats qu'un drone pour moins de 100 dollars / heure
  • Le commerce algorithmique dans le secteur des valeurs mobilières identifie des opportunités d'arbitrage nuancées mesurées en centaines de millions de dollars .
  • Les chatbots réduisent considérablement le coût du service client humain.
• Les instanciations physiques des systèmes A / IS (par exemple, drones, systèmes de pilote automatique) ayant des conséquences négatives notables (par exemple, 787 Max) susciteront un tollé général en faveur d'une meilleure gestion des risques et d'une meilleure assurance.

L'assurance comme substitut de la réglementation [19659009] Les progrès technologiques dépassent largement la réglementation.

L'assurance est une nécessité évidente pour promouvoir l'économie de l'autonomie.

De nouvelles techniques de souscription d'assurance sont nécessaires pour mesurer et chiffrer le risque A / IS.

Un cadre éthique autour de votre A / IS

Les fabricants de systèmes A / IS actuellement auto-assurés en pâtiront car les incidents et les réclamations la rendront fiscalement sans fondement.

Les données sont la différence

• Traditionnellement, le risque technologique était limité par des tests approfondis. et certifications.
• Avec A / IS et les systèmes d’apprentissage, aucun ensemble de données de test ou de cas de test ne peut prédire chaque éventualité. Et comme les données sont la variable, la redondance n’atténue plus le risque.
• Comme nous ne pouvons pas savoir avec certitude qu’un A / IS fonctionne en toute sécurité, l’accent est mis sur l’arrêt progressif et la capacité à «échouer en toute sécurité» face à des cas extrêmes. un système d'IA n'a pas été formé à la manipulation.

Que peut-on donc faire?

Les cadres éthiques peuvent sembler décourageants, mais il existe des moyens simples de commencer. Le graphique ci-dessous décrit comment un cadre éthique peut faire partie du récit technologique: