Fermer

novembre 7, 2018

Sécuriser l'utilisation éthique de l'IA


Les avantages potentiels de l'intelligence artificielle (IA) sont impressionnants. La technologie nous permettra de maîtriser des défis économiques, sociaux et environnementaux qui semblaient impossibles depuis longtemps. Amnesty International nous soutient déjà dans les domaines de la santé, de la protection contre les catastrophes et de la lutte contre la pauvreté: par exemple, l'Université Stanford rapporte que des scientifiques ont utilisé l'apprentissage automatique pour créer une technique de cartographie «identifiant la pauvreté dans le monde». comparez [millions of] les images satellitaires diurnes et nocturnes. "Les éclairages nocturnes" constituent un excellent indicateur de l'activité économique ", indiquent-ils. Avec cette information, la technique innovante d'IA de Stanford peut «cartographier les dimensions des zones en difficulté […] dans des régions du monde difficiles à atteindre."

Mais aussi importants soient ces avantages, nous devons aussi gérer le potentiel risques d'IA. L'un de ces risques est le biais inconscient dans le matériel de formation pour l'IA. Cela peut entraîner une discrimination du logiciel sans que nous en soyons conscients. Si un candidat présentant certaines caractéristiques personnelles ne reçoit plus d'invitation à des entretiens d'embauche ou si un propriétaire d'entreprise d'un quartier pauvre de la ville n'est plus en mesure d'obtenir un prêt, ces personnes vont commencer à se sentir légitimement laissées pour compte.

la cour de l'industrie informatique. Bien que la société commence tout juste à discuter de l'éthique de l'IA, les innovateurs ont besoin de conseils maintenant pour protéger leur travail. En tant que «codification» internationale de la dignité humaine, la Déclaration universelle des droits de l'homme peut nous guider en tant qu '«étoile du nord». Aucune autre orientation fondée sur la valeur n'offre un tel potentiel pour gagner et renforcer les employés, les investisseurs ». , la confiance des clients et de la société dans notre manière d'utiliser l'IA. Si nous pouvons démontrer que notre technologie d'intelligence artificielle respecte la dignité humaine, nous pourrons alors atténuer les préoccupations que les gens ont souvent à propos de l'apprentissage par la machine et de l'intelligence artificielle. Le respect des droits de l'homme est donc un élément non négociable de la gouvernance d'Amnesty International. Il en va de même pour la promotion des droits de l'homme, par exemple en contribuant aux objectifs de développement durable des Nations Unies, mais j'y reviendrai plus tard.

Augmenter le talent humain

Commençons par examiner de plus près que signifie le respect et la promotion des droits de l’homme au cœur de votre entreprise? "SAP considère que l'utilisation éthique des données est une valeur fondamentale", a déclaré la CFO, Luka Mucic, le 18 septembre, lors de la publication de ses Principes directeurs de l'intelligence artificielle . «Nous voulons créer un logiciel qui permette à l’entreprise intelligente d’améliorer la vie des gens. Ces principes serviront de base pour faire de l'intelligence artificielle une technologie qui augmentera le talent humain. ”

Les principes directeurs aideront SAP à permettre à l'entreprise de dépasser les préjugés, à maintenir la transparence et l'intégrité, et à maintenir la qualité et la sécurité. En développant le logiciel d'IA, nous resterons fidèles à notre Déclaration des engagements relatifs aux droits de l'homme aux Principes directeurs de l'ONU relatifs aux entreprises et aux droits de l'homme (UNGP), à nos lois et aux normes internationales largement acceptées. Le cas échéant, notre comité de pilotage de l'IA sur l'éthique servira à conseiller nos équipes sur la manière dont des cas d'utilisation spécifiques sont affectés par ces principes directeurs. En cas de conflit avec nos principes, nous nous efforcerons d’éviter l’utilisation inappropriée de notre technologie.

Selon les Principes directeurs, le devoir de diligence en matière de droits de l’homme est un processus continu qui sert à «identifier, prévenir, atténuer et comptabiliser comment [a company] traite ses conséquences néfastes pour les droits de l'homme. »Cela comprend quatre étapes clés:« Évaluer les incidences réelles et potentielles sur les droits de l'homme, intégrer et appliquer les résultats, suivre les réactions et communiquer comment les incidences sont traitées ».

particulièrement pertinent pour l'IA en raison du rythme extrêmement rapide auquel nous innovons dans ce domaine. C’est pourquoi il est essentiel que nous ayons un point de vue extérieur sur les choses. Pour reconnaître les risques dès le départ, le AI Ethics Advisory Panel travaille aux côtés de notre comité de pilotage interne. Avec le panel, nous entamons un dialogue entre les parties prenantes que les UNGP promeuvent également.

Savoir et montrer

Si l'utilisation de l'IA est conforme aux principes éthiques d'une entreprise dépend du lieu et des conditions d'utilisation de la technologie. «Les humains doivent décider quand demander aux systèmes d’apprentissage automatique de faire le travail», déclare Marc Teerlink, vice-président mondial de SAP Leonardo, nouveaux marchés et intelligence artificielle chez SAP, dans un récent blog sur le rôle de les humains dans la montée de l'IA. Pour cette raison, notre comité directeur d'éthique et notre comité consultatif sur l'IA se penchent principalement sur des questions relatives à l'utilisation de la technologie. En fin de compte, nous ne pouvons pas simplement rendre la technologie disponible et ne pas nous soucier de son utilisation. Nous voulons plutôt comprendre les cas d'utilisation potentiels de nos logiciels avant de les envoyer

. Par conséquent, nous devons «savoir et montrer» de manière proactive comment nous gérons les effets potentiels de l'IA. Pour y parvenir, nous devons non seulement impliquer les équipes de développement de produits, mais également les ventes et le conseil dans nos considérations éthiques. Ces équipes sont en contact direct avec le client, ce qui les rend mieux à même de déterminer comment il compte utiliser le logiciel.

Opportunités

Cela dit, AI n’a pas que des risques. En fait, c’est tout le contraire: la plupart des cas d’utilisation potentiels sont bénéfiques. Exploiter les opportunités et le potentiel de développement offerts par les technologies d'intelligence artificielle est tout aussi important que la gestion des risques, par exemple, en examinant comment elle peut aider à réaliser les 17 ODD de l'ONU

. La percée du projet Le site Web fournit un aperçu impressionnant des fonctionnalités déjà disponibles. Tenu à jour par le Pacte mondial des Nations Unies, le site Web présente plus de 20 cas d'utilisation pour l'IA qui contribuent à atteindre des ODD spécifiques, tels que:

  • ODD 2 – Faim zéro: soutien à la prise de décision des agriculteurs et à l'amélioration de la productivité.
  • ODD 3 – Bonne santé et bien-être: accélérer le développement de nouveaux médicaments permettant aux traitements d’atteindre plus rapidement ceux qui en ont besoin.
  • ODD 4 – Une éducation de qualité: Offrez à vos apprenants des compagnons d’apprentissage tout au long de la vie qui les aideront à s’adapter et à acquérir de nouvelles compétences
  • ODD 7 – Énergies propres et abordables: aidez les consommateurs à trouver les offres d’énergie les plus abordables et les plus propres en utilisant des agents d’IA
  • ODD 11 – Villes et communautés durables: orchestrez et optimisez les flux de trafic et l’allocation d’énergie au sein de votre entreprise. villes.
  • ODD 13 – Action pour le climat: améliorer les mesures visant à atténuer les changements climatiques en améliorant la modélisation et l'analyse de grands ensembles de données complexes.

cette liste depuis un certain temps. Et presque chaque nouvelle idée augmente le nombre de connexions à nos solutions logicielles. Étant donné que des milliards de personnes sont déjà touchées par notre logiciel chaque jour, nous considérons qu'il est de notre devoir de veiller à ce que le développement de l'IA soit durable. Avec la Déclaration universelle des droits de l'homme derrière nous, nous alignons l'intelligence artificielle sur notre vision et notre objectif, qui est d'aider le monde à mieux fonctionner et à améliorer la vie des gens.

Découvrez les principes directeurs de SAP en matière d'intelligence artificielle (AI) ici .

<! – Commentaires ->




Source link