Dix dirigeantes influentes discutent de la nécessité de protéger l'IA pour l'humanité

Octobre
18, 2019

11 min de lecture

Cette histoire a paru à l'origine dans le magazine Authority

présenté par

Les possibilités offertes aux femmes dans le secteur des technologies s'ouvrent, mais il reste encore beaucoup à faire. Actuellement, environ un emploi sur quatre de la technologie est occupé par des femmes

Dans le but de mettre en lumière certaines des femmes accomplies de ce secteur, le magazine Authority a interrogé des femmes leaders en intelligence artificielle. dans le cadre d'une série . La question suivante a été posée à chacun d'entre eux: «Comme vous le savez, d'éminents scientifiques se discutent actuellement pour savoir si l'IA avancée peut potentiellement constituer un danger pour l'humanité. Ce débat a été personnifié comme un débat entre Elon Musk et Mark Zuckerberg . Quelle est votre position à ce sujet? Que peut-on faire pour empêcher de telles préoccupations de se matérialiser? Et que peut-on faire pour assurer le public qu'il n'y a pas de quoi s'inquiéter? »

Voici quelques réponses clés.

Ces entretiens ont été modifiés pour des raisons de longueur et de clarté.

Anna Bethke (responsable de la sécurité informatique chez Intel)

Crédit image:

via Authority Magazine

Je pense qu'il y a un plus grand danger de personnes utilisant l'IA d'une manière dangereuse pour l'humanité que de l'IA elle-même. Tout comme un marteau ou n'importe quel outil peut être utilisé à la fois pour le bien, comme faire un nichoir, et un mal, comme pour casser un vase, l'IA peut également être utilisé pour les deux. Même si une entité d'IA peut apprendre qu'elle est consciente d'elle-même et malveillante, cela sera probablement extrêmement difficile à faire. Les individus ont déjà créé une IA malveillante en créant des programmes pour attaquer par déni de service, harceler des individus sur les réseaux sociaux, etc. Bien que nous ne devrions pas simplement éliminer la possibilité d’une IA mal intentionnée et consciente de nous-mêmes, nous devrions avoir plus souvent une conversation avec une IA créée de manière malveillante. Les discussions autour de ce sujet sont essentielles, à la fois pour émettre des hypothèses sur les résultats néfastes des systèmes d’IA, pour déterminer les moyens d’atténuer ou d’arrêter ces résultats négatifs, ainsi que pour informer le public de la manière et du moment où les systèmes seront utilisés. Plus nous avons de transparence à l’égard de la technologie au fur et à mesure de son développement et de sa mise en œuvre, plus tout le monde peut être informé et avoir la possibilité de faire entendre sa voix. Il est important de garder le jugement de l'homme à la hauteur de la conception, des tests et de la mise en œuvre d'un système, en passant par la correction de tout comportement indésirable, que ce soit immédiatement ou lors d'une mise à niveau par lots, si nécessaire. (Contexte complet ici .)

Carolina Barcenas (Vice-présidente principale à Visa)

Crédit image:

via Authority Magazine

Je suis d’avis que la technologie est notre partenaire. La technologie apporte certes des changements, mais je crois en la capacité d'adaptation de notre société. Bien que certains emplois puissent disparaître (ceux qui sont répétitifs et qui ne fournissent peut-être que peu de satisfaction), de nouveaux emplois seront créés. L’ère actuelle d’innovation technologique n’est pas sans précédent et rappelle la révolution industrielle. En fin de compte, je pense que la technologie, si elle est utilisée correctement, sera bénéfique pour nos vies et nous ne sommes qu'au début d’une transformation importante. Cependant, je reconnais aussi que la technologie entre de mauvaises mains peut être dévastatrice, c'est pourquoi une réglementation efficace sur l'utilisation éthique de l'IA est essentielle. On a déjà beaucoup insisté sur l'utilisation de la protection des données et de la vie privée. Tandis que l’Europe montre la voie, d’autres pays suivent; Cependant, nous sommes encore au stade naissant. Je pense qu’il est important d’éduquer les gens sur ce qu’est réellement l’Influenza aviaire et sur les défis à relever. (Contexte complet ici .)

Tatiana Mejia (responsable AI chez Adobe)

Crédit image:

via Authority Magazine

L'intelligence artificielle est un outil que nous avons mis au point. En tant que communauté, nous sommes chargés de guider la création et l'utilisation du logiciel. La technologie en elle-même n'est ni bonne ni mauvaise. Chez Adobe, nous parlons de notre IA servant le créateur et respectant le consommateur. Nous examinons de près les problèmes et mettons en œuvre des processus et des directives pour la confidentialité des données, la gouvernance des données, la diversité des données, etc. C’est ici que tout commence: éducation, transparence et dialogue ouvert et continu. Nous introduisons également de temps en temps des technologies innovantes basées sur l'IA. C'est ici que nous pouvons partager de nouvelles fonctionnalités et capacités potentielles, dont certaines ne se retrouvent jamais dans les produits, afin que nous puissions obtenir un retour réel et immédiat de nos clients et de la communauté à propos de ce que ces innovations signifient pour elles – ce qui est utile, ce qui peut être amélioré et ce qui peut avoir plus d'impact et être plus significatif pour les créatifs et les commerçants. (Contexte complet ici .)

Marie Hagman (Directrice de l'intelligence artificielle à Zillow)

Crédit image:

via Authority Magazine

À travers l'histoire, les gens ont toujours utilisé les nouvelles technologies pour faire des choses étonnantes mais aussi pour infliger des souffrances aux autres. Energie nucléaire et bombes atomiques. Le rôle que les médias sociaux ont joué pendant le Printemps arabe pour aider les gens à s'organiser sur le plan politique, jusqu'à son rôle actuel dans la diffusion de la désinformation. Je suis optimiste et pense que les avantages dépasseront de loin les risques. Nous devons continuer à faire progresser la technologie, tout en mettant en place des mesures de sécurité et en accélérant la création et la mise à jour de politiques publiques visant à atténuer ces risques. Je ne pense pas que nous puissions ou devrions essayer d’assurer aux gens qu’il n’ya pas de quoi s’inquiéter. Les gens devraient être informés des risques et être vigilants. Nous avons des systèmes en place pour protéger la société contre les mauvais acteurs, y compris les forces de l'ordre, le système judiciaire et les politiques publiques, et nous devrions avoir des leaders informés et accordant la priorité à la protection contre les menaces que représente l'IA. Les politiques publiques sont souvent si lentes à rattraper la technologie. (Plein contexte ici .)

Madelaine Daianu, Ph.D. (Directeur principal de la science des données chez Intuit)

Crédit image:

via Authority Magazine

Je prévois que ces débats ne feront que s'intensifier à mesure que nous ferons progresser nos technologies. Certains soutiennent que ces débats sont prématurés, principalement parce que les systèmes d’IA sont aujourd’hui très limités. Nous n’avons pas encore découvert les avantages de la surintelligence; par conséquent, nous ne disposons pas encore de toutes les informations nécessaires pour déterminer la meilleure façon d’atténuer les dommages potentiels. J’encouragerais la communauté technologique à réfléchir aux conséquences de l’intelligence artificielle de bout en bout, à court et à long terme. En tant que contributeurs à cette technologie, il est de notre responsabilité de planifier les implications potentielles que l'IA peut avoir. (Plein contexte ici .)

Doris Yang (directrice principale chez BlackBerry Cylance)

Crédit image:

via Authority Magazine

L’état actuel de l’IA repose sur l’être humain pour définir les limites des questions et réponses que nous recherchons ainsi que les données nécessaires pour les traiter. les robots ne vont pas conquérir le monde demain. Cela dit, peu importe le temps qu'il faudra pour que les robots sensibles soient une possibilité, il est absolument important que la société parle de l'utilisation responsable et de l'application de l'IA. Même aujourd’hui, sans Terminators, la question de la confidentialité et de la confidentialité existe déjà (voir ci-dessus pour ce qui est des données personnelles collectées, utilisées et utilisées et des personnes qui y ont accès). Les solutions axées sur l'IA présentent de nombreux avantages immédiats, mais nous devrions également réfléchir activement à la gouvernance responsable afin de pouvoir continuer à en tirer parti sans renoncer à davantage de nos libertés. Je ne veux pas dire qu’il n’ya absolument aucune raison de s’inquiéter car cela favoriserait la complaisance. Nous devons commencer à poser les bases de nos frontières de base et rester vigilants afin que les technologies et autres entités ne les empiètent pas. Les robots sensibles ne sont pas la seule source d'inquiétude. Pour commencer, les gens devraient penser à la confidentialité et à la sécurité. Des choses simples, comme pouvoir prédire ce qu'une personne aime, ce qu’elle est encline à faire et comment elle va réagir, ont de bonnes applications en termes d’assistants, de recommandations de magasinage, de campagnes de marketing, etc. Mais que se passe-t-il lorsque les mauvaises personnes ont accès à cette information? Les banques devraient-elles pouvoir vous refuser un prêt fondé sur quelque chose que vous pourriez faire ? Le gouvernement devrait-il pouvoir créer et gérer des profils de ses citoyens et les classer en fonction de probabilités ou de résultats probables? (Contexte complet ici .)

Marina Arnaout (Manager chez Microsoft)

Crédit image:

via Authority Magazine

Lorsque vous supprimez les mathématiques de l'équation, tout est un débat philosophique. L'histoire a montré que chaque fois qu'une grande invention tombe entre de mauvaises mains, le mal a tendance à l'emporter. Nous en sommes actuellement aux débuts de l'IA et nous explorons actuellement les nombreux avantages potentiels de son utilisation, avec des initiatives pouvant aider à prévenir les catastrophes naturelles ou apporter une assistance accrue aux aveugles et, bien entendu, aux nombreuses formes de commerce. intelligence. L'intelligence artificielle peut potentiellement autonomiser les communautés et les entreprises et présente de nombreux avantages. Cependant, il est indéniable que l’IA avancée peut présenter divers inconvénients. Cela pourrait avoir un impact économique important en modifiant considérablement la main-d’œuvre à un rythme que les humains ne peuvent pas suivre, et pose de nombreux défis éthiques. Plus directement, l'IA pourrait être programmée pour détruire – ou même pour faire quelque chose de bénéfique, mais utiliser une méthode destructive pour l'obtenir. C'est un problème mondial. Il rassemble les dirigeants politiques et les dirigeants d'entreprise du monde entier, qui doivent participer à cette réunion, avec une représentation à la fois de l'Est et de l'Ouest. Les dirigeants mondiaux de différents systèmes politiques doivent s'aligner pour garantir une symétrie entre éthique, protection des données et lignes directrices, en toute transparence pour le public. (Contexte complet ici .)

Elena Fersman (Responsable de la recherche sur l'IA chez Ericsson)

Crédit image:

via Authority Magazine

Chaque nouvelle technologie est une menace. Bien que l’intelligence artificielle soit spéciale, étant donné qu’elle évolue elle-même, nous devrions toujours avoir des conditions ou des limites immuables pour son développement. Ces conditions sont entre les mains des humains. Nous devons assumer nos responsabilités et dicter les «règles du jeu» qui ne devraient jamais être enfreintes par ces algorithmes. Ces règles ne sont pas différentes de ce que nous, les humains, devons respecter: lois, réglementations, cadres éthiques et normes sociales. Pour éviter de tels problèmes, les «règles de vie» devraient être appliquées aux systèmes d’IA dans la langue qu’ils comprennent. Autrement dit, nous devons numériser ces règles, nous assurer que les frameworks et les architectures logicielles sont flexibles et permettent des modifications et que les algorithmes peuvent garantir qu'ils adhèrent à ces frameworks. (Contexte complet ici .)

Chao Han (vice-président chez Lucidworks)

Crédit image:

via Authority Magazine

L'intelligence artificielle peut être appliquée à de nombreuses applications, telles que les voitures de soins de santé et les voitures autonomes, qui bénéficieront à la société. Toutefois, l’utilisation abusive de l’IA par des groupes dangereux (tels que les terroristes) dans les domaines du développement d’armes ou de l’édition de gènes est préoccupante. À l’heure actuelle, AI n’a pas la capacité d’autoapprentissage pour nuire intentionnellement à des personnes ou pour se connecter via Internet afin d’endommager à grande échelle, mais ces comportements sont possibles s’ils ne sont pas soigneusement contrôlés à l’avenir, mais pas dans un avenir proche. Il n’existe actuellement aucune organisation centralisée pour réglementer l’industrie de l’IA et les recherches. Nous comptons beaucoup sur les grandes entreprises informatiques pour avoir de bonnes intentions et suivre le processus de création de modèle standard afin de prévenir les biais ou l’utilisation abusive de l’IA. J'espère qu'une telle organisation pourra être créée le plus tôt possible pour gagner la confiance du public. (Contexte complet ici .)

Trisala Chandaria (PDG de Temboo)

Crédit image:

via Authority Magazine

Toutes les nouvelles technologies offrent des opportunités mais peuvent également constituer un danger pour l'humanité. C’est la nature de la technologie. Pensez au moment où les voitures ont été introduites. Nous avons dû construire des infrastructures, des mesures de sécurité et d'autres technologies pour les adapter. Des éléments tels que les routes, les permis de conduire, les ceintures de sécurité et les airbags sont indispensables pour que le public puisse utiliser les voitures en toute sécurité et efficacement. De même, les secteurs public et privé doivent adopter une approche à plusieurs facettes pour la mise en œuvre de nouvelles technologies. Lorsque nous développons ces technologies, nous devons prendre en compte la sécurité, l'infrastructure, les lois, etc. Tant que nous tenons compte de ces éléments, nous pouvons utiliser l'IA pour de bon. Cependant, ces mesures sont toujours en cours d'élaboration et doivent être classées par ordre de priorité pour le moment. Nous ne devrions pas essayer d’empêcher les gens d’avoir des inquiétudes. Un public concerné est un public informé. Les gens devraient s'interroger sur la manière dont leurs données sont utilisées, sur les technologies qui touchent leur vie et sur l'impact de l'IA sur la société. Il y a une différence entre les préoccupations et les peurs. Nous ne voulons pas effrayer les gens des nouvelles technologies, mais nous voulons nous assurer que des choix leur sont donnés concernant les technologies qui affectent leur vie quotidienne. Il appartient aux dirigeants du monde de l’IA de s’assurer que le public se sent suffisamment habilité et informé pour faire ces choix. (Contexte complet ici .)