L'intelligence artificielle prédite par Elon Musc serait «sérieusement dangereuse» d'ici 2019. A quel point est-ce proche de la réalité?

novembre
26 2018

5 min de lecture

Les opinions exprimées par les contributeurs de l'Entrepreneur sont les leurs.

En 2014, Elon Musk a publié, puis rapidement supprimé, un commentaire sur sur un article sur l'intelligence artificielle. Le texte de ce commentaire a été enregistré et se lit en partie comme suit: "Le rythme des progrès de l'intelligence artificielle (je ne parle pas de l'IA étroite) est incroyablement rapide … Le risque que quelque chose de grave se produise est dans le délai de cinq ans. Au plus dix ans. "

À propos de: Un robot humanoïde appelé Sophia se moquant de Elon Musk après avoir été interrogé sur les dangers de l'IA

Je ne sais pas pourquoi exactement Musk a fait ce post. et ensuite décidé de le supprimer.

Mais, comme "le délai de cinq ans" mentionné dans l'article sera atteint en 2019, il est donc juste de poser la question "Devons-nous craindre l'intelligence artificielle?"

Le terme "AI" désigne l'une des deux choses différentes. Le premier est l'IA étroite, une AI conçue pour faire une chose, telle que garder le spam hors de votre boîte de réception. Le second est AGI, intelligence générale artificielle, une intelligence artificielle aussi intelligente et créative que vous et moi. Musk dit clairement qu'il parle de ce dernier type, car je pense que personne ne craint que son filtre anti-spam ne devienne frauduleux.

AGI n'existe pas et personne n'a montré qu'il savait le faire. Mais, il y a des gens crédibles qui travaillent sur le problème. Alors, à quelle distance sommes-nous d'avoir ce genre d'IA? Les estimations varient entre cinq et 500 ans et je me trouve personnellement dans la tranche supérieure de cette fourchette. Que vous vous inquiétiez pour AGI ou que vous l'attendiez avec impatience, je pense que le genre de technologie que nous voyons dans les films est à un siècle ou plus de distance.

Related: AI ne nous remplacera pas avant Cela devient beaucoup plus comme nous

Pourquoi est-ce que je dis cela? Un certain nombre de raisons. Premièrement, nous ne savons pas comment fonctionne notre cerveau. Par exemple, personne ne sait comment la couleur de votre premier vélo est stockée dans le cerveau. Nous ne savons même pas comment fonctionnent les cerveaux les plus simples, comme le ver nématode. Ce ver a 302 neurones dans le cerveau et des scientifiques dévoués ont passé des décennies à essayer de modéliser ce petit cerveau dans un ordinateur et même à ce jour, on spécule que la tâche ne peut pas être accomplie.

Beyond not sachant comment fonctionne le cerveau, nous ne savons pas comment fonctionne l'esprit. L'esprit est tout ce que le cerveau fait d'inexplicable. Par exemple, votre foie n'a pas le sens de l'humour, mais votre cerveau en a. Aucun neurone dans votre cerveau n'est créatif, et pourtant vous l'êtes en quelque sorte. D'où ça vient? D'où viennent les émotions? Comment pouvons-nous imaginer des choses? Nous ne savons pas

Il y a ensuite le problème de la conscience. La conscience est l'expérience d'être vous. Un ordinateur peut mesurer la température, mais vous pouvez sentir la chaleur. Nous ne savons même pas comment poser cette question, mais encore moins y répondre, et il est fort possible que la conscience soit une condition préalable au type d'intelligence dont nous disposons.

sommes-nous avec l'IA aujourd'hui?

De grands progrès ont été accomplis, mais lorsque j'appelle ma compagnie aérienne pour lui dire mon numéro de voyageur fréquent à l'ordinateur, il a du mal à dire un "A" d'un "H" à un "8 . " C'est là où nous sommes vraiment. Les ordinateurs savent faire une chose: les mathématiques simples. Et il y a un long chemin à parcourir pour atteindre le type d'intelligence dont dispose un humain.

En relation: Préparer l'avenir de l'IA

L'intelligence artificielle telle que nous la pratiquons actuellement est en réalité une technologie simple. L’idée est la suivante: prendre un tas de données sur le passé, les étudier et faire des projections sur l’avenir. C'est tout. C'est un gros problème, bien sûr, car c'est le début de notre formation d'une mémoire collective à l'échelle de la planète. Pour la première fois, tout le monde peut apprendre de l'expérience de chacun en utilisant l'IA pour étudier toutes les données que nous recueillons actuellement. C'est une technologie puissante à cet égard, mais simple à comprendre conceptuellement. L'idée que, d'une manière ou d'une autre, cette technique simple produise quelque chose d'aussi intelligent et polyvalent qu'un être humain est, à mon sens, farfelue ou, à tout le moins, non prouvée.

Alors, pourquoi les gens pensent-ils que c'est quelque chose que nous sommes sur le point de perdre de. Deux raisons, je crois.

La ​​première concerne les films et la télévision que nous voyons. Écoutez, je paierai 11 dollars pour voir Will Smith se battra contre une IA malhonnête résolue à éliminer l'humanité . Cela ressemble à un après-midi amusant. Ces films sont si réalistes et apparemment plausibles qu'avec le temps, nous faisons tous ce que nous appelons un "raisonnement à partir de preuves fictives". Les images dans ces films saignent dans la réalité.

Mais la deuxième raison pour laquelle je pense que certaines personnes s'attendent à une AGI est qu'il est la conclusion logique d'une conviction fondamentale selon laquelle les gens sont des machines. Notre cerveau est une machine, notre esprit est une machine et la conscience, quelle qu'elle soit, est un processus mécaniste. Cette vision réductionniste de l'homme dit que, puisque nous sommes des machines, il est inévitable que nous puissions vous construire une mécanique. Et une fois que nous aurons construit cela, cela s'améliorera rapidement et bientôt nous dépasser.

J'ai trouvé dans mes recherches une acceptation presque universelle de l'idée "l'homme est une machine" de la part des gens de l'industrie des technologies, et un rejet presque universel de celle-ci. de tout le monde. Vous n'avez pas besoin de faire appel à une sorte de spiritualisme pour maintenir ce dernier point de vue. Les humains peuvent simplement être une sorte d'émergence ou un phénomène quantique ou autre chose qui ne peut être reproduit dans une usine. Nous avons certainement des capacités que nous ne comprenons pas – et l'idée que nous pouvons reproduire ces capacités dans le silicium n'a pas encore fait ses preuves.