Fermer

février 1, 2021

Pourquoi GPT-3 est un développement important dans l'IA – Voici pourquoi # 258


De nombreux sujets autour de l'intelligence artificielle ont été discutés depuis un certain temps. Et s'il y avait une machine d'IA qui pourrait nous aider à rédiger du contenu, à résumer le contenu ou à rédiger des e-mails? Ne voudriez-vous pas l’utiliser?

Dans cet épisode de la série de vidéos de marketing numérique primée Here’s Why, Eric Enge parle de GPT-3, l’un des derniers développements dans le domaine de l’intelligence artificielle. Regardez l'épisode pour découvrir ce qu'est GPT-3 et comment il peut ou non changer la façon dont nous créons le contenu.

Ne manquez pas un seul épisode de Voici pourquoi . Cliquez sur le bouton d'inscription ci-dessous pour être averti par e-mail chaque fois qu'une nouvelle vidéo est publiée.

Abonnez-vous à Here's Why

Resources

Transcriptions

Eric: Bonjour à tous. Eric Enge ici. Je suis le directeur de l’unité commerciale Solutions de marketing numérique chez Perficient. Et aujourd'hui, je vais vous parler de GPT-3, qui est l'un des développements les plus passionnants dans l'espace de l'intelligence artificielle depuis un certain temps. Alors c'est quoi? Il s’agit d’un modèle de langage auto-régressif qui utilise l’apprentissage en profondeur pour produire du texte de type humain et des capacités d’analyse de texte comme des humains, ainsi que pour résoudre d’autres problèmes de traitement du langage naturel. Cela inclut des éléments tels que la rédaction de contenu, la synthèse de contenu, la rédaction d'e-mails, le remplissage de feuilles de calcul partiellement remplies, la création d'images ou la réalisation d'images, l'écriture de code, etc. Cela semble incroyable, non? Et bien ça l'est. Et ce n’est pas le cas. Alors laissez-moi vous expliquer pourquoi.

Tout d'abord, juste quelques informations générales, GPT-3 vient d'OpenAI. Il s'agit d'une société fondée par Elon Musk de renommée Tesla et SpaceX, et Sam Altman de l'incubateur de démarrage Y Combinator. Et combinés avec d'autres investisseurs, ils ont investi un milliard de dollars de capital d'amorçage. Et puis, un peu plus tard, Microsoft a investi un autre milliard de dollars. Donc, vraiment, vraiment bien financé.

Et ce qui rend GPT-3 si spécial, c'est qu'il est formé sur un vaste ensemble de données, qui est essentiellement l'Internet ouvert basé sur des sources, comme Common Crawl et Wikipedia et le semblable. L'ensemble de données sur lequel il s'appuie est vaste et son modèle de langage construit autour de 175 milliards de paramètres. Qu'est-ce que cela signifie vraiment? C’est 175 milliards de paramètres. Disons-le de cette façon. C'est dix fois plus grand que le plus grand modèle jamais publié auparavant, qui était l'algorithme de Microsoft Turing-NLG publié seulement en mars 2020 de cette année, qui avait 17 milliards de paramètres. Cette mise à l'échelle a conduit à des démonstrations vraiment impressionnantes de GPT-3. Par exemple, cela inclut un article publié par The Guardian que nous montrons actuellement à l'écran.

 Digital Marketing - The Digital Essentials, Part 1
The Digital Essentials, Part 1

Une stratégie numérique convaincante aligne les expériences client, l'exécution commerciale et la bonne technologie à mesure que le marché et vos concurrents évoluent constamment. Nos Digital Essentials mettent en évidence les aspects les plus convaincants des trois pour vous aider à réagir et à répondre à cette évolution en cours.

Obtenir le guide

 Capture d'écran 1 The Guardian Article rédigé par Gpt 3

l'article unique est qu'il a été écrit à 100% par l'algorithme GPT-3, ce qui est très, très cool. Et c'est assez lisible. Il y a beaucoup d'autres démonstrations vraiment impressionnantes montrées dans tous les domaines de capacité dont j'ai parlé ci-dessus.

S'il y a toutes ces choses incroyables, quelle est vraiment la limitation? Eh bien, il est toujours très sujet aux erreurs. Lors des tests de contenu créé par GPT-3, vous pouvez toujours voir que 52% des utilisateurs qui l'ont lu ont pu reconnaître qu'il était généré par la machine et qu'il n'a pas non plus de modèle réel du monde réel. Il ne dispose que de ces données collectées sur Internet. Et donc il y a beaucoup de choses qu'il ne comprend pas comment prendre en compte.

De plus, comme le modèle a été construit sur Internet ouvert, il est sujet à de mauvais préjugés. Voici un exemple qui vous montre un préjugé vraiment mauvais et clair, tout simplement inacceptable.

 Capture d'écran 2 Jerome Pesenti Tweet sur Gpt 3

Pour être juste envers OpenAI, ils reconnaissent en fait ces limitations . En fait, le co-fondateur Sam Altman l'a dit dans un tweet le 19 juillet dernier. En fait, je vous montre le tweet en ce moment.

L'autre chose dont il faut se préoccuper avec GPT-3 est qu'il pourrait également être utilisé à mauvais escient par les escrocs et les spammeurs. Et pour cette raison, OpenAI contrôle l'accès à GPT-3 à des organisations très spécifiques via un processus d'application dès maintenant.

 Screenshot 3 Sam Altman Tweet

Mais après avoir dit tout cela, un peu mon résumé de notre situation avec GPT-3, et bien quelques moyens pratiques de l'utiliser, c'est que vous pouvez l'utiliser pour résumer des articles, résumer vos e-mails, peut-être même rédiger des brouillons d'e-mails ou effectuer des traductions simples, créer des projets de conception, créer des brouillons d'images, rédiger des quiz même. Mais pour tous ceux qui sont complétés par des critiques humaines, par exemple, transformez-vous en éditeur avec. Et rappelez-vous simplement qu'il manque peut-être des domaines entiers que vous trouvez importants et assurez-vous d'aller les chercher et de les remplir. Mais cela vous donne un bon point de départ qui pourrait en fait avoir une valeur commerciale. Honnêtement, l'édition est souvent plus facile que de partir de zéro. C’est donc une façon et un aspect de cela que je veux aborder. Mais l'autre est, où en sommes-nous en termes de création d'une véritable intelligence artificielle générale? Et c'est là que nous parlons d'intelligence qui est bonne, aussi bonne que les humains pour résoudre un large éventail de problèmes dans un large éventail de capacités. Honnêtement, je pense que nous avons un long chemin à parcourir.

Même si vous prenez le modèle GPT-3 et que vous le mettez à l'échelle de 1000 à 175 billions de paramètres, vous aurez probablement trois problèmes majeurs qui vous barrent la route d'accomplir une véritable AGI, Intelligence Générale Artificielle. Tout d'abord, il est limité par les données sur lesquelles il est entraîné. Bien que l'Internet ouvert soit une très grande source de données, il s'agit d'une source de mauvaise qualité. Vous pouvez essayer de gérer Internet, mais qui choisissez-vous pour le faire? Choisissez avec soin, bien sûr, car vous serez désormais soumis aux préjugés des conservateurs que vous choisissez. Alors, qui doit juger de ce qui est bien ou mal ici? Et c’est une grande question. Et bien, les premières données de test montrent que GPT-3 est un grand pas en avant par rapport aux modèles de langage précédents. Nous avons vu dans les données que nous avons examinées, que l'avantage d'ajouter de plus en plus de paramètres se stabilise. Donc, en continuant à ajouter des paramètres, la quantité de gain incrémentiel diminue rapidement. Il est difficile de savoir si cela atteindra un jour la précision au niveau humain. Et je crois en fait que ce ne sera pas simplement en ajoutant plus de paramètres. Parce que je crois personnellement qu'il existe d'autres modalités de la pensée humaine qui causent notre intelligence au niveau humain qui ne sont pas bien modélisées par les approches actuelles de l'IA. Et en d'autres termes, je pense qu'il y a plus de choses à inventer pour vraiment y arriver.

Cela dit, il existe aujourd'hui des moyens vraiment intéressants d'utiliser GPT-3 si vous pouvez y accéder. Encore une fois, il y a un processus de candidature. Mais si vous êtes capable de le faire, assurez-vous simplement de rester dans la vraie gamme de ses capacités et il pourrait faire des choses vraiment intéressantes pour vous.

Ne manquez pas un seul épisode de Here’s Why . Cliquez sur le bouton "S'abonner" ci-dessous pour être averti par e-mail chaque fois qu'une nouvelle vidéo est publiée.

Abonnez-vous à Here's Why

Voir toutes nos vidéos Here's Why | Abonnez-vous à notre chaîne YouTube

À propos de l'auteur

Eric Enge dirige la pratique du marketing numérique pour Perficient. Il conçoit des études et produit des recherches liées à l'industrie pour aider à prouver, démystifier ou faire évoluer les hypothèses sur les pratiques de marketing numérique et leur valeur. Eric est écrivain, blogueur, chercheur, enseignant, conférencier et panéliste lors de grandes conférences de l'industrie. En partenariat avec plusieurs autres experts, Eric a été l'auteur principal de The Art of SEO.

Plus de cet auteur




Source link