Craquer le code : résoudre 3 défis clés de l’IA générative

Par Chet Kapoor, président-directeur général, DataStax

L’IA générative est dans tous les esprits. Cela révolutionnera notre façon de travailler, de partager les connaissances et de fonctionner en tant que société. En termes simples, ce sera la plus grande innovation que nous verrons de notre vivant.

L’un des plus grands domaines d’opportunités est la productivité. Pensez à où nous en sommes actuellement – ​​nous sommes confrontés à des pénuries de main-d’œuvre, à l’endettement, à l’inflation et plus encore. Si nous n’améliorons pas la productivité de la société, il y aura toujours des répercussions économiques.

Avec l’IA, nous verrons les effets cumulés de la productivité dans toute la société. En fait, McKinsey a qualifié l’IA générative de la prochaine frontière de productivité. Mais si la technologie est incontestablement un catalyseur de la productivité, elle n’est pas à elle seule le moteur de la transformation. Cela commence par nous, dirigeants et entreprises. Lorsque nous apportons l’IA à l’entreprise, les entreprises déploient l’IA pour augmenter la productivité dans le monde entier, ce qui à son tour fait avancer la société.

Comme pour toute nouvelle technologie puissante (pensez : Internet, l’imprimerie, l’énergie nucléaire), il y a de grands risques à prendre en compte. De nombreux dirigeants ont exprimé un besoin de prudence, et certains ont même appelé à une pause dans le développement de l’IA.

Ci-dessous, je vais partager quelques défis clés de l’IA, comment les dirigeants y pensent et ce que nous pouvons faire pour les relever.

Surmonter les préjugés

Les systèmes d’IA tirent des données de sources limitées. La grande majorité des données sur lesquelles reposent ces systèmes sont produites par une partie de la population en Amérique du Nord et en Europe, de sorte que les systèmes d’IA (y compris GPT) reflètent cette vision du monde. Mais il y a 3 milliards de personnes qui n’ont toujours pas un accès régulier à Internet et qui n’ont créé aucune donnée elles-mêmes. Le biais ne vient pas seulement des données ; il vient des humains qui travaillent sur ces technologies.

La mise en œuvre de l’IA mettra ces préjugés au premier plan et les rendra transparents. La question est la suivante : comment pouvons-nous traiter, gérer ou atténuer les biais inhérents lorsque nous construisons et utilisons des systèmes d’IA ? Quelques choses:

• Combattez les biais non seulement dans vos données, mais sachez également qu’ils peuvent résulter de la façon dont les données sont interprétées, utilisées ou interagissent avec les utilisateurs
• Penchez-vous sur les outils open source et la science des données. L’open source peut atténuer les obstacles techniques à la lutte contre les biais de l’IA via la collaboration, la confiance et la transparence
• Plus important encore, créez des équipes d’IA diversifiées qui apportent de multiples perspectives pour détecter et combattre les préjugés. Comme Reid Hoffman et Maelle Gavet en ont discuté dans un récent Séance de maîtrise de la stratégie d’échellenous devrions « également intégrer une diversité d’états d’esprit envers l’IA, y compris les sceptiques et les optimistes ».

Politique et règlements

Le rythme des progrès de l’IA est ultra-rapide ; de nouvelles innovations semblent se produire chaque jour. Avec des questions éthiques et sociétales importantes concernant les préjugés, la sécurité et la confidentialité, une politique et des réglementations intelligentes concernant le développement de l’IA sont cruciales.

Les décideurs politiques doivent trouver un moyen d’avoir un processus d’apprentissage plus agile pour comprendre les nuances de l’IA. J’ai toujours dit qu’avec le temps, les marchés sont plus matures que les esprits isolés. La même chose peut être dite à propos de la politique, sauf qu’étant donné le taux de changement dans le monde de l’IA, nous devrons réduire le temps. Il doit y avoir un partenariat public-privé, et les institutions privées joueront un rôle important.

Vice-président exécutif et directeur général de la sécurité et de la collaboration de Cisco, Jeetu Patela partagé son point de vue lors de notre récente discussion :

« Nous devons nous assurer qu’il existe une politique, une réglementation, une aide gouvernementale et du secteur privé pour garantir que ce déplacement ne crée pas de souffrance humaine au-delà d’un certain point afin qu’il n’y ait pas une concentration de richesse qui soit encore plus exacerbée à la suite de cela. »

« Les machines prennent le relais »

Les gens ont vraiment peur que les machines remplacent les humains. Et leurs préoccupations sont valables, compte tenu de la nature humaine des outils et des systèmes d’IA comme GPT. Mais les machines ne remplaceront pas les humains. Les humains avec des machines remplaceront les humains sans machines. Considérez l’IA comme un copilote. Il est de la responsabilité de l’utilisateur de contrôler le copilote et de connaître ses pouvoirs et ses limites.

Shankar Arumugavelu, SVP et Global CIO chez Verizon, dit que nous devrions commencer par former nos équipes. Il appelle cela une campagne d’alphabétisation de l’IA.

« Nous avons passé du temps en interne au sein de l’entreprise à sensibiliser à ce qu’est l’IA générative, et à établir une distinction entre l’apprentissage automatique traditionnel et l’IA générative. Il y a un risque si nous ne clarifions pas l’apprentissage automatique, l’apprentissage en profondeur et l’IA générative – plus quand vous utiliseriez l’un par rapport à l’autre.

Alors la question est : que pouvez-vous faire de plus si quelque chose vous prenait auparavant deux semaines et maintenant cela vous prend deux heures ? Certains dirigeants deviendront super efficaces et parleront de réduire les effectifs, etc. D’autres penseront, J’ai tous ces gens, que puis-je faire avec eux ? La chose intelligente à faire est de comprendre comment nous canalisons les avantages de l’IA vers plus de connaissances, d’innovation et de productivité.

Comme l’a dit Marco Argenti, CIO de Goldman Sachs, l’interaction entre les humains et l’IA redéfinira complètement la façon dont nous apprenons, co-créons et diffusons les connaissances.

« L’IA a la capacité de s’expliquer en fonction du lecteur. En fait, avec l’invite, le lecteur devient presque l’écrivain. Le lecteur et l’écrivain sont, pour la première fois, sur un pied d’égalité. Nous pouvons désormais extraire des informations pertinentes d’un corpus de connaissances d’une manière qui suit réellement votre compréhension. »

Travailler ensemble

Nous avons vu des dirigeants appeler à une pause dans le développement de l’IA, et leurs inquiétudes sont fondées. Il serait négligent et préjudiciable de ne pas tenir compte des risques et des limites liés à la technologie, et nous devons prendre la gouvernance très au sérieux.

Cependant, je ne crois pas que la réponse soit d’arrêter d’innover. Si nous parvenons à rassembler les personnes brillantes travaillant sur ces technologies et à établir des partenariats avec des institutions gouvernementales, nous serons en mesure d’équilibrer les risques et les opportunités pour générer plus de valeur que nous n’aurions jamais cru possible.

Le résultat? Un monde où la productivité est abondante, la connaissance est accessible à tous et l’innovation est utilisée pour le bien.

En savoir plus sur la recherche vectorielle et comment DataStax en tire parti pour déverrouiller les capacités et les applications d’IA pour les entreprises.

À propos de Chet Kapoor:

Chet est président et chef de la direction de DataStax. Il est un leader et un innovateur reconnu dans l’industrie technologique avec plus de 20 ans de leadership dans des sociétés de logiciels et de cloud innovantes, notamment Google, IBM, BEA Systems, WebMethods et NeXT. En tant que président-directeur général d’Apigee, il a dirigé des initiatives à l’échelle de l’entreprise pour faire d’Apigee un fournisseur de technologie de premier plan pour les entreprises numériques. Google (Apigee) est la plate-forme de gestion d’API inter-cloud qui fonctionne dans un monde multi-cloud et hybride. Chet a réussi à faire entrer Apigee en bourse avant que l’entreprise ne soit rachetée par Google en 2016. Chet a obtenu son BS en ingénierie à l’Arizona State University.