Utilisation de l’IA, comme Chatgpt, endommage la pensée critique: étude

Et si le danger le plus urgent de l’IA n’est pas sa capacité à remplacer les emplois, comme Plus d’un travailleur américain sur cinq La peur, mais son potentiel à provoquer un déclin cognitif?

Des chercheurs de l’Université Microsoft et Carnegie Mellon ont publié un nouvelle étude Le mois dernier, cela prétend être le premier à examiner les effets des outils de l’IA sur la pensée critique.

Les chercheurs ont constaté que les êtres humains les plus confiants étaient dans les capacités de l’IA pour effectuer une tâche, moins les compétences en pensée critique qu’ils utilisaient. Les humains confiants dans l’IA ont laissé la pensée critique pour chatter au lieu de le faire elles-mêmes et de renforcer leurs capacités cognitives.

En rapport: Souhaitez-vous payer 200 $ pour Chatgpt? Le nouveau modèle de raisonnement d’Openai a un prix élevé.

« Utilisé à mal, les technologies peuvent et entraînent la détérioration des facultés cognitives qui devraient être préservées », ont écrit les chercheurs, ajoutant que « une ironie clé de l’automatisation est qu’en mécansant les tâches de routine et en laissant une manipulation des exceptions à l’utilisateur humain, » Vous privez l’utilisateur des opportunités de routine pour pratiquer son jugement et renforcer sa musculature cognitive, ce qui les laisse atrophiés et non préparés lorsque les exceptions se produisent. « 

Les chercheurs ont interrogé 319 travailleurs du savoir, ou travailleurs qui gèrent des données ou des informations, pour constater à quel point ils étaient confiants dans les capacités de l’IA et la pensée critique qu’ils ont employée lors de l’utilisation de l’IA pour accomplir des tâches. La pensée critique a été définie comme tombant dans l’une des six catégories: connaissances (idées de souvenirs), compréhension (compréhension des idées), application (mettre des idées à travailler dans le monde réel), analyse (idées contrastées et reliées), synthèse (combinaison d’idées), et évaluation (juger des idées).

Les travailleurs des connaissances interrogés ont utilisé une IA comme Chatgpt au moins une fois par semaine et ont donné 936 exemples de la façon dont ils ont utilisé l’IA au travail, allant de la recherche de faits pour résumer un texte. Ils ont principalement utilisé la pensée critique pour définir des invites claires, affiner les invites et vérifier les réponses de l’IA contre les sources externes.

Six des sept chercheurs répertoriés sont associés à Microsoft Research, la filiale de recherche de Microsoft créé en 1991. Microsoft a des intérêts profonds dans l’IA, avec son investissement dans le total de ChatGpt-Maker Openai près de 14 milliards de dollars Et ses plans pour dépenser 80 milliards de dollars sur les centres de données d’IA Au cours de l’exercice se terminant en juin.

Les chercheurs avertissent que si l’IA peut rendre les lieux de travail plus efficaces, il pourrait « réduire également l’engagement critique, en particulier dans les tâches de routine ou de baisse des enjeux dans lesquelles les utilisateurs comptent simplement sur l’IA, ce qui soulève des préoccupations concernant la dépendance à long terme et la résolution indépendante de problèmes indépendants. « 

En d’autres termes, l’IA a un coût caché: cela pourrait amener les travailleurs à perdre de la mémoire musculaire pour plus de tâches de routine.

En rapport: L’IA profonde a coûté moins de 6 millions de dollars à développer. Voici pourquoi Meta et Microsoft justifient des milliards de dépenses.