Conséquences néfastes de l'IA : cette technologie pourrait-elle entraîner un déclin de notre intelligence ?
Conséquences néfastes de l'IA : cette technologie pourrait-elle entraîner un déclin de notre intelligence ?
Le chercheur Umberto Domínguez de l'université de Monterrey exprime ses craintes
Dans son article intitulé "Effets catastrophiques", le professeur Umberto León Domínguez de l'université de Monterrey explore les implications potentielles de l'intelligence artificielle (IA) sur les fonctions cognitives humaines. En se penchant sur des chatbots tels que ChatGPT, conçus pour imiter la conversation humaine, Domínguez exprime ses préoccupations quant à la possibilité que l'IA agisse comme une « prothèse cognitive », accomplissant des tâches cognitives pour les humains.
Il met en garde contre le « délestage cognitif », avertissant que la dépendance excessive à l'IA pourrait entraîner un affaiblissement des capacités cognitives humaines, compromettant la pensée critique et la créativité. Malgré ces avancées, l'IA ne pourra jamais dépasser les capacités du cerveau humain. Des chercheurs de l'université de Sheffield ont souligné qu'il existe des différences inhérentes qui empêchent l'IA de penser comme les humains.
En outre, deux distinctions cruciales ont été mises en évidence. Tout d'abord, le cerveau humain est intrinsèquement lié à des éléments physiques, ce qui permet une perception et une interaction directes avec le monde réel. Cette distinction joue un rôle important dans la différenciation entre l'IA et le cerveau humain. En outre, notre cerveau est développé selon une architecture spécifique, ce qui n'est pas le cas des modèles d'IA. Selon l'étude, l'IA peut apprendre des schémas complexes à partir de données, mais il lui manque la connexion avec le monde réel, qui joue un rôle majeur en termes de réflexion.
Bien que certains voient le délestage cognitif comme bénéfique, libérant des capacités cognitives pour des tâches plus complexes, Domínguez souligne le risque que des technologies comme ChatGPT rendent les individus complaisants et négligent des tâches cognitives essentielles. En comparaison avec d'autres technologies, ChatGPT est considéré comme un amplificateur significatif du délestage cognitif en raison de sa capacité à générer de manière autonome des idées et des décisions. Domínguez appelle à la conscience de la nécessité de stimuler activement les capacités intellectuelles, soulignant que le développement cognitif exige une participation active et ne peut reposer uniquement sur l'assistance technologique.
L'intérêt de Domínguez pour le ChatGPT découle de son potentiel en tant que jalon technologique. Il y voit un signe de la singularité technologique, un concept qui suggère que le développement de l'IA pourrait atteindre un point où elle commencerait à progresser au-delà du contrôle humain, fusionnant potentiellement l'intelligence humaine et l'intelligence de la machine.Envoyé par Umberto León Domínguez
« En tant que professeur d'université, je conçois mes activités comme des défis intellectuels visant à stimuler et à entraîner les fonctions cognitives utiles dans la vie quotidienne de mes étudiants, telles que la résolution de problèmes et les capacités de planification », a expliqué Domínguez, qui est par ailleurs directeur du Human Cognition and Brain Studies Lab et chercheur au sein de l'Artificial Intelligence Group.
« L'émergence d'un outil tel que ChatGPT m'a fait craindre qu'il ne soit utilisé par les étudiants pour accomplir des tâches, empêchant ainsi la stimulation de ces fonctions cognitives. À partir de cette observation, j'ai commencé à explorer et à généraliser l'impact, non seulement en tant qu'étudiant mais aussi en tant qu'humanité, des effets catastrophiques que ces technologies pourraient avoir sur une partie importante de la population en bloquant le développement de ces fonctions cognitives. »
Les frontieres de l'IA : prothese cognitive ou menace pour l'independance cognitive humaine
L'une des affirmations les plus frappantes de l'article est que l'IA peut agir comme une "prothèse cognitive", un concept introduit dans une étude de 2019 par Falk Lieder et ses collègues. En substance, cela signifie que l'IA pourrait effectuer des tâches cognitives pour le compte des humains, un peu comme une prothèse sert à remplacer un membre perdu. Il ne s'agit pas seulement de tâches simples comme le calcul de nombres ou l'organisation d'horaires. La recherche suggère que les capacités de l'IA pourraient s'étendre à des fonctions cognitives plus complexes, telles que la résolution de problèmes et la prise de décision, traditionnellement considérées comme des traits distinctifs de l'être humain.
Interrogé sur l'apprentissage automatique et ses contributions aux sciences cognitives par le Massachusetts Institute of Technology (MIT), Noam Chomsky et Steven Pinker, deux des plus grands spécialistes mondiaux des sciences linguistiques et cognitives ont exprimé beaucoup de scepticisme et une certaine déception. « Dans presque tous les domaines pertinents, il est difficile de voir comment l'apprentissage automatique peut apporter une quelconque contribution à la science, déplore Chomsky, en particulier à la science cognitive, quelle que soit la valeur qu'il puisse avoir dans la construction des dispositifs utiles ou pour explorer les propriétés des processus informatiques employés. »
Lieder et ses collègues ont mis en évidence des scénarios dans lesquels le penchant naturel des gens pour les récompenses à court terme les éloigne d'actions qui seraient plus bénéfiques à long terme. Par exemple, choisir de regarder la télévision et de se détendre au lieu de travailler sur un projet difficile mais gratifiant. Pour remédier à ce problème, ils ont proposé d'utiliser l'IA pour "gamifier" le processus de prise de décision. La gamification consiste à ajouter des éléments semblables à ceux d'un jeu, tels que des points, des niveaux et des badges, à des activités qui ne sont pas des jeux.
Grâce à une série d'expériences, Lieder et ses collègues ont apporté les premières preuves des avantages de cette approche. Ils ont constaté que les décisions améliorées par l'IA aidaient les individus à faire de meilleurs choix plus rapidement, à réduire la procrastination et à se concentrer davantage sur les tâches importantes.
Cependant, l'article de Domínguez met en garde contre les risques potentiels liés à l'intégration de l'IA dans nos processus cognitifs. L'une des principales préoccupations est le "délestage cognitif", où les humains pourraient devenir trop dépendants de l'IA, ce qui entraînerait un déclin de notre capacité à effectuer des tâches cognitives de manière indépendante. Tout comme les muscles peuvent s'affaiblir sans exercice, les capacités cognitives peuvent se détériorer si elles ne sont pas utilisées régulièrement.
Les opinions divergent sur ce sujet. Certains expriment une préoccupation concernant un possible déclin des capacités intellectuelles humaines dû à une dépendance croissante à l'IA, mettant en lumière le risque de "délestage cognitif" et les conséquences négatives sur la pensée critique et la créativité. D'un autre côté, certains adoptent une approche cynique, suggérant que l'humanité est déjà en train de perdre en intelligence.
En reconnaissant l'IA comme une opportunité de rattrapage pour ceux qui n'ont pas encore assimilé certains concepts, ils abordent de manière humoristique l'idée que les futurs maîtres de l'IA pourraient être bénéfiques pour la société. La référence à des pensées anciennes, telles que celle attribuée à Socrate, soulève des préoccupations persistantes quant à la manière dont les nouvelles technologies peuvent influencer notre façon de penser et de mémoriser des informations.
Source : "Catastrophic effects", Professor Umberto León Domínguez of the University of Monterrey
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi :
Répondre avec citation
Partager