Discussion :

[Bruno]

Conséquences néfastes de l'IA : cette technologie pourrait-elle entraîner un déclin de notre intelligence ?
Le chercheur Umberto Domínguez de l'université de Monterrey exprime ses craintes

Dans son article intitulé "Effets catastrophiques", le professeur Umberto León Domínguez de l'université de Monterrey explore les implications potentielles de l'intelligence artificielle (IA) sur les fonctions cognitives humaines. En se penchant sur des chatbots tels que ChatGPT, conçus pour imiter la conversation humaine, Domínguez exprime ses préoccupations quant à la possibilité que l'IA agisse comme une « prothèse cognitive », accomplissant des tâches cognitives pour les humains.

Il met en garde contre le « délestage cognitif », avertissant que la dépendance excessive à l'IA pourrait entraîner un affaiblissement des capacités cognitives humaines, compromettant la pensée critique et la créativité. Malgré ces avancées, l'IA ne pourra jamais dépasser les capacités du cerveau humain. Des chercheurs de l'université de Sheffield ont souligné qu'il existe des différences inhérentes qui empêchent l'IA de penser comme les humains.

En outre, deux distinctions cruciales ont été mises en évidence. Tout d'abord, le cerveau humain est intrinsèquement lié à des éléments physiques, ce qui permet une perception et une interaction directes avec le monde réel. Cette distinction joue un rôle important dans la différenciation entre l'IA et le cerveau humain. En outre, notre cerveau est développé selon une architecture spécifique, ce qui n'est pas le cas des modèles d'IA. Selon l'étude, l'IA peut apprendre des schémas complexes à partir de données, mais il lui manque la connexion avec le monde réel, qui joue un rôle majeur en termes de réflexion.

Bien que certains voient le délestage cognitif comme bénéfique, libérant des capacités cognitives pour des tâches plus complexes, Domínguez souligne le risque que des technologies comme ChatGPT rendent les individus complaisants et négligent des tâches cognitives essentielles. En comparaison avec d'autres technologies, ChatGPT est considéré comme un amplificateur significatif du délestage cognitif en raison de sa capacité à générer de manière autonome des idées et des décisions. Domínguez appelle à la conscience de la nécessité de stimuler activement les capacités intellectuelles, soulignant que le développement cognitif exige une participation active et ne peut reposer uniquement sur l'assistance technologique.

Le transformateur génératif réentraîné (ChatGPT) représente une avancée révolutionnaire dans la technologie de l'intelligence artificielle (IA-chatbot), utilisant des algorithmes de transformation pour améliorer le traitement du langage naturel et facilitant leur utilisation pour traiter des tâches spécifiques. Ces chatbots IA peuvent répondre à des questions en générant des instructions verbales similaires à celles qu'une personne fournirait au cours du processus de résolution d'un problème.

Objectif : Le ChatGPT est devenu le logiciel à la croissance la plus rapide de l'histoire en termes d'adoption par les utilisateurs, ce qui laisse présager une utilisation généralisée de cette technologie au sein de la population générale. La littérature actuelle se concentre principalement sur les aspects fonctionnels de ces technologies, mais le domaine n'a pas encore exploré les hypothèses sur la façon dont ces chatbots IA pourraient avoir un impact sur les aspects évolutifs du développement cognitif humain.

Thèse : L'hypothèse du "recyclage neuronal" postule que le cerveau subit une transformation structurelle en incorporant de nouveaux outils culturels dans des "niches neuronales", ce qui modifie la cognition individuelle. Dans le cas des outils technologiques, il a été établi qu'ils réduisent la demande cognitive nécessaire à la résolution des tâches par un processus appelé "délestage cognitif". Dans cet article théorique, trois hypothèses ont été proposées par inférence prospective sur la manière dont des algorithmes tels que ChatGPT et des modèles similaires peuvent influencer les processus et structures cognitifs des générations à venir.

Conclusions : En prévoyant les effets neurocognitifs de ces technologies, les communautés éducatives et politiques peuvent anticiper les scénarios futurs et formuler des plans stratégiques pour atténuer ou renforcer l'influence cognitive que ces facteurs peuvent avoir sur la population en général.

L'intérêt de Domínguez pour le ChatGPT découle de son potentiel en tant que jalon technologique. Il y voit un signe de la singularité technologique, un concept qui suggère que le développement de l'IA pourrait atteindre un point où elle commencerait à progresser au-delà du contrôle humain, fusionnant potentiellement l'intelligence humaine et l'intelligence de la machine.

« En tant que professeur d'université, je conçois mes activités comme des défis intellectuels visant à stimuler et à entraîner les fonctions cognitives utiles dans la vie quotidienne de mes étudiants, telles que la résolution de problèmes et les capacités de planification », a expliqué Domínguez, qui est par ailleurs directeur du Human Cognition and Brain Studies Lab et chercheur au sein de l'Artificial Intelligence Group.

« L'émergence d'un outil tel que ChatGPT m'a fait craindre qu'il ne soit utilisé par les étudiants pour accomplir des tâches, empêchant ainsi la stimulation de ces fonctions cognitives. À partir de cette observation, j'ai commencé à explorer et à généraliser l'impact, non seulement en tant qu'étudiant mais aussi en tant qu'humanité, des effets catastrophiques que ces technologies pourraient avoir sur une partie importante de la population en bloquant le développement de ces fonctions cognitives. »

Les frontieres de l'IA : prothese cognitive ou menace pour l'independance cognitive humaine

L'une des affirmations les plus frappantes de l'article est que l'IA peut agir comme une "prothèse cognitive", un concept introduit dans une étude de 2019 par Falk Lieder et ses collègues. En substance, cela signifie que l'IA pourrait effectuer des tâches cognitives pour le compte des humains, un peu comme une prothèse sert à remplacer un membre perdu. Il ne s'agit pas seulement de tâches simples comme le calcul de nombres ou l'organisation d'horaires. La recherche suggère que les capacités de l'IA pourraient s'étendre à des fonctions cognitives plus complexes, telles que la résolution de problèmes et la prise de décision, traditionnellement considérées comme des traits distinctifs de l'être humain.

Interrogé sur l'apprentissage automatique et ses contributions aux sciences cognitives par le Massachusetts Institute of Technology (MIT), Noam Chomsky et Steven Pinker, deux des plus grands spécialistes mondiaux des sciences linguistiques et cognitives ont exprimé beaucoup de scepticisme et une certaine déception. « Dans presque tous les domaines pertinents, il est difficile de voir comment l'apprentissage automatique peut apporter une quelconque contribution à la science, déplore Chomsky, en particulier à la science cognitive, quelle que soit la valeur qu'il puisse avoir dans la construction des dispositifs utiles ou pour explorer les propriétés des processus informatiques employés. »

Lieder et ses collègues ont mis en évidence des scénarios dans lesquels le penchant naturel des gens pour les récompenses à court terme les éloigne d'actions qui seraient plus bénéfiques à long terme. Par exemple, choisir de regarder la télévision et de se détendre au lieu de travailler sur un projet difficile mais gratifiant. Pour remédier à ce problème, ils ont proposé d'utiliser l'IA pour "gamifier" le processus de prise de décision. La gamification consiste à ajouter des éléments semblables à ceux d'un jeu, tels que des points, des niveaux et des badges, à des activités qui ne sont pas des jeux.

Grâce à une série d'expériences, Lieder et ses collègues ont apporté les premières preuves des avantages de cette approche. Ils ont constaté que les décisions améliorées par l'IA aidaient les individus à faire de meilleurs choix plus rapidement, à réduire la procrastination et à se concentrer davantage sur les tâches importantes.

Cependant, l'article de Domínguez met en garde contre les risques potentiels liés à l'intégration de l'IA dans nos processus cognitifs. L'une des principales préoccupations est le "délestage cognitif", où les humains pourraient devenir trop dépendants de l'IA, ce qui entraînerait un déclin de notre capacité à effectuer des tâches cognitives de manière indépendante. Tout comme les muscles peuvent s'affaiblir sans exercice, les capacités cognitives peuvent se détériorer si elles ne sont pas utilisées régulièrement.

Les opinions divergent sur ce sujet. Certains expriment une préoccupation concernant un possible déclin des capacités intellectuelles humaines dû à une dépendance croissante à l'IA, mettant en lumière le risque de "délestage cognitif" et les conséquences négatives sur la pensée critique et la créativité. D'un autre côté, certains adoptent une approche cynique, suggérant que l'humanité est déjà en train de perdre en intelligence.

En reconnaissant l'IA comme une opportunité de rattrapage pour ceux qui n'ont pas encore assimilé certains concepts, ils abordent de manière humoristique l'idée que les futurs maîtres de l'IA pourraient être bénéfiques pour la société. La référence à des pensées anciennes, telles que celle attribuée à Socrate, soulève des préoccupations persistantes quant à la manière dont les nouvelles technologies peuvent influencer notre façon de penser et de mémoriser des informations.

Source : "Catastrophic effects", Professor Umberto León Domínguez of the University of Monterrey

Et vous ?

Quel est votre avis sur le sujet ?

Pensez-vous que les chatbots, tels que ChatGPT, peuvent réellement agir comme des "prothèses cognitives" et accomplir des tâches cognitives pour les individus ?

Voir aussi :

Les limites de l'intelligence artificielle : pourquoi l'IA ne peut pas surpasser le cerveau humain, selon des chercheurs de l'Université de Sheffield

Des chercheurs du MIT viennent de découvrir une IA qui imite le cerveau par elle-même, l'apprentissage automatique commence à ressembler beaucoup à la cognition humaine

Comment saurons-nous que nous avons atteint une forme d'intelligence générale artificielle ? Pour certains experts en IA, ce sera lorsque la machine aura une cognition de niveau humain

[Mathis Lucas]

Une étude de Microsoft révèle que plus les gens utilisent l'IA dans leur travail, moins ils font preuve d'esprit critique
l'étude suggère que l'IA rend la cognition humaine « atrophiée et non préparée »

Microsoft publie une étude sur la manière dont l'utilisation de l'IA générative au travail affecte les capacités de réflexion critique. Et voici la conclusion : « utilisées de manière inappropriée, les technologies peuvent entraîner, et entraînent effectivement, la détérioration de facultés cognitives qui devraient être préservées ». En d'autres termes, l'équipe de recherche de Microsoft a constaté que plus les gens utilisent l'IA dans leur travail, moins ils font preuve d'esprit critique. Cette conclusion fait écho à des études précédentes selon lesquelles l'IA a un impact négatif sur l'esprit critique et un obstacle à l'apprentissage de la programmation informatique.

L'automatisation : une facilité met en péril la pensée critique des utilisateurs ?

L'étude en question a été réalisée par des chercheurs de Microsoft et de l'université Carnegie Mellon. Elle porte sur « l'impact de l'utilisation prolongée de l'IA générative au travail sur la pensée critique et les capacités cognitives ». Elle révèle qu'à mesure que les humains s'appuient sur l'IA générative dans le cadre de leur travail, ils font moins appel à la pensée critique, ce qui peut « entraîner la détérioration de facultés cognitives qui devraient être préservées ».

Lorsque les gens s'appuient sur l'IA générative au travail, ils s'efforcent de vérifier que la réponse fournie par l'IA est suffisamment bonne pour être utilisée, au lieu d'utiliser des compétences de pensée critique d'ordre supérieur telles que la création, l'évaluation et l'analyse d'informations.

Selon l'article, si les humains n'interviennent que lorsque les réponses de l'IA sont insuffisantes, les travailleurs sont privés « d'occasions régulières d'exercer leur jugement et de renforcer leur musculature cognitive, ce qui les atrophie et les rend mal préparés lorsque les exceptions se présentent ».

L'une des principales ironies de l'automatisation est qu'en mécanisant les tâches routinières et en laissant le traitement des exceptions à l'utilisateur humain, on prive ce dernier des occasions habituelles d'exercer son jugement et de renforcer sa musculature cognitive, ce qui le laisse atrophié et mal préparé lorsque les exceptions se présentent.

Plus précisément, lorsque nous comptons trop sur l'IA pour penser à notre place, nous sommes de moins en moins capables de résoudre les problèmes nous-mêmes lorsque l'IA échoue, ce qui soulève des inquiétudes quant à la dépendance à long terme et à la diminution de la résolution indépendante des problèmes.

Selon les chercheurs, les problèmes étaient plus prononcés chez les travailleurs qui avaient davantage confiance en l'IA. « Lorsque les utilisateurs avaient moins confiance dans les résultats de l'IA, ils faisaient preuve de plus d'esprit critique et avaient davantage confiance dans leur capacité à évaluer et à améliorer la qualité des résultats de l'IA et à atténuer les conséquences des réponses de l'IA », a déclaré l'équipe de recherche dans son rapport d'étude.

En réponse à ce problème, les chercheurs ont suggéré que Microsoft et d'autres entreprises travaillant dans le domaine de l'IA se concentrent sur « le développement d'outils d'IA en tenant compte de ce problème et en les concevant de manière à motiver les utilisateurs à faire preuve d'esprit critique ».

L'approche utilisée par l'équipe de recherche dans le cadre de son évaluation

L'équipe a recruté 319 personnes qui utilisent l'IA générative au moins une fois par semaine au travail. Ils ont été invités à donner trois exemples de la manière dont ils utilisent l'IA au travail, qui se répartissent en trois catégories principales : création (rédaction d'un courriel à l'intention d'un collègue, par exemple) ; information (recherche sur un sujet ou résumé d'un long article) ; et conseil (établissement d'un tableau à partir de données existantes).

Ensuite, l'équipe a demandé aux participants s'ils pratiquaient des compétences de pensée critique lors de l'exécution de la tâche, et si l'utilisation de l'IA générative les incitait à faire plus ou moins d'efforts pour penser de manière critique. Pour chaque tâche mentionnée, les répondants ont également été invités à indiquer dans quelle mesure ils avaient confiance en eux-mêmes, en l'IA générative et en leur capacité à évaluer les résultats de la machine.

Dans l'ensemble, ces travailleurs ont déclaré que plus ils faisaient confiance à l'IA pour accomplir la tâche, plus ils observaient « la façon dont ils percevaient la pensée critique ». Lorsque les utilisateurs avaient moins confiance dans les résultats de l'IA, ils faisaient preuve de plus d'esprit critique et avaient davantage confiance dans leur capacité à évaluer et à améliorer la qualité des résultats de l'IA et à atténuer les conséquences des réponses de l'IA.

Les données montrent un changement dans l'effort cognitif, les travailleurs du savoir passant de plus en plus de l'exécution des tâches à la supervision lorsqu'ils utilisent l'IA générique. Il est surprenant de constater que si l'IA peut améliorer l'efficacité, elle peut également réduire l'engagement critique, en particulier dans les tâches routinières ou à faible enjeu pour lesquelles les utilisateurs s'en remettent simplement à l'IA, ce qui soulève des inquiétudes quant à la dépendance à long terme et à la diminution de la résolution indépendante des problèmes.

Les chercheurs ont également constaté que « les utilisateurs ayant accès aux outils d'IA générative produisent un ensemble moins diversifié de résultats pour la même tâche, par rapport aux utilisateurs qui n'y ont pas accès. Selon les chercheurs, « cette tendance à la convergence reflète un manque de jugement personnel, contextualisé, critique et réfléchi des résultats de l'IA et peut donc être interprétée comme une détérioration de la pensée critique ».

Les chercheurs ont mis en garde contre cette évolution. L'étude a également permis aux chercheurs de relever un certain nombre de conditions peu surprenantes qui incitent les travailleurs à faire preuve de plus ou moins d'esprit critique et à prêter attention à la qualité des résultats de l'IA.

Par exemple, les travailleurs qui se sentaient pressés par le temps utilisaient moins la pensée critique, tandis que les travailleurs dans des « scénarios et lieux de travail à enjeux élevés » qui s'inquiétaient des dommages causés par des résultats défectueux utilisaient davantage la pensée critique.

Cela signifie-t-il que l'utilisation de l'IA générative rend les humains stupides ?

Les résultats de l'étude ont soulevé plusieurs questions. L'utilisation de l'IA est-elle intrinsèquement mauvaise ? Doit-elle être abolie pour empêcher l'atrophie de l'intelligence collective de l'humanité ? C'est une réponse compréhensible aux preuves suggérant que les outils d'IA réduisent l'esprit critique chez les infirmières, les enseignants et les négociants en marchandises, mais le point de vue de l'équipe de recherche n'est pas aussi simple.

Comme ils le soulignent à juste titre, l'humanité a depuis longtemps « l'habitude de décharger les tâches cognitives sur les nouvelles technologies au fur et à mesure de leur apparition, et les gens craignent toujours que ces technologies ne détruisent l'intelligence humaine ».

Les outils d'IA générative sont les derniers d'une longue lignée de technologies qui soulèvent des questions quant à leur impact sur la qualité de la pensée humaine, une lignée qui comprend l'écriture (à laquelle Socrate s'opposait), l'imprimerie (à laquelle Trithemius s'opposait), les calculatrices (auxquelles les professeurs d'arithmétique s'opposaient) et Internet.

Cette consternation n'est pas sans fondement. Utilisées à mauvais escient, les technologies peuvent entraîner et entraînent la détérioration de facultés cognitives qui devraient être préservées.

Par exemple, il y a de fortes chances que vous ne connaissiez par cœur que quelques-uns des numéros de téléphone de votre conjoint, vos parents, vos enfants, vos frères et sœurs ou votre meilleur ami, alors qu'il y a quelques décennies à peine, vous les connaissiez tous et probablement bien plus encore.

Aujourd'hui, votre téléphone conserve toutes ces informations pour vous, et il n'est donc plus nécessaire d'y consacrer de la matière grise. De même, les humains externalisent une plus grande partie de leur matière grise vers les ordinateurs avec la généralisation des outils d'IA générative.

Il est peu probable que vous vous sentiez « stupide » d'avoir externalisé le répertoire téléphonique de votre cerveau vers une liste de contacts numérique, mais le même type d'externalisation pourrait s'avérer dangereux dans un emploi critique où quelqu'un se fie trop aux systèmes d'IA. Cette confiance aveugle pourrait amener l'utilisateur à cesser de faire preuve d'esprit critique et à incorporer de mauvais résultats dans son travail, ce qui est dangereux.

Pour éviter cette situation, les chercheurs suggèrent de développer des outils d'IA en gardant ce problème à l'esprit et de les concevoir de manière à inciter les utilisateurs à faire preuve d'esprit critique. Des études ont précédemment montré que l'engouement pour l'IA conduit à des recherches erronées.

Les chercheurs mettent en garde contre une confiance aveugle dans les outils d'IA

Dans une étude publiée en 2024, des chercheurs de l'université de Princeton suggèrent que l'IA pourrait nuire à l'avenir de la recherche scientifique et limiter l'esprit critique. L'équipe affirme que l'engouement pour l'IA conduit à des recherches erronées qui suscitent un engouement encore plus grand.

Les chercheurs ne comprennent pas toujours comment l'IA obtient ses résultats, mais les publient sans une évaluation approfondie, ce qui participe au battage médiatique sur l'IA. L'équipe dénonce la façon dont certains scientifiques utilisent aujourd'hui l'IA générative dans le cadre de leurs recherches.

Par ailleurs, la question de l'impact de l'IA dans un secteur comme l'éducation revient désormais en boucle. Selon des experts du secteur de l'éducation, l'IA générative a un impact négatif sur les capacités cognitives des étudiants, en faisant tout le travail à leur place. Ils ajoutent que l'IA encourage la tricherie.

Le responsable en ingénierie de développement de JumboCode déclare : « l'intelligence artificielle est un obstacle à l’apprentissage du développement Web ». Cette déclaration intervient après des propos selon lesquels cet apprentissage est même inutile compte tenu de l’accès aux outils d'IA.

Sources : Microsoft, rapport de l'étude (PDF)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des conclusions de l'étude ? Sont-elles pertinentes ?
Selon vous, l'avènement de l'IA générative met-il en péril la pensée critique de l'homme ?
L'IA générative peut entraîner la détérioration de facultés cognitives qui devraient être préservées. Qu'en pensez-vous ?

Voir aussi

« Les scientifiques doivent utiliser l'IA comme un outil et non comme un oracle », affirment des chercheurs de l'université de Princeton, selon lesquels l'engouement pour l'IA conduit à des recherches erronées

« L'IA est un obstacle à l'apprentissage du développement Web », d'après un responsable d'équipe opposé à des tiers selon lesquels apprendre à programmer est inutile à cause de l'accès à l'IA

L'IA est pire que l'homme pour résumer l'information dans tous les domaines, selon un essai gouvernemental

[Mathis Lucas]

Faut-il adopter ou boycotter l'IA ? Un critique appelle à boycotter l'IA, car elle n'est ni bonne pour la créativité ni bonne pour les compétences
et a été créée pour escroquer les utilisateurs

Le battage médiatique autour de l'IA générative indique que la technologie sera omniprésente à l'avenir. Les participants à la course à l'IA affirment qu'elle offrira « des opportunités illimitées » à l'humanité et permettra aux utilisateurs de repousser les limites de ce qu'ils peuvent faire. Mais Sam Kahn, producteur et scénariste, met en garde contre les conséquences liées à son utilisation. Il craint une dépendance à l'égard de l'IA, ce qui selon lui, signifie en réalité une dépendance à l'égard des « suzerains » de la Silicon Valley qui cherchent à escroquer leur clientèle. Il compare cette situation à la façon dont Apple emprisonne ses clients à l'intérieur de son écosystème.

Sam Kahn : l'IA n'est pas bonne pour l'esprit et encore moins pour la créativité

Sam Kahn est producteur américain de documentaires expérimenté et écrivain chevronné. Il a notamment produit des documentaires pour Netflix, Paramount+, A&E... Ses écrits ont été publiés dans The New Atlantis, Salmagundi, etc., et sur son compte Substack, Castalia. Il est diplômé de l'université de Yale. Récemment, il a publié un article, intitulé « Why I’m boycotting AI. And you should, too », dans lequel il alerte sur les dangers liés à l'utilisation de l'IA.

L'IA est sur toutes les lèvres depuis que ChatGPT a fait irruption sur la scène à l'automne 2022. Les attentes à l'égard de la technologie sont élevées : les analystes prévoient que l'IA entraînera des changements « importants ou perturbateurs » à l'avenir et favorisera la croissance de l'économie mondiale.

Mais Sam Kahn affirme que les gens ne devraient pas utiliser cette technologie. Dans son billet de blogue, il appelle tout le monde à boycotter les produits d'IA, car la technologie n'est en aucun cas bonne pour nous ; selon lui, l'IA n'est ni bonne pour l'esprit, ni pour la créativité, ni pour les compétences. Sam Kahn estime que l'utilisation de l'IA ne peut que conduire à une dépendance. Il a ajouté que les conséquences pourraient être dévastatrices pour l'humanité.

Nous devons collectivement boycotter les produits d'intelligence artificielle tant qu'il en est encore temps. Parce que l'IA n'est pas bonne pour nous - ni pour notre esprit, ni pour notre créativité, ni pour nos compétences - et qu'à mesure qu'on nous la fait avaler, nous sommes les seuls à pouvoir la refuser.

L'IA ne peut que conduire à la dépendance à l'égard d'une technologie, ce qui signifie en réalité la dépendance à l'égard des suzerains de la Silicon Valley qui cherchent à escroquer leur clientèle. C'est exactement la même dynamique que nous connaissons et déplorons tous depuis une vingtaine d'années.

Selon Sam Kahn, c'est la même dynamique que nous connaissons et déplorons depuis une vingtaine d'années. Il estime que l'IA pourrait exacerber les problèmes qui ont surgi avec l'avènement des réseaux sociaux et du smartphone, notamment la baisse de la capacité d'attention, la dépression, l'anxiété, etc.

« Et vous pouvez vous inspirer de toutes vos statistiques préférées pour comprendre ce que cela signifie : l'Américain moyen passe près de 5 heures par jour sur son smartphone, tandis que les taux d'amitié se sont effondrés et que la dépression, l'anxiété, l'automutilation et la suicidalité chez les adolescents ont grimpé en flèche », a déclaré Sam Kahn. Il affirme n'avoir installé aucune application d'IA et invite l'humanité à se débarrasser de ces produits d'IA.

Sam Kahn : l'IA enferme les gens dans un écosystème de dépenses effrénées

L'IA est là pour de bon. Les Big Tech y sont tous attachés, et les gouvernements du monde entier ne semblent pas près de s'atteler à une réglementation digne de ce nom. En janvier, le président américain Donald Trump a révoqué le modeste décret signé par son prédécesseur Joe Biden érigeant des garde-fous. Ce décret visait à atténuer les risques que fait peser l'IA sur les utilisateurs, les emplois et la sécurité nationale, et proposait des mesures préventives.

Mais selon Sam Kahn, bien que l'IA soit là pour de bon, les gens peuvent encore choisir de ne pas l'utiliser. Dans son billet de blogue, Sam Kahn affirme que l'adoption de l'IA est semblable à l'entrée d'un utilisateur dans l'écosystème Apple, qui enferme ses clients dans un jardin clos pour leur soutirer de l'argent :

Avec le recul, je comprends pourquoi j'ai cédé à Apple il y a tant d'années. Cela aurait vraiment été un suicide social que d'essayer de me faire une place dans la classe professionnelle des années 2010 avec autre chose qu'un MacBook Pro et un iPhone. Apple était vraiment meilleur que tout le reste. Mais je regrette tout de même ce moment. Toutes mes intuitions me disaient qu'opter pour des entreprises comme Apple, Google et Facebook était un marché de dupes.

L'avantage, c'est que j'ai eu l'impression pendant quelques années de faire partie du futur en sirotant mes lattés et en flottant dans l'ère postindustrielle naissante avec mes gadgets Apple argentés et élégants. Mais j'en paie encore le prix : chaque fois que je me connecte à mon compte bancaire, c'est comme si j'enlevais les bernacles de la coque d'un navire pour me débarrasser de tous les nouveaux frais qu'Apple et Google ont concoctés.

Selon Sam Kahn, le moment est venu pour ceux qui se soucient de la créativité humaine et de l'autosuffisance de tracer une ligne dans le sable. Sam Kahn suggère notamment qu'en boycottant l'IA, l'humanité préserverait sa créativité et échapperait par la même occasion à de nombreux dangers.

Le documentariste explique dans son billet : « non, je ne parle pas d'abandonner complètement la technologie. Mais nous pouvons, par exemple, cliquer en dessous des offres d'IA de Google pour consulter des liens réels. Et nous pouvons généralement continuer à vivre notre vie à notre triste ancienne manière sans bénéficier des « assistants personnels » d'IA ou des « meilleurs amis » robots ou de tout ce que la nouvelle technologie est censée nous apporter ».

Sam Kahn : l'IA utilise notre émerveillement à son égard pour nous convaincre

L'IA générative s'appuie sur de grands modèles de langage (LLM) tels que GPT-4 d'OpenAI et Claude d'Anthropic. Ces modèles de traitement du langage naturel sont conçus pour comprendre et générer du texte en langage naturel. Mais de nombreux défis restent à relever, notamment les modèles d'IA ont tendance à reproduire les biais existant dans leurs données d'entraînement et à inventer des faits. En outre, ils ont également tendance à diffuser des infox.

Selon Sam Kahn, l'IA est essentiellement une prédiction de texte combinée à l'exploration de données. « C'est tout. C'est un super-Google qui va dans le corpus des textes et réarrange les mots en un fac-similé très agréable d'un argument convaincant. Il n'y a pas d'intelligence derrière cela, au sens où un ordinateur penserait réellement », a déclaré Sam Kahn. Le documentariste note que « la technologie se nourrit principalement de notre émerveillement ».

L'IA utilise notre émerveillement pour nous convaincre de l'existence d'un simulacre d'intelligence, alors que ce dont nous sommes réellement témoins est, en quelque sorte, notre propre excitation enfantine face à un tour d'anthropomorphisation : nous sommes heureux de voir une calculatrice imiter quelque chose de nos processus mentaux. Nous avons malheureusement tendance à accorder à l'IA une sorte de déférence épistémologique, à croire que ce mélange de données représente une sorte d'autorité.

Dans son billet de blogue, Sam Kahn dénonce également le battage médiatique autour de la technologie. Selon Sam Kahn, les promoteurs actuels de l'IA sont les mêmes que ceux qui ont passé les années 2010 à promouvoir le Web 2.0 comme une nouvelle vision de la liberté et de la connectivité mondiale, tout en détruisant les médias traditionnels et en collectant autant de données privées qu'ils le pouvaient pour les vendre allègrement aux annonceurs.

« En 2020, le discours sur la liberté avait disparu et la « lutte contre la désinformation » (lire : censurer les opinions divergentes) était de mise. Cette histoire récente soulève une question importante : pourquoi devrions-nous encore faire confiance à ces gens ? », a écrit le documentariste. Selon Sam Kahn, l'IA accélère le déclin des compétences générales, nuit à l'esprit critique et son adoption à grande échelle ne fera qu'aggraver la situation.

Analyse critique du point de vue de Sam Kahn

Sam Kahn appelle à boycotter les produits d'IA : « pour être honnête, je ne savais pas que j'avais besoin d'un assistant personnel avant que le PDG de Google n'annonce « un Google personnel, rien que pour vous ». Je me sens parfaitement capable d'acheter mes propres billets d'avion et de réserver mes tables au restaurant ». Mais bien que beaucoup jugent son analyste pertinente, ils estiment que l'IA, en tant qu'outil, peut être très utile à l'humanité.

Malgré les craintes de voir l'IA accaparer les emplois humains, de nombreux experts soulignent que « l'IA est un outil qui peut être utilisé pour améliorer et augmenter les capacités humaines », plutôt que de les remplacer. L'IA peut effectuer des tâches répétitives et banales de manière plus efficace et plus précise que les humains, ce qui permet aux employés de se concentrer sur des tâches complexes et créatives qui requièrent l'expertise de l'homme.

L'IA peut également aider les entreprises à analyser les données et à identifier des modèles et des tendances que les humains ne pourraient pas voir. Selon les experts, en intégrant l'IA à leurs pratiques commerciales, les entreprises peuvent améliorer leur efficacité et réduire leurs coûts. L'IA peut automatiser les tâches de routine, telles que la saisie et l'analyse des données, ce qui permet aux employés de se concentrer sur des tâches plus importantes.

Cela peut conduire à une main-d'œuvre plus productive et plus efficace, ce qui peut en fin de compte améliorer le résultat net des entreprises. L'IA peut également être utilisée pour améliorer l'expérience client. Par exemple, les chatbots d'IA peuvent être utilisés pour fournir un service et une assistance à la clientèle 24/7, en répondant aux questions courantes et en résolvant les problèmes. Toutefois, de nombreuses expériences ont donné des résultats mitigés.

En outre, l'IA peut être utilisée pour personnaliser l'expérience client, en analysant les données et en adaptant les publicités et les recommandations de produits à chaque client. En conclusion, l'adoption de l'IA peut améliorer et augmenter les capacités des humains, plutôt que de les remplacer.

L'IA peut améliorer l'efficacité, l'expérience client et fournir des informations précieuses qui peuvent aider les entreprises à prendre de meilleures décisions. En améliorant les compétences de leurs employés et en adoptant l'IA en tant qu'outil, les entreprises peuvent se positionner pour réussir dans un paysage numérique en évolution rapide. Toutefois, le débat se poursuit sur les conséquences potentielles de l'utilisation de l'IA sur l'esprit critique.

Source : Sam Kahn

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des mises en garde de Sam Kahn sur l'utilisation de l'IA ?
Sam Kahn appelle à boycotter les produits et les applications d'IA. Qu'en pensez-vous ?
Les experts soulignent que l'IA, en tant qu'outil, peut être utile à l'humanité. Qu'en pensez-vous ?
Selon vous, comment l'humanité peut-elle tirer parti de l'IA tout en évitant une dépendance à la technologie ?

Voir aussi

Bill Gates : « d'ici 10 ans, l'IA remplacera de nombreux médecins et enseignants. Les humains ne seront plus nécessaires pour la plupart des choses », mais cette vision est largement controversée

L'IA à la conquête du monde : ChatGPT, succès précoce mais limité par un manque d'utilité concrète et les défis des LLM au quotidien, une analyse de Benedict Evans

Conséquences néfastes de l'IA : cette technologie pourrait-elle entraîner un déclin de notre intelligence ? Le chercheur Umberto Domínguez de l'université de Monterrey exprime ses craintes

[jnspunk]

Ça tombe bien vu qu'il n'y a pas d'IA, il va boycotter quelque chose qui n'existe pas

Plus sérieusement, le problème avec son boycott des Transformers (injustement qualifiés d'IA par la presse), c'est qu'il se coupe d'un outil puissant. Pendant ce temps, ses concurrents continueront de progresser et finiront par le bouffer.

[calvaire]

des Bisounours ont dit la même chose avec la poudre noir, c'est trop dangereux faut pas l'utiliser, puis pareil avec la bombe atomique, puis...
les voisins ne s'en sont pas privé et c'est ainsi que les bisounours sont mort.

L'histoire a toujours été une lutte technologique, ont l'oublie souvent mais les romains ont stagné technologiquement, les barbares sont arrivés avec des technologies bien supérieurs, dans les armes, l'agricultures...etc.

L’Europe à longtemps été supérieurs, et a pu dominer le monde. Mais depuis 40ans ils deviennent des bisounours. A ne pas vouloirs rejeter du co2, a réglementer l'ia avant même d'avoir la moindre entreprise capable d'en faire 1... Les autres puissances et salariés vont bouffer ceux qui boycotte l'ia.

L'urgence et au contraire, d'avoir une ia supérieur aux autres. C'est rien de moins qu'une question de survie économique sur le long terme.