Discussion :

[Patrick Ruiz]

L'IA : une menace pour les postes des développeurs informatique humains dans les années à venir ?
C’est ce que suggère la page deathbyai.com qui liste en sus d’autres métiers comme la médecine

Le site deathbyai.com, à la manière de gcemetery.co – connu comme le cimetière des projets de Google, dresse une liste de métiers menacés par la montée en puissance de l’intelligence artificielle et le métier de programmeur informatique en fait partie. Pure spéculation ? Le fait est que les grandes enseignes technologiques semblent s’être lancées dans une révolution de la filière du génie logiciel. Microsoft a fait le premier pas avec GitHub et Copilot, son intelligence artificielle de suggestion de blocs de code. Google veut semble-t-il aller encore plus loin avec un projet secret qui cherche à créer un code capable de s'écrire, de se corriger et de se mettre à jour tout seul. L'initiative s'appuie sur les avancées en matière d'intelligence artificielle. Elle ravive le débat sur la possible disparition d'informaticiens humains à l'avenir.

L'initiative de Google baptisée AI Developer Assistance fait partie des paris de Google dans le domaine de l'intelligence artificielle générative. Les détails du fonctionnement de cet outil à but révolutionnaire restent un mystère. Cependant, certains qui ont été mis en lumière dressent un tableau très intéressant de ce que l'on peut attendre de ce projet. Pitchfork, ou AI Developer Assistance, est en soi un outil qui utilise l'apprentissage automatique pour apprendre au code à s'écrire et se réécrire lui-même.

Comment ? En apprenant des styles correspondant à des langages de programmation, et en appliquant ces connaissances pour écrire de nouvelles lignes de code. L’intention initiale derrière ce projet était de de créer une plateforme capable de mettre automatiquement à jour la base de code Python chaque fois qu'une nouvelle version était publiée, sans nécessiter l'intervention ou l'embauche d'un grand nombre d'ingénieurs.

Cependant, le potentiel du programme s'est avéré beaucoup plus important que prévu. Désormais, l'intention est de donner vie à un système polyvalent capable de maintenir un standard de qualité dans le code, mais sans dépendre de l'intervention humaine dans les tâches de développement et de mise à jour.

Les responsables de Google doivent résoudre plusieurs problèmes avant de le montrer au public. Au-delà des aspects techniques qu’il reste encore à couvrir, le plan juridique et le plan éthique ne seront pas en reste. En effet, la firme californienne a été au centre de la scène à mi-parcours de l’année dans l'affaire de l'ingénieur licencié pour avoir déclaré que LaMDA, son modèle d'intelligence artificielle pour les conversations en langage naturel, avait montré des signes de sensibilité similaires à ceux d’un humain.

L’initiative Pitchfork ravive le débat sur la future disparition des développeurs. En effet, lorsqu’on parle d’intelligence artificielle, deux grands courants de pensée s’affrontent : celui des tiers qui pensent qu’il s’agit d’un outil, ce, sans plus et celui des intervenants et observateurs qui sont d’avis que ce n’est qu’une question de temps avant qu’elle ne devienne une menace pour la race humaine. Les retours sur le débat s’accumulent et certains laissent filtrer que l’intelligence artificielle générale pourrait nous tomber dessus dans 5 à 10 ans.

Les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale, elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. » Des intiatives comme Pitchfork se trouveraient alors en pôle position pour provoquer une mise au garage des informaticiens humains.

En attendant d’y être, l’intelligence artificielle actuelle fait montre de limites importantes. Bien qu’on s’appuie déjà sur celle-ci pour diagnostiquer des maladies, effectuer des traductions ou encore transcrire des paroles, le fait est qu’elle continue à faire montre de tares qui indiquent que la mise au rebut des programmeurs humains n’est pas pour demain. GitHub Copilot par exemple est critiqué par la communauté du logiciel open source pour sa reproduction aveugle des blocs de code. De facon plus précise, cette intelligence artificielle produit du code en s’appuyant sur du contenu protégé par le droit d’auteur.

Des informaticiens de l'Université de Stanford ont découvert que les développeurs qui acceptent l'aide d'outils d'IA comme Github Copilot produisent un code moins sécurisé que ceux qui ne les utilisent pas. Dans un article intitulé « Les utilisateurs écrivent-ils plus de code non sécurisé avec des assistants IA ? », les experts de Stanford Neil Perry, Megha Srivastava, Deepak Kumar et Dan Boneh répondent à cette question par l'affirmative. Pire encore, ils ont constaté que l'aide de l'IA avait tendance à tromper les développeurs sur la qualité de leur production.

Source : deathbyai.com

Et vous ?

Les développements en cours dans la filière du génie logiciel donnent-ils lieu à des inquiétudes légitimes quant à l’avenir des informaticiens humains dans la filière ?
Que vous suggère la possibilité que la recherche aboutisse à l’intelligence artificielle générale dans 5 à 10 ans ?
Comment voyez-vous l'intelligence artificielle dans 5 à 10 ans ? Comme un outil ou comme un danger pour votre poste de développeur ?

Voir aussi :

La conduite autonome serait-elle à ce jour qu'une vision futuriste chez Tesla Motors ? L'entreprise vient de changer les objectifs de son Autopilot
La SEC demande à Musk de renoncer à son poste de président de Tesla et exige une amende de 40 millions $ US pour un règlement à l'amiable
Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production et fera ses preuves ce mois-ci
Les actions Tesla chutent après que son système d'autopilote soit impliqué dans un accident et l'annonce des batteries de ses véhicules prenant feu

[totolehero777]

Est-ce que le métier de développeur va disparaitre avec l'évolution des IA ?

Il est possible que l'évolution de l'IA puisse rendre certains aspects du travail de développeur obsolètes ou moins fréquents à l'avenir. Cependant, il est peu probable que le métier de développeur disparaisse complètement. Les IA ont besoin d'être conçues, programmées et maintenues par des développeurs et d'autres professionnels de l'informatique. De plus, les IA ne peuvent pas encore remplacer complètement l'ingéniosité et la créativité humaines dans la résolution de problèmes complexes et dans la création de nouvelles applications. Il est donc probable que le métier de développeur restera un domaine important et en demande dans les années à venir, même si les tâches et les compétences requises peuvent évoluer au fil du temps.



J'ai un peu testé ChatGPT, si on lui demande de coder qq chose puis de modifier son code pour changer le comportement ça finit souvent par faire des bugs. N'empêche ce qu'il fait est souvent pas mal mais je le verrais plus comme un compagnon / prof qui a réponse à tout (avec quand même souvent des petites erreurs quand ça devient trop précis)

[smarties]

Pour la médecine, j’avais vu un reportage qui utilisait du machine learning pour :
- mettre en évidences les possibles problèmes sur l'imagerie médicale
- aider à proposer des traitements à partir de nombreux critères (sur la personne et la maladie)

Pour le développement, j'utilise Tab9 en version gratuite sur Python et RUST qui me mâche une partie de la saisie mais je corrige souvent derrière.

Je pense que l'IA restera longtemps un assistant qui fera gagner du temps mais vu qu'elle n'est pas infaillible, les humains seront toujours présents pour superviser.

[Cpt Anderson]

Si c'est comme les véhicules autonomes, je dors sur mes deux oreilles !

[marsupial]

Lors de mon passage chez Thales, j'ai contribué à créer une intelligence artificielle gourmande en ressources (un supercalculateur), mais ultra précise et sans biais pour détecter les cyberattaques. Nous lui avons soumis les caractéristiques de divers langages de programmation (Java, C, Python, etc... ) et elle nous a retourné des milliers de nouveaux algorithmes à chaque fois. Donc, une IA bien conçue peut créer. Mais il s'agit d'une technologie sortant des sentiers battus comme le machine learning tel qu'on le connaît.

Cette IA a aussi travailler sous une grappe de 16 Sequana pendant 2 heures à plein régime sur les formules scientifiques pour générer des centaines de milliers de nouvelles formules soumises à Google Brain qui s'est chargé de les coder et de les diffuser dans toutes les universités du monde entier donnant droit à des félicitations de chercheurs trouvant l'aboutissement de leurs recherches dans les découvertes de la machine. Elle a aussi découvert des dizaines de milliers de nouveaux matériaux.

[Anselme45]

Lors de mon passage chez Thales, j'ai contribué à créer une intelligence artificielle gourmande en ressources (un supercalculateur), mais ultra précise et sans biais pour détecter les cyberattaques. Nous lui avons soumis les caractéristiques de divers langages de programmation (Java, C, Python, etc... ) et elle nous a retourné des milliers de nouveaux algorithmes à chaque fois. Donc, une IA bien conçue peut créer. Mais il s'agit d'une technologie sortant des sentiers battus comme le machine learning tel qu'on le connaît.

Cette IA a aussi travailler sous une grappe de 16 Sequana pendant 2 heures à plein régime sur les formules scientifiques pour générer des centaines de milliers de nouvelles formules soumises à Google Brain qui s'est chargé de les coder et de les diffuser dans toutes les universités du monde entier donnant droit à des félicitations de chercheurs trouvant l'aboutissement de leurs recherches dans les découvertes de la machine. Elle a aussi découvert des dizaines de milliers de nouveaux matériaux.

On a donc une IA qui pond des formules à la chaîne en étant incapable de savoir à quoi elle pourrait bien servir et il faut ensuite des "imbéciles" d'humains pour dire "cette formule là au milieu des 10 000 que vous nous avez proposé pourrait avoir une application intéressante"...

J'en conclue que l'IA peut trouver les bons numéros pour gagner le gros-lot de la loterie en proposant la totalité des cas possibles... C'est ça???

[dev_ggy]

Bonjour Patrick,

Je suis en cours de test pour Copilot que je recommande vivement dans le cadre qui est le mien la Data.

Comme tu dois le savoir si Copilot est basé sur GPT-3 qui est très puissant, il suffit de dialoguer avec ChatGPT pour s'en rendre compte.

Copilot fonctionne à partir de vos commentaires, ce qui oblige déjà les développeurs à commenter et documenter correctement, ce qui est un défi en soit pour des Geeks.

La rapidité de développement se trouve grandement améliorée, si les commentaires sont bons, et il est capable d'anticiper des problèmes classiques auxquels on ne pense pas toujours.

Il réduit très fortement la courbe d'apprentissage pour un langage et c'est un outil qui concurrence le Low Code directement.

Il permet d'avoir un meilleur code, tout en permettant de se concentrer de façon plus accrue sur la partie fonctionnelle

C'est un très bon outil pour les débutants qui leur apprend le commentaire et les aides dans un langage qu'ils ne maîtrisent pas.

On peut demander à Copilot de faire un Plan des opérations nécessaires pour arriver à son but de la même façon qu'on écrit beaucoup plus vite un article généraliste avec ChatGPT.

Je recommande son utilisation ainsi que sa diffusion, ou tout produit équivalent.

[Patrick Ruiz]

« Ecrire des programmes à la main sera dépassé à l’avenir », selon le CEO de la startup IA Fixie.ai
Qui voit les programmeurs humains céder la place à des intelligences artificielles adaptatives

L’intelligence artificielle menace-t-elle les postes de développeurs informatiques humains dans les années à venir ? Le chatbot ChatGPT d’OpenAI a par exemple réussi l’édition 2022 de l’examen d’informatique pour élèves du secondaire désireux d’obtenir des crédits universitaires US. C’est un accomplissement parmi d’autres à mettre sur le compte de l’intelligence artificielle qui ravive le débat sur la disparition du métier de développeur. Et ce n’est qu’un début pour Matt Welsh – CEO et cofondateur de la startup IA Fixie.ai. « ChatGPT et autres GitHub Copilot donnent juste un aperçu introductif de ce que la filière informatique sera dans l’avenir », déclare-t-il.

« Les assistants de programmation tels que CoPilot ne font qu'effleurer la surface de ce que je décris. Il me semble tout à fait évident qu'à l'avenir, tous les programmes seront écrits par des intelligences artificielles, les humains étant relégués, au mieux, à un rôle de supervision. Quiconque doute de cette prédiction n'a qu'à regarder les progrès très rapides réalisés dans d'autres aspects de la génération de contenu par l'intelligence artificielle, comme la génération d'images. La différence de qualité et de complexité entre DALL-E v1 et DALL-E v2 - annoncée seulement 15 mois plus tard - est stupéfiante. Si j'ai appris quelque chose au cours de ces dernières années à travailler dans le domaine de l'IA, c'est qu'il est très facile de sous-estimer la puissance de modèles d'IA de plus en plus grands. Des choses qui semblaient relever de la science-fiction il y a seulement quelques mois deviennent rapidement réalité.

Je ne parle pas seulement du fait que CoPilot de Github de remplacer les programmeurs. Je parle de remplacer le concept même d'écriture de programmes par des agents d’intelligence artificielle dédiés. À l'avenir, les étudiants en informatique n'auront pas besoin d'apprendre des compétences aussi banales que l'ajout d'un nœud à un arbre binaire ou le codage en C++. Ce type d'enseignement sera dépassé, comme celui qui consiste à apprendre aux étudiants en ingénierie à utiliser une règle à calcul », prédit-il en prélude à la tenue de la prochaine réunion de l’Association for Computing Machinery en janvier.

Lorsqu’on parle d’intelligence artificielle, deux grands courants de pensée s’affrontent : celui des tiers qui pensent qu’il s’agit d’un outil, ce, sans plus et celui des intervenants et observateurs qui sont d’avis que ce n’est qu’une question de temps avant qu’elle ne devienne une menace pour la race humaine. Matt Welsh fait partie du deuxième groupe auquel les critiques du second fixent une limite : l’atteinte par les équipes de recherches d’une intelligence artificielle de niveau humain. En effet, le plus grand débat tourne autour de la possibilité de voir les machines rendues à ce stade où elles sont dotées de « bon sens », capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. »

Google par exemple est lancé en secret sur le développement de Pitchfork, ou AI Developer Assistance. C’est un outil qui utilise l'apprentissage automatique pour apprendre au code à s'écrire et se réécrire lui-même. Comment ? En apprenant des styles correspondant à des langages de programmation, et en appliquant ces connaissances pour écrire de nouvelles lignes de code.

L’intention initiale derrière ce projet était de créer une plateforme capable de mettre automatiquement à jour la base de code Python chaque fois qu'une nouvelle version était publiée, sans nécessiter l'intervention ou l'embauche d'un grand nombre d'ingénieurs. Cependant, le potentiel du programme s'est avéré beaucoup plus important que prévu. Désormais, l'intention est de donner vie à un système polyvalent capable de maintenir un standard de qualité dans le code, mais sans dépendre de l'intervention humaine dans les tâches de développement et de mise à jour. Un tel objectif pourrait ne plus relever de la science fiction lorsqu’on sait que des équipes de recherche en intelligence artificielle promettent déjà l’atteinte du stade d’intelligence artificielle générale dans 5 à 10 ans.

Source : cacm

Et vous ?

Les développements en cours dans la filière du génie logiciel donnent-ils lieu à des inquiétudes légitimes quant à l’avenir des informaticiens humains dans la filière ?
Que vous suggère la possibilité que la recherche aboutisse à l’intelligence artificielle générale dans 5 à 10 ans ?
Comment voyez-vous l'intelligence artificielle dans 5 à 10 ans ? Comme un outil ou comme un danger pour votre poste de développeur ?

Voir aussi :

La conduite autonome serait-elle à ce jour qu'une vision futuriste chez Tesla Motors ? L'entreprise vient de changer les objectifs de son Autopilot
La SEC demande à Musk de renoncer à son poste de président de Tesla et exige une amende de 40 millions $ US pour un règlement à l'amiable
Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production et fera ses preuves ce mois-ci
Les actions Tesla chutent après que son système d'autopilote soit impliqué dans un accident et l'annonce des batteries de ses véhicules prenant feu

[smarties]

Écrire un programme sans assistant (Copilot, Tab9, ...) deviendra probablement marginal.

En revanche, pour l'apprentissage scolaire / débuter un nouveau langage, il est important de s'en passer au début pour bien comprendre.

[Ehnix]

Je ne suis pas un expert en I.A. ni en philosophie mais si les modèles d'apprentissage s'appuient sur d'énormes quantités de données d'origine humaine (via internet la plupart du temps), le jour où ces sources se tarissent, les facultés d'invention et d'adaptation, selon les contextes environnementales et temporelles, seront-elles assurées?

[grunk]

Ce qui va très certainement se passer c'est qu'effectivement toute les taches sans grand intérêt et redondantes vont certainement finir par être réalisée par des IA.
Mais ce que semble oublier notre cher CEO c'est que les IA ne savent répondre qu'aux choses qu'elles ont apprise (le dataset). Et c'est quand même pas rare d'écrire du code métier très spécifique et c'est généralement la partie de notre métier qui est intéressante.

En gros ca va faire comme dans l'automobile , toutes les taches simples et répétitves ont été remplacée par des robots , mais il reste encore des ouvriers qualifiés quand c'est nécessaire.

Perso là où j'attends beaucoup de l'IA c'est sur la QA. Je pense qu'il y'a des choses intéressantes à faire , avec des des scénarios de tests auto générés et évolutifs en fonction des données utilisateurs récoltée en production.

[dev_ggy]

De Bonjour à tous,

L'intelligence artificielle ne peut pas tout même, si elle peut beaucoup nous simplifier beaucoup de choses, dans les propos tenus aux États-Unis et qui sont repris dans votre post, il y a beaucoup de désinformation.

Le cerveau humain a les capacités auxquels les intelligences artificielles n'ont pas accès. Elles n'ont pas la capacité de définir une décision stratégique, de faire des choix pour l'ensemble de la population, définir une politique générale comme d'entreprise. Il sera donc toujours nécessaire, sans que cela sera vrai, de développer des cahiers des charges, des spécifications ceci par des ingénieurs suffisamment qualifiés, même s'il est possible à travers l'intelligence artificielle de faciliter tout ce travail en accélérant.

S'il est possible d'avoir des intelligences artificielles pour le développeur, et qu'il n'y aura plus besoin d'écrire une ligne de code, c'est tout à fait possible et nous en sommes assez proches. Des outils d'aide au développement basé sur GPT3 le permettent, avec des gain sans forcément être exhaustifs :

• Pour les jeunes développeurs dans la courbe d'apprentissage.
• En qualité de code lié au commentaire et au travail nécessaire à faire dessus pour avoir les bonnes réponses de la part de GPT3.
• En rapidité développement surtout pour les juniors.
• La capacité de synthétiser et de résumer un document pour en faire une synthèse.

De façon résumé (par GPT-3)

En conclusion, l'intelligence artificielle ne peut pas tout, et il sera toujours nécessaire d'avoir un développeur pour les spécifications techniques et pour régler les problèmes liés à ces spécifications.

Ainsi, l'intelligence artificielle est une technologie très intéressante qui peut nous aider à accélérer le travail des développeurs, mais elle ne remplacera jamais complètement le travail des développeurs. Elle ne peut pas tout faire et leur expertise restera toujours nécessaire.

Merci de m'avoir lu !

[Anordem]

Pour remplacer les développeurs par des IA, il faudrait que les décideurs sachent ce qu'ils veulent et sachent l'exprimer. On oublie trop souvent que le métier de développeur, c'est avant tout comprendre et traduire un besoin. En d'autres termes, c'est l'interface entre l'utilisateur et l'ordinateur. Ecrire du code est anecdotique.

Un développeur n'est pas un dactylographe et il serait temps que les éditeurs d'IDE s'en rendent compte. Notre principal outil aujourd'hui est un éditeur de texte, ce qui est absurde puisque notre métier est de résoudre des problèmes en automatisant des solutions, pas d'écrire du texte. Donc si on propose des solutions qui nous permettent de limiter les tâches fastidieuses pour nous concentrer sur notre métier, je suis preneur. Ah mais, c'est pas justement ça notre métier ?

Donc à mon avis, on aura toujours besoin de développeurs, à moins que l'IA ne sache interpréter les besoins des utilisateurs. Ce qu'il nous manque, ce ne sont pas des nouveaux langages, mais des nouveaux outils.

[noremorse]

D'ici là, je serai à la retraite.....ou pas

[lkris]

hé hé, générer du code automatiquement c'est très bien. mais quand ça ne fonctionne pas comme on veut, qu'il faut déboger, modifier, etc... c'est l'AI qui le fait aussi ? parce que déboger du code généré par une machine c'est généralement un réel plaisir hein ?
et comme j'ai lu dans un commentaire précédent très pertinent, qui va indiquer à l'AI les règles métier qu'elle doit produire ??? car bien souvent le problème de l'utilisateur est qu'il est incapable d'exprimer son besoin correctement et de façon généraliste. c'est pour ça que les métiers du développement informatique ne se limitent pas à cracher du code mais peut être aussi à aider l'utilisateur à formaliser son besoin ?
Et je ne parle même pas des problèmes purement techniques, du style interfaces inter systèmes... imaginez: gentille AI est-ce que tu peux dialoguer avec l'API REST de untel qui me calcule un devis à partir de tel et tel critère que je vais t'énumérer et avec lesquels tu dois fabriquer un joli HTTP/POST qui va te renvoyer une superbe réponse pour laquelle, s'il n'y a pas un HTTP error que tu dois traiter le cas échéant, tu vas fabriquer un devis tout neuf dans mon système. hé hé ! Rendez-vous dans n années quand tous les systèmes seront AI powered et que le AIs dialogueront entre elles, en toute intimité, pendant que nous, on sirotera un bon café en attendant que le travaille se fasse ah j'adore les romans d'anticipation !

[marsupial]

On a donc une IA qui pond des formules à la chaîne en étant incapable de savoir à quoi elle pourrait bien servir et il faut ensuite des "imbéciles" d'humains pour dire "cette formule là au milieu des 10 000 que vous nous avez proposé pourrait avoir une application intéressante"...

J'en conclue que l'IA peut trouver les bons numéros pour gagner le gros-lot de la loterie en proposant la totalité des cas possibles... C'est ça???

Non ce n'est pas ça.
Elles sont triées par domaine scientifique et commentées brièvement. Ensuite elles sont codées par des humains. Le tout diffusé à toutes les universités, Universités qui disposent de chercheurs qui ont trouvé leur bonheur - comprendre ce qu'ils cherchaient depuis parfois des années sans trouver.
En l'état actuel de nos connaissances, désolé, mais il n'existe pas de loi unifiant la physique : le gros lot. Toujours est-il que cette base de connaissance sera utile dans le futur et que le peu de savoir que nous avions avant cette IA, qui date de 2016, était ridiculement faible par rapport au nombre de lois qui régissent notre Univers.
Il s'agit d'une exponentielle de recherche qui a bouclé en itérations par renforcement pendant 2 heures. Je ne dis pas que tout a été découvert, mais cela a permis de faire un bond en avant phénoménal.
Pour dire l'effet réalisé de ces découvertes sur un être humain : j'ai rigolé de bonheur. Mon ami chez Thales en a eu la mâchoire qui tombait de stupéfaction : il n'a pas pu parler de manière intelligible pendant une demi-heure. Et chez Google Brain, ils sont devenus littéralement tout fou comme les chiens qui accueillent leur maître de retour à la maison.

[shenron666]

« Ecrire des programmes à la main sera dépassé à l’avenir », selon le CEO de la startup IA Fixie.ai

première réflexion : c'est quoi/quand "à l'avenir" ?
plus sérieusement je pense que le futur c'est maintenant, quand je vois la quantité de code que je passe en revue en me disant que c'est codé avec le cul ou avec les pieds, il y en a qui ont déjà anticipé l'avenir
et si l'IA apprend de ces gens là, je ne m'inquiète pas pour mon métier

[commandantFred]

Remplacer les développeurs était déjà un thème majeur dans les années 80
Bien sûr, on n'a plus besoin de développeurs pour éditer un rapport ou produire un graphique, les temps ont changé, pourtant la production de code reste un enjeu majeur

Je ne doute pas que le machine learning "morde" légèrement sur notre activité de dev.

Mais la probabilité de remplacer l'humain à ce poste me semble nulle dans un avenir prévisible. En revanche, je suis certain que les éditeurs vont continuer à prétendre le contraire avec plus ou moins de bonne foi. Ca reste un argument de vente (assez justifié par ailleurs), pas une méthode de réalisation.

[Bill Fassinou]

Un professeur surprend un étudiant en train de tricher avec le chatbot d'IA ChatGPT : « je suis terrorisé »
il estime que ces outils pourraient aggraver la tricherie dans l'enseignement supérieur

Un professeur de l'université de Caroline du Sud tire la sonnette d'alarme après avoir découvert que l'un de ses étudiants a utilisé ChatGPT, le nouveau chatbot d'IA du laboratoire OpenAI, pour rédiger sa dissertation. Le professeur estime que cette IA, vielle de quelques semaines à peine et facilement accessible au public, porte un nouveau coup à l'enseignement supérieur, déjà en proie à une tricherie endémique. Dans un message partagé sur sa page Facebook, il a souligné qu'il n'était pas le seul professeur dont les étudiants ont commencé par utiliser ce type de logiciel d'IA pour rédiger leurs dissertations.

En lançant ChatGPT au début du mois, OpenAI n'a sans doute pas pensé à la façon dont son modèle d'IA pourrait être détourné ou à la façon dont il pourrait impacter le monde. ChatGPT a tout de suite attiré l'attention de tous et serait même parvenu à s'introduire dans des endroits auxquels beaucoup ne s'y attendaient pas. À en croire des témoignages de professeurs d'université, les étudiants confient à ChatGPT la résolution de leurs devoirs de maison, notamment en dissertation. « Le monde universitaire n'a rien vu venir. Nous sommes donc pris au dépourvu », explique Darren Hudson Hick, professeur adjoint de philosophie à l'université Furman.

« Je l'ai signalé sur Facebook, et mes amis [professeurs] ont dit : "ouais ! J'en ai attrapé un aussi" », a-t-il ajouté. Au début du mois, Hick aurait demandé à sa classe d'écrire un essai de 500 mots sur le philosophe écossais du 18e siècle David Hume et le paradoxe de l'horreur, qui examine comment les gens peuvent tirer du plaisir de quelque chose qu'ils craignent, pour un test à la maison. Mais selon le professeur de philosophie, l'une des dissertations qui lui sont parvenus présentait quelques caractéristiques qui ont "signalé" l'utilisation de l'IA dans la réponse "rudimentaire" de l'étudiant. Hick explique que cela peut être détecté par un œil avisé.

« C'est un style propre. Mais il est reconnaissable. Je dirais qu'il écrit comme un élève de terminale très intelligent », a expliqué Hick à propos des réponses apportées par ChatGPT aux questions. « Il y avait une formulation particulière qui n'était pas fausse, mais juste étrange. Si vous deviez enseigner à quelqu'un comment écrire des essais, c'est ce que vous lui diriez avant qu'il crée son style », a-t-il ajouté. Malgré sa connaissance de l'éthique du droit d'auteur, Hick a déclaré qu'il était presque impossible de prouver que le document avait été concocté par ChatGPT. Le professeur affirme avoir fait appel à un logiciel de vérification de plagiat.

Tout d'abord, il a introduit le texte suspect dans un logiciel conçu par les producteurs de ChatGPT pour déterminer si la réponse écrite avait été formulée par l'IA. Il a obtenu une correspondance probable à 99,9 %. Mais contrairement à un logiciel standard de détection du plagiat - ou à un devoir universitaire bien rédigé - le logiciel ne proposait aucune citation. Hick a ensuite essayé de produire le même essai en posant à ChatGPT une série de questions qu'il imaginait avoir été posées par son étudiant. Le professeur affirme avoir obtenu des réponses similaires, mais aucune correspondance directe, car l'outil formule des réponses uniques.

Finalement, Hick a confronté l'étudiant, qui a avoué avoir utilisé ChatGPT et a échoué au cours en conséquence. L'étudiant a également été remis au doyen de l'école. Mais Hick craint que d'autres cas soient presque impossibles à prouver et que lui et ses collègues soient bientôt inondés de travaux frauduleux. Des universités comme Furman chercheraient à établir des protocoles académiques formels pour cette technologie en développement. Pour l'instant, Hick dit que le mieux qu'il peut faire est de surprendre les étudiants suspects avec des examens oraux impromptus, en espérant les prendre au dépourvu sans leur armure technologique.

« Si quelqu'un tape une invite dans ChatGPT et la soumet directement pour un devoir, ce ne sera probablement pas trop difficile à attraper. Du moins pour l'instant. La partie la plus délicate sera d'attraper les étudiants suffisamment avisés pour obtenir la rédaction de l'IA, puis la réécrire dans leur propre style et corriger les erreurs. Cela conduira probablement à devoir écrire des dissertations en personne en classe, ou à avoir des exigences clés qu'ils savent que l'IA ne peut pas faire », analyse un critique. Selon lui, les années à venir risquent d'être critiques pour le monde de l'enseignement si les autorités ne font pas face à cette menace de l'IA.

ChatGPT est l’un des phénomènes Internet de l’heure tant les internautes s’émerveillent de ses "aptitudes". Certains le qualifient même de remplaçant de Google étant donné qu’il est capable de donner de façon directe des solutions à des problèmes complexes. Par exemple, ChatGPT a réussi l’édition 2022 de l’examen d’informatique pour élèves du secondaire désireux d’obtenir des crédits universitaires aux États-Unis. Le chatbot ravive ainsi les débats sur la possible disparition du métier de développeur en raison de la montée en puissance de l’IA. Se sentant en danger, Google a lancé une alerte rouge à ses équipes pour développer un concurrent à ChatGPT.

Par ailleurs, ce n'est pas la première fois qu'un modèle d'IA d'OpenAI est utilisé pour tenter de tromper la vigilance des gens, parfois même des personnes les plus avisées. En août 2020, un faux billet de blogue généré par GPT-3, une autre IA de traitement du langage naturel (NLP) d'OpenAI, a trompé des dizaines de milliers de personnes, car il était étonnamment bien écrit pour automate. Le billet de blogue, publié par Liam Porr, étudiant à l’université de Californie à Berkeley, s'est même hissé parmi les sujets les mieux classés sur le site communautaire Hacker News. Porr a déclaré qu'il voulait prouver que GPT-3 pouvait tromper les gens.

Le premier billet de Porr (celui qui a été publié sur Hacker News), et tous les billets suivants, ont été copiés-collés à partir de l'une des versions, avec peu ou pas de modifications. Selon lui, c’est facile de travailler avec GPT-3 et cela nécessite peu de temps. « C'était super facile en fait. « Depuis le moment où j'ai eu l'idée et où j'ai pris contact avec le doctorant jusqu'à la création du blog et le premier blog devenu viral, il m'a fallu quelques heures », », a-t-il déclaré. Notons qu’en février 2019, OpenAI a fait la une des journaux avec GPT-2, une version antérieure de l'algorithme, qu'il a annoncé qu'il retiendrait par crainte d'abus.

Le laboratoire a toutefois fini par publier le modèle en novembre 2019. Cela dit, compte tenu des potentialités de GPT-3, OpenAI a décidé de procéder autrement. Il a décidé de donner accès à l'API de GPT-3 aux chercheurs dans une version bêta privée, plutôt que de le rendre disponible à tout le monde. Porr, qui est étudiant en informatique à l'université de Californie à Berkeley, a pu trouver un doctorant qui avait déjà accès à l'API et qui a accepté de travailler avec lui sur l'expérience. Poor pense que « l'écriture » de GPT-3 pourrait remplacer les producteurs de contenu, mais il espère que cela n’arrivera pas.

Les récentes prouesses dans le domaine de l'intelligence artificielle - qu'il s'agisse des modèles d'IA d'OpenAI (GPT-3, Dall-E 2, ChatGPT, Point-E, etc.) ou des modèles d'IA concurrents, tels que Stable Diffusion et Midjourney AI - ont accentué les débats sur la suppression de certains emplois au profit de l'IA, ainsi que sur les risques et les préoccupations inhérents à cette technologie. Récemment, Matt Welsh, PDG de la startup d'IA Fixie.ai, a déclaré qu'"écrire des programmes à la main devrait être dépassé dans les années à venir". Selon lui, les programmeurs humains finiront par céder la place à des intelligences artificielles adaptatives.

Avant cela, plusieurs artistes se sont révoltés contre les œuvres d'art générées par l'IA sur le site de portfolios ArtStation, appartenant au développeur de jeux vidéo Epic Games. Ils ont manifesté leur mécontentement en inondant la plateforme d'images portant le message : "non aux images générées par l'IA". En quelques jours, les images ont été téléchargées des milliers de fois et dominaient la page des tendances du site. Les utilisateurs d'ArtStation ne veulent pas qu'une plateforme qu'ils utilisent pour partager les œuvres de l'esprit soutienne des images que l'IA a générées par "le vol du travail artistique et de la créativité".

La question est donc de savoir comment tirer profit des avancées de l'IA sans supprimer des emplois ou reléguer à un rang inférieur les œuvres de l'esprit ou la créativité humaine. En attendant des approches de solution, l'IA continue de se développer à une vitesse impressionnante et les uns et les autres sont souvent surpris par les nouvelles. En outre, l'utilisation de plus en plus croissante des robots fait l'objet de débat. Beaucoup suggèrent désormais de taxer les robots pour inciter les entreprises à conserver les travailleurs, tout en compensant une partie des charges sociales perdues par une réduction des effectifs.

Source : Darren Hudson Hick

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de l'utilisation de ChatGPT par les étudiants en milieu scolaire ?
Selon vous, quels impacts ce type de logiciel pourrait avoir sur le niveau des étudiants ?
Pensez-vous aussi que ces outils pourraient aggraver la tricherie dans le milieu universitaire ?
Selon vous, comment peut-on décourager les étudiants d'avoir recours à ces logiciels lors des devoirs ?

Voir aussi

« Ecrire des programmes à la main sera dépassé à l'avenir », selon le CEO de la startup IA Fixie.ai, qui voit les programmeurs humains céder la place à des intelligences artificielles adaptatives

OpenAI lance Point-E, une IA qui génère des modèles 3D à partir d'invites textuelles, mais elle soulève des préoccupations en ce qui concerne ses données d'apprentissage

Les artistes se révoltent contre les œuvres d'art générées par l'IA sur le site de portfolios ArtStation et inondent la plateforme d'images portant le message : "non aux images générées par l'IA"

Un faux blog d'un lycéen généré par GPT-3, l'IA de traitement du langage naturel d'OpenAI, a trompé des dizaines de milliers de personnes

Faut-il taxer les robots ? Une taxe "modeste" sur les robots pourrait aider à combattre les effets de l'automatisation sur l'inégalité des revenus aux États-Unis, selon une étude du MIT

[marsupial]

Quel est votre avis sur le sujet ?

Il s'agit d'une excellente aide à l'apprentissage. Les profs, lorsqu'un élève ne comprend pas leurs explications, devraient se référer à ChatGPT pour enseigner. D'ailleurs, Open AI prévoit un ChatGPT 4 à 4 billions de noeuds pour 2023. Avec le développement d'internet, aux Etats-Unis certaines écoles font faire les devoirs en cours et l'enseignement se déroule à la maison. Avec ChatGPT, la vitesse d'acquisition de connaissances devient phénoménale. Et va certainement augmenter avec le temps qui passe : on n'arrête pas le progrès.

Que pensez-vous de l'utilisation de ChatGPT par les étudiants en milieu scolaire ?

Ils le retrouveront dans le milieu professionnel : il s'agit d'un assistant. Sans doute cela aidera-t-il un étudiant complètement largué par un cours magistral à être meilleur.

Selon vous, quels impacts ce type de logiciel pourrait avoir sur le niveau des étudiants ? Pensez-vous aussi que ces outils pourraient aggraver la tricherie dans le milieu universitaire ? Selon vous, comment peut-on décourager les étudiants d'avoir recours à ces logiciels lors des devoirs ?

Maintenant, et encore plus avec GPT 4, il s'agit du meilleur bouquin pouvant enseigner aux étudiants. Le niveau en sera relevé. Au lieu de lutter contre, tout le monde devrait s'en servir, professeurs comme étudiants.
Avec le temps et l'amélioration de l'IA, Chat GPT sera indispensable à la réussite dans les études comme dans la vie professionnelle.