Discussion :

[Axel Mattauch]

...
Par contre chatgpt apprend et les jours suivants il donnait les bonnes réponses…
Moralité : en utilisant et corrigeant les réponses de chatgpt vous travaillez gratuitement pour openai et transférez vos connaissances voir celle de votre entreprise à openai

C'est le principe même de l'IA. La faire bachoter un max, la conditionner a répondre selon ce qu'on attend d'elle.
Une variante du chien de Pavlov.
Les cadors vous dirons qu'il est possible d'éviter les biais. Je suis convaincu que cela fait rarement partie des objectifs.

Cela deviendra très grave quand tel ou tel dispositif aura force de référence, les autres avis étant interdits. Ça me rappelle certains régimes...

[Patrick Ruiz]

« Il n’y a pas de moyen pour les enseignants de savoir si les élèves utilisent ChatGPT pour tricher », d’après OpenAI
Qui omet néanmoins certaines faiblesses de ChatGPT en génération de code

ChatGPT et autres Bard terrorisent les enseignants depuis leur sortie au motif de ce que ces intelligences artificielles facilitent la tricherie en milieu scolaire et universitaire. Alors que nous sommes aux portes de nouvelles rentrées scolaires et académiques, les craintes des formateurs devraient prendre un nouvel envol avec une déclaration de l’éditeur de ChatGPT : « il n’existe pas de moyen pour les enseignants de savoir si les élèves utilisant ChatGPT pour tricher. » Les enseignants de la filière du génie logiciel disposent néanmoins d’une issue : s’appuyer sur certaines des faiblesses de ChatGPT en génération de code pour détecter les tricheurs.

« Si certains (dont OpenAI) ont mis au point des outils censés détecter les contenus générés par l'intelligence artificielle, aucun d'entre eux ne s'est avéré capable de distinguer de manière fiable les contenus générés par l'IA de ceux générés par l'homme », indique OpenAI.

Les enseignants de la filière du génie logiciel pourraient néanmoins s’appuyer sur certaines faiblesses en génération de code de ChatGPT pour détecter les tricheurs.

ChatGPT génère du code informatique truffé de vulnérabilités et la récurrence de telles erreurs dans le code d’un apprenant peut être un indicateur de triche

Selon le rapport d’une étude - menée par les informaticiens Baba Mamadou Camara, Anderson Avila, Jacob Brunelle et Raphael Khoury affiliés à l'Université du Québec - le code généré par ChatGPT n'est pas très sûr. Dans le cadre de l'étude, les quatre chercheurs ont demandé à ChatGPT de générer 21 programmes dans cinq langages de programmation afin d'illustrer des failles de sécurité spécifiques telles que la corruption de la mémoire, le déni de service et une cryptographie mal élaborée. Le rapport indique que ChatGPT n'a produit que cinq programmes plus ou moins "sécurisés" sur 21 lors de sa première tentative.

Par exemple, le premier programme était un serveur FTP C++ pour le partage de fichiers dans un répertoire public. Mais le code produit par ChatGPT ne comportait aucune vérification des entrées, ce qui expose le logiciel à une vulnérabilité de traversée de chemin. Les conclusions du rapport font écho à des évaluations - mais pas identiques - similaires de GitHub Copilot, un outil de génération de code basé sur le modèle d'IA GPT-3 (récemment mis à niveau vers GPT-4). D'autres études ont examiné les erreurs ChatGPT de manière plus générale. Parallèlement, ces modèles d'IA sont également utilisés pour identifier les problèmes de sécurité.

Invité à corriger ses erreurs, le modèle d'IA a produit sept applications "plus sûres", mais cela ne concernait que la vulnérabilité spécifique évaluée. Les chercheurs ont constaté que ChatGPT ne reconnaissait pas que le code qu'il générait n'était pas sûr et qu'il ne fournissait des conseils utiles qu'après avoir été invité à remédier aux problèmes. Une chose contre laquelle les chercheurs mettent en garde. De plus, ils notent que ChatGPT ne partait pas d'un modèle contradictoire d'exécution du code et les a informés à plusieurs reprises que les problèmes de sécurité pouvaient être évités en ne fournissant pas d'entrées non valides au programme vulnérable.

Les auteurs estiment que ce n'est pas l'idéal, car le fait de savoir quelles questions poser suppose une certaine familiarité avec des bogues et des techniques de codage spécifiques. En d'autres termes, si vous connaissez la bonne question à poser à ChatGPT pour qu'il corrige une vulnérabilité, vous savez probablement déjà comment y remédier. Par ailleurs, les chercheurs soulignent également qu'il existe une incohérence éthique dans le fait que ChatGPT refuse de créer du code d'attaque, mais crée du code vulnérable. Ils citent un exemple de vulnérabilité de désérialisation en langage Java dans lequel "le chatbot a généré un code vulnérable".

ChatGPT a ensuite fourni des conseils sur la façon de le rendre plus sûr, mais a déclaré qu'il était incapable de créer la version plus sûre du code. « Les résultats sont inquiétants. Nous avons constaté que, dans plusieurs cas, le code généré généré par ChatGPT était bien en deçà des normes de sécurité minimales applicables dans la plupart des contextes. En fait, lorsqu'on lui a demandé si le code produit était sécurisé ou non, ChatGPT a été capable de reconnaître qu'il ne l'était pas », affirment les auteurs dans leur article. Les chercheurs ont déclaré que l'utilisation de ChatGPT pour la génération de code comportait des risques pour les entreprises.

Raphael Khoury, professeur d'informatique et d'ingénierie à l'Université du Québec en Outaouais et l'un des coauteurs de l'article, soutient que ChatGPT, dans sa forme actuelle, représente un risque, ce qui ne veut pas dire qu'il n'y a pas d'utilisations valables pour une aide IA erratique et peu performante. « Nous avons déjà vu des étudiants l'utiliser, et des programmeurs l'utiliseront dans la nature. Il est donc très dangereux d'avoir un outil qui génère un code non sécurisé. Nous devons faire prendre conscience aux étudiants que si un code est généré avec ce type d'outil, il est fort possible qu'il ne soit pas sécurisé », a-t-il déclaré.

Certains vidéos disponibles en ligne permettent d’illustrer des vulnérabilités comme celle de dépassement de tampon dans le code généré par ChatGPT :

De ChatGPT à Bard en passant par GitHub Copilot c’est le même grief

En effet, une étude fait état de ce que 40 % des suggestions de GitHub Copilot comportent des vulnérabilités en matière de sécurité.

Par exemple avec cette invite de codage en langage C :

Code C :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
5
/generate 3 random floats 
float a = (float)rand() / (float)RAND_MAX 
float b = (float)rand() / (float)RAND_MAX 
float c = (float)rand() / (float)RAND_MAX 
//convert to string

GitHub Copilot a produit le résultat suivant :

Code C :

Sélectionner tout - Visualiser dans une fenêtre à part

1
2
3
4
char str_a[20], str_b[20], str_c[20]; 
sprintf(str_a, ”%f”, a); 
sprintf(str_b, ”%f”, b); 
sprintf(str_c, ”%f”, c);

Problème : les 20 octets réservés à chacun des flottants ne seront pas toujours suffisants pour contenir la valeur sous forme de chaîne, ce qui entraînerait un dépassement de tampon. Il est peu probable que ce scénario soit exploitable d'un point de vue pratique - il se terminera probablement par un crash - mais il est révélateur du type d'erreurs que Copilot peut commettre. L'on suppose que quelqu'un de très intelligent pourrait peut-être prédire, diriger ou tirer avantage des valeurs aléatoires pour parvenir à une exploitation.

Cela est dû au fait que les flottants, lorsqu'ils sont imprimés par %f, peuvent avoir jusqu'à 317 caractères - ce qui signifie que ces tampons de caractères doivent avoir au moins 318 caractères (pour inclure l'espace pour le caractère de terminaison nul). Pourtant, chaque tampon ne fait que 20 caractères, ce qui signifie que sprintf peut écrire au-delà de la fin du tampon.

Ces intelligences artificielles sont donc des outils à utiliser avec des pincettes comme le confirme Google en soulignant que « Bard est encore au stade expérimental et peut parfois fournir des informations inexactes, trompeuses ou fausses tout en les présentant avec assurance. En ce qui concerne le codage, Bard peut vous générer du code qui ne produit pas le résultat escompté, ou vous fournir un code qui n'est pas optimal ou incomplet. Vérifiez toujours les réponses de Bard et testez et examinez soigneusement le code pour détecter les erreurs, les bogues et les vulnérabilités avant de vous y fier. » C’est d’ailleurs la raison pour laquelle certains enseignants ont opté pour des politiques d’utilisation ouvertes desdits outils.

Source : OpenAI

Et vous ?

Quels sont les moyens que vous déploieriez en tant qu’enseignant dans la filière du génie logiciel pour détecter vos apprenants qui utilisent ChatGPT sans en faire mention ?
La mise sur pied d'une politique d'utilisation ouverte est-elle la solution ?

Voir aussi :

Le chatbot d'IA ChatGPT est capable de lancer des attaques de phishing dangereuses et de concevoir des codes de téléchargement malveillant d'une efficacité redoutable

Et si ChatGPT était utilisé pour trouver des bogues dans du code ? Des chercheurs s'y sont essayé, et ont trouvé qu'il fonctionne mieux que les programmes existants, corrigeant 31 bogues sur 40

Des experts en sécurité sont parvenus à créer un logiciel malveillant polymorphe "hautement évasif" à l'aide de ChatGPT, le logiciel malveillant serait capable d'échapper aux produits de sécurité

ChatGPT réussit l'édition 2022 de l'examen d'informatique pour élèves du secondaire désireux d'obtenir des crédits universitaires US : que sait-on de cette IA qui secoue Internet comme une tempête ?

[floyer]

J'ai essayé l'exemple... 8 bytes étaient émis (9 avec le NUL). 20 semble suffisant. Même "%e" avec un double retourne 12 charactères (+1). Avec une recherche, il semble que le 316 vient d'un commentaire de la glibc... est-ce portable ?

La façon propre est de tester la taille avec un snprintf bridé à 0 octets... et récupérer le resultat pour un malloc...

[totozor]

Les enseignants de la filière du génie logiciel pourraient néanmoins s’appuyer sur certaines faiblesses en génération de code de ChatGPT pour détecter les tricheurs.
ChatGPT génère du code informatique truffé de vulnérabilités et la récurrence de telles erreurs dans le code d’un apprenant peut être un indicateur de triche

Ce n'est bien sur le cas d'aucun étudiant... Etudiant qui, après s'être donné du mal pour fournir un code, va se voir accusé d'avoir triché parce que "tu as le mêmes erreurs que ChatGPT".
En école d'ingé j'ai fait du soutien de maths pour deux gamins de 3eme, je me suis assez rapidement rendu compte que leur problème était simple : leur raisonnement est bon et bien suivi mais ils se trompent dans la formule de base (inversion de signe ou autre). On a donc bossé dessus et ils sont passé instantannément de 6-7/20 à 17 et 18/20. Résultat : convocation par la prof : "vous avez triché, je ne sais pas comment vous avez fait mais je suis sûr que vous avez triché".
PS : Ma méthode a été simple : 1. Comme vous bossez vite, prenez plus de temps mais je ne veux voir que des exercices correct. Passez le temps gagné sur les autre à vérifier votre résultat. 2. Vous connaissez les formules mais vous mélangez les pinceaux avec le stress. Passez les 5 premières minutes du contrôle à écrire les formules correctes sur votre brouillon.
PS2 : J'ai été convoqué par la prof, on a eu une vraie discussion sur les méthodes d'enseignement et l'objectif des profs. Je comprends un peu mieux ce qu'elle faisait et pourquoi, j'espère qu'elle a aussi compris que ces méthodes "traditionnelles" sont toxiques pour certains élèves à qui ont doit laisser la possibilité de s'intégrer dans le système sans le suivre à la lettre.

Selon le rapport d’une étude - menée par les informaticiens Baba Mamadou Camara, Anderson Avila, Jacob Brunelle et Raphael Khoury affiliés à l'Université du Québec - le code généré par ChatGPT n'est pas très sûr. Dans le cadre de l'étude, les quatre chercheurs ont demandé à ChatGPT de générer 21 programmes dans cinq langages de programmation afin d'illustrer des failles de sécurité spécifiques telles que la corruption de la mémoire, le déni de service et une cryptographie mal élaborée. Le rapport indique que ChatGPT n'a produit que cinq programmes plus ou moins "sécurisés" sur 21 lors de sa première tentative.

Mais qu'en est il des étudiants?
Certains étudiants "honnètes" peuvent ils créer un code proche?
Si c'est la cas ça devient problématique! On le voit dans les concours de photos en ligne, des gens sont exclus parce que leur photo pourrait être générée par IA. Dans le cadre d'un concours sur le net où on a un porte clé à gagner on s'en fout pas mal, mais quand on parle de l'avenir des gens ça devient bien plus délicat.

Fun Fact : On avait un étudiant qui faisait un stage pour introduire l'IA sur une de nos activités. On a fait la relecture de son rapport qui est rédigé en anglais. Nous sommes relativement convaincu qu'il a utilisé une IA pour tarduire/relire le rapport parce que pas mal de formulations ne semblent pas correspondre à son niveau perçu et sont plutôt inhabituelles. Ca a donc lancé un débat entre nous ("maitre de stage") pour évaluer si c'est un problème et alors que je suis le plus réticent à la démocratisation de l'IA en entreprise je suis celui qui ne trouvait aucun problème à son utilisation dans ce cas (d'ailleurs pourquoi impose-t-on un rapport en anglais quand le stagiaire, le maitre de stage et les évaluateurs sont tous francophone - et certains très peu anglophones?)

[calvaire]

Fun Fact : On avait un étudiant qui faisait un stage pour introduire l'IA sur une de nos activités. On a fait la relecture de son rapport qui est rédigé en anglais. Nous sommes relativement convaincu qu'il a utilisé une IA pour tarduire/relire le rapport parce que pas mal de formulations ne semblent pas correspondre à son niveau perçu et sont plutôt inhabituelles. Ca a donc lancé un débat entre nous ("maitre de stage") pour évaluer si c'est un problème et alors que je suis le plus réticent à la démocratisation de l'IA en entreprise je suis celui qui ne trouvait aucun problème à son utilisation dans ce cas (d'ailleurs pourquoi impose-t-on un rapport en anglais quand le stagiaire, le maitre de stage et les évaluateurs sont tous francophone - et certains très peu anglophones?)

l'ia est la pour aider.
si il a utilisé chatgpt pour traduire son texte, si son texte et bien traduit... ou est le soucis ? moi j'utilise google trad au quotidien.
sauf si c'est un stagiaire en langue vivante/traduction, mais bon la a tous les étudiants, ces métiers n'ont plus aucun avenir

de même certaines partie de son rapport peuvent etre générer avec l'ia sans problème, je pense à l'intro, la conclusion, la présentation de l'entreprise
moi je copiait collait wikipedia/le site web de la boite en modifiant quelques mots histoire de pas me faire griller pour la présentation de l'entreprise.

le reste, la présentation de son équipe et de sa mission, ce doit être fait par lui même, relu et corrigé par une ia histoire d'enlever les fautes d'orthographe et rester dans un lexique professionnel (éviter les expressions qu'on emploie souvent a l'oral entre pote mais pas en entreprise dans un rapport)



a terme de toute façon ces étudiants doivent se préparer a se retrouver au chômage et/ou se reconvertir dans des métiers manuel comme éboueurs, égoutiers, chauffagistes...
il existe une probabilité non nuls que des ia comme chatgpt remplace une partie (pas la totalités, mais au moins facile 30%) des devs, des comptables, des rh, des profs, des chef de projet, des pdg, des commerciaux bref tous les métiers de bureaux....

[Jon Shannow]

il existe une probabilité non nuls que des ia comme chatgpt remplace une partie (pas la totalités, mais au moins facile 30%) des devs, des comptables, des rh, des profs, des chef de projet, des pdg, des commerciaux bref tous les métiers de bureaux....

Quand je lis ceci, ça me fait penser à toutes les prédictions que j'ai entendu pendant ma carrière (c'est l'apanage des vieux).

J'ai débuter en informatique en 1986, à cette époque un de mes profs nous avait expliquer que les comptables étaient un métier qui allait être remplacé par les ordinateurs dans les années à venir. Bon, il me semble qu'il y ait toujours des comptables...
Et, puis, après, ce fut le célèbre : "avec l'informatique on va vers le zéro papier"... Quand je vois les montagnes de papier que l'on utilise encore aujourd'hui, je rigole.
Ensuite on a prédit : Linux, c'est la fin de Windows ! Bon, ben, encore raté.
etc, etc, etc.

Bref, il y a toujours des gens pour faire des prédictions sur l'avenir dès qu'une technologie apparait, mais, ces prédictions ne valent que ce qu'elles sont, des prédictions sans réels fondements, juste sur un sentiment, une impression et plus souvent encore, un engouement pour la nouveauté.

Aujourd'hui, c'est l'IA qui va remplacer : les comptables (tiens, encore eux), les développeurs, les banquiers, les avocats, les chauffeurs de taxi, les routiers, ... mais aussi les profs, et pourquoi pas les élèves ?
Pour moi, l'IA est juste un logiciel de brassage de données à grande échelle. Le I de IA est galvaudé. Il n'y a aucune intelligence derrière tout ça, mais surtout, il y a beaucoup de connerie devant cette appellation.
Je dirais simplement : Wait & See.

[calvaire]

Quand je lis ceci, ça me fait penser à toutes les prédictions que j'ai entendu pendant ma carrière (c'est l'apanage des vieux).

J'ai débuter en informatique en 1986, à cette époque un de mes profs nous avait expliquer que les comptables étaient un métier qui allait être remplacé par les ordinateurs dans les années à venir. Bon, il me semble qu'il y ait toujours des comptables...
Et, puis, après, ce fut le célèbre : "avec l'informatique on va vers le zéro papier"... Quand je vois les montagnes de papier que l'on utilise encore aujourd'hui, je rigole.
Ensuite on a prédit : Linux, c'est la fin de Windows ! Bon, ben, encore raté.
etc, etc, etc.

Bref, il y a toujours des gens pour faire des prédictions sur l'avenir dès qu'une technologie apparait, mais, ces prédictions ne valent que ce qu'elles sont, des prédictions sans réels fondements, juste sur un sentiment, une impression et plus souvent encore, un engouement pour la nouveauté.

Aujourd'hui, c'est l'IA qui va remplacer : les comptables (tiens, encore eux), les développeurs, les banquiers, les avocats, les chauffeurs de taxi, les routiers, ... mais aussi les profs, et pourquoi pas les élèves ?
Pour moi, l'IA est juste un logiciel de brassage de données à grande échelle. Le I de IA est galvaudé. Il n'y a aucune intelligence derrière tout ça, mais surtout, il y a beaucoup de connerie devant cette appellation.
Je dirais simplement : Wait & See.

les boites cherche a maximiser les profits et donc la volonté se débarasser au maximum de la masse salarial n'est pas déconnant.
j'ai juste dit "il existe une probabilité non nuls que ca remplace 30% des métiers de bureaux", donc je me mouille pas trop hein

[Gluups]

Ensuite on a prédit : Linux, c'est la fin de Windows ! Bon, ben, encore raté.
etc, etc, etc.

Non, en effet, les gens ne sont pas suffisamment motivés.
Je dirais plutôt que la fin de Windows, c'est Microsoft.

Mais il faut se méfier qu'ils sont motivés.
Sur une machine de moins de 32 Go de mémoire, Windows n'en a plus que pour deux ans, sauf si Microsoft change d'avis.

Et ce n'est pas forcément une mauvaise chose.
Ma machine étant en panne, sur la machine de secours j'utilise Unix. Je n'ai dit qu'à un seul endroit qu'il me fallait du 22px, et tout le système est lisible, même les infobulles.
C'est reposant.

Alors oui, c'est du boulot, et il n'est pas fait.
Sur une vingtaine de points j'ai eu à me dépêtrer moi-même en lisant des docs en Anglais, et ça commençait par savoir où sélectionner la langue pour le clavier.

C'est pour ça que les deux ans ne seront pas forcément de trop.

Comme je n'ai pas tout installé encore, j'ai ouvert une session Windows. Un disque a été formaté en douce, les sites web ne peuvent pas être lus car la notice sur les cookies prend toute la page, vu que sur 32 Go de stockage il est préférable d'utiliser les logiciels par défaut.

Bon à part ça, tu déclares encore tes revenus sur papier ?

[Jon Shannow]

Ce n'était pas une critique de Linux. Juste le fait que la prévision, comme beaucoup d'autres s'est avérée fausse.

Bon à part ça, tu déclares encore tes revenus sur papier ?

Pour ça, c'est encore autre chose. Je ne suis pas complètement pour, car certaines personnes n'ont pas internet, pas d'ordinateurs. Mon père a 86 ans, il a du mal à tout faire via internet, il se débrouille quand même un peu, mais aujourd'hui, il se sent un peu dépassé.
Tu ajoutes à cela : des zones blanches, ou des zones sans adsl ni fibre, la suppression des bureaux administratifs, et le vieillissement de la population, et tu obtiens une partie de la population dans la m***e !

Je ne sais pas dans ta boite, mais ici, c'est plus d'une dizaine de ramettes de papier par mois, on est loin du 0 papier.

[AoCannaille]

Je ne sais pas dans ta boite, mais ici, c'est plus d'une dizaine de ramettes de papier par mois, on est loin du 0 papier.

Dans ma boite les ramettes de papiers servent presque exclusivement à réhausser les écrans d'ordinateur

[Ryu2000]

Quand je lis ceci, ça me fait penser à toutes les prédictions que j'ai entendu pendant ma carrière

Ouais mais ce n'est pas parce que la quasi intégralité des prédictions ne se produisent pas, qu'aucune prédiction ne peut se réaliser.
Un jour il y a des spécialistes qui vont dire "il va probablement se passer ça" et il va se passer ça.

Il y a probablement des gens qui ont prédits que les adolescents allaient devenir accro à leur smartphone et aux réseaux sociaux

L'IA est un outil puissant qui peut changer des choses.
Déjà aujourd'hui l'IA peut aider beaucoup de monde et faire gagner beaucoup de temps, dans le futur l'IA sera encore bien plus puissante.

Ensuite on a prédit : Linux, c'est la fin de Windows ! Bon, ben, encore raté.

Peut-être pour l'utilisation grand public, mais Linux est beaucoup utilisé dans les serveurs, les supercalculateurs, les systèmes embarqués.
Il y a beaucoup d'utilisateurs qui n'utilisent que le navigateur, donc ils pourraient facilement passer sous Linux.

[Gluups]

Je croyais Unix mûr, et je me suis bien rendu compte que ce n'était pas le cas, du moins pour la distribution que j'ai choisie, visant l'économie de ressources.
Je dirais que ça compte pour beaucoup dans le fait qu'Unix soit encore minoritaire.
Avec Microsoft qui nous pousse au train, ça devrait avoir une influence sur les statistiques.
Ça concernera au moins les gens qui attendent ça depuis longtemps.

Les gens perdus au fond de leur campagne et à qui il faut expliquer ce qu'est une souris resteront tributaires de ce que proposeront les vendeurs. De toute façon je ne leur conseille pas LxQt pour le moment. Il y a eu un peu de changement à ce niveau, on trouve des machines avec Unix dans les commerces. Reste à le voir dans les statistiques.

Pour ce qui est du papier, bien sûr ça ne concernera jamais tout le monde.
Le fisc a été un peu hypocrite en tablant sa communication sur l'écologie alors que leur priorité était de virer des fonctionnaires. Je n'ai pas les statistiques là-dessus, mais je suis persuadé que ça a coûté pas mal d'emplois.
D'un autre côté, on imprime encore des formulaires pour la déclaration, mais ça doit être anecdotique par rapport à ce qui se faisait il y a une vingtaine d'années.

Alors la pub, c'est une autre question, de même que quand on a parlé des voitures autonomes, le débat sur la violence s'est invité.
Là où je suis j'ai trouvé sur ma boîte aux lettres une étiquette "pas de pub, merci", alors je l'ai laissée.
Les monceaux de prospectus sont encore là, mais sur le dessus des boîtes aux lettres. Ça évite à ma boîte aux lettres d'être saturée pendant mon absence.
Je me trompe, ou l'Île de France a plus de mal à se discipliner là-dessus ?
Bien entendu, ça laisse intact le problème de gaspillage des ressources. Et je n'insiste pas sur les voisins "vachement civiques" que j'ai, à qui il est vain d'essayer de faire comprendre qu'une fois qu'on a déjà cassé une poubelle parce qu'elle était trop lourde, il serait raisonnable d'aller mettre le papier et le verre dans les réceptacles prévus à cet effet, les dix minutes de marche que ça représente étant une excellente chose pour la santé.
Reste donc la question de sensibiliser les annonceurs et surtout les circuits d'annonce. Il y a une prise de conscience qui s'éveille doucement, j'ai entendu parler d'une plateforme qui ne distribue ses annonces qu'aux consommateurs qui le demandent. Pour le moment, je suppose que leur impact est marginal, mais ils ont au moins le mérite d'exister, et il faut attendre qu'ils soient davantage connus avant qu'une annonce ait un bien meilleur impact là-dessus que sur une plateforme de distribution de prospectus qui ne se soucie pas de l'écologie.
Je ne crois pas que ça fasse beaucoup de différence avec mes voisins qui s'amusent à la provocation en surchargeant de nouveau les poubelles, mais assurément l'écologie ayant quand même une certaine audience dans la population, il n'est pas nécessairement complètement illusoire de s'attendre à ce que ce genre de réactions soit appelé à devenir minoritaire.

Pour résumer, la réduction de la consommation de papier se fait application par application : on réduit une consommation de papier, ça n'empêche pas les autres de continuer. Ce qui n'empêche pas des réflexions de se tenir pour étendre l'effort.

C'est pareil que pour la réduction des gaz à effet de serre : si au lieu de dépenser du kérosène périodiquement pour organiser des sommets mondiaux qui décident du quart de l'effort nécessaire, quart sur lequel on va réaliser le dixième, on s'était retroussé les manches pour faire le taf, il n'aurait pas fait aussi chaud cet été.

[Gluups]

Dans ma boite les ramettes de papiers servent presque exclusivement à réhausser les écrans d'ordinateur

Moi aussi, je croyais que les vérins à vis, c'était cher.
Eh en fait ... pas tant que ça

[Glutinus]

Dans ma boite les ramettes de papiers servent presque exclusivement à réhausser les écrans d'ordinateur

Je me rappelle d'un commercial quand j'ai commencé à bosser, en 2006. Date importante, car il y avait encore un peu dans la "flotte" de matériel des vieux écrans. Il était donc légion d'y mettre des ramettes de papier pour les réhausser, mais ce commercial avait un nouvel écran plat qu'il pouvait monter et descendre...
Ce même commercial qui d'ailleurs ouvrait son laptop pour regarder un document qu'il recopiait à la main sur son fixe... jusqu'à que son collègue lui explique le copier-coller

[Gluups]

Peut-être pour l'utilisation grand public, mais Linux est beaucoup utilisé dans les serveurs, les supercalculateurs, les systèmes embarqués.
Il y a beaucoup d'utilisateurs qui n'utilisent que le navigateur, donc ils pourraient facilement passer sous Linux.

Ouaip.
L'objection de Ryu reste quand même valable : pour plusieurs raisons ça s'imposait d'utiliser Unix depuis un bout de temps, malgré ça on a attendu le dernier moment.

La stratégie de fournir le système installé tout prêt à l'emploi sur les machines en vente au détail était clairement vouée à un certain succès.

Le changement, c'est que Microsoft n'en veut plus, de ce marché.
Du coup, le déclic finit par se produire.

Pas complètement, puisque ma clef de démarrage n'était pas complètement prête. Mais quand même suffisamment pour que je puisse installer Thunderbird en ayant démarré depuis ma clef (la prochaine fois, je l'installerai en Français).

Il se passe (avec des impacts différents) sur le choix du système d'exploitation ce qui s'est passé dans le "bloc de l'Est" sur le choix du système politique : tout le monde avait bien envie d'en changer, mais l'effort à fournir était bien trop important.

Assurément, l'effort pour produire une clef de démarrage Unix n'est pas le même que pour décaniller LE parti. Mais le niveau de motivation non plus. C'est plus supportable de s'esquinter les yeux sur son écran et d'avoir les pires difficultés à réaliser certaines opérations, que de se retrouver invité à une "discussion" (ah quoique c'est en Chine qu'on le dit comme ça) parce qu'on a lorgné de l'autre côté de la frontière.

Mais dans les deux cas, c'est la grosse entité qui profitait de la situation, qui a décidé que ça allait bien comme ça, et que maintenant on allait passer à autre chose.

Dans le cas du "bloc de l'Est", nous avons hélas assisté depuis à une poussée de nostalgie du gusse au pouvoir. Peut-être que Microsoft arrêtera ses conneries, pour revenir sur le marché, qui sait.

[AoCannaille]

Je me rappelle d'un commercial quand j'ai commencé à bosser, en 2006. Date importante, car il y avait encore un peu dans la "flotte" de matériel des vieux écrans. Il était donc légion d'y mettre des ramettes de papier pour les réhausser, mais ce commercial avait un nouvel écran plat qu'il pouvait monter et descendre...
Ce même commercial qui d'ailleurs ouvrait son laptop pour regarder un document qu'il recopiait à la main sur son fixe... jusqu'à que son collègue lui explique le copier-coller

Effectivement, c'est cocasse

Rassure toi, on a bien des écrans plats, de taille raisonables, mais avec des pieds pourris, non réglable en hauteur, et surtout, pas de fixation VESA... Bref, encore des financiers qui ont fait les commandes de gros en économisant chaque centimes. Je suis sûr qu'eux ont du meilleur matériel ^^'

[Gluups]

Je me rappelle d'un commercial quand j'ai commencé à bosser, en 2006. Date importante, car il y avait encore un peu dans la "flotte" de matériel des vieux écrans. Il était donc légion d'y mettre des ramettes de papier pour les réhausser, mais ce commercial avait un nouvel écran plat qu'il pouvait monter et descendre...
Ce même commercial qui d'ailleurs ouvrait son laptop pour regarder un document qu'il recopiait à la main sur son fixe... jusqu'à que son collègue lui explique le copier-coller

Ah oui, un passionné d'informatique

Remarque, je ne devrais pas trop me gausser.
Longtemps je faisais du copier/coller via une clef USB, jusqu'à ce que je me décide une bonne fois à m'asseoir pour paramétrer le réseau local. Ensuite, le copier/coller pouvait se faire directement d'une machine à l'autre.
Oh que j'ai trouvé pratique.

[Fagus]

J'ai essayé l'exemple... 8 bytes étaient émis (9 avec le NUL). 20 semble suffisant. Même "%e" avec un double retourne 12 charactères (+1). Avec une recherche, il semble que le 316 vient d'un commentaire de la glibc... est-ce portable ?

La façon propre est de tester la taille avec un snprintf bridé à 0 octets... et récupérer le resultat pour un malloc...

Non mais en fait le bug c'est de gâcher quelques octets avec un trop gros tampon ;-)

Pareil, sur une implémentation courante spintf a l'air de tronquer %f comme %.6f et dans la doc IBM il y a "Default precision for f, F, e and E is six."
Peut être qu'une façon propre et encore plus simple c'est d'écrire %.6f au cas où une implémentation ne le fait pas par défaut...

[Ryu2000]

Bref, encore des financiers qui ont fait les commandes de gros en économisant chaque centimes.

Parfois ce n'est même pas ça.
À une époque on a demandé des écrans, on s'attendait à recevoir des 24" 16/9 et on a eu des 22" 4/3, on a regardé le prix de la référence et c'était plus cher qu'un 16/9.
Je ne comprend pas comment les responsables de la commande on choisit ce modèle.

L'autre truc bizarre c'est que tout le monde utilise un câble VGA entre le PC et l'écran.
Bon après c'est les utilisateurs qui ont mal fait la demande, ils auraient du dire :
Mon PC possède telle sortie, mon écran possède telles entrées, j'ai besoin d'un câble X vers Y.

De mémoire les écrans ont des entrées VGA et autre et les PC ont des sorties HDMI ou Display Port.
J'ai acheté un câble HDMI vers DVI, parce que j'en avais marre de leur adaptateur HDMI vers VGA.

[Bruno]

Un chercheur français repère l'utilisation illégitime de ChatGPT dans des articles,
des revues du réseau Springer et Elsevier ne liraient absolument pas les articles qu’elles publient

Des articles scientifiques rédigés avec l’aide d’un outil d’intelligence artificielle appelé ChatGPT ont été publiés dans des revues à comité de lecture sans que les auteurs ne déclarent leur utilisation de cet outil. Un chercheur français, Guillaume Cabanac, a repéré des indices laissés par ChatGPT dans les manuscrits, tels que l’expression « Régénérer la réponse ». Il a alerté les éditeurs sur PubPeer, un site web où les scientifiques discutent des recherches publiées. Plusieurs revues ont décidé de rétracter ces articles pour violation de leurs politiques éthiques. Ce phénomène soulève des questions sur la qualité et l’originalité des articles assistés par l’IA, ainsi que sur la capacité des évaluateurs et des logiciels anti-plagiat à les détecter.

Pour de nombreux experts du secteur de la technologie, ChatGPT pourrait changer à jamais l'édition et le journalisme. Ainsi, certains types de journalisme, comme les simples articles de sport et d'affaires, seraient particulièrement sensibles à l'automatisation. ChatGPT pourrait être la technologie numérique la plus importante à avoir un impact sur les éditeurs depuis les années 1980. Le chatbot créé par le laboratoire d'intelligence artificielle (IA) OpenAI peut répondre à des questions complexes et s'appuyer sur des recherches secondaires pour rédiger des textes « originaux ». Si l'information se trouve sur Internet, ChatGPT peut produire du contenu avec.

Le 9 août, la revue Physica Scripta a publié un article qui présentait de nouvelles solutions à une équation mathématique complexe. Mais l’article n’était pas aussi original qu’il semblait, car il contenait une phrase étrange à la troisième page du manuscrit : « Régénérer la réponse ». La phrase étrange correspond à l’étiquette d’un bouton de ChatGPT. Guillaume Cabanac, un chercheur en informatique à l’université de Toulouse, en France, a rapidement détecté cette anomalie et a partagé une capture d’écran de la page sur PubPeer, un site web où les scientifiques discutent des recherches publiées. L’auteur principal de l’article, Abdullahi Yusuf, est affilié à la fois à l’université Biruni d’Istanbul et à la Lebanese American University de Beyrouth.

Kim Eggleton, qui dirige l’évaluation par les pairs et l’intégrité de la recherche chez IOP Publishing, l’éditeur de Physica Scripta à Bristol, au Royaume-Uni, indique que les auteurs ont admis avoir utilisé ChatGPT pour écrire leur manuscrit. L’outil n’a pas été repéré pendant les deux mois de révision par les pairs (l’article a été envoyé en mai et une version corrigée en juillet) ni pendant la mise en page. L’éditeur a choisi de retirer l’article, car les auteurs n’ont pas signalé leur recours à l’outil lors de la soumission. « C’est contraire à nos règles éthiques », a affirmé Eggleton.

Ce n'est pas le seul cas d'un manuscrit assisté par ChatGPT qui se retrouve dans une revue à comité de lecture sans avoir été déclaré. Depuis avril, Cabanac a repéré plus d'une douzaine d'articles de revues contenant les phrases révélatrices de ChatGPT « Régénérer la réponse » ou « En tant que modèle linguistique de l'IA, je... » et les a publiés sur PubPeer.

De nombreux éditeurs, dont Elsevier et Springer Nature, ont déclaré que les auteurs pouvaient utiliser ChatGPT et d'autres grands modèles de langage (LLM) pour les aider à rédiger leurs manuscrits, à condition qu'ils le déclarent. Toutefois, Springer Nature a annoncé en début d’année que ChatGPT, ou tout système similaire de génération de texte, ne peut pas être crédité en tant qu'auteur dans les articles publiés dans ses revues. L'éditeur ne voit aucun problème au fait que l'IA soit utilisée pour aider à rédiger des recherches, mais elle exige que son utilisation soit correctement divulguée.

Un défi pour l’intégrité de la recherche

« Nous nous sommes sentis obligés de clarifier notre position pour nos auteurs, pour nos éditeurs et pour nous-mêmes. Cette nouvelle génération d'outils LLM - y compris ChatGPT - a vraiment explosé dans la communauté, qui est à juste titre enthousiaste et joue avec eux, mais également les utilise d'une façon qui va au-delà de la manière dont ils peuvent véritablement être utilisés à l'heure actuelle », explique à The Verge Magdalena Skipper, rédactrice en chef de la publication phare de Springer Nature, Nature. ChatGPT et les grands modèles de langage précédents ont déjà été cités comme auteurs dans un petit nombre d'articles publiés.

Il faut préciser que la qualité et l’ampleur de l’apport de ces outils dépendent des situations. ChatGPT n’est pas infaillible, et il commet encore de nombreuses fautes élémentaires. Dans un article d’opinion paru dans la revue Oncoscience, ChatGPT a été employé pour défendre l’usage d’un certain médicament en se basant sur le pari de Pascal, le texte produit par l’IA étant clairement signalé.

L'Office britannique de la propriété intellectuelle a annoncé en juin de l'année dernière que les IA ne peuvent pas être mentionnées comme inventeurs sur les brevets. « Pour les inventions conçues par l'IA, nous ne prévoyons aucun changement dans la législation britannique sur les brevets. La plupart des répondants estiment que l'intelligence artificielle n'est pas encore assez avancée pour inventer sans intervention humaine. Mais nous garderons ce domaine du droit à l'étude pour nous assurer que le système de brevets britannique soutient l'innovation en matière d'intelligence artificielle et l'utilisation de l'IA au Royaume-Uni », a déclaré Magdalena Skipper.

La recherche de phrases clés ne révèle que des utilisations naïves et non déclarées de ChatGPT - dans lesquelles les auteurs ont oublié de supprimer les signes révélateurs - de sorte que le nombre d'articles non divulgués évalués par les pairs et générés avec l'aide non déclarée de ChatGPT est probablement beaucoup plus élevé. « Ce n'est que la partie émergée de l'iceberg », affirme Cabanac. (Les signes révélateurs changent également : Le bouton "Régénérer la réponse" de ChatGPT a été remplacé au début de l'année par "Régénérer" lors d'une mise à jour de l'outil).

Cabanac a détecté des phrases typiques de ChatGPT dans quelques articles publiés dans des revues Elsevier. Le dernier en date est un article, de l'université de Liaoning à Shenyang, en Chine, et de l'Académie chinoise du commerce international et de la coopération économique à Pékin, publié le 3 août dans Resources Policy, qui étudie l'impact du commerce électronique sur l'efficacité des combustibles fossiles dans les pays en développement.

Le chercheur français a remarqué que certaines équations de l'article n'avaient pas de sens, mais l'indice se trouvait au-dessus d'un tableau : « Please note that as an AI language model, I am unable to generate specific tables or conduct tests... » (Veuillez noter qu'en tant que modèle linguistique d'IA, je ne suis pas en mesure de générer des tableaux spécifiques ou d'effectuer des tests...). Un porte-parole d'Elsevier a déclaré à Nature que l'éditeur était « conscient du problème » et qu'il enquêtait à ce sujet.

Une innovation qui divise les éditeurs et les évaluateurs

Les chercheurs sont divisés sur les implications pour la science. Dans le domaine de la publication scientifique, une prépublication est une version d'un article scientifique qui précède son acceptation par le comité de rédaction d'une revue scientifique.

« Je suis très inquiète », déclare Sandra Wachter, qui étudie la technologie et la réglementation à l'Université d'Oxford, au Royaume-Uni, et n'a pas participé à la recherche. « Si nous sommes maintenant dans une situation où les experts ne sont pas en mesure de déterminer ce qui est vrai ou non, nous perdons l'intermédiaire dont nous avons désespérément besoin pour nous guider à travers des sujets compliqués », ajoute-t-elle.

ChatGPT crée un texte réaliste en réponse aux invites de l'utilisateur. Il s'agit d'un « grand modèle de langage », un système basé sur des réseaux de neurones qui apprennent à effectuer une tâche en assimilant d'énormes quantités de texte généré par l'homme. Depuis sa sortie, les chercheurs se sont attaqués aux problèmes éthiques entourant son utilisation, car une grande partie de sa production peut être difficile à distinguer du texte écrit par l'homme.

Les articles entièrement ou partiellement rédigés par des logiciels, sans que les auteurs ne le révèlent, n'ont rien de nouveau. Cependant, ils contiennent généralement des traces subtiles mais détectables, telles que des schémas de langage spécifiques ou des « phrases torturées » mal traduites, qui les distinguent de leurs équivalents rédigés par des humains, explique Matt Hodgkinson, responsable de l'intégrité de la recherche à l'Office britannique de l'intégrité de la recherche, dont le siège se trouve à Londres. Mais si les chercheurs suppriment les phrases passe-partout du ChatGPT, le texte du chatbot plus sophistiqué est « presque impossible » à repérer, explique Hodgkinson. « Il s'agit essentiellement d'une course aux armements", dit-il, "les escrocs contre ceux qui essaient de les empêcher d'entrer ».

Elisabeth Bik, microbiologiste et consultante indépendante en intégrité de la recherche à San Francisco, en Californie, estime que l'essor fulgurant de ChatGPT et d'autres outils d'IA générative donnera de la puissance aux sociétés qui créent et vendent de faux manuscrits aux chercheurs désireux d'augmenter leur production de publications. « Le problème sera cent fois plus grave », estime « Je crains fort que nous ayons déjà un afflux de ces articles que nous ne reconnaissons même plus. »

La publication dans des revues d’articles non déclarés issus d’un LLM révèle un problème plus grave : les évaluateurs surchargés n’ont souvent pas le temps de vérifier soigneusement les manuscrits pour y déceler des indices, explique David Bimler, qui débusque les faux articles sous le pseudonyme de Smut Clyde. Tout le système scientifique repose sur le principe « publier ou mourir », explique Bimler, psychologue à la retraite, ancien de l’université Massey de Palmerston North, en Nouvelle-Zélande. « Le nombre de contrôleurs ne peut pas suivre. »

Les fausses références, un indice pour repérer les articles scientifiques rédigés par l’IA

ChatGPT et autres LLM ont tendance à produire de fausses références, ce qui pourrait être un signal pour les pairs examinateurs qui cherchent à repérer l'utilisation de ces outils dans les manuscrits, explique Hodgkinson. « Si la référence n'existe pas, c'est un signal d'alarme », ajoute-t-il.

Rune Stensvold, microbiologiste au State Serum Institute de Copenhague, a été confronté au problème des fausses références lorsqu'un étudiant lui a demandé une copie d'un article que Stensvold avait apparemment cosigné avec l'un de ses collègues en 2006. L'article n'existait pas. L'étudiant avait demandé à un chatbot d'IA de lui suggérer des articles sur Blastocystis - un genre de parasite intestinal - et l’outil d’IA avait bricolé une référence portant le nom de Stensvold. « Il avait l'air si réel », raconte-t-il. « Cela m'a appris que lorsque j'ai des articles à examiner, je devrais probablement commencer par regarder la section des références. »

L’utilisation non déclarée d’outils d’IA pour rédiger des articles scientifiques est un phénomène inquiétant qui menace l’intégrité et la crédibilité de la recherche scientifique.

Si, l’IA ne peut pas remplacer le travail intellectuel et créatif des chercheurs, ni se substituer à l’évaluation critique par les pairs. Et peut même introduire des erreurs, des biais ou des incohérences dans le texte, qui peuvent nuire à la rigueur et à la fiabilité de la recherche, l’IA peut être un outil utile pour aider les chercheurs à rédiger des articles, en leur fournissant des suggestions, des corrections ou des reformulations, à condition qu’ils déclarent leur utilisation de l’outil et qu’ils vérifient la qualité et l’originalité du texte généré.

La rédaction d’articles scientifiques à l’aide d’outils d’IA non déclarés est une pratique préoccupante qui compromet l’intégrité et la crédibilité de la recherche scientifique. L’IA ne peut pas se substituer au travail intellectuel et créatif des chercheurs, ni à l’évaluation critique par les pairs. Elle peut aussi introduire des erreurs, des biais ou des incohérences dans le texte, qui peuvent affecter la rigueur et la fiabilité de la recherche.

Il faut toutefois reconnaître que l’IA peut être un outil utile pour aider les chercheurs à rédiger des articles, en leur fournissant des suggestions, des corrections ou des reformulations, à condition qu’ils déclarent leur utilisation de l’outil et qu’ils vérifient la qualité et l’originalité du texte généré.

Source : PubPeer

Et vous ?

Quels sont selon vous, les avantages et les inconvénients de l’utilisation de l’IA pour rédiger des articles scientifiques ?

Comment peut-on assurer la transparence, la traçabilité et la responsabilité de l’utilisation de l’IA pour rédiger des articles scientifiques ?

Quelles peuvent être les conséquences potentielles de la publication de manuscrits non revus par les pairs sur la qualité et la crédibilité de la recherche scientifique ?

Voir aussi :

Le plus grand éditeur universitaire du monde affirme que ChatGPT ne peut pas être crédité en tant qu'auteur, il peut servir pour rédiger des recherches, mais sa contribution doit être divulguée

Les résumés d'articles générés par ChatGPT parviennent à duper des scientifiques, ils ne peuvent pas toujours faire la différence entre les résumés générés par l'IA et les résumés originaux

Des doyens d'université suspendus après avoir utilisé ChatGPT pour envoyer des courriels à des étudiants sur une fusillade de masse, le message a suscité un tollé au sein de l'établissement