Discussion :

[wiwaxia]

Deux articles de Jean-François COLONNA où ChatGPT, sournoisement sollicité par l'auteur ...
a) donne un énoncé du moyen théorème de Fermat, selon lequel il existe toujours au moins un nombre premier entre deux entiers consécutifs ...
b) et donne un exemple de programme en Python qui recherche les nombres premiers pairs jusqu'à une limite donnée

ChatGPT : du mythe à la réalité
https://images.math.cnrs.fr/ChatGPT-...a-realite.html
http://www.lactamme.polytechnique.fr...PT.01.Fra.html

En prime, une lettre de motivation tout à fait convaincante pour un futur candidat à la Présidence de la République ...

[halaster08]

Articles très intéressant, merci pour le partage

Je me demande ce qu'il répondrait si on lui dit que certaines de ses réponses sont fausses et/ou complètement farfelues / inventées

[micka132]

Dans sa conclusion il dit :

Il est donc a peu près évident que les principes utilisés par ChatGPT ne permettent pas de bâtir un système intelligent et créatif universel qui atteigne, voire surpasse nos propres capacités, même si ce que l'on peut voir avec certains des exemples précédents est impressionnant et même perturbant au premier abord. Mais ces expériences ne doivent pas nous aveugler et finalement, tout ceci ressemble un peu à de la prestidigitation....

Je ne suis pas entièrement d'accord.
Ceci me fait penser à la scène de I Robot, ou le robot souligne à Will Smith le fait qu'il est lui aussi bien incapable d'être un "artiste"

.
ChatGPT peut en effet mis être en défaut sur de nombreuses choses, mais la personne qui a fait ces essais et ces conclusions peut lui même être mis en défaut sur bien d'autres choses.

[wiwaxia]

Bonjour,

... ChatGPT peut en effet mis être en défaut sur de nombreuses choses, mais la personne qui a fait ces essais et ces conclusions peut lui même être mis en défaut sur bien d'autres choses.

Qu'un site encyclopédique contienne virtuellement plus de savoir que chacun de ceux qui viennent le consulter est en soi secondaire.
La différence essentielle, c'est qu'un être humain soucieux de sincérité tient un discours structuré par la logique, tandis que l'agent conversationnel délivre des chaînes probabilistes de mots constituant un style de discours attendu, séduisant au premier abord.
L'erreur grave est d'attendre de celui-ci le respect des valeurs précitées, qui sont tout à fait étrangères à l'algorithme; on ne verra pas un internaute sain d'esprit inventer un théorème qui n'existe pas ... ou des références bibliographiques - ce que fait allègrement ChatGPT, pour peu qu'on l'y pousse !

Je cite ici un article du Monde, paru début mai:

«*ChatGPT, une intelligence affabulatrice d’autant plus redoutable qu’elle fabrique des pastiches de science assez remarquables »
CHRONIQUE
Jean-Baptiste Fressoz
Historien, chercheur au CNRS
Dans sa chronique, Jean-Baptiste Fressoz constate avec effroi que le robot conversationnel crée, de
toutes pièces, de fausses références scientifiques.
Publié le 03 mai 2023 à 09h00 |

L’intelligence artificielle peut-elle aider les chercheurs*? Non pas pour écrire des articles et
formuler des arguments originaux – ChatGPT propose en général des réponses d’une banalité
affligeante – mais au moins pour accomplir des recherches bibliographiques*? C’est dans cet
esprit et sans a priori que j’ai questionné ChatGPT sur un point précis*: l’évolution historique
du nombre des maisons en bambou. Pourquoi cette curieuse question*? Parce que j’ai le sentiment
que la diminution de l’intensité carbone de l’économie – il faut en*2020 presque deux fois moins de
₂ CO pour générer un dollar de PIB mondial qu’en*1980, selon l’Agence internationale de l’énergie
(«*Global Energy Review*: CO2 Emissions in 2021*», 2022) – cache le fait que les énergies fossiles
se sont en réalité insinuées de plus en plus profondément dans la production matérielle.

L’agriculture a accru sa dépendance au pétrole et au méthane avec les progrès de la mécanisation et
l’usage croissant d’engrais azotés*; la métallurgie devient plus gourmande en énergie avec la baisse
de la teneur des minerais*; l’extension des chaînes de valeur accroît les kilomètres parcourus par
chaque marchandise ou composant de marchandise, et donc le rôle du pétrole dans la bonne marche
de l’économie. Ces phénomènes ont pour l’instant été masqués par l’efficacité croissante des
machines et par le poids des services dans le produit national brut, mais ils n’en sont pas moins des
obstacles majeurs sur le chemin de la décarbonation.

Les matériaux de construction fournissent un autre exemple* ₂ : l’aluminium est plus intense en CO
que l’acier, le polyuréthane que la laine de verre, les panneaux de bois que les planches. Enfin, dans
les pays pauvres, le béton remplace souvent des matériaux décarbonés comme la terre crue et… le
bambou. Selon l’Organisation*des Nations unies*pour l’alimentation et l’agriculture (FAO), au
début des années 2000, un milliard de personnes vivaient dans des maisons de bambou. Une
prouesse quand on sait que cette plante ne représente que 1*% du couvert forestier mondial («*World
bamboo resources. A thematic study prepared in the framework of the Global Forest Resources
Assessment 2005*», INBAR/FAO, 2007).

Mais quel est alors l’effet de l’urbanisation du monde tropical sur la construction en bambou*?
Destruction de la connaissance
N’ayant pas trouvé de références, j’interroge donc ChatGPT. Et là, bingo*: l’intelligence artificielle
me donne cinq articles, aux titres tous plus alléchants les uns que les autres. Par exemple*: «*The
impact of urbanization on bamboo housing in Vietnam*», Tran Thanh Trung, Journal of Housing
and the Built Environment, 2015, vol. 30, n°*4, p.*657-673. Avec en prime un résumé. Mon cœur
s’accélère – il en faut peu à un chercheur.
Après un premier tour sur Google, impossible de trouver l’article. Je demande un lien à ChatGPT,
qui s’exécute. Le lien ne mène nulle part. Je lui demande un DOI (un identifiant unique pour les
sources numériques). Chou blanc. Je réessaye pour les autres articles, idem. Je m’enregistre sur mon
compte CNRS et vérifie le volume et le numéro de la revue. Aucun des articles proposés n’existe*!
Je reviens vers ChatGPT légèrement surpris*: pourquoi diable invente-t-il des références*? Sa
réponse ne manque pas d’air*: les articles existent, mais je n’y aurai pas accès car ils sont derrière
un paywall. Après quelques échanges courroucés avec la machine, celle-ci finit par s’excuser «*pour
la confusion*».
L’angoisse me gagne*: ChatGPT serait-il un outil extraordinaire de destruction de la connaissance,
une intelligence affabulatrice d’autant plus redoutable qu’elle fabrique des pastiches de science
assez remarquables*?
Dans un article récent, présenté comme «*canonique*» par le site Web Le*Grand Continent, Sam
Altman, un des fondateurs d’OpenAI, annonçait que ChatGPT allait non seulement résoudre la
plupart des problèmes que connaît l’humanité, mais aussi rendre obsolète le travail. Cette prophétie,
qu’on retrouve depuis les métiers à tisser du XVIII e *siècle, jusqu’à l’ordinateur dans les années
1960, est tellement ridicule qu’on peut penser qu’Altman l’a rédigée avec ChatGPT.
Jean-Baptiste Fressoz (Historien, chercheur au CNRS)