La vraie raison pour laquelle les Italiens ont bloqué Chat GPT : https://twitter.com/olexandr/status/1642180293409796096
True reason why Italy banned ChatGPT 🤣 pic.twitter.com/44Omky6DzM
— Olexandr Isayev 🇺🇦🇺🇸 (@olexandr) April 1, 2023
Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter
Discussion :
La vraie raison pour laquelle les Italiens ont bloqué Chat GPT : https://twitter.com/olexandr/status/1642180293409796096
True reason why Italy banned ChatGPT 🤣 pic.twitter.com/44Omky6DzM
— Olexandr Isayev 🇺🇦🇺🇸 (@olexandr) April 1, 2023
Ah ça y est, les Italiens ne savent plus faire de capuccino sans intelligence artificielle ?
Un ministre italien estime que l'interdiction du ChatGPT est excessive
Un ministre italien, Matteo Salvini, a critiqué dimanche la décision de l'autorité de protection des données du gouvernement d'interdire temporairement le chatbot ChatGPT, l'estimant excessive
OpenAI, soutenu par Microsoft, a mis ChatGPT hors ligne en Italie vendredi, après que l'agence nationale des données a exprimé des inquiétudes quant à d'éventuelles violations de la vie privée et à l'absence de vérification que les utilisateurs fussent âgés de 13 ans ou plus, comme elle l'avait demandé.
"Je trouve disproportionnée la décision de la Commission de surveillance de la vie privée qui a forcé #ChatGPT à empêcher l'accès depuis l'Italie", a écrit sur Instagram Matteo Salvini, qui est le chef du parti de la Ligue, la coalition au pouvoir.
Salvini, qui est également ministre des Transports, a déclaré que la décision du régulateur était "hypocrite" et qu'il fallait faire preuve de bon sens, car "les questions de confidentialité concernent pratiquement tous les services en ligne".
L'autorité italienne de protection des données a refusé de commenter le message de M. Salvini.
Depuis son lancement l'année dernière, ChatGPT a suscité un engouement pour la technologie, incitant ses rivaux à lancer des produits similaires et les entreprises à l'intégrer, ou à intégrer des technologies similaires, dans leurs applications et leurs produits.
OpenAI, qui a désactivé ChatGPT pour les utilisateurs italiens à la suite de la demande de l'agence, a déclaré vendredi qu'elle travaillait activement à la réduction de l'utilisation des données personnelles dans la formation de ses systèmes d'IA comme ChatGPT.
"Nous sommes impatients de travailler en étroite collaboration avec (l'agence italienne des données) et de l'informer sur la manière dont nos systèmes sont construits et utilisés", a déclaré l'entreprise.
L'interdiction pourrait nuire aux entreprises nationales et à l'innovation, a déclaré M. Salvini, ajoutant qu'il espérait qu'une solution rapide serait trouvée et que l'accès du chatbot à l'Italie serait rétabli.
"Chaque révolution technologique apporte de grands changements, des risques et des opportunités. Il est juste de contrôler et de réglementer par le biais d'une coopération internationale entre les régulateurs et les législateurs, mais on ne peut pas la bloquer", a-t-il déclaré.
Source : Matteo Salvini
Et vous ?
Qu'en pensez-vous ?
Voir aussi :
Les régulateurs européens de la vie privée s'intéressent de près à la suspension de ChatGPT en Italie
Les régulateurs européens de la vie privée s'intéressent de près à la suspension de ChatGPT en Italie,
plusieurs seraient tentés de lui emboîter le pas en raison de problèmes de confidentialité des données
La décision de l'Italie de suspendre temporairement ChatGPT a incité d'autres pays européens à étudier si des mesures plus sévères sont nécessaires pour freiner les chatbots extrêmement populaires et s'il faut coordonner de telles actions. Le commissaire fédéral allemand à la protection des données et à la liberté d'information, Ulrich Kelber, a déclaré que le pays pourrait, en théorie, également suspendre temporairement ChatGPT s'il décidait de déterminer si la technologie violait le règlement général sur la protection des données (RGPD) de l'Union européenne.
Lancée l'année dernière en novembre par OpenAI, ChatGPT serait devenue l'application Internet à la croissance la plus rapide de l'histoire en attirant 100 millions d'utilisateurs actifs par mois en seulement deux mois.
Le bot non intelligent (est-il besoin de le rappeler ?) peut recevoir des instructions et des invites des utilisateurs et les utiliser pour produire des blocs correspondants de prose, de code et d'autres sorties de texte. Cependant, il est loin d'être parfait et peut produire un texte offensant, perpétrer des préjugés, tout simplement se tromper et diffuser des informations erronées (comme à peu près tous les grands modèles de langage).
Le Garante per la protezione dei dati personali (en français Garant de la protection des données personnelles que nous allons abréger GPDP) a bloqué le site Web d'OpenAI hébergeant le modèle la semaine dernière. Les autorités cherchent à savoir si le logiciel collecte illégalement des données sur les citoyens et si la technologie pourrait nuire aux mineurs de moins de 13 ans. L'Italie est ainsi devenue le premier pays à réglementer ChatGPT, et d'autres pays de l'UE pourraient lui emboîter le pas.
L'organisme de surveillance a déclaré que le 20 mars, l'application avait subi une violation de données impliquant des conversations d'utilisateurs et des informations de paiement. Il a déclaré qu'il n'y avait aucune base légale pour justifier « la collecte et le stockage massifs de données personnelles dans le but de 'former' les algorithmes sous-jacents au fonctionnement de la plateforme ». Il a également déclaré que puisqu'il n'y avait aucun moyen de vérifier l'âge des utilisateurs, l'application « expose les mineurs à des réponses absolument inadaptées par rapport à leur degré de développement et de sensibilisation ».
OpenAI, indique le GPDP, a désormais 20 jours pour répondre à ses préoccupations, sous peine d'une amende de 20 millions d'euros, soit jusqu'à 4% des revenus annuels.
Le blocage de ChatGPT en Italie intervient quelques jours après que l'agence de police européenne Europol a averti que les criminels étaient sur le point d'utiliser l'application pour commettre des fraudes et d'autres cybercrimes, du phishing aux logiciels malveillants.
La décision n'a pas fait l'unanimité en Italie. Par exemple, Matteo Salvini, qui est le chef du parti de la Ligue (la coalition au pouvoir) a déclaré : « Je trouve disproportionnée la décision de la Commission de surveillance de la vie privée qui a forcé #ChatGPT à empêcher l'accès depuis l'Italie ». Salvini, qui est également ministre des Transports, a déclaré que la décision du régulateur était « hypocrite » et qu'il fallait faire preuve de bon sens, car « les questions de confidentialité concernent pratiquement tous les services en ligne ».
OpenAI, qui a désactivé ChatGPT pour les utilisateurs italiens à la suite de la demande de l'agence, a déclaré vendredi qu'elle travaillait activement à la réduction de l'utilisation des données personnelles dans la formation de ses systèmes d'IA comme ChatGPT. « Nous sommes impatients de travailler en étroite collaboration avec (l'agence italienne des données) et de l'informer sur la manière dont nos systèmes sont construits et utilisés », a déclaré l'entreprise.
L'interdiction pourrait nuire aux entreprises nationales et à l'innovation, a déclaré Salvini, ajoutant qu'il espérait qu'une solution rapide serait trouvée et que l'accès du chatbot à l'Italie serait rétabli. « Chaque révolution technologique apporte de grands changements, des risques et des opportunités. Il est juste de contrôler et de réglementer par le biais d'une coopération internationale entre les régulateurs et les législateurs, mais on ne peut pas la bloquer », a-t-il déclaré.
Sur son site, le GPDP a indiqué qu'une réunion est prévue en vidéoconférence avec OpenAI demain 5 avril, OpenAI n'ayant pas de bureaux sur le territoire :
Un appel vidéo est prévu demain soir entre des représentants d'OpenAI et la SA italienne (Garante per la protezione dei dati personali), qui a ordonné il y a quelques jours à la plateforme de limiter temporairement le traitement des données des utilisateurs italiens jusqu'à ce qu'elle se conforme à [l'italien et Législation européenne sur la protection de la vie privée.
L'initiative d'appel vidéo, que la SA italienne salue, fait suite à la lettre de réponse envoyée hier par la société américaine pour signaler sa volonté de collaborer rapidement avec l'autorité italienne afin de se conformer aux réglementations européennes en matière de confidentialité et de parvenir à une solution partagée qui peut surmonter les critiques que la SA italienne a signalées concernant le traitement des données des utilisateurs italiens.
L'Allemagne, la France et l'Irlande surveillent de près l'enquête italienne
Alors que les parlementaires européens ne sont pas d'accord sur le contenu et la portée de la loi sur l'IA de l'UE, certains régulateurs constatent que les outils existants, tels que le règlement général sur la protection des données (RGPD) qui donne aux utilisateurs le contrôle de leurs informations personnelles, peuvent s'appliquer à la catégorie en plein essor des entreprises d'IA générative.
L'agence italienne a accusé OpenAI, soutenu par Microsoft Corp, de ne pas avoir vérifié l'âge des utilisateurs de ChatGPT ainsi que « l'absence de toute base légale justifiant la collecte et le stockage massifs de données personnelles » pour « former » le chatbot. « Les points qu'ils soulèvent sont fondamentaux et montrent que le RGPD offre des outils permettant aux régulateurs de s'impliquer et de s'engager à façonner l'avenir de l'IA », a déclaré Dessislava Savova, associée du cabinet d'avocats Clifford Chance.
Les régulateurs de la vie privée en France et en Irlande ont contacté leurs homologues en Italie pour en savoir plus sur le fondement de la suspension. L'Allemagne pourrait suivre les traces de l'Italie en bloquant ChatGPT pour des raisons de sécurité des données, a déclaré le commissaire allemand à la protection des données au journal Handelsblatt.
« Nous suivons le régulateur italien », a déclaré un porte-parole du commissaire irlandais à la protection des données. « Nous nous coordonnerons avec toutes les autorités de protection des données de l'UE en ce qui concerne cette question ».
Les régulateurs espagnols ont déclaré qu'ils n'avaient pas reçu de plainte officielle concernant ChatGPT et qu'ils pourraient lancer leur propre enquête à l'avenir si nécessaire. La Suède, cependant, n'aurait pas l'intention d'interdire le logiciel et n'a pas contacté le GDPD italien pour obtenir des conseils.
Certains experts juridiques pensent qu'une répression de ChatGPT pourrait signifier que d'autres chatbots IA comme Bard de Google ou Bing de Microsoft (qui s'appuie sur le même moteur que ChatGPT) pourraient également être examinés et réglementés.
« Contrairement à ChatGPT, Google est plus susceptible d'avoir déjà pris en compte [la confidentialité] en raison de son histoire en Europe et de la taille de l'organisation », a déclaré Dessislava Savova.
On ne sait pas comment des modèles comme ChatGPT seront touchés par la prochaine loi sur l'IA de l'UE (la législation conçue pour réglementer le développement et le déploiement de l'IA dans les États membres est toujours en débat).
Le projet de loi est retardé alors que les responsables négocient ses politiques finales, dans l'espoir de trouver un équilibre entre la réglementation des risques de confidentialité et de sécurité tout en soutenant le développement technique et le potentiel économique de l'IA.
« Il ne suffit pas de suspendre le développement de l'IA. Nous devons tout arrêter »
Tandis que ce débat a lieu sur la scène européenne, dans un premier temps en Italie, plus de 1 100 experts en intelligence artificielle, chefs d'entreprise et chercheurs ont signé une pétition appelant les développeurs d'IA à cesser de former des modèles plus puissants que le ChatGPT-4 d'OpenAI pendant au moins six mois.
Parmi ceux qui se sont abstenus de signer la pétition figure Eliezer Yudkowsky, théoricien américain de la décision et chercheur principal à la Machine Intelligence Research Institute. Il travaille sur l'alignement de l'intelligence artificielle générale depuis 2001 et est largement considéré comme l'un des fondateurs de ce domaine.
« Ce moratoire de six mois serait préférable à l'absence de moratoire », écrit Yudkowsky dans une tribune publiée dans Time Magazine. « Je me suis abstenu de signer parce que je pense que la lettre sous-estime la gravité de la situation et demande trop peu pour la résoudre ».
Yudkowsky pousse la rhétorique à son paroxysme, en écrivant : « Si quelqu'un construit une centrale électrique trop puissante, il n'y a pas de raison de l'arrêter : "Si quelqu'un construit une IA trop puissante, dans les conditions actuelles, je m'attends à ce que chaque membre de l'espèce humaine et toute vie biologique sur Terre meurent peu de temps après ».
Voici un extrait de sa tribune :
Source : CNIL italienneEnvoyé par Eliezer Yudkowsky,
Et vous ?
Voir aussi :
L'Allemagne envisage d'emboîter le pas à l'Italie en interdisant l'utilisation du chatbot d'IA ChatGPT
L'Allemagne envisage d'emboîter le pas à l'Italie en interdisant l'utilisation de ChatGPT, évoquant une violation présumée des règles de confidentialité par le chatbot d'IA d'OpenAI
L'Allemagne pourrait suivre l'exemple de l'Italie en interdisant ChatGPT pour des raisons de sécurité des informations personnelles, a déclaré le responsable de la protection des données du pays.
Le lundi 3 avril, le commissaire allemand à la protection des données, Ulrich Kelber, a déclaré au journal Handelsblatt que son pays pourrait s'inspirer de la récente interdiction de ChatGPT par l'Italie et prendre une mesure similaire.
Après que l'agence italienne de protection des données a lancé une enquête sur une violation présumée des règles de confidentialité par ChatGPT, M. Kelber a déclaré que, "en principe, une telle action est également possible en Allemagne".
Il a ajouté que cela relèverait de la compétence de chacun des États fédéraux du pays.
M. Kelber a indiqué que les autorités de régulation allemandes avaient communiqué avec leurs homologues italiens à la suite de l'interdiction prononcée dans ce pays.
Les organismes de surveillance de la confidentialité des données d'autres pays de l'UE, tels que la France et l'Irlande, ont également contacté l'autorité italienne de régulation des données pour discuter de ses conclusions.
Un porte-parole du commissaire irlandais à la protection des données (DPC) a déclaré à Reuters : "Nous suivons l'évolution de la situation avec l'autorité italienne de régulation des données pour comprendre les raisons de son action et nous nous coordonnerons avec toutes les autorités de protection des données de l'UE sur cette question."
Le DPC irlandais est le principal régulateur de l'UE pour de nombreux géants mondiaux de la technologie dans le cadre du "guichet unique" de réglementation des données de l'Union européenne.
Toutefois, elle n'exerce aucun contrôle réglementaire direct sur la manière dont OpenAI opère au sein de l'Union, car l'entreprise d'intelligence artificielle n'a pas de bureaux dans l'UE.
L'interdiction de ChatGPT en Italie
OpenAI, soutenue par Microsoft, a mis ChatGPT hors ligne en Italie après que l'agence nationale de protection des données a temporairement interdit le chatbot.
Vendredi, l'autorité italienne de protection des données (GPDP) a annoncé qu'elle interdisait ChatGPT d'OpenAI "avec effet immédiat" et qu'elle enquêtait à son sujet.
Le régulateur italien a accusé OpenAI d'avoir négligé d'installer une fonction empêchant les mineurs d'utiliser le service et d'avoir "collecté illégalement des données personnelles".
Le GPDP a déclaré qu'il n'existait aucune base juridique justifiant "la collecte et le stockage massifs de données à caractère personnel dans le but d'"entraîner" les algorithmes qui sous-tendent le fonctionnement de la plateforme".
Il a également déclaré qu'étant donné qu'il n'y avait aucun moyen de vérifier l'âge des utilisateurs, l'application "expose les mineurs à des réponses absolument inadaptées par rapport à leur degré de développement et de conscience".
Le régulateur italien a ordonné à OpenAI de cesser de collecter des données auprès de clients italiens et de divulguer les mesures prises pour remédier aux plaintes déposées par l'autorité indépendante du pays.
L'organisme de régulation américain reçoit une plainte concernant ChatGPT
Le Centre for AI and Digital Policy a déposé une plainte auprès de la Commission fédérale du commerce des États-Unis (FTC) pour qu'elle empêche OpenAI de lancer de nouvelles versions commerciales au-delà de sa version actuelle, appelée GPT-4.
La plainte du centre a été publiée sur le site web du groupe, où elle qualifie GPT-4 de "biaisé, trompeur et une menace pour la vie privée et la sécurité publique".
La plainte officielle fait suite à une lettre ouverte approuvée par Elon Musk, des spécialistes de l'IA et des leaders de l'industrie qui ont demandé une suspension de six mois du développement de systèmes plus avancés que GPT-4 récemment introduit par OpenAI, en soulignant les risques sociétaux potentiels.
Source : Ulrich Kelber, commissaire allemand à la protection des données
Et vous ?
Voir aussi
Que peut nous apporter l'outil ChatGPT ? L'essence même du puissant chatbot d'IA générative dévoilée
Que peut nous apporter l'outil ChatGPT ? L'essence même du puissant chatbot d'IA générative est dévoilée, à travers une enquête auprès des utilisateurs d'Internet
Il y a fort à parier que vous avez rencontré le terme ChatGPT à plusieurs reprises ces derniers temps. Cet outil a révolutionné le monde de la technologie d'une manière que la plupart d'entre nous n'auraient jamais pu imaginer. Les créateurs du programme récoltent aujourd'hui les fruits de leur dur labeur. Mais à quoi sert exactement cet outil et quelles sont ses capacités ?
Si vous faites une recherche en ligne, vous trouverez une pléthore d'informations sur ce sujet. Mais pour bien comprendre l'essence même de cette entreprise, nous avons pensé qu'il serait intéressant de noter quelques résultats intéressants issus de recherches récentes qui, selon nous, aideraient nos utilisateurs à découvrir son potentiel illimité.
Alors que certains y voient un puissant programme d'IA, d'autres vont jusqu'à considérer qu'il s'agit de la fin du monde et de l'augmentation du chômage.
De nouvelles études montrent que 40 % des personnes craignent que cet outil ne soit responsable de la perte de leur emploi et ne les mette au chômage. Par ailleurs, 60 % des personnes interrogées estiment que ChatGPT offre des conseils médicaux gratuits et d'autres consultations liées au domaine de la santé.
Mais seulement 9 % ont révélé comment ils l'utiliseraient dans le cadre de leurs activités académiques et même 57 % utiliseraient l'outil pour rédiger leur thèse.
À l'autre bout du spectre, 86 % estiment que l'outil peut être utilisé à des fins de manipulation et de contrôle de la population. Pas moins de 63 % estiment que les entreprises devraient commercialiser des produits sur cet outil, comme elles le font sur Google Search.
Enfin, 13 % pensent qu'il s'agit du meilleur moyen de faire des ragots et de flirter en ligne, tandis que 22 % l'utiliseraient pour se faire passer pour une autre personne. Ensuite, 17 % affirment qu'ils l'utiliseraient pour rédiger des discours de mariage, tandis que 14 % pourraient s'en servir pour envoyer des messages de rupture à leur partenaire.
Un autre incident choquant s'est produit lorsque des utilisateurs ont confondu un poème produit par l'IA avec un poème de la grande poétesse Sylvia Plath.
En ce qui concerne les craintes et les espoirs associés à ce type d'outil, la plupart des utilisateurs en ligne affirment avoir eu une expérience pratique avec cet outil d'IA. Si 78 % d'entre eux l'ont utilisé à diverses fins, seul 1 % déclare n'en avoir jamais entendu parler. Parmi ces 78 %, la question de savoir ce que les utilisateurs faisaient exactement avec cet outil a suscité beaucoup d'interrogations.
- 20 % - Recherche d'informations
- 19 % - Produire du contenu court
- 14 % - Jouer
- 11 % - Recherche de recommandations
- 11 % - Activités académiques
- 10 % - Rédaction
D'autres l'ont utilisé pour des conseils médicaux et des problèmes thérapeutiques.
La recherche a ensuite montré que 83 % des personnes interrogées craignaient que les informations affichées ne soient biaisées en faveur des communautés minoritaires, tandis que 87 % craignaient que cette technologie ne soit utilisée pour contrôler la population. En outre, 70 % des personnes interrogées estiment que cette technologie pourrait améliorer la vie de l'humanité en général.
63 % estiment que les entreprises pourraient en tirer profit à des fins de marketing, tandis qu'une petite majorité craint que l'outil ne permette de se faire passer pour une autre personne en ligne.
Un autre élément d'information intéressant est que les gens craignent vraiment pour leur emploi. Parmi ceux qui pensent qu'ils vont être remplacés très bientôt, les développeurs de logiciels sont en tête de liste.
Viennent ensuite les emplois liés à l'analyse des données et au service à la clientèle. Les créateurs de contenu et les spécialistes du marketing suivent de près. Mais encore une fois, l'outil comporte sa part d'inexactitudes, donc nous ne pensons pas qu'il faille trop s'inquiéter à ce sujet pour le moment.
Source : Tidio
Et vous ?
Voir aussi
La CNIL enregistre les premières plaintes contre le logiciel d’IA d'OpenAI, l'accusant de violation du RGPD
ChatGPT bientôt interdit en France comme en Italie ? La CNIL enregistre les premières plaintes contre le logiciel d’IA d'OpenAI
la société est accusée d'avoir violé plusieurs dispositions du RGPD
En France, la Commission nationale de l’informatique et des libertés (CNIL) a enregistré au moins deux plaintes visant le chatbot d'IA ChatGPT. La première, déposée par l’avocate Zoé Villain, présidente de l’association de sensibilisation aux enjeux du numérique Janus International, reproche à OpenAI de distribuer son outil d'IA sans aucune condition d'utilisation et sans aucune politique de confidentialité. Elle demande à la CNIL de l'aider à accéder aux données personnelles collectées par ChatGPT sur sa personne. Dans la seconde plainte, le développeur français David Libeau accuse ChatGPT d'inventer des informations erronées à son sujet.
L'arrivée de ces deux plaintes auprès de la CNIL place davantage ChatGPT dans le viseur du gendarme français des données personnelles. Depuis le précédent créé par l'Italie, le chatbot d'IA d'OpenAI fait l'objet d'une surveillance accrue de la part de l'Union européenne et d'autres régulateurs étatiques. ChatGPT est rapidement devenu l'application grand public à la croissance la plus rapide de tous les temps, mais après l'émerveillement, place désormais au traitement de nombreuses préoccupations qu'il pose, notamment en matière de désinformation, de sécurité et de confidentialité. En France, la perspective d'un blocage de ChatGPT est plus forte que jamais.
Jusque-là silencieuse, la CNIL française est maintenant confrontée à deux plaintes qui dénoncent les manquements d'OpenAI dans la distribution de son logiciel d'IA et les problèmes de désinformation de ce dernier. Les plaintes de Zoé Villain et de David Libeau, développeur très engagé dans la protection des données personnelles, auraient été déposées ce mardi 4 avril 2023 et ont été signalées dans un premier temps par le média L'Informé. Dans sa plainte, Villain explique qu'après avoir créé un compte pour utiliser ChatGPT, elle a remarqué l'absence de « conditions générales d’utilisation » à accepter et d’« une quelconque politique de confidentialité ».
Nous avons porté plainte devant la CNIL hier contre #OpenAI #ChatGPT suite à une demande d’accès à mes données personnelles restée sans réponse. Retrouvez les infos dans @LInforme_ _ avec @reesmarc https://t.co/tGxc1CrtDk
— Zoe Vilain 🇪🇺 (@Zoe_Vilain) April 5, 2023
Villain s'étonne d'un tel manquement, car, selon elle, ces deux choses devraient être présentes sur le site de ChatGPT du moment où elle a fourni des données personnelles lors de son inscription et de son utilisation du service. Elle accuse OpenAI de ne pas informer suffisamment les utilisateurs sur la façon dont le laboratoire d'IA de San Francisco traite les données personnelles. De plus, elle explique avoir pris contact avec OpenAI pour tenter d'obtenir une copie que des données personnelles dont l'entreprise dispose sur sa personne, mais n'a pas obtenu gain de cause. Ainsi, à travers sa plainte, Villain demande à la CNIL de l'aider dans cette démarche.
« OpenAI n’a pas été en mesure de donner droit à ma demande d’accès à mes données personnelles dans les délais impartis, et ce sans justification », écrit-elle dans sa plainte. Or, le RGPD (le règlement général sur la protection des données) de l'UE exige que le responsable du traitement - OpenAI dans le cas présent - facilite les droits des personnes concernées, sauf s’il est prouvé que l’identification est impossible. « On n’est pas antitechnologique, mais on souhaite une technologie éthique », a déclaré Villain à l’AFP. Elle espère que la CNIL parviendra à contraindre OpenAI à se conformer la réglementation européenne sur les données personnelles.
De son côté, David Libeau allègue dans sa plainte auprès de la CNIL avoir repéré des informations personnelles le concernant en interrogeant ChatGPT sur son profil. Il ajoute que ses informations sont fausses. « Lorsque je demandais plus d’informations, l’algorithme a commencé à affabuler et à m’attribuer la création de sites Web ou l’organisation de manifestations en ligne, ce qui est totalement faux », écrit-il. Il s'agit d'une entorse grave au RGPD. En fait, cette faille serait contraire à l'article 5 du RGPD, qui exige que les informations délivrées portant sur une personne soient exactes. Une enquête de la CNIL doit déterminer l'exactitude de l'accusation.
Selon certains critiques, l'instruction des deux plaintes par l’autorité de protection des données personnelles pourrait déboucher - en théorie - sur une interdiction du chatbot en France. Mais il s'agit de l'option la plus radicale et la CNIL dispose d'autres mesures moins drastiques qu'elle pourrait déployer si OpenAI est condamné. On pourrait citer : un simple rappel à l'ordre, une injonction de mise en conformité ou encore une amende pouvant aller jusqu'à 4 % du chiffre d'affaires annuel mondial de l'entreprise. Selon certains analystes, il peut arriver qu'OpenAI décide de son propre chef de quitter l'Hexagone par crainte des effets de certaines décisions.
- Journaliste : Au bout du compte, qu'attendez-vous de la procédure devant la @CNIL ?
— David Libeau (@DavidLibeau) April 6, 2023
- Moi : Rien.https://t.co/054IGcpEGW
D'autres pensent néanmoins que c'est un scénario très peu probable. Tout compte fait, après plusieurs mois d'enchantement, OpenAI doit maintenant faire face aux préoccupations suscitées par son logiciel d'IA dans de nombreuses juridictions dans le monde. Vendredi dernier, l'Italie est devenue le premier pays à bloquer provisoirement ChatGPT. L'organisme italien de surveillance de la vie privée (l'équivalent italien de la CNIL) a évoqué des craintes sur la sécurité des données personnelles, l'absence d'une note d'information aux utilisateurs, et l'absence de filtre pour vérifier l'âge des utilisateurs. Il a également fait d'autres remarques mineures sur ChatGPT.
Le régulateur a déclaré que l'entreprise disposait de 20 jours pour l'informer sur la manière dont elle répondrait à ses préoccupations, sous peine d'une amende de 20 millions d'euros (environ 21,7 millions de dollars), soit jusqu'à 4 % des revenus annuels d'OpenAI. Le blocage de ChatGPT en Italie est intervenu quelques jours après qu'Europol a averti que les criminels utilisent l'outil d'IA pour commettre des fraudes et d'autres cybercrimes, de l'hameçonnage aux logiciels malveillants. Le blocage est également intervenu après que ChatGPT a divulgué les titres de l'historique des conversations de certains utilisateurs et certaines informations de paiement.
En outre, l'Allemagne pourrait suivre l'exemple de l'Italie et interdire ChatGPT pour des raisons de sécurité des informations personnelles. Le lundi 3 avril, le commissaire allemand à la protection des données, Ulrich Kelber, a déclaré au journal Handelsblatt que son pays pourrait s'inspirer de la récente interdiction de ChatGPT par l'Italie et prendre une mesure similaire. Kelber a déclaré que les autorités de régulation allemandes ont communiqué avec leurs homologues italiens à la suite de l'interdiction prononcée dans ce pays. Les autorités de régulations d'autres pays de l'UE, tels que la France et l'Irlande, auraient également fait la même chose.
Cette semaine, un porte-parole du commissaire irlandais à la protection des données (DCP) a déclaré : « nous suivons l'évolution de la situation avec l'autorité italienne de régulation des données pour comprendre les raisons de son action et nous nous coordonnerons avec toutes les autorités de protection des données de l'UE sur cette question ». Le DPC est le principal régulateur de l'UE pour de nombreux géants mondiaux de la technologie dans le cadre du "guichet unique" de réglementation des données de l'Union européenne. Toutefois, elle n'exerce aucun contrôle réglementaire direct sur la manière dont OpenAI opère au sein du bloc des 27.
En fait, OpenAI n'a pas de bureaux dans l'UE. Il faut également rappeler que le "Center for AI and Digital Policy" a déposé une plainte auprès de la Commission fédérale du commerce (FTC) des États-Unis lui demandant d'empêcher OpenAI de lancer de nouvelles versions commerciales au-delà de sa version actuelle, GPT-4. La plainte allègue que GPT-4 de "biaisé et trompeur" et l'accuse d'être une menace pour la vie privée et la sécurité publique. La plainte fait suite à une lettre ouverte cosignée par plusieurs experts en IA réclamant une suspension de six mois du développement de systèmes plus avancés que GPT-4, en évoquant des risques sociétaux.
Sources : CNIL, AFP
Et vous ?
Voir aussi
Interdire ChatGPT, en France ou ailleurs, est stupide.
A moins que l'Europe est mieux à proposé et qu'eux considère que leur "outil chat récole les données, certes, mais ... c'est pour l'europe, Môsieur".
ChatGPT est entrain de faire prendre un tournant majeure à tous le monde, les entreprises de devs. en ont besoin, interdire ça en Europe comme l'ont fait stupidement les italiens, c'est se mettre un balle dans le pieds.
Aussi, l'affirmation de Bill Gates que temporiser sur la question ne résoudra pas les problèmes, fait se demander quels problèmes les applications d'intelligence artificielle lui posent personnellement.
Est-ce que le moratoire doit avoir pour but de résoudre les problèmes, ou d'éviter d'en poser de nouveaux, le temps qu'on comprenne où on en est ?
Certes, affirmer comme le font péremptoirement par leur silence les négociateurs sur la question des retraites, que l'intelligence artificielle n'aura aucun impact sur l'emploi, et ne saurait en aucun cas être impliquée dans le financement des retraites, est un challenge en matière de mauvaise foi.
Pour autant, affirmer que ce qu'on faisait jusque là n'est tout-à-coup plus possible, demande à être quelque peu étayé.
Personnellement, ayant une bonne dose d'intelligence naturelle, je ne vois pas l'intérêt de me coltiner une intelligence artificielle.
Mais, comme toute prothèse, je pense que pour ceux qui ont un déficit de ce coté, une béquille ou un déambulateur comme ChatGPT peut leur venir en aide.
ChatGPT, l’outil d’IA, s'attaque à vos emplois, les emplois qui seraient mal payés par Amazon
ChatGPT, l’outil d’IA, s'attaque à vos emplois, les emplois qui seraient mal payés par Amazon,
la technologie d’OpenAI seraient plus performante que les travailleurs humains
Depuis quelque temps, certains observateurs avisés estiment que ChatGPT et ses semblables ont un avantage : mettre en évidence les tâches ennuyeuses et banales que nous devons accomplir chaque jour, comme résumer des rapports, envoyer des courriels au patron, écrire du code standard, faire ses devoirs, etc. Selon les chercheurs Fabrizio Gilardi, Meysam Alizadeh et Maël Kubli de l'université de Zurich, les modèles d'apprentissage automatique peuvent effectuer des travaux de traitement de contenu et d'assainissement de données mieux et à moindre coût que les personnes participant à des plateformes de crowdsourcing.
Le crowdsourcing est la pratique qui correspond à faire appel au grand public ou aux individus à l'extérieur de l'entreprise. C’est une forme d'externalisation, voire de collaboration possible avec des individus à l'extérieur de l'entreprise. Il constitue une alternative aux autres formes de production comme la réalisation en interne, l'externalisation classique ou l'innovation en réseaux.
Dans le cadre du crowdsourcing, les prestataires professionnels ou amateurs peuvent alors être récompensés, rémunérés ou parfois uniquement valorisés lorsque leurs créations sont choisies par l'annonceur ou parfois simplement pour leur effort de participation.
Les chercheurs Fabrizio Gilardi, Meysam Alizadeh et Maël Kubli ont examiné comment le grand modèle de langage ChatGPT d'OpenAI traitait l'annotation de texte - l'ajout d'étiquettes au texte pour aider les modèles d'apprentissage automatique à mieux le comprendre - par rapport à la plateforme de crowdsourcing Amazon Mechanical Turk (MTurk).
Amazon Mechanical Turk
Amazon Mechanical Turk (MTurk) est une place de marché pour la réalisation de tâches virtuelles nécessitant une intelligence humaine. Le service Mechanical Turk permet aux entreprises d'accéder à une main-d'œuvre diversifiée, à la demande et évolutive, et offre aux travailleurs une sélection de milliers de tâches à accomplir au moment qui leur convient.
« Amazon Mechanical Turk a été créé parce que nous savons qu'il y a beaucoup de choses que les êtres humains font beaucoup plus efficacement que les ordinateurs, comme l'identification d'objets dans une photo ou une vidéo, la déduplication de données, la transcription d'enregistrements audio ou la recherche de détails sur des données. Les clients demandeurs peuvent confier ces tâches à la main-d'œuvre de Mechanical Turk. Traditionnellement, ces tâches étaient accomplies en recrutant une importante main-d'œuvre temporaire (ce qui prend du temps, coûte cher et est difficile à faire évoluer) ou n'étaient pas réalisées », précise Amazon.
L'IA générative, expliquée
Les chercheurs de Goldman Sachs ont examiné l'état actuel du développement de l'IA et ses principales capacités. Le tableau ci-dessous donne un aperçu de l'IA générative, en comparaison avec les méthodes d'apprentissage automatique qui l'ont précédée, parfois appelées IA étroite ou analytique.
Vue d'ensemble de l'IA générative
Selon leur évaluation, les technologies d'IA générative actuellement à l'étude, telles que ChatGPT, DALL-E et LaMDA, se distinguent par trois caractéristiques principales :
- leurs cas d'utilisation généralisés plutôt que spécialisés ;
- leur capacité à générer des nouveaux résultats, de type humain, plutôt que de se contenter de décrire ou d'interpréter des informations existantes ;
leurs interfaces accessibles qui comprennent le langage naturel, les images, le son et la vidéo et y répondent. Les deux premières avancées sont essentielles pour élargir l'ensemble des tâches que l'IA peut accomplir, tandis que la troisième est déterminante pour le calendrier de son adoption.
Tout comme la migration de la programmation en ligne de commande (par exemple, MS-DOS) vers des interfaces utilisateur graphiques (par exemple, Windows) a permis le développement de programmes (par exemple, Office) qui ont mis la puissance de l'ordinateur personnel à la portée du plus grand nombre, les interfaces intuitives de la génération actuelle de technologies d'IA pourraient accélérer de manière significative leur adoption. Par exemple, ChatGPT a dépassé les 1 million d'utilisateurs en seulement 5 jours, ce qui est la première fois qu'une entreprise atteint ce niveau de référence.
ChatGPT
ChatGPT a pris le monde d'assaut depuis son lancement en novembre, avec son habileté à écrire des essais, des articles, des poèmes et du code informatique en quelques secondes seulement.
ChatGPT est un robot à grand modèle de langage (ils permettent de prédire le mot suivant dans une série de mots) développé par OpenAI et basé sur GPT-3.5. Il a une capacité remarquable à interagir sous forme de dialogue conversationnel et à fournir des réponses qui peuvent sembler étonnamment humaines.
L'apprentissage par renforcement avec retour d'information humain (RLHF) est une couche supplémentaire de formation qui utilise le retour d'information humain pour aider ChatGPT à apprendre à suivre des instructions et à générer des réponses satisfaisantes pour les humains. ChatGPT a été créé par OpenAI, une société d'intelligence artificielle basée à San Francisco, connue pour son célèbre DALL-E, un modèle d'apprentissage profond qui génère des images à partir d'instructions textuelles appelées "prompts".
Au-delà de ces changements, l'augmentation exponentielle de la puissance de calcul disponible a permis des progrès rapides dans la complexité des tâches que l'IA peut effectuer et dans la précision avec laquelle elle peut les exécuter. Par exemple, la dernière itération du modèle GPT d'OpenAI - GPT-4, publié en mars 2023, environ un an après la fin de la formation du modèle GPT-3.5 qui sous-tend actuellement ChatGPT - obtient 150 points de plus au SAT que son prédécesseur, est 40 % plus susceptible de produire des réponses précises et peut désormais accepter des données visuelles (et non plus seulement du texte).
Comme le montre le tableau Ci-dessus, les algorithmes qui sous-tendent l'IA générative avaient commencé à dépasser les références humaines pour des tâches telles que la classification d'images et la compréhension de la lecture, même avant ces récentes avancées.
ChatGPT ou MTurk
« Nous constatons que pour quatre tâches sur cinq, la précision de ChatGPT est supérieure à celle de MTurk », indique l'article. « De plus, ChatGPT est nettement moins cher que MTurk : les cinq tâches de classification coûtent environ 68 dollars sur ChatGPT (25 264 annotations) et 657 dollars sur MTurk (12 632 annotations).
Par annotation, ChatGPT coûte environ 0,003 dollar, ce qui est vingt fois moins cher que MTurk tout en étant plus précis, affirment les chercheurs.
Fabrizio Gilardi, professeur d'analyse politique au département de sciences politiques de l'université de Zurich et l'un des coauteurs de l'article, a déclaré que les résultats de ChatGPT étaient moins de 50 % exacts pour certaines tâches, mais que c'était toujours mieux que MTurkers.
L'avenir du travail : remplacer parfois, compléter souvent
La capacité de l'IA générative à générer de nouveaux contenus impossibles à distinguer de ceux créés par l'homme et supprimer les barrières de communication entre l'homme et la machine constitue une avancée majeure susceptible d'avoir des effets macroéconomiques considérables.
Pour évaluer l'ampleur de ces effets, les chercheurs de Goldman ont examiné l'impact probable de l'IA générative sur le marché du travail si elle tient ses promesses. En particulier, ils utilisent les données de la base de données O*NET sur le contenu des tâches de plus de 900 professions (étendues à plus de 2000 professions dans la base de données européenne ESCO) pour estimer la part du travail total exposée à l'automatisation par l'IA permettant d'économiser de la main-d'œuvre, par profession et par secteur d'activité.
Sur la base de leur examen de la littérature existante sur les cas d'utilisation probables de l'IA générative, ils classent 13 activités professionnelles (sur 39 dans la base de données O*NET) comme exposées à l'automatisation par l'IA et supposent que l'IA est capable d'accomplir des tâches d'une difficulté allant jusqu'à 4 sur l'échelle de "niveau" de 7 points de l'O*NET. Ils prennent ensuite une moyenne pondérée en fonction de l'importance et de la complexité des tâches essentielles pour chaque profession et estiment la part de la charge de travail totale de chaque profession que l'IA est susceptible de remplacer.
Ils supposent en outre que les professions pour lesquelles une part importante du temps des travailleurs est passée à l'extérieur ou à effectuer un travail physique ne peuvent pas être automatisées par l'IA. Dans l'ensemble, les résultats des travaux des chercheurs de l'université de Zurich semblent indiquer que les travailleurs humains désireux d'obtenir ce type d'emploi n'ont plus rien à perdre. Toutefois, Gilardi met en garde contre une interprétation trop large de ces résultats.
« Il est trop tôt pour dire comment ChatGPT pourrait remplacer les travailleurs bénévoles », a déclaré Gilardi dans un communiqué. « Notre article démontre le potentiel de ChatGPT pour les tâches d'annotation de données, mais des recherches supplémentaires sont nécessaires pour comprendre pleinement les capacités de ChatGPT dans ce domaine. »
Gilardi a ajouté qu'il était important de recueillir davantage de données en utilisant différentes tâches, différents types de données et différentes langues, et a ajouté que les MTurkers effectuaient d'autres tâches telles que la recherche par sondage, l'annotation d'images, la transcription audio et vidéo, les tests d'utilisabilité. Il y a peut-être des scénarios dans lesquels les annotateurs humains peuvent être plus productifs avec l'aide d'un modèle comme ChatGPT, a-t-il suggéré.
Sous cette réserve, Gilardi a déclaré que, pour les types de tâches étudiés, ChatGPT semble pouvoir remplacer les travailleurs bénévoles, ce qui est tout à fait approprié, car les modèles de ce type sont certainement formés à partir de données annotées par des humains. Les logiciels d'IA qui prennent en charge le travail banal des gens pourraient avoir des effets bénéfiques sur la santé mentale, étant donné que les modérateurs humains ont intenté des procès en raison du traumatisme causé par l'examen de contenus toxiques.
« Cela a des implications pour les tâches d'annotation désagréables et difficiles telles que la détection des discours haineux, qui ont des conséquences psychologiques néfastes pour les annotateurs humains », a déclaré Gilardi. « En d'autres termes, des outils tels que ChatGPT pourraient être des candidats parfaits pour remplacer ou réduire l'annotation humaine pour les tâches qui impliquent des considérations éthiques pour les humains. »
En proposant de s'attaquer à des tâches ennuyeuses et répétitives, les modèles pourraient absorber une partie de cette pénibilité, alors qu'une meilleure solution consisterait à repenser la manière dont nous employons et utilisons les gens de manière efficace et efficiente.
Un récent rapport de Goldman Sachs caractérise l'adoption de l'IA générative comme un stimulant de la productivité plutôt que comme un destructeur d'emplois. Il indique que « l'extrapolation de nos estimations au niveau mondial suggère que l'IA générative pourrait exposer l'équivalent de 300 millions d'emplois à temps plein à l'automatisation ».
- L'émergence récente de l'intelligence artificielle générative (IA) soulève la question de savoir si nous sommes à la veille d'une accélération rapide de l'automatisation des tâches qui permettra de réduire les coûts de main-d'œuvre et d'augmenter la productivité. Malgré l'incertitude qui entoure le potentiel de l'IA générative, sa capacité à générer des contenus impossibles à distinguer de ceux créés par l'homme et à supprimer les barrières de communication entre l'homme et la machine constitue une avancée majeure susceptible d'avoir des effets macroéconomiques considérables ;
- Si l'IA générative tient ses promesses, le marché du travail pourra être fortement perturbé. En utilisant des données sur les tâches professionnelles aux États-Unis et en Europe, nous constatons qu'environ deux tiers des emplois actuels sont exposés à un certain degré d'automatisation par l'IA, et que l'IA générative pourrait remplacer jusqu'à un quart du travail actuel. L'extrapolation de nos estimations au niveau mondial suggère que l'IA générative pourrait exposer l'équivalent de 300 millions d'emplois à temps plein à l'automatisation ;
- La bonne nouvelle, c'est que le déplacement de travailleurs dû à l'automatisation a toujours été compensé par la création de nouveaux emplois, et que l'émergence de nouvelles professions à la suite d'innovations technologiques représente la grande majorité de la croissance de l'emploi à long terme. La combinaison d'importantes économies de coûts de main-d'œuvre, de la création de nouveaux emplois et d'une productivité plus élevée pour les travailleurs non déplacés laisse entrevoir la possibilité d'un boom de la productivité qui augmenterait considérablement la croissance économique, bien que le moment où ce boom se produira soit difficile à prédire ;
- Les chercheurs estiment que l'IA générative pourrait augmenter la croissance annuelle de la productivité du travail sur une période de 10 ans après son adoption généralisée, bien que le coup de pouce à la croissance de la productivité du travail puisse être beaucoup plus faible ou plus important en fonction du niveau de difficulté des tâches que l'IA sera en mesure d'effectuer et du nombre d'emplois qui seront finalement automatisés.
L'augmentation de la productivité mondiale du travail pourrait également être significative sur le plan économique, et nous estimons que l'IA pourrait à terme augmenter le PIB mondial annuel de 7 %. Bien que l'impact de l'IA dépende en fin de compte de ses capacités et de son calendrier d'adoption, cette estimation met en évidence l'énorme potentiel économique de l'IA générative si elle tient ses promesses.
Sources : Fabrizio Gilardi, Meysam Alizadeh et Maël Kubli, chercheurs à l'Université de Zurich, Goldman Sachs
Et vous ?
Voir aussi :
OpenAI, le développeur de ChatGPT, va proposer des mesures correctives concernant l'interdiction en Italie
OpenAI, le développeur de ChatGPT, va proposer des mesures correctives concernant l'interdiction en Italie, et s'engage à plus de transparence sur le traitement des données des utilisateurs
Le producteur de ChatGPT, OpenAI, prévoit de présenter des mesures pour remédier aux problèmes qui ont conduit à l'interdiction du chatbot en Italie lors de la dernière semaine de mars, a déclaré l'agence italienne de protection des données, Garante.
OpenAI, soutenu par Microsoft Corp, a mis ChatGPT hors ligne en Italie après que l'agence Garante l'ait temporairement restreint et ait entamé une enquête sur une violation présumée des règles de protection de la vie privée.
En mars dernier, l'agence a accusé OpenAI de ne pas avoir vérifié l'âge des utilisateurs de ChatGPT et "l'absence de toute base juridique justifiant la collecte et le stockage massifs de données personnelles".
Le jeudi 6 avril, elle a déclaré qu'elle n'avait pas l'intention de freiner le développement de l'IA, mais a rappelé l'importance de respecter les règles visant à protéger les données personnelles des citoyens italiens et européens.
Lors d'une vidéoconférence qui s'est tenue le mercredi 5 avril en fin de journée et à laquelle participait le PDG Sam Altman, OpenAI s'est engagée à être plus transparente sur la manière dont elle traite les données des utilisateurs et vérifie l'âge de ces derniers, a indiqué Garante.
La société a déclaré qu'elle enverrait à Garante un document concernant les mesures prises pour répondre à ses demandes.
L'autorité chargée des données a déclaré qu'elle évaluerait les propositions faites par OpenAI. Une source au fait du dossier a déclaré qu'il faudrait probablement plusieurs jours pour évaluer le contenu de la lettre.
Jeudi 6 avril, l'entreprise a publié un billet de blog intitulé "Notre approche de la sécurité de l'IA", dans lequel elle indique qu'elle travaille à l'élaboration de "politiques nuancées contre les comportements qui représentent un véritable risque pour les personnes".
"Nous n'utilisons pas les données pour vendre nos services, faire de la publicité ou établir des profils de personnes. Nous utilisons les données pour rendre nos modèles plus utiles pour les gens. ChatGPT, par exemple, s'améliore en s'entraînant davantage sur les conversations que les gens ont avec lui."
"Bien que certaines de nos données d'entraînement comprennent des informations personnelles disponibles sur l'internet public, nous voulons que nos modèles apprennent à connaître le monde, et non des personnes privées."
L'entreprise a déclaré qu'elle supprimait les informations personnelles de ses ensembles de données dans la mesure du possible, qu'elle affinait ses modèles pour rejeter les invites des utilisateurs demandant de telles informations, et qu'elle répondrait aux demandes individuelles de suppression de leurs données de ses systèmes.
L'interdiction en Italie a suscité l'intérêt d'autres autorités de régulation de la vie privée en Europe, qui étudient la nécessité de prendre des mesures plus sévères à l'égard des chatbots et de coordonner ces actions.
En février, l'agence Garante a interdit à la société Replika, spécialisée dans les chatbots, d'utiliser les données personnelles des utilisateurs italiens, en invoquant les risques pour les mineurs et les personnes émotionnellement fragiles.
Source : Sam Altman, PDG d'OpenAI
Et vous ?
Voir aussi
Sundar Pichai, CEO de Google, annonce l’intégration de l’IA conversationnelle à son moteur de recherches
Sundar Pichai, CEO de Google, annonce l’intégration de l’IA conversationnelle à son moteur de recherches
En réponse au succès de ChatGPT d’OpenAI financé par Microsoft
Google annonce l’intégration de l’IA conversationnelle à son moteur de recherches. La décision n’est pas inattendue. En effet, elle fait suite au lancement par Microsoft d’une version de son propre moteur de recherches Bing qui s’appuie sur ChatGPT. La publication d’un comparatif entre ChatGPT et le moteur de recherche de Google (sans IA) aide en sus à comprendre la manœuvre en cours de gestation chez Google. C’est l’avenir des moteurs de recherche qui est en jeu avec une question centrale : les moteurs de recherche qui s’appuient sur l’intelligence artificielle sont-ils meilleurs que les moteurs de recherche classiques ?
La réponse de Google à ChatGPT a un nom : Bard. C’est une version allégée de LaMDA – le puissant modèle de langage de Google présenté lors de l’édition 2021 de la conférence Google I/O. Bard était d’abord réservé à des testeurs de confiance. L’annonce de Sundar Pichai est un signe de l’imminence de son ouverture au grand public dans les semaines à venir. Le tableau soulève la pertinence de la tendance des grandes entreprises technologiques à aller vers des moteurs de recherche qui s’appuient sur l’intelligence artificielle.
Les chatbots sont sujets à controverse en raison de la désinformation qui résulte de leur utilisation
Ce qu’on sait de ces intelligences artificielles d’OpenAI et de Google est qu’il s’agit de chatbots capable de comprendre le langage naturel et de répondre en langage naturel. Elles peuvent donner de façon directe des solutions à des problèmes complexes. C’est la raison pour laquelle certaines institutions universitaires en interdisent l’usage à leurs étudiants. Le professeur Arvind Narayanan de l’université de Princeton tire néanmoins la sonnette d’alarme sur la pertinence de s’appuyer sur des moteurs de recherche intégrant ces chatbots en déclarant que c’est de la « poudre de perlimpinpin. »
« Sayash Kapoor et moi-même l'appelons un générateur de conneries, comme d'autres l'ont aussi fait. Nous n'entendons pas cela dans un sens normatif mais dans un sens relativement précis. Nous voulons dire qu'il est entraîné à produire des textes plausibles. Il est très bon pour être persuasif, mais il n'est pas entraîné à produire des déclarations vraies. Il produit souvent des affirmations vraies comme effet secondaire de sa plausibilité et de sa persuasion, mais ce n'est pas son objectif.
Cela correspond en fait à ce que le philosophe Harry Frankfurt a appelé connerie, c'est-à-dire un discours destiné à persuader sans se soucier de la vérité. Un conteur humain ne se soucie pas de savoir si ce qu'il dit est vrai ou non ; il a certaines fins en tête. Tant qu'il persuade, ces objectifs sont atteints. En fait, c'est ce que fait ChatGPT. Il essaie d'être persuasif et il n'a aucun moyen de savoir avec certitude si les déclarations qu'il fait sont vraies ou non », déclare-t-il à propos de ChatGPT.
D’ailleurs, une mouture de Microsoft Bing a affiché 2,5 milliards de personnes en réponse à la question de savoir quelle est la population de la planète Mars. La situation soulève la question de savoir si la montée en puissance de l’intelligence artificielle ne va pas plutôt amener les humains à travailler plus dur pour lutter contre la désinformation.
Un GIF partagé par Google montre Bard répondant à la question : « De quelles nouvelles découvertes du télescope spatial James Webb puis-je parler à mon enfant de 9 ans ? » Bard propose une liste à puces de trois éléments, parmi lesquels un élément indiquant que le télescope « a pris les toutes premières images d'une planète en dehors de notre propre système solaire. »
Cependant, un certain nombre d'astronomes sur Twitter ont souligné que c'était incorrect et que la première image d'une exoplanète avait été prise en 2004 - comme indiqué sur le site Web de la NASA (voir en source) : « Ce n'est pas pour faire mon connard (en fait, si finalement) et je suis sûr que Bard sera impressionnant, mais pour mémoire : JWST n'a pas pris 'la toute première image d'une planète en dehors de notre système solaire' », a tweeté l'astrophysicien Grant Tremblay.
Les développements en cours soulèvent des questions que l’on décide de faire de faire usage du moteur de recherche qu’il soit de Google ou de Microsoft : faut-il vraiment s’appuyer sur un chatbot pour rechercher des informations sur Internet ? L’approche est-elle meilleure que l’ancienne qui consiste à laisser l’humain aller lui-même à la recherche des informations pour en faire la synthèse ?
En effet, des chatbots comme ChatGPT ont une tendance bien documentée à présenter de fausses informations comme des faits. Les chercheurs mettent en garde contre ce problème depuis des années. C’est d’ailleurs la raison pour laquelle certains enseignants ont adopté des politiques ouvertes d’utilisation de ChatGPT en précisant à leurs étudiants que « l’intelligence artificielle peut se tromper. Les étudiants doivent donc vérifier les résultats qu’elle leur renvoie à l’aide d’autres et qu'ils seront responsables de toute erreur ou omission fournie par l'outil. »
Source : Wall Street Journal
Et vous ?
Voir aussi :
"Hey chatGPT, voilà toutes les donneés confidentielles économiques de mon entreprises, fait moi le rapport financier stp, j'ai la flème".
"Hey chatGPT tu peux faire absolument tout ce qui demande le moindre effort stp j'ai la flemme. Et au passage, tu peux manger à ma place stp j'ai la flemme. Et puis tant qu'à faire tu peux vivre à ma place stp j'ai la flemme".
ça va être pratique pour tout les gouvernements du monde, les gens se battent pour pouvoir arrêter d'avoir à penser/réfléchir... Enfin ça date pas d'hier.
Enfin si il y a bien un truc que j'ai compris, c'est que qu'on l'aime ou pas, on arrête pas le progrès ^^ Je l'utilise pour pondre du C arduino sur des attiny parce que je suis pas foutu d'apprendre comment solliciter les GPIO (les déclarations sont plus compliquées que sur de l'arduino/ESP).
Pour ce qui est de mon taf de juriste d'affaire, j'ai essayé de lui faire pondre des trucs ou de lui faire m'expliquer des trucs juridique, je déconseille de se baser sur elle pour ça
Le pire c'est que j'ai essayé... et ça marche plus ou moins. Le truc qu'il arrive le mieux à faire c'est la rédaction d'annonce légale, mais il faut lui donner toute les infos sans quoi il se plantera lamentablement, et lui donner toute les infos prend autant de temps que le faire soi même
Ce n'est pas tout-à-fait ça, l'enjeu.
Ce qu'ils veulent, c'est se passer de ton intelligence pour ne pas avoir à te payer un salaire.
Ce n'est pas nouveau
<MODE VIEUX CON>
De mon temps, les devoirs à la maison, ça a toujours été inégalitaire :
- les parents diplômés (ou pas) pouvaient aider (ou pas)
- on pouvait avoir une encyclopédie à la maison (ou pas)
- on pouvait avoir un grand frère ou soeur (ou pas) intelligent (ou pas) qui aide (ou pas)
- un(e) amoureux(se) dévoué(e) en mode "esclave" qui fait tes devoirs (ou pas)
</MODE VIEUX CON>
J'ai coché toutes les cases "ou pas"
Aujourd'hui tout le monde a accès à Internet.
ChatGPT permet aux moches / pas populaires / sans famille de tricher aussi - on va dire que c'est plus juste mais dans le mauvais sens, l'égalité par le nivellement par le bas
Les vedettes du collège et du lycée qui étaient gâtés et qui frimaient pas mal, bah... ils ne friment plus aujourd'hui
Quoique certains si quand même, car il y a des métiers (que je ne citerais pas) ou c'est la tactch' qui compte
Répondre avec citation
Partager