L'UE c'est vraimment le bal de la corruption. Quand je pense que la parlementaire grec qui c'était fait choper a recevoir du blé du Qatar a put tranquillement reprendre son poste comme si de rien n'était... C'est vraiment a vomir.
Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter
Discussion :
L'UE c'est vraimment le bal de la corruption. Quand je pense que la parlementaire grec qui c'était fait choper a recevoir du blé du Qatar a put tranquillement reprendre son poste comme si de rien n'était... C'est vraiment a vomir.
IA générative (IAG) : la CNIL recommandée pour la réguler par une commission de l'Assemblée nationale
IA générative (IAG) : la CNIL recommandée pour la réguler par une commission de l'Assemblée nationale,
« seule la CNIL dispose de l'expérience et de l'expertise pour évaluer le respect du RGPD sur les modèles d'IAG »
Les députés Philippe Pradal et Stéphane Rambaud ont partagé les conclusions des travaux d'une mission d'information sur les défis de l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré. Selon le rapport, il est proposé de donner de nouveaux pouvoirs à la CNIL. Le rapport estime que la CNIL apparaît comme la mieux à même de réguler les IAG (intelligence artificielle générative) : « seule la CNIL dispose de l’expertise et de l’expérience nécessaires pour évaluer le respect du RGPD par les modèles d’IAG. Elle a l’habitude de traiter les plaintes des usagers, de les instruire et, si nécessaire, de prononcer des sanctions. Les auditions ont mis en évidence la maturité de la réflexion de la CNIL ».
L’intelligence artificielle générative désigne la capacité des systèmes informatiques à produire du contenu original et pertinent à partir de données existantes, telles que des textes, des images, des sons ou des vidéos. Cette technologie offre de nombreuses possibilités d’innovation, de créativité et d’amélioration de la qualité de vie, mais elle soulève aussi des enjeux éthiques, juridiques et sociétaux importants.
C’est pourquoi la commission des lois de l’Assemblée nationale a mené une mission d’information sur ce sujet, dont le rapport a été présenté le 14 février 2024 par Philippe Pradal et Stéphane Rambaud, députés. Ce rapport fait le point sur les opportunités et les risques de l’IAG, ainsi que sur l’approche européenne et les pistes de régulation proposées par les rapporteurs.
Les motivations
Les députés ont expliqué :
Depuis une année, l’intelligence artificielle générative (IAG) a fait une irruption spectaculaire dans le débat public.
La mise à disposition gratuite au grand public par la société californienne OpenAI de son robot conversationnel (« chatbot ») ChatGPT a fait prendre conscience aux citoyens, aux médias et aux décideurs que la démocratisation de l’IAG en langage naturel allait devenir une réalité incontournable.
La diffusion de l’IAG semble inéluctable et ses usages possibles sont sources de curiosité, d’intérêt et d’espoir pour les uns ; d’inquiétude voire d’angoisse pour les autres.
Ces réactions s’expliquent par le fait que l’IAG – qui est un sous-domaine de l’intelligence artificielle (IA) – a pour caractéristique de produire rapidement des contenus originaux, visuels, sonores ou écrits, parfois grâce à une interface simple n’exigeant pas de compétences informatiques particulières. Parmi eux, les modèles de langage (large language model ou LLM en anglais) permettent de converser dans une langue humaine avec l’IAG.
L’ensemble de ces systèmes reposent sur des modèles mathématiques statistiques, qui identifient la réponse la plus probable à l’injonction donnée : « Un LLM "prédit" le résultat (en l’occurrence le mot suivant) le plus vraisemblable au vu de la distribution statistique des données d’entraînement ».
Des modèles qui ne sont pas infaillibles
Ces modèles ne sont donc pas infaillibles, en particulier lorsque le nombre de données dont ils disposent sur une question est limité. Ils tendent alors à donner une réponse probable, voire plausible, mais qui peut être factuellement erronée. On parle alors « d’hallucination ».
Ces systèmes peuvent aussi être utilisés de manière détournée, ce qui conduit les concepteurs d’IAG à « brider » certaines de leurs fonctionnalités afin d’empêcher qu’elles puissent produire des contenus offensant ou dangereux.
L’IAG soulève, pour une grande partie, les mêmes enjeux que l’IA dans son ensemble, tout en renouvelant certaines problématiques et en en posant de nouvelles.
D’emblée, des interrogations sont apparues sur la conformité de ChatGPT au règlement européen sur la protection des données (RGPD). L’homologue italien de la commission nationale de l’informatique et des libertés (CNIL) a ainsi bloqué, le 31 mars 2023, l’accès au robot conversationnel, avant de l’autoriser à nouveau le 28 avril de la même année sous réserve que la société OpenAI poursuive ses efforts pour appliquer la législation européenne sur la protection des données.
Ce sujet relève directement de la compétence de la commission des Lois. C’est la raison pour laquelle, dès le 3 mai 2023, le bureau de notre commission a souhaité créer une mission d’information sur les défis de l’intelligence artificielle générative en matière de protection des données personnelles et d’utilisation du contenu généré.
De nombreuses questions
L’utilisation du contenu généré, au même titre que la protection des données, suscite également de nombreuses questions, notamment en matière de responsabilité civile, voire pénale – deux domaines qui relèvent également de la commission des Lois.
Il en est de même du respect des libertés fondamentales, un sujet de préoccupation important pour l’IA en général et l’IAG en particulier, au regard de son utilisation potentielle en matière de manipulation de l’information ou dans le cadre de campagnes électorales, par exemple.
Pour autant, certains sujets n’ont pu être éludés compte tenu de leur caractère transversal (droit d’auteurs, manipulation de l’information, utilisation de l’IAG dans le domaine de la santé ou de l’éducation). Pour ces raisons, vos rapporteurs ont été conduits ponctuellement à formuler des appréciations plus générales.
Vos rapporteurs ont conscience que les discussions sur l’IAG ne font que débuter et que leurs travaux n’épuiseront pas le sujet. Leur rapport constitue une première contribution parlementaire à ce débat. Les travaux complémentaires d’autres commissions permanentes seront précieux pour approfondir et nourrir la réflexion du Parlement.
Les opportunités et les risques de l’IAG
Les opportunités de l'IAG
L’IAG représente une nouvelle étape de la révolution numérique, qui permet de dépasser la simple analyse des données pour créer de la valeur ajoutée. Elle peut avoir des applications bénéfiques dans de nombreux domaines, tels que :
- la santé, où l’IAG peut contribuer à la recherche médicale, au diagnostic, à la prévention ou au suivi des patients ;
- l’éducation, où l’IAG peut faciliter l’apprentissage personnalisé, l’adaptation aux besoins des élèves ou la formation continue ;
- la culture, où l’IAG peut stimuler la créativité artistique, la diversité culturelle ou la préservation du patrimoine ;
- l’économie, où l’IAG peut accroître la productivité, l’efficacité ou la compétitivité des entreprises ;
- la communication, où l’IAG peut améliorer l’accessibilité, la traduction ou la diffusion de l’information.
Les risques de l’IAG
L’IAG pose également des défis majeurs pour la protection des droits fondamentaux, la sécurité et la cohésion sociale. Elle peut en effet entraîner des risques individuels ou collectifs, tels que :
- les risques pour la vie privée, si l’IAG utilise ou génère des données personnelles sans le consentement ou le contrôle des personnes concernées ;
- les risques de non confidentialité ou de fuite de données, si l’IAG n’assure pas la sécurité ou l’intégrité des données traitées ou produites ;
- le risque de biais et d’influences extérieures, si l’IAG reproduit ou amplifie des discriminations, des stéréotypes ou des manipulations ;
- les risques d’erreur et d’hallucination, si l’IAG produit du contenu erroné, incohérent ou trompeur ;
- le risque de tromperie, si l’IAG crée du contenu indiscernable de la réalité, comme les deepfakes ou les faux textes ;
- le risque de fraude à l’IAG, si l’IAG est utilisée à des fins illicites, comme le plagiat, la contrefaçon ou l’usurpation d’identité.
L’approche européenne, une réponse axée sur la régulation par les risques et la confiance
Face à ces enjeux, l’Union européenne a adopté une stratégie ambitieuse pour promouvoir une intelligence artificielle de confiance, respectueuse des valeurs et des droits fondamentaux. Cette stratégie repose sur plusieurs piliers :
- un cadre juridique déjà contraignant, qui s’applique à l’IAG, notamment le règlement général sur la protection des données (RGPD), le digital market act (DMA) et le digital services act (DSA) ;
- un projet de règlement sur l’intelligence artificielle, qui vise à instaurer des règles spécifiques et proportionnées selon le niveau de risque des systèmes d’IAG, allant de l’interdiction à la surveillance en passant par l’obligation de transparence ;
- un data act, qui doit favoriser le partage et l’utilisation des données dans le respect des droits des personnes et des entreprises ;
- un soutien à la recherche, à l’innovation et à la compétitivité, à travers des programmes de financement, de formation et de coopération.
Les pistes de régulation proposées par les rapporteurs
Les rapporteurs saluent l’approche européenne, qu’ils jugent globalement pertinente et équilibrée, mais ils formulent également des propositions complémentaires pour renforcer la régulation de l’IAG, notamment :
- le contrôle ex ante : la certification et le marquage des contenus. La solution la plus efficace en matière de régulation consisterait à certifier ex ante les modèles et les applications d’intelligence artificielle souhaitant proposer leurs services sur le marché européen. Cette certification pourrait soit conditionner l’accès au marché intérieur, soit faire office de label visant à orienter l’utilisateur vers les IA les plus vertueuses, ce qui serait moins contraignant pour les fournisseurs, mais aussi moins efficace au regard du but poursuivi.
- Le contrôle ex post : le traitement des plaintes et un régime de sanction. Il consiste à identifier, corriger et sanctionner les dysfonctionnements des IAG selon un système de contrôle ex post ciblant certains acteurs en fonction des signalements reçus. Ce contrôle pourrait notamment porter sur les jeux de données utilisés pour entraîner le modèle – en particulier l’exploitation de données personnelles ou de données soumises au droit d’auteur – et sur le fonctionnement du modèle ou de ses applications (recherche de biais, vérification des filtres, etc.).
- Un système de régulation qui exige des compétences élevées. La régulation de l’IA exige une expertise juridique, mais aussi technique pour en comprendre les enjeux et être en capacité de dialoguer avec les acteurs du secteur et d’expertiser leurs systèmes.
- renforcer la responsabilité des acteurs de l’IAG, en clarifiant les obligations et les sanctions applicables en cas de manquement. Le rapport indique : « Afin de faire respecter ces règles par l’ensemble des entreprises intervenant sur le marché numérique européen, un régime de sanctions pourrait être mis en place, s’inspirant là encore du mécanisme prévu par le RGPD. Ces sanctions financières pourraient être assorties, à titre provisoire ou définitif, de la fermeture ou de la suspension de l’accès des utilisateurs aux services proposés lorsque ces derniers ne respectent pas les règles prévues. Ces sanctions auraient également des répercussions sur la réputation des entreprises ciblées, et inciteraient les fournisseurs à se conformer au plus vite au droit européen »;
- sensibiliser et former les utilisateurs et les citoyens à l’IAG, en développant des programmes éducatifs, des campagnes d’information ou des outils de vérification ;
- encourager l’auto-régulation et la co-régulation de l’IAG, en soutenant les initiatives des acteurs privés, des associations ou des autorités indépendantes ;
- développer une coopération internationale sur l’IAG, en promouvant des normes et des principes communs avec les partenaires stratégiques de l’Union européenne.
La CNIL apparaît comme la mieux à même de réguler les IAG
La réglementation européenne à venir va mettre en œuvre différents mécanismes de régulation. Selon les rapporteurs, cette régulation devrait être confiée, comme c’est habituellement le cas, à des autorités indépendantes. Le rapport note que plusieurs autorités peuvent se considérer comme compétente au regard des enjeux concernés, en particulier la CNIL en ce qui concerne la protection des données personnelles et l’Autorité de régulation de la communication audiovisuelle et numérique (ARCOM) en ce qui concerne la régulation des plateformes.
ConclusionLeurs interventions doivent être coordonnées, mais il apparaît nécessaire de désigner l’une d’entre elles pour piloter cette nouvelle politique. Vos rapporteurs estiment que la CNIL, dans un rôle redéfini, doit remplir ce rôle. La place qu’occupent les données personnelles dans les problématiques relatives à l’IAG est majeure, puisqu’elle intervient au stade de l’entraînement du modèle, de son apprentissage, de l’utilisation des données fournies par les usagers et de l’usage des données produites.
Or, seule la CNIL dispose de l’expertise et de l’expérience nécessaires pour évaluer le respect du RGPD par les modèles d’IAG. Elle a l’habitude de traiter les plaintes des usagers, de les instruire et, si nécessaire, de prononcer des sanctions. Les auditions ont mis en évidence la maturité de la réflexion de la CNIL.
Les rapporteurs appellent à une régulation de l’IAG qui soit à la fois protectrice et prospective, qui prévienne les risques sans brider les opportunités, et qui associe les pouvoirs publics, les acteurs privés et la société civile. Ils estiment que l’IAG doit être mise au service de l’intérêt général, de la démocratie et de la souveraineté européenne.
Source : assemblée nationale
Et vous ?
Quelles sont les applications de l’IAG qui vous semblent les plus utiles ou les plus intéressantes ?
Les législateurs européens adoptent la première loi importante pour réglementer l'IA dans le monde
Les législateurs européens adoptent la première loi importante pour réglementer l'IA dans le monde
mais elle pourrait potentiellement rendre le marché européen peu attrayant pour l'IA
Le Parlement européen a approuvé le premier grand ensemble de règles au monde pour régir les applications de l'IA. La loi européenne sur l'IA divise les applications de l'IA en catégories de risque, allant de "inacceptable" à "élevé", "moyen" et "faible". Elle interdit les systèmes de notation sociale basés sur l'IA et tout outil biométrique utilisé pour deviner la race, les tendances politiques ou l'orientation sexuelle. L'UE devance encore une fois les États-Unis dans la réglementation d'une technologie essentielle et perturbatrice. Mais certaines dispositions de la loi sont controversées, les critiques affirmant qu'elles pourraient ralentir l'innovation dans le domaine.
Les législateurs européens approuvent la première réglementation sur l'IA au monde
La loi européenne sur l'IA (EU AI Act) a été proposée initialement en avril 2021 pour faire face à l'influence grandissante de l'IA dans notre vie quotidienne. Les règles régiraient les applications de l'IA en fonctions des risques perçus, et seraient effectivement les premières règles axées au monde sur l'IA introduites par un organisme de réglementation majeur. La Commission européenne, qui a proposé la législation, souhaite qu'elle garantisse que l'utilisation de l'IA respecte les droits de l'homme fondamentaux. L'UE a obtenu un consensus politique provisoire début décembre et la loi vient d'être approuvée par les législateurs.
Elle a été adoptée avec 523 voix pour, 46 contre et 49 votes non exprimés. « L'Europe est MAINTENANT une référence mondiale en matière d'IA », a écrit Thierry Breton, commissaire européen chargé du marché intérieur, sur compte X (ex-Twitter). La présidente du Parlement européen, Roberta Metsola, a qualifié la législation d'avant-gardiste, affirmant qu'elle permettrait l'innovation tout en sauvegardant les droits fondamentaux. « L'intelligence artificielle fait déjà partie intégrante de notre vie quotidienne. Désormais, elle fera également partie de notre législation », a-t-elle écrit dans un message sur les réseaux sociaux.
Cette loi, la première du genre, est sur le point de modifier la manière dont les entreprises et les organisations européennes utilisent l'IA dans tous les domaines, depuis les décisions en matière de soins de santés jusqu'au maintien de l'ordre. La nouvelle législation européenne classe les applications de l'IA en quatre catégories différentes, allant de "inacceptable" à "élevé", "moyen" et "faible". Ensuite, elle impose des interdictions générales pour les utilisations inacceptables de la technologie, tout en établissant des garde-fous rigoureux pour les applications incluses dans les autres catégories définies par les législateurs.
Entre autres, la loi interdit les systèmes de notation sociale pilotés par l'IA et tout outil biométrique utilisé pour deviner la race, les tendances politiques ou l'orientation sexuelle d'une personne. La législation interdit l'utilisation de l'IA pour interpréter les émotions des personnes dans les écoles et sur les lieux de travail, ainsi que certains types de profilage automatisé visant à prédire la probabilité qu'une personne commette des crimes à l'avenir. Elle impose des obligations, notamment en matière de transparence, pour les cas d'utilisation à haut risque dans les domaines tels que l'embauche et l'accès aux services publics.
Beaucoup ont salué l'adoption de la législation sur l'IA. Cependant, certains critiques de la loi, y compris le président français Emmanuel Macron, pensent que les dispositions de la loi sont trop strictes et qu'elles pourraient nuire à l'innovation. Comme l'explique un critique : « je ne sais pas trop quoi penser de cela. D'une part, les réglementations européennes ont fait des merveilles pour la protection des consommateurs ; d'autre part, c'est exactement ce qui étouffe l'innovation, en particulier pour les technologies naissantes comme l'IA ».
Les impacts potentiels de la réglementation européenne sur l'IA sur les entreprises
Les entreprises telles qu'OpenAI qui produisent des modèles d'IA puissants, complexes et largement utilisés seront également soumises à de nouvelles obligations de divulgations en vertu de la loi. Elle exige également que tous les deepfakes générés par l'IA soient clairement étiquetés, afin de répondre aux inquiétudes concernant la manipulation des médias qui pourrait conduire à la désinformation et à l'ingérence dans les élections. La loi, qui devrait entrer en vigueur d'ici à 2025, souligne la rapidité avec laquelle les décideurs politiques de l'UE ont réagi à l'explosion de la popularité d'outils comme ChatGPT d'OpenAI.
Toutefois, si l'annonce de ce jour signifie que la loi a presque franchi son dernier obstacle, il faudra encore des années pour que certaines règles soient appliquées. Le texte juridique doit encore être approuvé, soit par une annonce séparée, soit par un vote en session plénière les 10 et 11 avril. La loi sur l'IA entrera alors officiellement en vigueur 20 jours après sa publication au Journal officiel, ce qui devrait se produire en mai ou en juin de cette année. Les dispositions entreront alors en vigueur par étapes : les pays auront six mois pour bannir les systèmes d'IA interdits, dont les systèmes de notation sociale basés sur l'IA.
Ils auront 12 mois pour appliquer les règles contre les "systèmes d'IA à usage général" (general-purpose AI (GPAI) systems) tels que les chatbots, et jusqu'à 36 mois pour les systèmes d'IA que la loi a désignés comme étant à haut risque. « À très court terme, le compromis sur la loi européenne sur l'IA n'aura pas beaucoup d'effet direct sur les concepteurs de systèmes d'IA basés aux États-Unis, car il n'entrera probablement pas en vigueur avant 2025 », a déclaré Paul Barrett, directeur adjoint du NYU Stern Center for Business and Human Rights, en décembre 2023, lorsque l'UE a trouvé un accord provisoire sur la loi.
Barrett estime que les principaux acteurs du domaine de l'IA, tels qu’OpenAI, Microsoft, Google et Meta, continueront probablement à se battre pour dominer le marché, notamment en raison de l'incertitude réglementaire qui règne aux États-Unis. Dragos Tudorache, un législateur européen qui a supervisé les négociations de l'accord avec l'UE, a salué l'accord, mais a déclaré que le plus grand obstacle restait la mise en œuvre. Il a déclaré dans un communiqué sur le site du Parlement : « l'UE a tenu ses promesses. Nous avons lié le concept d'IA aux valeurs fondamentales qui forment la base de nos sociétés […] ».
« Mais il reste encore beaucoup à faire, au-delà de la loi européenne sur l'IA elle-même. L'IA nous poussera à repenser le contrat social au cœur de nos démocraties, nos modèles éducatifs, nos marchés du travail et la manière dont nous menons les guerres. Cette législation est le point de départ d'un nouveau modèle de gouvernance fondé sur la technologie. Nous devons maintenant nous concentrer sur la mise en pratique de cette loi », a-t-il ajouté. La loi ne réglemente pas rétroactivement les modèles existants, mais les futurs modèles devront tenir compte des nouvelles exigences de transparence fixées par l'UE.
La nouvelle législation pourrait rendre le marché européen moins attrayant pour l'IA
La loi européenne sur l'IA se veut très stricte dans la réglementation du développement et des applications de l'IA. Dans le même temps, certains États membres ont commencé à craindre que cette rigueur ne fasse de l'UE un marché peu attrayant pour l'IA. Pour cette raison, la France, l'Allemagne et l'Italie ont fait pression pour atténuer les restrictions imposées aux systèmes d'IA à usage général au cours des négociations. Ces pays ont obtenu des compromis, notamment en limitant ce qui peut être considéré comme des systèmes "à haut risque", qui seraient alors soumis à certaines des dispositions les plus strictes.
Au lieu de classer tous les systèmes GPAI comme étant à haut risque, il y aura un système à deux niveaux et des exceptions pour l'application de la loi en ce qui concerne les utilisations de l'IA totalement interdites, comme l'identification biométrique à distance. Cela n'a pas encore satisfait toutes les critiques. Le président français Emmanuel Macron a attaqué les règles, affirmant que la loi sur l'IA crée un environnement réglementaire strict qui entrave l'innovation. L'ancien ministre français de l'Économie numérique, Cédric O, qui est cofondateur et actionnaire de la startup française Mistral, s'est prononcé contre la loi.
De l’autre côté de l’Atlantique, les Big Tech ont fait pression sur l’UE pour qu’elle affaiblisse et supprime de la loi sur l'IA les règles en rapport avec les modèles de base. L'association bruxelloise Corporate Europe Observatory a classé OpenAI, Microsoft et Google parmi les cinq grands lobbyistes qui ont fait pression contre la loi de l'UE. Les Big Tech recherchent en fait un environnement juridique leur permettant une liberté totale pour développer et déployer leurs applications d'IA sans surveillance stricte. Cela se fait en coulisse, mais en public, ces entreprises chantent à qui veut bien l'entendre qu'ils souhaitent être réglementés.
Barrett a déclaré que certaines startups d'IA européennes pourraient avoir du mal à lever des capitaux avec les règles actuelles, ce qui donne un avantage aux entreprises américaines. En outre, certaines entreprises non européennes pourraient même choisir d'éviter de s'installer dans la région ou de bloquer l'accès à leurs plateformes pour ne pas se voir infliger des amendes pour avoir enfreint les règles. L'UE a déjà été confrontée à un tel risque à la suite de l'entrée en vigueur des réglementations telles que la loi sur les marchés numériques (Digital Markets Act) et la loi sur les services numériques (Digital Services Act).
Toutefois, l'UE n'est pas la seule sur cette voie. Les projets de règles évoluent de l'autre côté de la Manche, mais également outre-Atlantique. L'administration Biden a signé en octobre un décret exigeant que tout laboratoire développant un grand modèle de base effectue des tests de sécurité et informe le gouvernement des résultats. Et les discussions lors du sommet britannique sur la sécurité de l'IA se sont fortement concentrées sur les risques liés aux modèles de base les plus avancés. Les participants ont également signé un document "non contraignant" qui reconnaît la nécessité d'atténuer les risques liés à l'IA.
Les impacts potentiels de la législation européenne sur l'IA sur la collecte de données
Les modèles d'IA sont formés à partir de données accessibles au public, mais sensibles et potentiellement protégées par des droits d'auteur. Cette collecte de données est à l'origine de tensions importantes entre les entreprises d'IA et les créateurs de contenu, les artistes, les écrivains, les médias, etc. La loi de sur l'IA ne crée toutefois pas de nouvelles lois sur la collecte de données. Alors que l'UE a été la première à adopter des règles sur la protection des données avec le RGPD, la loi sur l'IA n'interdit pas aux entreprises de collecter des informations, mais exige qu'elles respectent les lignes directrices du RGPD.
« En vertu de ces règles, les entreprises devront peut-être fournir un résumé de transparence ou des étiquettes de nutrition des données. Mais cela ne changera pas vraiment le comportement des entreprises en ce qui concerne les données », a déclaré Susan Ariel Aaronson, directrice du "Digital Trade and Data Governance Hub" et professeur de recherche en affaires internationales à l'université George Washington. Aaronson souligne que la loi sur l'IA n'a toujours pas clarifié la manière dont les entreprises doivent traiter le matériel protégé par le droit d'auteur qui fait partie des données d'entraînement des modèles.
Aaronson estime que la loi sur l'IA se contente d'indiquer que les développeurs doivent suivre les lois existantes sur le droit d'auteur (ce qui laisse beaucoup de zones grises autour de l'IA). La législation n'incite donc pas les développeurs de modèles à éviter d'utiliser des données protégées par le droit d'auteur. Elle n'appliquera pas non plus ses amendes potentiellement sévères aux développeurs de logiciels libres, aux chercheurs et aux petites entreprises travaillant en aval de la chaîne de valeur. Cette décision a été saluée par les entreprises et les développeurs de logiciels et d'applications libres dans le domaine.
Shelley McKinley, responsable juridique de GitHub, filiale de Microsoft, affirme qu'il s'agit d'un "développement positif pour l'innovation ouverte et les développeurs qui travaillent à la résolution de certains des problèmes les plus urgents de la société". Blake Brannon, directeur de la stratégie de la plateforme de confidentialité des données OneTrust, a déclaré que les entreprises d'IA les plus matures établissaient des lignes directrices en matière de protection de la vie privée en conformité avec des lois telles que le RGPD et en prévision de politiques plus strictes. Selon lui, la loi n'apporte pas de changement significatif.
Il a ajouté qu'en fonction de l'entreprise, la loi sur l'IA est "une goutte d'eau supplémentaire" par rapport aux stratégies déjà en place. Toutefois, et comme souligné plus haut, la mise en œuvre de loi pourrait s'avérer compliquée pour les entreprises. Mark Ferguson, expert en politiques publiques au sein du cabinet d'avocats Pinsent Masons, a déclaré que l'adoption de la loi sur l'IA n'était qu'un début. Ferguson a ajouté que les entreprises devront travailler en étroite collaboration avec les législateurs pour comprendre comment elle sera mise en œuvre à mesure que la technologie, qui évolue rapidement, continue d'évoluer.
Les États-Unis n'ont pas réussi à faire décoller la réglementation sur l'IA. La principale mesure prise jusqu'à présent a été le décret de l'administration Biden. Les quelques projets de loi déposés au Sénat ont essentiellement porté sur les contrefaçons profondes et le filigrane, et les forums sur l'IA organisés à huis clos par le sénateur Chuck Schumer (D-NY) n'ont guère apporté d'éclaircissements sur l'orientation du gouvernement en ce qui concerne la gestion de la technologie. En juillet de l'année dernière, la Chine a adopté des lignes directrices pour les entreprises qui souhaitent vendre des services d'IA au public.
Source : le Parlement européen
Et vous ?
Voir aussi
L'ONU adopte la première résolution mondiale sur l'IA, appelant à la création d'un cadre règlementaire
L'ONU adopte la première résolution mondiale sur l'IA, appelant à la création d'un cadre réglementaire pour que l’IA soit utilisée de manière à respecter la vie privée,
promouvoir la sécurité et prévenir les abus
L'Assemblée générale des Nations Unies a adopté jeudi à l'unanimité la première résolution mondiale sur l'intelligence artificielle qui encourage les pays à sauvegarder les droits de l'homme, à protéger les données personnelles et à surveiller les risques liés à l'IA. La résolution non contraignante, proposée par les États-Unis et co-parrainée par la Chine et plus de 120 autres pays, préconise également le renforcement des politiques de confidentialité. « Aujourd'hui, les 193 membres de l'Assemblée générale des Nations Unies ont parlé d'une seule voix et ont choisi ensemble de gouverner l'intelligence artificielle plutôt que de la laisser nous gouverner », a déclaré l'ambassadrice des États-Unis auprès des Nations Unies, Linda Thomas-Greenfield.
La résolution appelle les États membres à collaborer pour créer un cadre réglementaire qui garantisse que l’IA sera utilisée de manière à respecter la vie privée, à promouvoir la sécurité et à prévenir les abus. Elle encourage également le partage des connaissances et des meilleures pratiques en matière d’IA entre les nations, afin de réduire le fossé numérique et de favoriser une croissance inclusive.
Étant un accord non contraignant et donc sans effet, la résolution semble largement populaire dans l’industrie de l’IA. Sur X, le vice-président et président de Microsoft, Brad Smith, a écrit : « Nous soutenons pleinement l'adoption par l'ONU de la résolution globale sur l'IA. Le consensus atteint aujourd'hui marque une étape cruciale vers l'établissement de garde-fous internationaux pour le développement éthique et durable de l'IA, garantissant que cette technologie répond aux besoins de chacun. »
La résolution, intitulée « Saisir les opportunités offertes par des systèmes d'intelligence artificielle sûrs, sécurisés et fiables pour le développement durable », est le résultat de trois mois de négociations, et les parties prenantes impliquées semblent satisfaites du niveau de coopération internationale. « Nous naviguons sur des eaux agitées avec une technologie en évolution rapide, ce qui signifie qu'il est plus important que jamais de naviguer à la lumière de nos valeurs », a déclaré un haut responsable de l'administration américaine, soulignant l'importance de cette « première document de consensus véritablement mondial sur l'IA ».We fully support the @UN's adoption of the comprehensive AI resolution. The consensus reached today marks a critical step towards establishing international guardrails for the ethical and sustainable development of AI, ensuring this technology serves the needs of everyone.
— Brad Smith (@BradSmi) March 21, 2024
À l'ONU, l'adoption par consensus signifie que tous les membres conviennent d'adopter la résolution sans vote. « Le consensus est atteint lorsque tous les États membres s'accordent sur un texte, mais cela ne signifie pas qu'ils sont tous d'accord sur chaque élément d'un projet de document », écrit l'ONU dans une FAQ trouvée en ligne. « Ils peuvent accepter d'adopter un projet de résolution sans vote, mais avoir néanmoins des réserves sur certaines parties du texte ».
Plusieurs gouvernements dans le monde s'intéressent à l'impact des IA depuis le boom de l'IA générative avec ChatGPT
L'initiative s'inscrit dans une série d'efforts déployés par les gouvernements du monde entier pour influencer la trajectoire de développement de l'IA suite au lancement de ChatGPT et de GPT-4, et à l'énorme battage médiatique suscité par certains membres de l'industrie technologique lors d'une campagne publique mondiale menée l'année dernière. Les critiques craignent que l’IA puisse saper les processus démocratiques, amplifier les activités frauduleuses ou contribuer à d’importantes suppressions d’emplois, entre autres problèmes. La résolution vise à faire face aux dangers associés à l’application irresponsable ou malveillante des systèmes d’IA, qui, selon l’ONU, pourraient mettre en danger les droits de l’homme et les libertés fondamentales.
La résistance de pays comme la Russie et la Chine était attendue, et les responsables américains ont reconnu la présence de « beaucoup de conversations animées » au cours du processus de négociation. Cependant, ils ont également souligné un engagement réussi avec ces pays et d’autres généralement en désaccord avec les États-Unis sur diverses questions, en se mettant d’accord sur un projet de résolution qui cherchait à maintenir un équilibre délicat entre la promotion du développement et la sauvegarde des droits de l’homme.
Les conclusions de l'ONU
L’Assemblée générale a également reconnu le potentiel des systèmes d’IA pour accélérer et permettre les progrès vers la réalisation des 17 objectifs de développement durable. C'est la première fois que l'Assemblée adopte une résolution sur la réglementation de ce domaine émergent. Le conseiller américain à la sécurité nationale aurait déclaré plus tôt ce mois-ci que l’adoption représenterait un « pas en avant historique » pour une utilisation sûre de l’IA.
Mêmes droits, en ligne et hors ligne
L’Assemblée a appelé tous les États membres et parties prenantes « à s’abstenir ou à cesser d’utiliser des systèmes d’intelligence artificielle qui sont impossibles à exploiter conformément au droit international des droits de l’homme ou qui présentent des risques indus pour la jouissance des droits de l’homme ». « Les mêmes droits dont jouissent les personnes hors ligne doivent également être protégés en ligne, y compris tout au long du cycle de vie des systèmes d’intelligence artificielle », affirme-t-elle.
L’Assemblée a également exhorté tous les États, le secteur privé, la société civile, les organismes de recherche et les médias à élaborer et à soutenir des approches et des cadres de réglementation et de gouvernance liés à une utilisation sûre, sécurisée et fiable de l’IA.
Réduire la fracture numérique
L'Assemblée a en outre reconnu les « niveaux variables » de développement technologique entre et au sein des pays, et que les pays en développement sont confrontés à des défis uniques pour suivre le rythme rapide de l'innovation. Elle a exhorté les États membres et les parties prenantes à coopérer avec les pays en développement et à les soutenir afin qu’ils puissent bénéficier d’un accès inclusif et équitable, réduire la fracture numérique et accroître la culture numérique.
Espoir pour d'autres secteurs
S'exprimant avant l'adoption, Linda Thomas-Greenfield, ambassadrice et représentante permanente des États-Unis auprès de l'ONU, a présenté le projet de résolution.
Elle a exprimé l’espoir que « le dialogue inclusif et constructif qui a conduit à cette résolution servirait de modèle pour les conversations futures sur les défis de l’IA dans d’autres domaines, par exemple en ce qui concerne la paix et la sécurité et l’utilisation militaire responsable de l’autonomie de l’IA ».
Mme Thomas-Greenfield a noté que la résolution visait à amplifier le travail déjà effectué par l'ONU, notamment l'Union internationale des télécommunications (UIT), l'Organisation des Nations Unies pour l'éducation, la science et la culture (UNESCO) et le Conseil des droits de l'homme.
« Nous souhaitons que cela complète les futures initiatives de l’ONU, notamment les négociations en vue d’un pacte numérique mondial et le travail de l’organe consultatif de haut niveau du Secrétaire général sur l’intelligence artificielle », a-t-elle déclaré.
Ce n'est pas le premier accord international multiétatique sur l'IA
Le nouvel accord de l’ONU est peut-être le premier accord « mondial », dans le sens où tous les pays de l’ONU y participent, mais ce n’est pas le premier accord international multiétatique sur l’IA. Cet honneur semble revenir à la Déclaration de Bletchley signée en novembre par les 28 pays participant au premier sommet sur l'IA au Royaume-Uni. La France en fait partie.
En novembre également, les États-Unis, la Grande-Bretagne et d’autres pays ont dévoilé un accord axé sur la création de systèmes d’IA « sécurisés dès leur conception » pour se protéger contre toute utilisation abusive par des acteurs malhonnêtes. L’Europe progresse lentement vers des accords provisoires pour réglementer l’IA et est sur le point de mettre en œuvre la première réglementation globale sur l’IA au monde. Pendant ce temps, le gouvernement américain manque toujours de consensus sur l’action législative liée à la réglementation de l’IA, l’administration Biden préconisant des mesures visant à atténuer les risques liés à l’IA tout en renforçant la sécurité nationale.Envoyé par Déclaration de Bletchley
Sources : résolution des nations unies, FAQ ONU, Bletchley Declaration
Et vous ?
Et comme pour le 99,9% des résolutions de l'ONU, strictement personne n'en tiendra compte!
Les émissions de carbone liées à l'écriture et à l'illustration sont plus faibles pour l'IA que pour l'homme
Les émissions de carbone liées à l'écriture et à l'illustration sont plus faibles pour l'IA que pour l'homme, selon une étude sur l'empreinte environnementale relative de l'IA et de l'homme.
Une étude a comparé l'empreinte carbone de l'IA à la quantité de carbone émise par des humains effectuant exactement les mêmes tâches. Les résultats de l'étude montrent que l'IA émet moins de gaz à effet de serre que l'homme lorsqu'il s'agit d'écrire et de créer des images.
Il est essentiel de se pencher sur le type d'impact environnemental que l'IA peut finir par avoir. Cependant, il s'avère que l'IA pourrait en fait produire moins d'émissions de carbone que les humains, ce qui la rendrait plus durable. L'IA émet des centaines de fois moins de gaz à effet de serre que l'homme lorsqu'il s'agit d'écrire et de créer des images.
C'est ce qui ressort d'une étude publiée dans la revue Scientific Reports et cosignée par des professeurs de l'université de Californie-Irvine et le professeur de droit Paul E. Wilson de l'université de Kuala Lumpur, Andrew Torrance. Il convient de mentionner que cette étude a comparé l'empreinte carbone de l'IA telles que ChatGPT, Bloom AI et d'autres à la quantité de carbone émise par des humains effectuant exactement les mêmes tâches.
Il est important de noter que l'IA émet entre 130 et 1 500 tonnes de carbone en moins pour chaque page de texte qu'elle génère par rapport à l'homme. Quant aux systèmes d'illustration, leur empreinte carbone était également inférieure de plusieurs ordres de grandeur par image, soit entre 310 et 2 900 équivalents de dioxyde de carbone en moins.
Il sera intéressant de voir comment les choses évolueront à l'avenir, car l'IA a souvent été considérée avec méfiance en ce qui concerne son empreinte carbone globale. Cette étude semble suggérer qu'elle a beaucoup plus à offrir dans ce domaine que ce que les gens ont tendance à lui accorder à l'heure actuelle.
Les émissions de carbone liées à l'écriture et à l'illustration sont plus faibles pour l'IA que pour l'homme
Alors que les systèmes d'IA prolifèrent, leurs émissions de gaz à effet de serre constituent une préoccupation de plus en plus importante pour les sociétés humaines. Dans cette étude, les chercheurs présentent une analyse comparative des émissions de carbone associées aux systèmes d'IA (ChatGPT, BLOOM, DALL-E2, Midjourney) et aux individus humains effectuant des tâches d'écriture et d'illustration équivalentes.
Les résultats démontrent que l'empreinte environnementale de l'IA dans l'accomplissement de deux tâches majeures est nettement inférieure à celle de l'homme dans l'accomplissement de ces mêmes tâches. Les résultats révèlent que les systèmes d'IA émettent entre 130 et 1500 fois moins de CO2 par page de texte générée que les rédacteurs humains, tandis que les systèmes d'illustration d'IA émettent entre 310 et 2900 fois moins de CO2 par image que leurs homologues humains. Les analyses d'émissions ne tiennent pas compte des impacts sociaux tels que le déplacement professionnel, la légalité et les effets de rebond. En outre, l'IA ne remplace pas toutes les tâches humaines. Néanmoins, à l'heure actuelle, l'utilisation de l'IA offre la possibilité d'effectuer plusieurs activités majeures à des niveaux d'émission bien inférieurs à ceux des humains.
Avantages et inconvénients
Si l'empreinte environnementale de l'IA peut être inférieure à celle des humains pour certaines tâches, d'autres facteurs importants peuvent influencer l'impact global de l'IA sur le monde. L'étude aborde quelques points particulièrement pertinents pour l'IA dans le domaine de l'écriture et de l'illustration.
Dans les domaines de l'écriture et illustration, il est probable que l'IA remplacera les travailleurs humains dans les secteurs concernés à mesure que la technologie de l'IA se perfectionnera. Et, si l'on se fie au passé, le déplacement professionnel peut entraîner des pertes d'emploi et une réduction des revenus. Le déplacement d'emplois par la technologie a été amplement étudié, par exemple, de même que le déplacement par l'IA en particulier. Le déplacement d'emplois est profondément problématique non seulement pour les personnes déplacées, mais aussi pour la société dans son ensemble, car il peut perturber la stabilité économique et sociale de régions géographiques entières.
D'un autre côté, le développement de l'IA peut également créer des emplois. Ces emplois peuvent être des remplacements utiles et bien rémunérés pour les personnes que l'IA déplace, ou ils peuvent être dévalorisants et/ou mal rémunérés. Par exemple, OpenAI, les créateurs de ChatGPT, ont sous-traité des travaux à une entreprise kenyane qui employait des travailleurs pour étiqueter des cas spécifiques de contenu en ligne toxique, y compris des contenus que beaucoup trouveraient probablement dérangeants ou de mauvais goût, décrits comme "des textes [qui] semblaient avoir été tirés des recoins les plus sombres de l'internet ". Des déplacements analogues de travailleurs ont eu lieu pendant la révolution industrielle et avec les diverses révolutions technologiques accompagnant l'essor des technologies numériques. Si ces déplacements entraînent nécessairement des changements dans le secteur de l'emploi, historiquement, ces changements technologiques ont donné naissance à de nouvelles formes d'emploi pour remplacer les emplois perdus.
L'utilisation de textes, d'images ou de sons préexistants comme ensembles d'entraînement pour l'IA soulève également des questions juridiques. La légalité de l'utilisation de matériel préexistant est particulièrement importante lorsque les jeux d'entraînement comprennent du matériel protégé par des droits d'auteur, car l'utilisation de ce matériel peut constituer une contrefaçon, ce qui peut entraîner un risque juridique pour les personnes qui travaillent avec ces systèmes d'IA. Peut-être que le "fair learning" sera un jour reconnu comme un type d'utilisation équitable impliquant la transformation de matériel protégé par le droit d'auteur à des fins éducatives. Toutefois, à l'heure actuelle, il est impossible de prévoir comment les tribunaux trancheront un tel litige.
Un recours collectif contre la société d'IA Midjourney est actuellement en cours sur ce sujet et pourrait constituer un précédent dans ce domaine juridique. Si Midjourney devait être tenue pour responsable de l'utilisation inappropriée d'œuvres protégées par le droit d'auteur appartenant à d'autres personnes, le généreux système de dommages-intérêts prévu pour les plaignants pourrait être ruineux pour cette entreprise, tout en freinant ou en inhibant plus généralement l'innovation dans le domaine de l'IA. D'un autre côté, si l'utilisation par l'IA d'œuvres protégées par le droit d'auteur comme ensembles d'entraînement est jugée admissible, cela aura probablement pour effet, dans le cadre du système actuel des brevets, de stimuler les progrès de l'IA. Une autre conséquence pourrait être l'augmentation du nombre d'entreprises qui acquièrent de vastes ensembles de données d'entraînement. Si ces questions juridiques ne sont pas nécessairement insolubles, elles représentent néanmoins un point de désaccord important sur l'avenir de ces systèmes d'IA.
En outre, à mesure que la technologie de l'IA devient plus efficace, il est possible que cette efficacité entraîne une augmentation de la demande de biens et de services produits par l'IA, ce qui pourrait entraîner de nouvelles augmentations de l'utilisation des ressources et de la pollution par effet de rebond. L'élargissement des cas d'utilisation de l'IA et la prolifération des façons dont l'IA pourrait influer sur chaque cas d'utilisation (par exemple, la personnalisation omniprésente du contenu) pourraient entraîner une demande d'énergie bien plus importante qu'à l'heure actuelle.
Ainsi, bien que l'impact de l'IA soit actuellement bien moindre que celui de l'homme dans les tâches décrites ci-dessus, il est important de rester vigilant dans ce domaine afin d'éviter une utilisation excessive des ressources. Dans le même temps, il est possible que les progrès de l'efficacité et de la spécificité de l'IA réduisent encore son impact sur l'environnement par rapport à l'impact de l'homme dans des activités équivalentes. Un tel avantage environnemental croissant pourrait plaider en faveur d'une accélération des applications de l'IA. Dans un cas comme dans l'autre, la vigilance et l'adaptation sont essentielles. Et, que l'empreinte de l'IA augmente ou diminue, l'étude soutient l'appel à la divulgation de la consommation d'énergie dans la mesure du possible dans les cas d'utilisation de l'IA.
Malgré ces formes actuelles et potentielles de transformation et de préjudice sociétal, l'utilisation de l'IA pourrait apporter de profonds avantages à la société. Ces systèmes pourraient permettre de développer de nouvelles approches pour un avenir durable ; ils pourraient apporter des avantages à la médecine37 ; et ils pourraient améliorer les systèmes éducatifs humains38. Nous soutenons que ces avantages et d'autres de l'IA compensent les inconvénients potentiels que ces systèmes peuvent entraîner. Et, ce qui est le plus important pour les conclusions du présent document, l'IA peut potentiellement le faire en réduisant considérablement les émissions de carbone.
Collaboration entre l'homme et l'IA
L'étude soutient également que l'utilisation la plus bénéfique et la plus efficace de l'IA et du travail humain passe par la collaboration entre les deux types d'entités, en tirant parti de leurs forces respectives. Par exemple, dans l'étude, les chercheurs ont commencé par un projet rédigé par une IA pour amorcer l'effort, mais les auteurs l'ont édité si minutieusement que le texte de l'IA est méconnaissable.
Note des chercheurs : Nous reconnaissons cette utilisation de l'IA pour deux raisons : premièrement, elle est requise par les directives de soumission et deuxièmement, ce qui est peut-être plus important, le fait de commencer par l'IA était un moyen plus efficace sur le plan énergétique d'obtenir un produit final de haute qualité.
De même, un illustrateur humain peut choisir de travailler avec une IA dans les premières phases d'une interaction avec un client, pour lui donner une idée du large éventail de possibilités qui s'offrent à lui, et ne réaliser une illustration créée par un humain pour le client qu'à la dernière étape. Cette approche hybride pourrait permettre une convergence plus rapide et plus efficace de la compréhension entre le client et l'illustrateur humain, tout en produisant un produit final ayant l'excellence et le raffinement d'un travail produit par un humain. (Par exemple, contrairement à de nombreuses images produites par l'IA, les mains humaines ne seront pas étrangement déformées). Il est à espérer que de tels processus de collaboration pourront répondre à toute une série de préoccupations concernant les contenus générés par l'IA.
En résumé, en raison de son impact nettement inférieur à celui des humains pour au moins deux tâches importantes, l'IA peut jouer un rôle important dans divers secteurs de la société sans, pour l'instant, s'exposer à des émissions de carbone problématiques. Si l'empreinte carbone de l'IA n'est pas négligeable, celle des humains effectuant le même travail est bien plus importante et ne doit pas être négligée dans l'évaluation de l'IA.
Conclusion
L'IA est sur le point d'assumer des rôles que l'on croyait autrefois réservés aux humains, c'est-à-dire des rôles qui requièrent de la créativité et la capacité d'intégrer plusieurs domaines intellectuels afin de synthétiser les concepts de chacun d'entre eux. Dans cette étude, les chercheurs ont comparé l'impact de l'IA à l'impact de la réalisation de deux tâches par des humains - l'écriture et l'illustration - afin de mettre en évidence le rôle que l'IA est en passe de jouer dans la société, à mesure que l'IA passe d'outils numériques d'une utilité limitée à des instruments plus complexes dotés d'une grande capacité de génération. Ils ont constaté que, pour ces deux activités au moins, l'empreinte carbone de l'IA est nettement inférieure à celle des humains effectuant la même tâche. Cette étude apporte un éclairage nouveau sur l'empreinte environnementale relative de l'IA et de l'homme, et souligne l'importance de prendre en compte l'impact de l'IA par rapport à l'homme lors de l'évaluation de son impact global sur l'environnement.
Source : "The carbon emissions of writing and illustrating are lower for AI than for humans"
Et vous ?
Voir aussi :
C'est une analyse intéressante mais est ce que ça veut dire qu'utiliser une IA émet moins de carbone qu'utiliser une personne?
Non, pour une raison simple:
Quand la personne travaille et pas l'IA, l'IA n'émet rien
Quand l'IA travaille et pas la personne, la personne émet toujours.
Donc il faudrait comparer le surplus d'émission de la personne quand elle travaille à l'IA.
Les autres facteurs sont nombreux :
L'IA produit (probablement) peu de carbone quand elle travaille parce qu'elle est plus rapide que l'homme mais combien émet son apprentissage?
L'IA nécessite une revue de son travail plus importante que la personne donc combien émet la différence de revue?
Combien d'IA différente faut il pour remplacer toutes les taches d'une personne?
Et je n'ai pas encore parlé de l'apport social d'une personne...
L'étude en tant que telle à l'air crédible (faite de façon honnête et rigoureuse) par contre le but de celle ci me parait beaucoup moins pertinent.
Quelle conclusion tirer? Qu'il faut faire travailler les IA plutôt que les personnes pour l'édition? Ce n'est pas ce que disent les chercheurs, c'est pourtant ce que nous lisons.
Qui a financer cette étude? Dans quel but? Avec ces réponses nous aurons peut être une clarification de sa pertinence.
On sait que l'un des auteur détient des actions chez NVIDIA mais je n'ai rien trouvé chez le financeur.
L'IA n'a rien d'écologique parce qu'elle ajoute de la production de carbone à la production humaine, attaquer la question par cet angle est absurde. (A moins que l'on décide de "faire disparaitre" les personnes qui deviennent "inutiles" mais on dérive vers des gros problèmes éthiques).
Par contre l'IA a d'autres avantages qui méritent d'être étudiés.
Des gens essayent d'aborder les sujets de façon "rationnelle" en ce moment pour transformer des solutions plus ou moins absurdes en bon sens.
La Science n'apporte pas toujours les bonnes réponses aux problèmes parce qu'elle ignore les sciences humaines ou l'éthique.
Pourtant il me semble qu'Asimov nous avait déjà prévenu que cette méthode ne fonctionnait pas.
Je n'ai pas très bien compris ce qui était mesuré pour définir que l'IA émet moins de CO2 qu'un humain pour écrire une page.
Est-ce que l'empreinte carbone des datas center servant à l'IA pour produire sa page est comptée ou non ? Si c'est juste l'empreinte carbone pour l'écriture finale, c'est-à-dire le "pouillème" final, alors l'étude est biaisée.
étude bidon financé pour du lobbying
> Pensez-vous que cette étude est crédible ou pertinente ?
> Quel est votre avis sur le sujet ?
Que dire que dire, un petit essai improvisé.
Pour commencer cette étude à un objectif assez clair et malsain, contrer le bashing de l'IA qui pollue à cause de sa consommation excessive en ressource en ce qui concerne sa création / entraînement / formation.
Je dirais que l'étude est remplie de biais, mais aussi qu'elle souligne un sujet mortifère et dont les philosophes devraient se saisir.
Pour commencer en ce qui concerne les biais, les graphiques sont ultras simpliste et ne prenne pas en compte les ressources nécessaires pour l'entraînement des AI ni même les ressources consommées pour concevoir le hardware.
De la production de silicium au GPU en passant par l'humain qui a conçu le GPU à la chaîne d'assemblage jusqu'au data center où elle est en fonction à déjà consommé plusieurs années CO2 d'une ville humaine.
La conclusion stéréotypée que l'on peut faire de ce genre d'étude. Au mon dieu, un humain, ça respire ça émet du CO2, un caillou alimenté avec de l'Énergie pure sa ""n'émet pas"" de CO2. Il faut donc remplacer toute la population humaine par des cailloux qui imite les humains.
Je tire volontairement le trait, mais c'est une pente glissante vers lequel les bobo extrêmes écolos ont tendance à prendre de vouloir éliminer le vivant sous prétexte qu'il émet du CO2. Si on suit leur logique uniquement les plantes auraient le droit de vivre puisqu’elles n'émettent pas de CO2 (dans leurs schémas de pensée) ce qui est faux et sans CO2 elles ne peuvent se développer autant... Alors si on en fait la seule source de nourriture...
Concernant les schémas on nous montre une quantité d'Énergie consommée en instantané lorsque le réseau (de neurones en cailloux) fait une génération unique, versus le pc d'un auteur allumé.
Déjà pour commencer le biais, un serveur qui fait tourner de l'IA est allumé H24, consomme rien que pour être allumé 100W et peut monter à 3000W voir plus. Le pc d'un auteur est allumé disons 6-8h et un pc portable sobre peut, disons consommer au max 25w dans un standard sobre écoresponsable. De plus un auteur peut ne pas passer toute une session d'écriture sur un pc, on peut aussi avoir des machines tablette dans le futur à base d'epaper comme écran, utiliser le stylo et la feuille.... Donc déjà la méthode de travail est un biais choisi non représentatif des "travailleurs" du secteur. Doit-on compter les repas, et la tasse de café en terrasse ?
Idem dans la création d'images, un peintre ne va pas utiliser un ordinateur de la même manière voir pas du tout, un photographe non plus et un graphiste peut faire des recherches de diverses manières. Leur activité n'est pas 100% numérique.
Coté IA, ouaaa une génération consomme peux. Sauf que qui aujourd'hui ne demande pas à l'IA plusieurs générations pour avoir un résultat un peut exploitable et qui ne passe pas un peu de temps pour intégrer la réponse...
10 générations consommeraient déjà le CO2 pour une journée de travail humain. Or il est si facile de cliquer sur généré que l'étude ne prend pas en compte le fait que cette facilité va augmenter le nombre de générations demandé et donc pour une même tache incitée à consommer plus.
Plutôt qu'un travail réfléchis, fait et plutôt droit au but, on va frénétiquement cliqué sur générer, une, deux, 10, 20, 50 fois dans la journée jusqu'à avoir un travail prémâché qu'il faudra de toute façon relire puis intégrer.
Au final une IA, est un outil qui consomme, et sa facilité d'usage poussera a consommer par ce que dans un même espace de temps on le peut.
Et si on pense éliminer complètement les humains, alors nous allons créer une société de machine qui travaillera pour des machines.
Le summum du capitalisme, nous créons du travail/ de la valeur à l'aide de machine pour qu'elle soit consommée par d'autres machines et faire tourner le capitalisme.
Nous avons des Shadock qui pompe, que nous remplaçons par des machines qui pompes pour se maintenir entre elles en vie et soutenir artificiellement le capitalisme et "sa croissance infinie" artificielle.
On va basculer d'une économie pétrodollar en data dollar.
(et il faudra mettre des humains sur des vélos pour combler le manque de pétrole pour alimenter en Énergie les machines)
Tout ceci est absurde tout comme confondre un outil et une volonté créatrice vivante.
Le côté mortifère, c'est de vouloir a tout pris évincer l'humain de la composante économique pour des raisons de coûts. De l'autre côté, ce que l'on aura sacrifié... nous fera plonger vers une économie dystopique, avec une économie parallèle qui ne sert qu'aux machines et de l'autre, des humains tout tombés dans la précarité.
Et le risque, c'est un arrêt de la créativité, un grippage de l'inventivité et d'évolution.
Où à côté d'usines fumantes, nous aurions une population qui n'a plus les moyens de consommer.
Sauf, si la réalité réajuste la situation, car non viable et qu'un mixte des deux finissent par co exister.
Ce que je dirais, c'est que ce genre d'étude envoie un signal malsain coté sociétal, poussant des résonnements inachevés polarisant des questions légitimes en réponse absurde. Plantant les graines d'idéologie néfaste pour une société.
Nous sommes nés trop tard pour explorer les continents, trop tôt pour explorer Mars, mais dans l'époque de l'avènement de l'IA et d'un grand bouleversement économique et sociétal mondiaux en perspective que l'on veuille ou non.
L'avenir dépend de ce qui est en train de s'écrire, des luttes et intérêts de certains. De l'éducation ou du manque des masses en vers ce type d'enjeux, et si nous finissons tout droits vers un avenir dystopique d'une dictature mondiale et d'une misère qui fera régresser l'humanité ou si nous deviendrons tous lucide sur le sujet. comme le plat réchauffé que les mails allaient tuer le métier de postier. Que les livres numériques allaient faire disparaître les imprimeurs ect, ect.
Tous sa pour dire (sans se méprendre, ça reste intéressant que le site nous permette de faire une veille techno) y en a marre de ce genre d'étude de lobbying pondu par des cabinets com , la seule chose que ça génère c'est de la méfiance en vers les études et une perte de crédibilité du peuple en vers toutes analyses et réflexion.
Remplaçons les cabinets de com par de l'IA, peut être que l'on aura moins de mensonge comme ça.
Un projet de loi obligerait les entreprises d'IA à divulguer toutes les œuvres protégées par le droit d'auteur
Un nouveau projet de loi veut obliger les entreprises d'IA à divulguer toutes les œuvres protégées par le droit d'auteur utilisées dans la formation des modèles
sous peine d'amendes
Un membre du Congrès américain a présenté mercredi un nouveau projet de loi qui vise à obliger les entreprises d'IA à divulguer toutes les œuvres protégées par le droit d'auteur utilisées dans la formation de leurs modèles. Si ce projet de loi est voté, les entreprises d'IA devront soumettre au moins 30 jours avant la publication de leurs modèles "un résumé suffisamment détaillé" des œuvres protégées par le droit d'auteur utilisées, y compris les adresses URL de tout ensemble de données de formation accessible au public. Ce projet de loi est la dernière initiative en date du Congrès visant à réglementer cette technologie et à protéger les créateurs de contenu humains.
Le député américain Adam Schiff a dévoilé mercredi un projet de loi intitulé : Generative AI Copyright Disclosure Act (loi sur la divulgation des droits d'auteur en matière d'IA générative). Ce projet de loi vise à contraindre les entreprises d'IA comme OpenAI et Google à dresser la liste complète des œuvres protégées par le droit d'auteur qu'elles utilisent pour créer des systèmes d'IA générative. La proposition de loi de Schiff intervient alors que les créateurs de contenu humains - les artistes, les scénaristes, les écrivains, les organes de presse - dénoncent les multiples violations de leurs droits d'auteur par les entreprises d'IA.
Dans un communiqué, Schiff explique : « l'IA a le potentiel de bouleverser notre économie, notre système politique et notre vie quotidienne. L'IA a le potentiel de bouleverser notre économie, notre système politique et notre vie quotidienne. Nous devons trouver un équilibre entre l'immense potentiel de l'IA et le besoin crucial de lignes directrices et de protections éthiques. Il s'agit de respecter la créativité à l'ère de l'IA et de marier le progrès technologique à l'équité ». Mais cette proposition risque de faire face à une opposition farouche au Congrès, car les précédentes tentatives ont déjà fait l'objet de nombreux blocages.
Certains opposants craignent en effet qu'une réglementation trop stricte ralentisse le rythme d'expansion de la technologie, ce qui pourrait donner un avantage à des pays comme la Russie et la Chine. La proposition de loi de Schiff vient s'ajouter à un nombre croissant de tentatives de la part de législateurs, de médias et d'artistes pour déterminer comment les entreprises d'IA utilisent des œuvres créatives (chansons, œuvres d'art visuel, livres, films, etc.) pour former leurs logiciels. Ils cherchent en outre à déterminer si ces entreprises construisent illégalement leurs outils à partir de matériels protégés par des droits d'auteurs.
S'il est adopté, le projet de loi de Schiff changera radicalement la donne pour l'industrie. Chaque entreprise d'IA sera tenue de soumettre à l'autorité compétente un document qui recense toutes les œuvres protégées par le droit d'auteur utilisées dans le processus de formation de son modèle. L'entreprise doit faire cette divulgation au moins 30 jours avant le lancer publiquement de son outil d'IA, sous peine de se voir infliger une sanction financière. La proposition de Schiff a déjà obtenu le soutien de groupe et de syndicats du secteur des médias, tels que la Recording Industry Association of America et la Writers Guild of America.
« Tout ce qui est généré par l'IA provient en fin de compte d'une source créative humaine. C'est la raison pour laquelle le contenu créatif humain - la propriété intellectuelle - doit être protégé. SAG-AFTRA soutient pleinement la loi sur la divulgation des droits d'auteur en matière d'IA générative, car cette législation constitue une étape importante pour garantir que la technologie soit au service des personnes et non l'inverse », a déclaré Duncan Crabtree-Ireland, directeur exécutif national et négociateur en chef de la SAG-AFTRA, un syndicat américain représentant plus de 160 000 professionnels des médias du monde entier.
Il convient de souligner que la proposition de Schiff n'interdirait pas à l'entraînement des modèles sur des œuvres protégées par le droit d'auteur, mais elle imposerait aux entreprises de dresser la liste des œuvres qu'elles utilisent pour créer des outils comme ChatGPT et Gemini. Ces données qui sont généralement tenues secrètes. Selon les critiques, cette culture du secret autour de la nature des données d'entraînement signifie que les entreprises d'IA reconnaissent indirectement qu'elles utilisent les matériels protégés par des droits d'auteur pour entraîner leurs outils, sans avoir obtenu l'autorisation des créateurs.
À ce propos, la proposition de Schiff ne vise pas uniquement les nouveaux systèmes d'IA. Les règles du projet de loi seraient rétroactives et obligeraient les systèmes d'IA générative déjà sur le marché à révéler où ils ont obtenu les informations utilisées pour entraîner leurs modèles. Mira Murati, directrice technique d'OpenAI, a récemment déclaré qu'elle ne savait pas si l'outil Sora de l'entreprise utilisait des données provenant de YouTube, de Facebook ou d'Instagram. Mais un récent rapport du New York Times allègue que l'entreprise a transcrit illégalement plus d'un million de vidéos YouTube pour entraîner ses modèles d'IA.
OpenAI, Anthropic, Stability AI, Microsoft, Google, etc. font l'objet de nombreuses actions en justice pour avoir prétendument utilisé des œuvres protégées par le droit d'auteur pour créer leurs modèles. Par exemple, l'actrice Sarah Silverman et le New York Times ont déposé des plaintes pour violation des droits d'auteur contre OpenAI. Selon le Washington Post, OpenAI a engagé une série d'avocats de haut niveau au cours de l'année écoulée, alors qu'il s'apprête à faire face à plus d'une douzaine d'actions en justice importantes. En outre, de nombreux artistes poursuivent également la startup pour violation de droit d'auteur.
Les sanctions prévues par le projet de loi ne sont pas claires, le Bureau américain du droit d'auteur déterminera le montant de l'amende infligée aux entreprises. Elle dépendra de la taille de l'entreprise et de ses antécédents en matière de non-respect de la loi. Les amendes commenceraient à 5 000 $ et augmenteraient ensuite. La proposition du député américain ne fixe pas de plafond à l'amende maximale qui peut être imposée. Selon certains analystes, le projet de loi de Schiff pourrait amener à une certaine responsabilisation des entreprises d'IA et les contraindre à rémunérer les propriétaires des contenus protégés.
En dressant la liste des œuvres protégées utilisées pour la formation, les détenteurs de droits d'auteur pourraient s'assurer qu'ils ont donné leur autorisation pour l'utilisation de leur contenu et qu'ils ont été indemnisés pour cette utilisation. Les entreprises d'IA nient toute faute et affirment que leur utilisation du matériel protégé par le droit d'auteur relevait de l'usage loyal. Cette stratégie juridique constitue un test majeur pour la loi sur le droit d'auteur, et le résultat pourrait mettre à mal les moyens de subsistance des artistes ou les résultats financiers d'OpenAI.
Dans un mémoire présenté à une commission gouvernementale britannique au début de l'année, les avocats d'OpenAI ont affirmé que légalement, la loi sur le droit d'auteur n'interdit pas la formation. Le document indique que, sans accès aux œuvres protégées par le droit d'auteur, ses outils cesseraient de fonctionner.
Sources : communiqué de presse, Generative AI Copyright Disclosure Act (PDF)
Et vous ?
Voir aussi
Un ancien membre du conseil d'administration d'OpenAI demande l'audit des grandes entreprises d'IA
Un ancien membre du conseil d'administration d'OpenAI demande l'audit des grandes entreprises d'IA, elles devraient être tenues de partager des informations avec le public sur les capacités et les risques.
Selon un ancien membre du conseil d'administration d'OpenAI, l'IA a besoin d'un mécanisme d'information et d'auditeurs.
Un mécanisme de signalement devrait être mis en place pour les incidents lorsque l'intelligence artificielle (IA) tourne mal, comme c'est le cas pour les accidents d'avion, a déclaré un ancien membre du conseil d'administration d'OpenAI. Helen Toner, directrice du Centre pour la sécurité et les technologies émergentes de l'université de Georgetown, a tenu ces propos lors d'une conférence TED.
Mme Toner a démissionné d'OpenAI l'année dernière après avoir soutenu l'éviction du PDG de la société, Sam Altman, qui a été annulée par la suite. Avant cela, M. Altman avait tenté de la faire exclure du conseil d'administration après qu'elle eut cosigné un article critiquant les pratiques d'OpenAI en matière de sécurité.
Lors de sa conférence TED, Mme Toner a déclaré que les entreprises d'IA devraient être tenues de "partager des informations sur ce qu'elles construisent, sur ce que leurs systèmes peuvent faire et sur la manière dont elles gèrent les risques". M. Toner a également déclaré que ces informations à partager avec le public devraient faire l'objet d'un audit, de sorte que les entreprises d'IA ne soient pas les seules à vérifier les informations qu'elles fournissent.
Un exemple de cas où la technologie pourrait mal tourner serait son utilisation dans une cyber-attaque basée sur l'IA. Mme Toner a déclaré qu'elle travaillait depuis huit ans sur les questions de politique et de gouvernance liées à l'IA et qu'elle avait pu observer de l'intérieur la manière dont le gouvernement et l'industrie s'efforçaient de gérer la technologie, ajoutant : "J'ai aussi vu une ou deux choses".
Dans une interview en juin 2023, Mme. Toner a déclaré que les acteurs du secteur se demandaient s'il fallait créer une nouvelle agence de régulation axée spécifiquement sur l'IA. "Les autorités de régulation existantes qui travaillent dans des secteurs spécifiques devraient-elles s'en charger, ou faudrait-il quelque chose de centralisé pour tous les types d'IA ?" a déclaré Mme. Toner.
Autre évolution récente dans ce domaine, les États-Unis et le Royaume-Uni ont uni leurs forces au début du mois d'avril pour mettre au point des tests de sécurité pour l'IA avancée. L'accord vise à aligner les approches scientifiques des deux pays et à accélérer le développement de méthodes d'évaluation robustes pour les modèles, les systèmes et les agents d'IA.
Source : Helen Toner, ancien membre du conseil d'administration d'OpenAI, lors d'une intervention à la conférence TED de Vancouver
Et vous ?
Voir aussi :
63 % des Américains souhaitent qu’une réglementation empêche activement l’avènement d'une l’IA superintelligen
63 % des Américains souhaitent qu’une réglementation empêche activement l’avènement d'une l’IA superintelligente AGI, 83 % pensent que l'IA pourrait accidentellement provoquer un événement catastrophique
63 % des Américains souhaitent qu’une réglementation empêche activement l’avènement d'une l’IA superintelligente AGI, 83 % pensent que l'IA pourrait accidentellement provoquer un événement catastrophique et 82 % ne font pas confiance aux sociétés d'IA pour autoréguler l'IA, selon une enquête d'AI Policy Institute.
Les électeurs américains s'inquiètent des risques liés à la technologie de l'IA. L'AI Policy Institute (AIPI) s'est donné pour mission de traduire les inquiétudes du public en une réglementation efficace. Ils s'engagent auprès des décideurs politiques, des médias et du public pour façonner un avenir où l'IA est développée de manière responsable et transparente.
Ils ont constaté que les Américains veulent que le gouvernement agisse sur l'IA. L'AIPI utilise des sondages pour maintenir une connaissance complète de la perception publique de l'IA et des risques qui y sont associés, dans le but d'informer et d'influencer les médias grand public et la prise de décision politique. Du 18 au 21 juillet 2023, l'AIPI a mené une enquête auprès de 1 001 électeurs au niveau national avec son partenaire YouGov. Dans l'ensemble, les électeurs sont plus inquiets qu'enthousiastes à l'égard de l'IA.
Voici les principaux résultats :
- 83% pensent que l'IA pourrait accidentellement provoquer un événement catastrophique.
- 62% sont préoccupés par l'intelligence artificielle, tandis que 21 % seulement sont enthousiastes.
- 82% préfèrent ralentir le développement de l'IA, contre seulement 8 % qui préfèrent l'accélérer.
- 54% pensent que l'IA de niveau humain (AGI) sera développée d'ici 5 ans.
- 82% ne font pas confiance aux responsables de la technologie de l'IA pour autoréguler l'IA.
Des progrès lents et délibérés
L'AI Policy Institute commente :
Source : AI Policy InstituteLa frontière de l'IA est repoussée rapidement par les entreprises qui consacrent des milliards à l'entraînement de puissants modèles d'IA. La vitesse de ces progrès a dépassé notre compréhension de ces systèmes, nous laissant dans l'ignorance de leurs capacités, de leur comportement et des risques qu'ils posent. Les leaders de l'IA tirent unanimement la sonnette d'alarme : Sam Altman (PDG, OpenaAI), Demis Hassabis (PDG, Deepmind) et Dario Amodei (PDG, Anthropic) ont tous signé une lettre ouverte affirmant que "l'atténuation du risque d'extinction lié à l'IA devrait être une priorité mondiale".
L'AI Policy Institute cherche à répondre à ces défis. En réglementant les centres de données nécessaires au développement de modèles d'IA de pointe et en rendant obligatoire la démonstration de la sécurité d'un modèle d'IA avant son déploiement, les pouvoirs publics ont la possibilité d'atténuer considérablement les menaces qui se profilent à l'horizon. Par le dialogue et la collaboration avec les législateurs, les journalistes et les technologues, l'AI Policy Institute s'engage à trouver une voie plus sûre pour la révolution de l'IA.
Et vous ?
Voir aussi :
Le Conseil de l’Europe adopte le premier traité international sur l’intelligence artificielle
Le Conseil de l’Europe adopte le tout premier traité international juridiquement contraignant visant à garantir le respect des normes juridiques pour le recours à l'intelligence artificielle (IA)
Le Conseil de l’Europe a adopté le tout premier traité international juridiquement contraignant visant à garantir le respect des normes juridiques en matière de droits de l’homme, de démocratie et d’État de droit dans le cadre du recours aux systèmes d’intelligence artificielle (IA).
Le Conseil de l’Europe adopte le premier traité international sur l’intelligence artificielle. Le traité, également ouvert à la signature de pays non européens, établit un cadre juridique qui s’applique tout au long du cycle de vie des systèmes d’IA, traite des risques que peuvent représenter ces systèmes et promeut une innovation responsable. La convention adopte une approche fondée sur les risques concernant la conception, le développement, l’utilisation et la mise hors service des systèmes d’IA, imposant un examen attentif de toutes les potentielles conséquences négatives liées à l’utilisation de systèmes d’IA.
La Convention-cadre du Conseil de l’Europe sur l’intelligence artificielle et les droits de l’homme, la démocratie et l’État de droit a été adoptée à Strasbourg lors de la réunion ministérielle annuelle du Comité des Ministres du Conseil de l’Europe, qui réunit les ministres des Affaires étrangères des 46 États membres du Conseil de l’Europe.
Comme l’a déclaré la Secrétaire Générale du Conseil de l’Europe, Marija Pejčinović Burić, « la Convention-cadre sur l’intelligence artificielle est un traité international unique en son genre qui fera en sorte que l’intelligence artificielle soit respectueuse des droits des personnes. Elle répond à la nécessité de disposer d’une norme de droit international bénéficiant du soutien d’États de différents continents unis par des valeurs communes, qui permet de tirer parti des avantages de l’intelligence artificielle, tout en réduisant les risques qu’elle représente. Avec ce nouveau traité, nous entendons garantir une utilisation responsable de l’IA, respectueuse des droits de l’homme, de la démocratie et de l’État de droit ».
La convention est le fruit de deux années de travail d’un organe intergouvernemental, le Comité sur l’intelligence artificielle (CAI), qui a rassemblé, aux fins de la rédaction du traité, les 46 États membres du Conseil de l’Europe, l’Union européenne et 11 États non membres (Argentine, Australie, Canada, Costa Rica, États-Unis d’Amérique, Israël, Japon, Mexique, Pérou, Saint-Siège et Uruguay), ainsi que des représentants issus du secteur privé, de la société civile et du monde universitaire, intervenant en qualité d’observateurs.
Le traité s’applique à l’utilisation des systèmes d’IA par les pouvoirs publics – y compris les entreprises qui agissent pour leur compte – et par les acteurs privés. La convention prévoit deux façons permettant aux parties de se conformer à ses principes et à ses obligations dans le cadre de la règlementation du secteur privé : les parties peuvent choisir d’être directement soumises aux dispositions applicables de la convention ou, à défaut, prendre d’autres mesures pour se conformer aux dispositions du traité, sans déroger à leurs obligations internationales en matière de protection des droits de l’homme, de la démocratie et de l’État de droit. Cette approche s’impose en raison des disparités existant entre les systèmes juridiques des différents pays.
La convention énonce des exigences de transparence et de contrôle adaptées à des contextes et à des risques spécifiques, notamment l’identification des contenus générés par les systèmes d’IA. Les parties devront adopter des mesures pour identifier, évaluer, prévenir et atténuer les risques éventuels et évaluer la nécessité d’un moratoire, d’une interdiction ou d’autres mesures appropriées concernant l’utilisation de systèmes d’IA lorsque cette utilisation est susceptible de présenter des risques incompatibles avec les normes relatives aux droits de l’homme.
Ils devront également déterminer les responsabilités et établir l’obligation de rendre des comptes en cas d’impacts négatifs, veiller à ce que les systèmes d’IA respectent l’égalité, y compris l’égalité de genre, garantir l’interdiction de la discrimination et la protection de la vie privée. En outre, les parties au traité devront veiller à ce que les victimes de violations des droits de l’homme dans le cadre de l’utilisation de systèmes d’IA disposent de voies de recours et bénéficient de garanties procédurales. Les personnes qui interagissent avec un système d’IA devraient notamment être informées qu’elles interagissent avec un tel système.
En ce qui concerne les risques pour la démocratie, le traité exige des parties qu’elles adoptent des mesures pour veiller à ce que les systèmes d’IA ne soient pas utilisés pour porter atteinte aux institutions et aux processus démocratiques, notamment aux principes de séparation des pouvoirs, d’indépendance de la justice et d’accès à la justice.
Les parties à la convention ne seront pas tenues d’appliquer les dispositions du traité aux activités liées à la protection des intérêts de sécurité nationale, mais elles devront veiller à ce que ces activités soient menées dans le respect des institutions et processus démocratiques et du droit international. La convention ne s’appliquera pas aux questions de défense nationale ni aux activités de recherche et de développement, sauf si la mise à l’essai de systèmes d’IA est susceptible d’interférer avec les droits de l’homme, la démocratie et l’État de droit.
Afin d’assurer sa mise en œuvre effective, la convention établit un mécanisme de suivi sous la forme d’une conférence des parties.
Enfin, la convention exige que les parties mettent en place un mécanisme de contrôle indépendant pour contrôler le respect de la convention et qu’elles sensibilisent le public, animent et éclairent le débat public et mènent des consultations multipartites sur la manière d’utiliser la technologie de l’IA. La convention-cadre sera ouverte à la signature à Vilnius (Lituanie) le 5 septembre à l'occasion d'une conférence des ministres de la justice.
Source : Rapport explicatif de la CAI
Et vous ?
Voir aussi :
Les entreprises d'IA ne doivent pas se gouverner elles-mêmes pour le bien de l'humanité
Les entreprises d'IA ne doivent pas se gouverner elles-mêmes pour le bien de l'humanité, affirment d'anciens dirigeants d'OpenAI
Une réglementation est nécessaire pour dompter les forces du marché
Les entreprises de la filière intelligence artificielle ne doivent pas se gouverner elles-mêmes pour le bien de l’humanité. Y laisser cours serait en effet courir le risque de mettre trop de pouvoir entre les mains d’un petit groupe d’entreprises voire d’individus. C’est l’avis formulé par d’anciens membres du conseil d’administration d’OpenAI. Ce dernier fait néanmoins suite à des prises de position selon lesquelles la réglementation constituera un frein à l’innovation en matière d’intelligence artificielle.
Lors de sa conférence TED, Mme Toner a déclaré que les entreprises d'IA devraient être tenues de « partager des informations sur ce qu'elles construisent, sur ce que leurs systèmes peuvent faire et sur la manière dont elles gèrent les risques. » Elle a en sus ajouté que ces informations à partager avec le public devraient faire l'objet d'un audit, de sorte que les entreprises d'IA ne soient pas les seules à vérifier les informations qu'elles fournissent.
Un exemple de cas où la technologie pourrait mal tourner serait son utilisation dans une cyberaattaque basée sur l'intelligence artificielle. L’ex membre du conseil d’administration d’OpenAI a déclaré qu'elle travaillait depuis huit ans sur les questions de politique et de gouvernance liées à l'IA et qu'elle avait pu observer de l'intérieur la manière dont le gouvernement et l'industrie s'efforçaient de gérer la technologie.
L’Inde par exemple exige aux entreprises technologiques d’obtenir une autorisation avant de procéder à la diffusion d’outils d’intelligence artificielle
L'Inde a introduit de nouvelles règles en matière d'IA. Alors que le pays a semblé adopter une approche laxiste ou permissive au départ, les nouvelles règles s'avèrent très strictes et suscitent de nombreuses critiques dans la communauté. Dans un nouvel avis publié récemment, l'Inde demande aux entreprises technologiques d'obtenir son accord avant de rendre publics des outils d'IA qui ne sont pas fiables ou qui sont à l'essai. « Ces règles sont un coup dur pour les entreprises qui voudront publier leurs modèles à l'avenir. Le gouvernement décidera du modèle qui est apte à être publié ou non », a écrit un critique.
L'avis a été publié le 1er mars et indique également que ces systèmes d'IA devront être étiquetés comme susceptibles de fournir des réponses erronées aux questions des utilisateurs. En outre, l'avis indique : « l'utilisation de ces outils, y compris l'IA générative, et leur mise à disposition des utilisateurs sur l'Internet indien doivent se faire avec l'autorisation explicite du gouvernement indien ». Pour finir, le gouvernement indien exige également que les entreprises technologiques s'assurent que leurs services ou produits d'IA ne permettent pas de biais ou de discrimination et ne menacent pas l'intégrité du processus électoral.
Ce nouvel avis intervenait peu après que l'un des principaux ministres indiens a critiqué Google et son système d'IA Gemini pour ses réponses jugées "inexactes" ou partiales, dont l'une affirmait que le Premier ministre indien Narendra Modi avait été qualifié par certains de "fasciste". Google s'est excusé pour les lacunes de Gemini et a déclaré qu'il n'est pas toujours fiable, en particulier pour les sujets d'actualité sociale. Rajeev Chandrasekhar, vice-ministre indien des Technologies de l'information, a répondu à Google en déclarant dans un message : « la sécurité et la confiance sont des obligations légales pour les plateformes ».
De nombreuses organisations et experts de la filière intelligence artificielle sont néanmoins d’avis que la réglementation est un frein à l’innovation
C’est la raison d’être de la lettre de mise en garde contre le fait qu'en vertu des règles proposées par l'UE, les technologies telles que l'IA générative deviendraient fortement réglementées et que les entreprises développant de tels systèmes seraient confrontées à des coûts de mise en conformité élevés et à des risques de responsabilité disproportionnés.
Une telle réglementation pourrait conduire des entreprises très innovantes à transférer leurs activités à l'étranger et les investisseurs à retirer leurs capitaux du développement de l'IA européenne en général.
John Loeber, co-fondateur et PDG de Limit, une société de courtage numérique de série A pour l'assurance commerciale liste une série d’inconvénients de la réglementation européenne en matière d’intelligence artificielle :
- Faute de principes unificateurs/généraux, de nouvelles réglementations devront être ajoutées pour chaque nouveau cas futur. Il y a une nouvelle application ? Consacrons mille heures de temps aux législateurs pour ajouter un ensemble de règles supplémentaires.
- Ironiquement, la spécificité des règles rend flou leur application ou non, ce qui invite au débat contradictoire : « ma demande utilise-t-elle réellement des données biométriques ? Non, ce sont des métadonnées… » ou « Mon application effectue-t-elle une notation de crédit social interdite ? Non, nous vendons en réalité une évaluation actuarielle des risques et vous choisissez comment l’utiliser… »
- D’un autre côté, la loi sur l’IA réglemente les techniques si élémentaires que la plupart des entreprises technologiques seront techniquement en situation de non-conformité dès le premier jour.
Et s’ils sont poursuivis, quelles sont les sanctions ? Jusqu'à 7% du chiffre d'affaires annuel mondial. C'est une farce. Si l’UE affirme que cette technologie est si dangereuse qu’elle nécessite une réglementation à l’échelle européenne, alors les sanctions devraient en réalité être beaucoup plus lourdes. S’il y a un mauvais acteur qui dirige une entreprise d’IA massivement abusive et que la plus grande menace à laquelle il est confronté est une pénalité de revenus de 7 % qu’il peut probablement réduire à 2 % après quelques années de litige, alors cela n’a aucun effet dissuasif ! Ces entreprises fonctionnent avec une marge brute de 75 %. Vous avez une année qui tourne à 73% ? Cela n’a pas d’importance.
Cela place la loi sur l’IA dans une situation intermédiaire lamentable en matière de réglementation : suffisamment ennuyeuse pour dissuader les entrepreneurs légitimes, suffisamment édentée pour ne pas empêcher des abus à grande échelle. Je suis choqué que la loi sur l’IA ne prévoie aucune possibilité d’interdire quelque chose qui serait réellement dangereux, comme une machine de propagande optimisée par l’IA et financée par l’État, se faisant passer pour un réseau social. S’ils ne peuvent pas interdire des produits, alors il ne s’agit pas de protection des consommateurs : il s’agit simplement d’extraction de richesses », ajoute-t-il.
Source : TED
Et vous ?
Voir aussi :
Les entreprises ont déployé une vaste campagne de lobbying pour saper les réglementations sur l'IA
Qu'y a-t-il de plus effrayant que l'IA incontrôlée ? Un "essaim" de 3 400 lobbyistes au service des intérêts spéciaux des entreprises d'IA pour influencer les gouvernements au détriment de l'intérêt général
Les entreprises d'IA ont déployé une vaste campagne de lobbying en Europe et aux États-Unis pour contrecarrer les tentatives visant à réglementer l'IA. Bien qu'elles appellent à l'adoption de réglementations sur l'IA, les entreprises cherchent à imposer leurs propres règles afin de concentrer le pouvoir et la richesse. Pour ce faire, elles ont embauché une importante armée de lobbyistes chargés d'influencer les décideurs politiques et les gouvernements à travers le monde afin qu'ils adoptent des règles "laxistes" au détriment de l'intérêt général. Ils ont déjà réussi à court-circuiter le vote de nombreuses lois sur l'IA ou à façonner certaines législations.
Le groupe américain de défense des intérêts des consommateurs Public Citizen a récemment publié un rapport qui met en lumière le lobbying intense des groupes d'intérêts des entreprises spécialisées dans l'IA. Public Citizen a rapporté que de puissants groupes commerciaux consacrent des ressources considérables à l'élaboration de la politique en matière d'IA aux États-Unis. Le rapport constate que ces groupes commerciaux ont plus que doublé le nombre de lobbyistes qu'ils ont envoyés au Capitole en 2023, par rapport à l'année précédente, afin d'influencer les décideurs politiques sur les questions relatives à l'IA.
Le rapport examine les dossiers de divulgation des activités de lobbying entre 2019 et 2023, et constate que les entreprises d'IA ont déployé une armée de plus de 3 400 lobbyistes de l'IA pour influencer les législateurs fédéraux l'année dernière, soit un bond de 120 % par rapport à 2022. Le nombre d'organisations ayant fait pression sur le gouvernement sur des questions liées à l'IA a été relativement stable entre 2019 et 2022, mais la nouvelle analyse montre que l'année dernière, les entreprises, les groupes commerciaux et les cabinets de lobbying semblaient considérer l'IA comme une question qui nécessitait plus d'attention.
D'après le rapport, au moins 566 clients ont fait du lobbying sur l'IA l'année dernière, ce qui représente une augmentation de 108 % par rapport aux 272 organisations engagées sur la question en 2022. « La compilation des données a révélé une augmentation du nombre de clients, d'organisations de lobbying et de lobbyistes individuels s'engageant sur des questions liées à l'IA, ainsi que l'éventail disparate d'industries que ces questions touchent », affirme Public Citizen. Le rapport a notamment mis en évidence les points suivants :
- les entreprises, les groupes commerciaux et d'autres organisations ont envoyé plus de 3 400 lobbyistes pour faire pression sur le gouvernement fédéral américain sur les questions liées à l'IA en 2023, ce qui représente un bond de 120 % par rapport à 2022 ;
- l'IA n'est pas un sujet de préoccupation pour les entreprises d'IA et de logiciels uniquement. L'industrie technologique est à l'origine du plus grand nombre de lobbyistes liés à l'IA en 2023 (près de 700), mais elle ne représente que 20 % de l'ensemble des lobbyistes déployés dans le domaine de l'IA. Des lobbyistes issus d'un large éventail de secteurs autres que celui de la technologie se sont engagés sur des questions liées à l'IA, notamment les services financiers, les soins de santé, les télécommunications, les transports et la défense ;
- les clients qui font du lobbying sur les questions liées à l'IA ont envoyé plus de 1 100 lobbyistes pour faire du lobbying auprès de la Maison Blanche en 2023, soit près de deux fois plus que le nombre de lobbyistes consacrés à une agence fédérale en particulier. Le nombre de lobbyistes engagés pour faire du lobbying auprès de la Maison Blanche sur les questions liées à l'IA est passé de 323 au premier trimestre à 931 au quatrième trimestre, soit une augmentation de 188 % en l'espace d'un an ;
- 85 % des lobbyistes engagés en 2023 pour faire du lobbying sur les questions liées à l'IA l'ont été par des entreprises ou des groupes commerciaux alignés sur les entreprises. La Chambre de commerce des États-Unis est à l'origine du plus grand nombre de lobbyistes liés à l'IA (81), suivie d'Intuit (64), de Microsoft (60), de la Business Roundtable (42) et d'Amazon (35).
Un précédent rapport d'OpenSecrets a mis en évidence le pic de lobbying des nouveaux venus dans la course à l'IA, révélant que plus de 330 entités ont fait du lobbying sur des questions liées à l'IA en 2023. OpenSecrets a constaté que les groupes qui ont fait du lobbying sur l'IA en 2023 ont dépensé un total de 957 millions de dollars pour faire du lobbying auprès du gouvernement fédéral américain sur toutes les questions cette année-là. En outre, à l'aide des données prises en compte, Public Citizen a examiné quelles agences du gouvernement fédéral les clients et leurs lobbyistes ciblaient le plus sur les questions liées à l'IA.
Selon Public Citizen, un grand nombre de ceux qui dépensent le plus en lobbying se sont également engagés sur les questions relatives à IA. Sur les 20 entités qui dépensent le plus en lobbying, Public Citizen a constaté que 15 d'entre elles ont fait du lobbying intense sur l'IA, ce qui montre que les organisations qui ont le plus de ressources disposent d'un vaste pouvoir de lobbying pour façonner les réglementations entourant l'utilisation de l'IA. Les résultats de l'analyse révèlent que le lobbying sur l'IA prend de l'ampleur à mesure que les entreprises livrent de nouveaux outils d'IA et que les législateurs tentent de les réglementer.
« Les lobbyistes d'entreprise qui se déchaînent dans les couloirs du Congrès et du pouvoir ont pour objectif de définir notre avenir en matière d'IA. Soit nous laissons les lobbyistes d'entreprise rédiger des règles sur l'IA pour concentrer le pouvoir et la richesse des entreprises, soit nous exigeons que les représentants du gouvernement donnent la priorité à l'intérêt public », a déclaré Robert Weissman, président de Public Citizen. L'analyse montre que les clients et leurs lobbyistes intensifient leurs efforts de lobbying chaque fois que les législateurs américains présentent un nouveau projet de loi sur la réglementation de l'IA.
« Les entreprises d'IA, les sociétés de défense, les fabricants de véhicules autonomes et d'autres acteurs peuvent gagner des milliards si la politique en matière d'IA est élaborée davantage dans leur intérêt que dans celui du public. Ces entités semblent dominer les conversations sur l'IA au Capitole. Ce n'est jamais une bonne idée de confier au renard le soin de concevoir la sécurité du poulailler », a déclaré Mike Tanglis, directeur de recherche pour la division Congress Watch de Public Citizen. Public Citizen prévoit que le lobbying en faveur de l'IA se poursuivra en 2024 et au-delà, car de nouvelles propositions de loi sont en vue.
Selon Public Citizen, avec l'action du gouvernement fédéral pour ériger des garde-fous pour l'utilisation de l'IA, "les parties prenantes s'appuieront probablement encore plus sur leurs lobbyistes pour façonner la manière dont la politique de l'IA est élaborée". « Le gouvernement fédéral américain devrait se méfier de l'engagement des groupes de défense des intérêts des entreprises d'IA dans le processus. Les garde-fous de l'IA sont essentiels pour protéger le public et les voix des parties prenantes qui les représentent doivent également être entendues avec force dans les couloirs du gouvernement », a déclaré Public Citizen.
Un rapport publié l'été dernier a allégué qu'OpenAI a fait pression sur l'Union européenne pour qu'elle édulcore sa réglementation sur l'IA et aurait réussi à faire passer ses intérêts financiers au détriment de l'intérêt général. OpenAI aurait fait pression pour que des éléments importants de la loi européenne sur l'IA (EU AI Act) soient fortement édulcorés de manière à réduire le fardeau réglementaire qui pèse sur la société. Ces informations sont issues de documents sur l'engagement d'OpenAI avec des fonctionnaires de l'UE obtenus par TIME auprès de la Commission européenne par le biais de demandes de liberté d'information.
Le Parlement européen a adopté la législation "Eu AI Act" en juin 2023. Elle impose des règles aux utilisations de l'IA considérées comme les plus risquées. Elle limite l'utilisation des logiciels de reconnaissance faciale et exige des fabricants d'outils d'IA qu'ils divulguent davantage d'informations sur les données utilisées pour créer leurs programmes. Après avoir relativement réussi à imposer ses volontés à l'UE, Sam Altman, PDG d'OpenAI, fait une tournée mondiale pour plaider en faveur d'une norme mondiale sur l'IA. Mais son appel d'importantes préoccupations parmi les groupes de défenses des intérêts des consommateurs.
Au regard des révélations du rapport, il ne serait pas imprudent de suggérer qu'OpenAI compte également imposer sa politique au monde entier. Les efforts de lobbying d'OpenAI visent davantage à protéger ses intérêts financiers qu'à promouvoir l'intérêt public. Altman mène donc un jeu de dupe au sein de la communauté internationale de l'IA, un stratagème qui lui permettrait à terme d'asseoir sa domination sur le secteur de l'IA. Par ailleurs, les critiques accusent l'UE de s'être pliée une nouvelle fois aux désidératas des Américains, au mépris des intérêts de ses propres entreprises et de sa souveraineté numérique.
Source : Public Citizen
Et vous ?
Voir aussi
On le voit déjà au niveau des news sur tous les sites et tous les canaux. On essaye de nous vendre de force un truc assez moyen, comme LA panacée.
En général, plus il y a de pub pour un produit, et plus il y a de chances qu'ils soit très mauvais.
Là, on a en plus des lobbyistes qui illustrent le capitalisme non-régulé dans toute sa splendeur, ou comment les plus riches sont capables de faire plier des gouvernements, par la corruption légale qu'est le lobbyisme. On le voit au niveau des entreprises et des communes ici: des avocats de l'IA (et juste avant c'était ceux du cloud des GAFAM) qui organisent des évènements avec les repas, parfois des cadeaux, des ateliers qui sont de la pub grossièrement déguisée, etc.
Bref, rien de neuf: le commercial qui fait sa danse du ventre, et le pigeon qui tombe dans le panneau.
Il y a eu le métavers dernièrement, mais ça à foiré (comme tout le monde l'avais prévu ici).
Les humainsQu'y a-t-il de plus effrayant que l'IA incontrôlée ?
Une chose est sûre: "L'essaim" de lobbyistes pro-IA existe bel et bien...
Pour s'en convaincre, il suffit de lire les news de ce site: La majorité des news traitent maintenant de l'IA... Apparemment les autres technologies numériques ne sont plus dignes d'intérêt
C'est de la faute de l'industrie et non pas des rédacteurs d'actualités.
C'est comme avec Elon Musk, les médias écrivent un article par jour à son sujet donc ça atterrît ici aussi.
Les visiteurs ont le choix de lire les articles qu'ils veulent, il est possible d'ignorer toutes les actualités liées à l'IA si on le souhaite.
L'IA sera peut-être puissante dans 20 ans, j'espère que dans ces 20 ans l'IA ne restera pas le sujet principal dans le monde de la technologie.
Beaucoup de gens doivent être lassés par toutes ces actualités en rapport avec l'IA, les médias mainstream en parlent beaucoup.
Mais après ils ont peut-être raison d'en parler, l'IA pourrait devenir quelque chose d'extrêmement dangereux et avoir des conséquences dramatique sur le monde. Elle va peut-être vraiment prendre le travail de beaucoup de gens, qui vont se retrouver dans la pauvreté, parce qu'ils ne retrouveront plus de travail et n'auront plus de revenu.
C'est dingue que ces lobbystes arrivent à corrompre autant de décideurs politiques et de gouvernements à travers le monde.
On pourrait presque se dire que les politiciens sont tous pourris.
Répondre avec citation
Partager