Si c'était Trump cela n'aurait posé aucun problème et serait même relayé par les médias de masse comme une preuve de la dangerosité de Trump. Posez-vous juste la question du pourquoi du comment.
Inscrivez-vous gratuitement
pour pouvoir participer, suivre les réponses en temps réel, voter pour les messages, poser vos propres questions et recevoir la newsletter
Discussion :
Si c'était Trump cela n'aurait posé aucun problème et serait même relayé par les médias de masse comme une preuve de la dangerosité de Trump. Posez-vous juste la question du pourquoi du comment.
TikTok va étiqueter automatiquement les contenus générés par IA sur des plateformes comme DALL-E 3
TikTok va étiqueter automatiquement les contenus générés par IA sur des plateformes comme DALL-E 3 afin de lutter contre la désinformation, en utilisant la technologie d'authentification des contenus de C2PA.
TikTok va étiqueter automatiquement les contenus générés par l'IA. Le géant des médias sociaux a déclaré que l'objectif était de lutter contre la désinformation.
TikTok a annoncé sur "GMA" qu'à partir de maintenant, le géant des médias sociaux étiquettera automatiquement les contenus générés par l'intelligence artificielle lorsqu'ils seront téléchargés à partir de certaines plateformes.
"Nos utilisateurs et nos créateurs sont très enthousiastes à propos de l'IA et de ce qu'elle peut faire pour leur créativité et leur capacité à se connecter avec le public." a déclaré Adam Presser, responsable des opérations, de la confiance et de la sécurité chez TikTok. "Et en même temps, nous voulons nous assurer que les gens ont la capacité de comprendre ce qu'est un fait et ce qu'est une fiction."
Le géant des médias sociaux affirme qu'il devient la première plateforme de partage de vidéos à mettre en œuvre la technologie Content Credentials, une norme technique ouverte qui permet aux éditeurs, aux créateurs et aux consommateurs de retracer l'origine de différents types de médias. "C'est comme une étiquette nutritionnelle pour le contenu. Il vous indique ce qui s'est passé dans l'image, où elle a été prise, qui l'a réalisée et les modifications qui ont été apportées en cours de route", a expliqué Dana Rao, Chief Trust Officer d'Adobe.
Adobe est l'un des membres fondateurs de la Coalition for Content Provenance and Authenticity (C2PA), une coalition d'entreprises qui travaillent ensemble pour faire avancer l'adoption de cette nouvelle norme numérique. Les Content Credentials (étiquettes nutritionnelles numériques) sont de plus en plus utilisés comme norme pour certifier le contenu numérique.
Au début de l'année, OpenAI a annoncé qu'elle ajouterait cette technologie à toutes les images créées et éditées par DALL.E 3, son dernier modèle d'image. OpenAI a également déclaré qu'elle prévoyait d'intégrer les certificats de contenu à son modèle de génération de vidéos, Sora, une fois qu'il sera lancé à plus grande échelle. D'autres produits dotés de capacités d'IA générative, comme Adobe Firefly, Photoshop, Express et Microsoft Copilot, utilisent déjà la technologie pour intégrer des métadonnées dans le contenu visuel créé à l'aide de leurs plateformes.
"Certains éléments du tableau se mettent en place", remarque Sam Gregory, directeur exécutif de Witness et expert en matière de "deepfakes". "Il est essentiel que des entreprises spécifiques rendent aussi facile que possible de savoir quand un contenu a été créé à l'aide de leurs outils en fournissant des classifications spécifiques à ces derniers."
TikTok a déclaré que le déploiement de ce nouveau label commence aujourd'hui et s'appliquera à tous les utilisateurs à l'échelle mondiale dans les semaines à venir. Au cours des prochains mois, TikTok commencera également à attacher des références de contenu au contenu, qui resteront sur le contenu lorsqu'il sera téléchargé, ce qui permettra à d'autres plateformes de lire les métadonnées.
Avec l'élection présidentielle américaine qui se profile à l'horizon et les élections qui s'enchaînent dans le monde entier, les demandes de détection en ligne des contenus générés par l'IA se font de plus en plus pressantes.
"Ni l'une ni l'autre n'est une solution miracle, ni maintenant ni lorsqu'elles seront pleinement utilisées et fournies - elles constituent une forme de réduction des dommages qui permet de discerner plus facilement quand et comment l'IA a été utilisée", a expliqué M. Gregory. "Les créateurs et distributeurs malveillants et trompeurs trouveront toujours un moyen de les contourner, mais la plupart d'entre nous seront heureux de les utiliser s'ils ne compromettent pas notre vie privée ou notre capacité à créer."
Rao pense que nous nous dirigerons vers un monde en ligne où les contenus qui portent ces étiquettes nutritionnelles numériques pourraient être plus dignes de confiance ou plus valorisés que ceux qui n'en portent pas. "La valeur réelle sera l'authenticité", souligne M. Rao. "Les créateurs veulent avoir une communication authentique avec leurs spectateurs, et ce certificat de contenu permet donc aux créateurs d'établir le niveau d'authenticité qu'ils souhaitent avec leur public."
Source : TikTok
Et vous ?
Pensez-vous que cette initiative est crédible ou pertinente ?
Voir aussi :
Plus de 70 % des consommateurs craignent d'être dupés par une deepfake et de son influence sur les élections
Plus de 70 % des consommateurs craignent d'être dupés par une deepfake et de voir l'IA et les deepfakes influencer les prochaines élections dans leur pays, selon une étude de Jumio.
Une nouvelle étude de la société de vérification d'identité Jumio révèle une inquiétude croissante quant à l'influence politique que l'IA et les deepfakes pourraient avoir lors des prochaines élections et à la manière dont ils pourraient influencer la confiance dans les médias en ligne.
L'étude menée auprès de plus de 8 000 consommateurs adultes, répartis équitablement entre le Royaume-Uni, les États-Unis, Singapour et le Mexique, révèle que 72 % des consommateurs améticains s'inquiètent de l'influence potentielle de l'IA et des deepfakes sur les prochaines élections dans leur pays. Ils estiment que les deepfakes minent la confiance dans les politiciens et les médias, 70 % d'entre eux faisant état d'un scepticisme accru à l'égard du contenu qu'ils voient en ligne, par rapport aux dernières élections.
Au niveau mondial, seuls 46 % des consommateurs pensent qu'ils pourraient facilement repérer un deepfake d'une personnalité politique ou d'une célébrité. Ce chiffre tombe à 37 % aux États-Unis et la confiance varie en fonction de la tranche d'âge : seuls 22 % des Américains âgés de 55 ans ou plus ont confiance en leurs capacités. Les hommes âgés de 18 à 34 ans sont les plus confiants dans leur capacité à repérer les faux (75 %), tandis que les femmes âgées de 35 à 54 ans sont les moins confiantes (52 %).
Seuls 43 % des consommateurs du monde entier déclarent faire confiance aux informations politiques qu'ils voient en ligne, malgré la possibilité de tomber sur des deepfakes audio, vidéo et image. Les Américains sont beaucoup moins confiants (32 %). Au niveau mondial, seulement 43 % des personnes interrogées ont confiance dans la capacité de leur gouvernement à réglementer l'IA, ce chiffre tombant à 31 % aux États-Unis et à seulement 26 % au Royaume-Uni.
« Avec la moitié de la population mondiale participant aux élections cette année, l'influence et l'impact potentiels de l'IA générative et des deepfakes exigent notre attention immédiate », déclare Robert Prigge, PDG de Jumio. « La confiance du public dans l'information en ligne s'effrite, exigeant un discours transparent pour faire face à ce défi et donner aux citoyens les outils pour discerner et signaler les deepfakes. Les plateformes en ligne ont le devoir essentiel de tirer parti de mesures de détection de pointe telles que les systèmes de vérification multimodaux basés sur la biométrie pour renforcer nos défenses contre les "deepfakes" qui influencent des élections cruciales. »
À propos de la recherche
L'étude annuelle Jumio Online Identity Consumer Study, qui en est à sa troisième année, explore la sensibilisation et le sentiment des consommateurs autour des questions liées à l'identité en ligne, aux risques de fraude et aux méthodes actuelles utilisées pour protéger les données d'identité des consommateurs.
Les résultats de 2024 mettent en évidence les préoccupations importantes des consommateurs concernant les risques associés à l'IA générative et aux deepfakes, notamment le potentiel d'augmentation de la cybercriminalité et de l'usurpation d'identité. L'étude démontre le besoin pressant de s'assurer de l'authenticité des utilisateurs.
Principales conclusions
- 72 % des consommateurs s'inquiètent quotidiennement d'être trompés par un deepfake et souhaitent que leur gouvernement fasse davantage pour réglementer l'IA. Les trois quarts des consommateurs s'inquiètent quotidiennement d'être trompés par un deepfake et d'avoir à communiquer des informations sensibles ou de l'argent. Seuls 15 % des consommateurs déclarent n'avoir jamais été confrontés à un deepfake, tandis que 60 % l'ont été au cours de l'année écoulée et que 22 % n'en sont pas sûrs.
Une majorité significative de consommateurs appelle à une plus grande réglementation gouvernementale de l'IA afin de résoudre les problèmes liés aux deepfakes et à l'IA générative. Toutefois, la confiance dans la réglementation varie d'un pays à l'autre.
- Les consommateurs continuent de surestimer leur propre capacité à repérer les deepfakes. Même si cette technologie de plus en plus répandue et en constante évolution suscite une grande anxiété, les consommateurs continuent de surestimer leur propre capacité à repérer les deepfakes - 60 % d'entre eux pensent qu'ils pourraient détecter un deepfake, contre 52 % en 2023.
Les hommes sont plus confiants dans leur capacité à repérer un deepfake (66 % des hommes contre 55 % des femmes). Les hommes âgés de 18 à 34 ans sont les plus confiants (75%), tandis que les femmes âgées de 35 à 54 ans sont les moins confiantes (52%)
- Une vérification plus rigoureuse de l'identité est nécessaire pour se protéger contre l'usurpation d'identité et la fraude, qui sont coûteuses et répandues. La fraude est un problème bien trop familier pour de nombreux consommateurs à travers le monde, 68% des personnes interrogées déclarant qu'elles savent ou soupçonnent avoir été victimes d'une fraude en ligne ou d'un vol d'identité, ou qu'elles connaissent quelqu'un qui a été affecté.
Un tiers (32 %)des consommateurs qui ont été ou pensent avoir été victimes d'une fraude en ligne déclarent que cela leur a causé des problèmes importants et plusieurs heures de travail administratif à résoudre, et 14 % vont même jusqu'à parler d'une expérience traumatisante. Plus de 70 % des consommateurs ont déclaré qu'ils consacreraient plus de temps à la vérification de l'identité si ces mesures amélioraient la sécurité dans des secteurs tels que les services financiers (77 %), la santé (74 %), le gouvernement (72 %), la vente au détail et le commerce électronique (72 %), les médias sociaux (71 %), l'économie de partage (71 %), et les voyages et l'hôtellerie (71 %).
Lors de la création d'un nouveau compte en ligne, les consommateurs du monde entier ont déclaré que la prise d'une photo de leur pièce d'identité et d'un selfie en direct serait la forme la plus précise de vérification de l'identité (21 %), la création d'un mot de passe sécurisé arrivant juste derrière (19 %). Qu'ils aient été ou non victimes de fraude ou d'usurpation d'identité, la plupart des consommateurs s'inquiètent chaque jour de la possibilité d'être victimes d'une violation de données ou d'une prise de contrôle de leur compte.
La sécurité dans les services financiers
La majorité des consommateurs sont prêts à changer de banque en raison d'une protection inadéquate contre la fraude. Ils estiment que les prestataires de services bancaires sont responsables en dernier ressort de la protection des clients et de l'indemnisation des victimes de fraude.
75 % d'entre eux attendent un remboursement intégral de leur banque s'ils sont victimes de la cybercriminalité. La technologie utilisée par les fraudeurs devenant de plus en plus sophistiquée, les outils de prévention et de détection des escroqueries doivent eux aussi évoluer. 69 % des clients exigent des mesures de cybersécurité plus strictes, car la confiance dans les protections des banques diminue.
Deepfakes et Elections
Alors que plus de 50 pays organisent des élections nationales en 2024, Jumio a étudié la perception des deepfakes par les consommateurs et la manière dont ils pourraient influencer la confiance dans les médias en ligne. Les données révèlent également une évolution de la relation entre le public et les médias en ligne.
Source : Jumio Online Identity Consumer Study 2024
Et vous ?
Voir aussi :
Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
Les cyberattaques par IA sont une telle menace que 73 % des sociétés US ont un plan de réponse aux deepfakes
Les cyberattaques par IA sont une telle menace que 73 % des entreprises américaines ont un plan de réponse aux deepfakes, et 69 % sont tenues d'utiliser l'authentification biométrique pour renforcer la sécurité
Compte tenu du niveau d'inquiétude suscité par l'influence des « deepfakes », il n'est peut-être pas surprenant d'apprendre que les entreprises élaborent leurs propres plans de réponse aux « deepfakes ».
Une nouvelle enquête menée par le moteur de recommandation de logiciels GetApp auprès de plus de 2 600 professionnels mondiaux de l'informatique et de la cybersécurité révèle que 73 % des personnes interrogées aux États-Unis déclarent que leur organisation a élaboré un plan de réponse aux deepfakes.
Parmi les répondants américains, 69 % sont tenus d'utiliser l'authentification biométrique pour renforcer la cybersécurité, ce qui est supérieur à la moyenne mondiale de 53 %. Toutefois, la confiance dans ces systèmes diminue, 36 % d'entre eux se déclarant très préoccupés par les capacités croissantes de l'IA à fabriquer des données biométriques synthétiques à des fins de fraude.
Globalement, 49 % des professionnels sont préoccupés par la protection de la vie privée et 38 % craignent un vol d'identité potentiel lié à l'utilisation de protections biométriques.
En outre, 60 % des professionnels mondiaux de l'informatique et de la sécurité déclarent que leur entreprise a mis au point des mesures de défense contre les attaques de type « deepfake » générées par l'IA. 77 % indiquent que leur entreprise a augmenté ses investissements en matière de cybersécurité au cours des 18 derniers mois.
« Les dirigeants d'entreprise ont besoin d'être rassurés sur le fait que leurs protections peuvent encore fonctionner pour les défendre contre les menaces », déclare David Jani, analyste principal de la sécurité chez GetApp. « En pratique, cela signifie que les dirigeants doivent revoir la façon dont ils protègent l'accès à leurs systèmes et comprendre les meilleurs moyens de relever le défi des nouvelles fraudes plus ciblées.
Les entreprises interrogées au niveau mondial qui ont déjà subi des cyberattaques se tournent vers des mesures qui peuvent être mises en œuvre immédiatement et souvent à un coût minime pour renforcer les vulnérabilités. Il s'agit notamment d'améliorer la sécurité des réseaux, de donner la priorité aux mises à jour de logiciels et de renforcer les politiques de mots de passe. En outre, de nombreuses personnes interrogées aux États-Unis (49 %) se concentrent sur l'utilisation de solutions de chiffrement des données pour protéger leurs données.
Source : "2024 Executive Security Survey" (GetApp)
Et vous ?
Voir aussi :
Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
Elon Musk partage une vidéo manipulée imitant la voix de la vice-présidente des États-Unis Kamala Harris
Une vidéo manipulée partagée par Elon Musk imite la voix de la vice-présidente des États-Unis Kamala Harris, ce qui soulève des inquiétudes quant à l'utilisation de l'IA en politique.
Une vidéo manipulée partagée par Elon Musk imite la voix de la vice-présidente des États-Unis Kamala Harris. Des experts ont confirmé qu'une grande partie de la voix a été générée par l'IA. Cela soulève des questions sur une utilisation appropriée de l'IA dans la politique, en particulier, car Elon Musk n'a mis aucune étiquette indicant la nature parodique de la vidéo.
Elon Musk est un homme d'affaires et un investisseur connu pour ses rôles clés dans la société spatiale SpaceX et la société automobile Tesla, Inc. Il est également propriétaire de la plateforme X, anciennement connue sous le nom de Twitter, et a participé à la création de xAI et Neuralink. Il est l'une des personnes les plus riches du monde et ces opinions ont fait de lui une figure polarisante.
Il a été critiqué pour avoir fait des déclarations non scientifiques et trompeuses, y compris la désinformation COVID-19, pour avoir promu des théories du complot de droite et pour avoir "approuvé une théorie antisémite", ce dont il s'est excusé par la suite. Récemment, il a partagé une vidéo manipulée où on entend une imitation de la voix de la vice-présidente des États-Unis Kamala Harris.
Sous la présidence de Joe Biden, Kamala Harris est la première femme vice-présidente et la plus haute fonctionnaire de l'histoire des États-Unis, ainsi que la première Afro-Américaine et la première Sud-Asiatique vice-présidente. Membre du Parti démocrate, Harris a lancé sa propre campagne présidentielle avec l'appui de Biden après le retrait de ce dernier de l'élection présidentielle de 2024.
Une vidéo manipulée qui imite la voix de la vice-présidente Kamala Harris en disant des choses qu'elle n'a pas dites suscite des inquiétudes quant au pouvoir de l'intelligence artificielle à induire en erreur à trois mois du jour du scrutin. La vidéo a attiré l'attention après que le milliardaire de la technologie Elon Musk l'a partagée sur sa plateforme de médias sociaux X, sans indiquer explicitement qu'il s'agissait à l'origine d'une parodie.
La vidéo reprend de nombreux éléments visuels d'une véritable publicité que Mme Harris, candidate probable à la présidence du parti démocrate, a publiée pour lancer sa campagne. Mais la vidéo remplace la voix off par une autre voix qui imite de manière convaincante celle de Mme Harris.This is amazing 😂
— Elon Musk (@elonmusk) July 26, 2024
pic.twitter.com/KpnBKGUUwn
« Je suis Kamala Harris, votre candidate démocrate à la présidence parce que Joe Biden a finalement révélé sa sénilité lors du débat », déclare la voix dans la vidéo. Elle affirme que Mme Harris est une « candidate de la diversité » parce qu'elle est une femme et une personne de couleur, et qu'elle ne connaît pas « la moindre chose sur la façon de diriger le pays ». La vidéo conserve la marque « Harris for President ». Elle ajoute également d'anciens clips authentiques de Mme Harris.
Mia Ehrenberg, porte-parole de la campagne de Mme Harris, a déclaré : « Nous pensons que le peuple américain veut la vraie liberté, les opportunités et la sécurité que le vice-président Harris propose, et non les mensonges manipulés d'Elon Musk et de Donald Trump. »
La video soulève des questionnements sur l'IA
La vidéo largement partagée est un exemple de la manière dont des images, des vidéos ou des clips audios générés par l'IA ont été utilisés à la fois pour se moquer de la politique et pour induire en erreur, alors que les États-Unis se rapprochent de l'élection présidentielle. Elle montre comment, alors que les outils d'IA de haute qualité sont devenus beaucoup plus accessibles, le gouvernement fédéral n'a pas encore pris de mesures significatives pour réglementer leur utilisation, laissant aux États et aux plateformes de médias sociaux le soin de définir les règles régissant l'utilisation de l'IA en politique.
La vidéo soulève également des questions sur la meilleure façon de traiter les contenus qui brouillent les limites de ce qui est considéré comme une utilisation appropriée de l'IA, en particulier s'ils entrent dans la catégorie de la satire.
L'utilisateur original qui a posté la vidéo, un YouTubeur connu sous le nom de Mr Reagan, a révélé à la fois sur YouTube et sur X que la vidéo manipulée était une parodie. Mais le message de M. Musk, qui a été visionné plus de 123 millions de fois, selon la plateforme, ne comporte que la légende « C'est incroyable » accompagnée d'un émoji qui rit. À noter que Musk a soutenu l'ancien président Donald Trump, le candidat républicain.
Les utilisateurs de X qui connaissent bien la plateforme sauront peut-être qu'il faut cliquer sur le message de Musk pour accéder au message de l'utilisateur original, où la divulgation est visible. La légende de Musk ne les incite pas à le faire.
Bien que certains participants à la fonction "note de la communauté" de X, qui permet d'ajouter un contexte aux messages, aient suggéré d'étiqueter le message de Musk, aucune étiquette de ce type n'avait été ajoutée à ce dernier. Certains utilisateurs en ligne se sont demandé si son message ne violait pas les règles de X, qui stipulent que les utilisateurs "ne peuvent pas partager des médias synthétiques, manipulés ou hors contexte susceptibles de tromper ou d'embrouiller les gens et de leur causer du tort". Cette politique prévoit une exception pour les mèmes et la satire, à condition qu'ils ne causent pas de "confusion significative quant à l'authenticité du média".
Deux experts spécialisés dans les médias générés par l'IA ont examiné le son de la fausse publicité et ont confirmé qu'une grande partie avait été générée à l'aide de la technologie de l'IA. L'un d'entre eux, Hany Farid, expert en criminalistique numérique de l'université de Californie à Berkeley, a déclaré que la vidéo montrait la puissance de l'IA générative et des "deepfakes".
« La voix générée par l'IA est très bonne », a-t-il déclaré. « Même si la plupart des gens ne croiront pas qu'il s'agît de la voix de la vice-présidente Harris, la vidéo est d'autant plus puissante que les mots sont prononcés par elle. »
Et vous ?
Voir aussi :
Publication de communiqués de presse en informatique. Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
L'intégralité des individus qui ont regardé cette vidéo savent qu'elle est fausse.Envoyé par Jade Emy
Cela dit il y a passage réel et on voit bien la différence.
Kamala Harris repeats same expression four times in speech loop
À la limite ils pourraient mettre un petit "réalisé avec trucage" de cette façon plus personne ne pourrait critiquer ces vidéos humoristiques.The vice president, who was speaking on Monday in Sunset, Louisiana, repeated the same phrase, “the significance of the passage of time”, four times in a row.
Keith Flint 1969 - 2019
Sur YouTube c'est obligatoire. La Satire est bien évidemment autorisée, mais il faut incruster l'information concernant la modification de la vidéo originale. Et plus aucun problème. Si la mention n'est pas précisée, la vidéo est supprimée et la chaîne également après plusieurs avertissement.
La suite pour Kamala Harris
« L’humour est une forme d'esprit railleuse qui s'attache à souligner le caractère comique, ridicule, absurde ou insolite de certains aspects de la réalité »
C'est beau de croire que personne n'est crédule.L'intégralité des individus qui ont regardé cette vidéo savent qu'elle est fausse.
Si c'était le cas il n'y aurait plus jamais de phising et autre joyeusetés qui se basent exclusivement sur la crédulité.
JièL
Membre des AMIS
Anti Macro Inutilement Superfétatoire
Non mais là il faut voir le contexte, il est évident que ce n'est pas la vraie Kamala Harris qui dit ça.
C'est clair.
De toute façon le plus néfaste pour Kamala Harris ce ne sont pas les fausses vidéos mais les vraies.
Par exemple :
https://twitter.com/mitchellvii/stat...34578902905208
Kamala Harris is asked a simple question on how she will fix inflation and she proceeds to give a completely useless word salad with zero solutions. There is no way this woman should be the President. Please retweet this so everyone can see!
Donc sur les 13 millions de vues (au moment de cet article) pas une seule personne n'a cru que c'était un fake ?!Non mais là il faut voir le contexte, il est évident que ce n'est pas la vraie Kamala Harris qui dit ça.
Là je pense que c'est toi qui est crédule (sans vouloir te vexer).
JièL
Membre des AMIS
Anti Macro Inutilement Superfétatoire
Il y a toujours des gens attardés qui croient n'importe quoi, et finissent au parti communiste ou à la LFI
________________________________
La jeunesse emmerde le Front Populaire
En tout cas il est très simple de voir que c'est un fake.
Encore une fois, le problème de Kamala Harris ce n'est pas ce qu'on lui fait dire, mais ce qu'elle dit réellement.
Google va commencer à étiqueter les images générées par l'IA dans ses résultats de recherche
Google va commencer à étiqueter les images générées par l'IA dans ses résultats de recherche, car plus de 70 % des consommateurs craignent d'être dupés par des IA
Google a annoncé qu'il commencerait à étiqueter les images générées et modifiées par l'IA dans ses résultats de recherche dans le courant de l'année. Le géant de la technologie signalera ces contenus via la fonction « À propos de cette image », qui apparaîtra dans Google Search, Google Lens et Circle to Search d'Android en s'appuyant sur les métadonnées de la Coalition for Content Provenance and Authenticity (C2PA). L'entreprise prévoit également d'étendre cette technologie aux services publicitaires et éventuellement aux vidéos YouTube.
Une récente étude de la société de vérification d'identité Jumio a révélé une inquiétude croissante quant à l'influence que l'IA et les deepfakes pourraient avoir lors des prochaines élections et à la manière dont ils pourraient influencer la confiance dans les médias en ligne. L'étude menée auprès de plus de 8 000 consommateurs adultes montre que 72 % des consommateurs s'inquiètent quotidiennement d'être trompés par un deepfake et souhaitent que leur gouvernement fasse davantage pour réglementer l'IA. Au niveau mondial, seuls 46 % des consommateurs pensent qu'ils pourraient facilement repérer un deepfake d'une personnalité politique ou d'une célébrité. Ce chiffre tombe à 37 % aux États-Unis.
Face à cette situation, Google a déclaré dans un communiqué de presse publié ce mardi 17 septembre qu'il commencerait à étiqueter les résultats de recherche d'images générés et modifiés par l'IA dans le courant de l'année.
L'entreprise signalera les contenus générés par l'IA dans la fenêtre « À propos de cette image » et cette mesure sera appliquée à Google Search, à Google Lens et à la fonction « Circle to Search » d'Android. Google appliquera également cette technologie à ses services publicitaires et envisage d'ajouter un indicateur similaire aux vidéos YouTube, mais « nous aurons plus d'informations à ce sujet dans le courant de l'année », selon le communiqué.
Par ailleurs, Google a déclaré qu'il s'appuiera sur les métadonnées de la Coalition for Content Provenance and Authenticity (C2PA) pour identifier les images générées par l'IA. Il s'agit d'un groupe industriel que l'entreprise a rejoint en tant que membre du comité directeur au début de l'année. Ces « métadonnées C2PA » seront utilisées pour suivre la provenance de l'image, en identifiant quand et où une image a été créée, ainsi que l'équipement et le logiciel utilisés pour sa génération.
Alors que Google continue d'intégrer l'IA à de nouveaux produits et services pour stimuler la créativité et la productivité, il s'attache également à aider les utilisateurs à mieux comprendre comment un contenu particulier a été créé et modifié au fil du temps. Google estime qu'il est essentiel que les utilisateurs aient accès à ces informations et investit massivement dans des outils et des solutions innovantes, comme SynthID, pour les fournir.
Selon Google, il est essentiel de s'associer à d'autres acteurs du secteur pour accroître la transparence globale en ligne, car le contenu circule entre les plateformes. C'est pourquoi, au début de l'année, Google a rejoint la Coalition for Content Provenance and Authenticity (C2PA) en tant que membre du comité directeur.
Aujourd'hui, Google montre comment elle entend contribuer à développer la dernière technologie d'identification de la provenance de la C2PA et à l'intégrer à ses produits.
Faire progresser la technologie existante pour créer des références plus sûres
La technologie de provenance des contenus peut aider à expliquer si une photo a été prise avec un appareil photo, éditée par un logiciel ou produite par l'IA générative. Ce type d'information aide les utilisateurs à prendre des décisions plus éclairées sur le contenu avec lequel ils s'engagent - y compris les photos, les vidéos et le son - et renforce l'éducation aux médias et la confiance.
En rejoignant la C2PA en tant que membre du comité directeur, Google a travaillé aux côtés des autres membres pour développer et faire progresser la technologie utilisée pour associer des informations de provenance au contenu. Au cours du premier semestre de cette année, Google a collaboré à la nouvelle version (2.1) de la norme technique Content Credentials. Cette version est plus sûre contre un plus grand nombre d'attaques de falsification grâce à des exigences techniques plus strictes en matière de validation de l'historique de la provenance du contenu. Le renforcement des protections contre ces types d'attaques permet de s'assurer que les données jointes ne sont pas altérées ou trompeuses.
Intégration de la norme C2PA dans les produits Google
Au cours des prochains mois, Google a déclaré qu'elle intégrera la dernière version de Content Credentials dans quelques-uns de ses principaux produits dont :
- Google Search : Si une image contient des métadonnées C2PA, les internautes pourront utiliser la fonctionnalité « À propos de cette image » pour savoir si elle a été créée ou modifiée à l'aide d'outils d'IA. La fonction « À propos de cette image » permet aux internautes de connaître le contexte des images qu'ils consultent en ligne. Elle est accessible dans Google Images, Lens et Circle to Search.
- Google Ads : Les systèmes publicitaires de Google commencent à intégrer les métadonnées C2PA. L'objectif de Google étant d'intensifier cette intégration au fil du temps et d'utiliser les signaux C2PA pour informer sur la façon dont l'entreprise applique ses principales règles.
Google étudie également des moyens de transmettre les informations C2PA aux utilisateurs de YouTube lorsque le contenu est capturé à l'aide d'une caméra, et fera le point sur cette question dans le courant de l'année.
Selon Google, la société veillera à ce que ses implémentations valident le contenu par rapport à la future C2PA Trust List, qui permet aux plateformes de confirmer l'origine du contenu. Par exemple, si les données indiquent qu'une image a été prise par un modèle d'appareil photo spécifique, la liste de confiance permet de valider l'exactitude de cette information.
Il ne s'agit là que de quelques exemples de la manière dont Google envisage aujourd'hui de mettre en œuvre la technologie de provenance des contenus, et la société indique qu'elle continuera à l'intégrer à d'autres produits au fil du temps.
Poursuite des partenariats avec d'autres acteurs du secteur
Établir et signaler la provenance du contenu reste un défi complexe, avec une série de considérations basées sur le produit ou le service. S'il est vrai qu'il n'existe pas de solution miracle pour tous les contenus en ligne, la collaboration avec d'autres acteurs du secteur est essentielle pour créer des solutions durables et interopérables. C'est pourquoi Google encourage un plus grand nombre de fournisseurs de services et de matériel à envisager d'adopter les Content Credentials de la C2PA.
Le travail de Google avec la C2PA complète directement son approche plus large de la transparence et du développement responsable de l'IA. Par exemple, l'entreprise continue d'apporter SynthID - un filigrane intégré créé par Google DeepMind - à d'autres outils d'IA générative pour la création de contenu et à d'autres formes de médias, y compris le texte, l'audio, l'image et la vidéo.
Google a également rejoint plusieurs autres coalitions et groupes axés sur la sécurité et la recherche en matière d'IA et a introduit un framework d'IA sécurisé (SAIF) et une coalition. En outre, l'entreprise continue de progresser dans la mise en œuvre des engagements volontaires qu'elle a pris à la Maison-Blanche l'année dernière.
Source : Google
Et vous ?
Voir aussi :
Contribuez au club : corrections, suggestions, critiques, ... Contactez le service news et Rédigez des actualités
La Chine recourt à l'IA pour intensifier sa campagne de désinformation à l'approche des élections américaines
La Chine recourt à l'IA pour intensifier sa campagne de désinformation à l'approche des élections américaines
elle s'appuierait sur des réseaux de sites Web avec des contenus et des avatars générés par l'IA
La Chine est accusée d'avoir déployé une vaste campagne de désinformation dans le but d'influencer l'opinion publique américaine à l'approche de l'élection présidentielle de novembre 2024. Cette campagne coûterait plusieurs milliards de dollars par an et s'appuierait sur les capacités de génération de l'IA et des réseaux de sites Web. Ces derniers prétendent être des organes d'information légitimes et diffusent des informations favorables à Pékin. Les recherches sur l'identité de certains auteurs des publications révèlent que leurs noms n'appartiennent à aucun journaliste connu travaillant en Chine, et leurs photos portent les signes révélateurs d'œuvres générées par l'IA.
Des réseaux de sites Web et l'IA : la recette de Pékin pour mener des opérations d'influence
Les rapports accusant la Chine, la Russie et l'Iran de mener de vastes opérations de désinformation en ligne ne sont pas nouveaux. Toutefois, les rapports de ces dernières années soulignent un changement préoccupant dans ces campagnes : elles deviennent de plus en plus sophistiquées grâce à l'IA. La neutralisation de ces campagnes de désinformation devient extrêmement difficile, notamment en raison de la capacité de l'IA à générer du texte cohérent et convaincant, et sa capacité à générer des images réalistes. La combinaison de ses éléments permet à ces campagnes de générer des infox très convaincantes.
Des réseaux de sites Web présentés prétendument appartenant à des organes d'information légitimes et les plateformes de médias sociaux permettent ensuite aux auteurs de ces campagnes de diffuser à grande échelle leurs infox. Selon un rapport publié récemment par Fortune, Shannon Van Sant, conseillère auprès de la Fondation du Comité pour la liberté à Hong Kong, a suivi un réseau de dizaines de sites Web se faisant passer pour des organes de presse.
L'un d'entre eux imitait le New York Times, utilisant une police de caractères et un graphisme similaires. Le site véhiculait des messages fortement prochinois. Lorsque Shannon Van Sant a fait des recherches sur les journalistes du site, elle n'a trouvé aucune information. En effet, les recherches ont révélé que les noms des auteurs n'appartiennent à aucun journaliste connu travaillant en Chine, et leurs photos portent les signes révélateurs d'une création par l'IA.
Les analystes de la société de cybersécurité Logically ont identifié 1 200 sites Web ayant diffusé des articles de médias d'État russes ou chinois. Ces sites ciblent souvent des publics spécifiques et portent des noms qui ressemblent à ceux d'organismes d'information traditionnels ou de journaux disparus. Selon les analystes, dans leurs opérations de désinformation, Moscou et Téhéran ont affiché des préférences claires dans la campagne présidentielle américaine.
Pékin quant à lui est plus prudent et se concentre sur la diffusion de contenus positifs sur la Chine. Si les sites n'appartiennent pas à la Chine, ils diffusent un contenu chinois. Lorsque Logically s'est penché sur le contenu concernant spécifiquement les élections américaines, 20 % ont pu être retracés jusqu'aux médias d'État chinois ou russes. Les analystes estiment que la probabilité que ces infox puissent influencer l'opinion publique américaine est très élevée.
« Il est fort probable que ces articles puissent influencer le public américain sans qu'il sache d'où ils viennent », a déclaré Alex Nelson, responsable de la stratégie et de l'analyse chez Logically. Ils appellent le gouvernement américain à déployer des mesures d'urgence pour contrer les opérations d'influences chinoises.
Les efforts déployés par Pékin sont liés à la course mondiale à la domination technologique
« En plus de ses médias d'État, Pékin s'est tourné vers des acteurs étrangers - réels ou non - pour relayer des messages et donner de la crédibilité à des récits favorables au Parti communiste », affirme Xiao Qiang, chercheur à l'École de l'information de l'Université de Californie à Berkeley. Xiao Qiang est également rédacteur en chef de China Digital Times, un site Web d'information bilingue qui rassemble des articles sur la Chine et en provenance de ce pays. « Les méthodes de Pékin sont très variées et les liens avec le gouvernement sont souvent difficiles à prouver », a-t-il déclaré à propos des campagnes d'infox.
Mais Xiao Qiang ajoute : « qu'il s'agisse de journalistes aux noms à consonance américaine ou d'un influenceur indien, les messages toujours favorables à Pékin les trahissent. Le message implicite est le même : le parti communiste chinois travaille pour son peuple ». Dans ses efforts visant à influencer l'opinion mondiale, en particulier l'opinion publique américaine, la Chine aurait également conclu des partenariats avec des groupes de média du monde entier.
« L'action de la Chine s'inscrit dans le cadre de la course mondiale à la domination économique dans les domaines des véhicules électriques, des puces électroniques, de l'IA et de l'informatique quantique. Les pays qui seront à la pointe des technologies émergentes seront ceux qui bénéficieront d'un avantage considérable à l'avenir », a déclaré Jaret Riddick, chercheur principal au Centre pour la sécurité et les technologies émergentes de l'université de Georgetown.
Et pour raconter son histoire, Pékin n'hésiterait pas à utiliser de faux personnages. Un rapport du département d'État américain, datant de 2023, décrit le cas d'un écrivain publié nommé Yi Fan, présenté à l'origine comme un analyste du ministère chinois des Affaires étrangères. Yi Fan s'est transformé en journaliste, puis en analyste indépendant. Le rapport du département d'État indique que les détails de Yi Fan ont changé, mais le message est resté le même.
Dans les écrits qu'il a publiés, Yi Fan a vanté les liens étroits entre la Chine et l'Afrique, loué l'approche de Pékin en matière de durabilité environnementale et affirmé que la Chine devait contrer les récits déformés de l'Occident. Et puis il y a eu Wilson Edwards, un prétendu virologue suisse cité dans les médias chinois comme un expert de la Covid-19 qui a critiqué la réponse des États-Unis. Mais les autorités suisses n'ont trouvé aucune preuve de son existence.
Selon les experts américains, Pékin a investi dans des médias d'État tels que l'agence de presse Xinhua et China Central Television pour transmettre ses messages au monde entier, et ce dans différentes langues et sur différentes plateformes. Les groupes de médias au niveau local créent des « centres de communication internationaux » pour établir une présence à l'étranger avec des sites Web, des chaînes d'information et des comptes de médias sociaux.
Cependant, Liu Pengyu, porte-parole de l'ambassade de Chine aux États-Unis, a déclaré que « les allégations selon lesquelles la Chine utilise des sites d'information et des médias sociaux pour diffuser des informations favorables à Pékin et influencer l'opinion publique aux États-Unis sont pleines de spéculations malveillantes contre la Chine, ce à quoi la Chine s'oppose fermement ». La Russie et l'Iran ont également démenti les rapports les concernant.
Et vous ?
Voir aussi
Ils le font tous et dans tout les sens alors les accusations américaines ne riment pas à grand chose...
Plus rien ne semble vrai passé un certains niveau, c'est surtout ça qui devrait nous alarmer.
On attends aussi peut-être trop de choses de ces élections alors que nous même n'attendons plus rien des nôtres, c'est triste.
Vous avez un bloqueur de publicités installé.
Le Club Developpez.com n'affiche que des publicités IT, discrètes et non intrusives.
Afin que nous puissions continuer à vous fournir gratuitement du contenu de qualité, merci de nous soutenir en désactivant votre bloqueur de publicités sur Developpez.com.
Répondre avec citation
Partager