Discussion :

[calvaire]

Oui bien sûr je suis allé en Ukraine. Je connais Kiev, Kharkiv, Lviv (et Moscou aussi). Je sais que Kiev est plus près de Paris qu'Athènes, et que Strasbourg n'est qu'à 1100km de la frontière ukrainienne (à vol d'oiseau), soit la distance de Bayonne à Amsterdam : c'est faisable en moins de 24 heures de voiture. Alors Poutine et ses armées, je préfère les savoir en Russie. La Russie n'est-elle pas assez grande ?

la russie ou l'ukraine je m'en fou.

Par contre je suis agacé le prix du kwh ou du litre de diesel non par contre, des aides que mes impôts donne aux pays pauvre de l'est de l'ue, ou encore de l'aide à l’Ukraine qui coute sans résultat, ce pays est perdu va falloir s'y faire.
en tous cas les territoires pris par poutine sont perdu, faut arrêter de rêver que l’Ukraine va les reprendre.
La dette en occident a atteint un tel point qu'il est impossible de continuer de livrer des armes gratuitement à l’Ukraine (les investisseurs n'ont plus confiance dans la dette française et les taux augmente), aux usa, l’élection de Trump et quasi certain, surtout depuis sa tentative d’assassinat qui va encore plus le booster et lui ne va pas les aider non plus, il forcera l’Ukraine a faire la paix et céder les territoires perdu.

perso je veux donner un avenir a mes enfants, la dette va bien plus les tuer que le réchauffement climatique ou l’Ukraine, ce sera le 1er budget de l'état d'ici 2025-2026, donc en gros les français finance en 1er via les impôts et taxes leurs dette au lieu de l'éducation, des hôpitaux ou de la police, ça va détruire toute perspectives d'avenir si on continue a ce rythme.
Il va falloir renoncer à la retraite à 64ans (elle passera à 67ans c'est qu'une question de temps), renoncer a lutter contre le réchauffement climatique, renoncer à aider l’Ukraine, renoncer à une baisse d’impôt, renoncer a pas mal de prestation sociale et accepter de dégrader encore plus la sécu.

Plus vite on aura un budget a l'équilibre, moins il y'aura de sacrifice a faire. Pour l'heure c'est pas la politique choisit donc ça va encore empirer.

[marsupial]

La politique choisie par les français lors des législatives est le refus du FN à la tête du pays en donnant 3 blocs à peu près égaux. Mais la dette est sous surveillance européenne et tes commentaires pessimistes font le lit des extrêmes. Déjà s'il n'y avait pas de fraudes devant l'impôt des entreprises et des riches, je ne parle pas d'évasion fiscale mais bien de fraudes dont les flux et données sont dans les mains de tracfin. Et la dette de 1000 milliards faite en 7 ans est à mettre en relief avec les 1% les plus riches qui ont vu leur fortune augmenter de 1000 milliards dans le même temps. Maintenant c'est trop tard pour revenir à un équilibre du budget que tu sois FN ou LFI.ou même que tu ais un quelconque pouvoir autre que ton vote. Tout ce que je vois, est que la France n'est même pas concernée par cette ingérence russe, c'est dire le peu de cas que poutine ou biden en fait.

PS : avant les européennes, l'Europe a mis le pays sous surveillance et les legislatives vont donner une nouvelle dégradation de notre note de la dette pour instabilité politique. Et pas d'une agence mais de toutes les agences. Pas besoin des russes pour couler la France, les extrêmes y arrivent très bien. Et le centre nous a vendu pieds et poings liés à la finance.

[calvaire]

La politique choisie par les français lors des législatives est le refus du FN à la tête du pays en donnant 3 blocs à peu près égaux. Mais la dette est sous surveillance européenne et tes commentaires pessimistes font le lit des extrêmes. Déjà s'il n'y avait pas de fraudes devant l'impôt des entreprises et des riches, je ne parle pas d'évasion fiscale mais bien de fraudes dont les flux et données sont dans les mains de tracfin. Et la dette de 1000 milliards faite en 7 ans est à mettre en relief avec les 1% les plus riches qui ont vu leur fortune augmenter de 1000 milliards dans le même temps. Maintenant c'est trop tard pour revenir à un équilibre du budget que tu sois FN ou LFI.ou même que tu ais un quelconque pouvoir autre que ton vote. Tout ce que je vois, est que la France n'est même pas concernée par cette ingérence russe, c'est dire le peu de cas que poutine ou biden en fait.

PS : avant les européennes, l'Europe a mis le pays sous surveillance et les legislatives vont donner une nouvelle dégradation de notre note de la dette pour instabilité politique. Et pas d'une agence mais de toutes les agences. Pas besoin des russes pour couler la France, les extrêmes y arrivent très bien. Et le centre nous a vendu pieds et poings liés à la finance.

coté RN ils promettent 100 milliards avec la fraude aux cartes vitale et à la sécu.
coté LFI ils promettent 100 milliards avec la fraude fiscale des riches.
Pourtant aucun politique ne s'attaque à ces 200 milliards de gains en plus, je me méfie donc fortement de ces chiffres.

Pour la dette, la France va encore coulé quelques mois, ensuite le FMI deviendra le 1er ministre et remettra enfin de l'ordre la dedans.

Pour les extrême, en italie ils s'en sortent pas trop mal, l’extrême droite a enfin réussie a réduire la dette la bas.
Le déficit budgétaire de l'Italie a été bien plus élevé que l'objectif du gouvernement l'an dernier, mais la dette publique colossale du pays s'est tout de même résorbée, en partie grâce à une forte inflation et à une croissance économique plus forte que prévu, selon des données publiées vendredi..
il gerent pas trop mal et sont arrivé au pouvoir avec une situation pire que la france, et aux élections européenne arrive en tête, preuve que les italiens sont avec eux, contrairement au vote sanction en France.

[Stéphane le calme]

L'IA et la prolifération de la désinformation : « Nous sommes vraiment à l'orée de la fin de l'internet et personne n'en parle »,
les défis du déluge de contenus générés automatiquement

Des chercheurs ont mis en garde les escrocs et les propagandistes du monde entier contre le déploiement d'outils d'IA pour créer des sites de fausses nouvelles, amenant souvent les lecteurs et les téléspectateurs à les prendre pour une source d'information authentique. Les outils d'IA générative offrent des moyens nettement moins coûteux et plus rapides de fabriquer du contenu, une tendance préoccupante car les mandataires l'utilisent de plus en plus pour influencer les masses au cours d'une année d'élections aux enjeux considérables dans le monde entier.

L’intelligence artificielle a fait d’énormes progrès ces dernières années, et son influence sur l’internet est de plus en plus perceptible. Des algorithmes sophistiqués génèrent désormais des contenus tels que textes, images et vidéos, ce qui soulève des questions sur l’authenticité, la véracité et l’impact sur notre société.

L'argent de l'aide américaine qui sert à acheter une voiture de sport

L'une de ces fausses histoires produites par l'IA a indiqué qu'Olena Zelenska, la première dame d'Ukraine, aurait acheté une rare voiture de sport Bugatti Tourbillon pour 4,5 millions d'euros lors d'une visite à Paris pour les commémorations du jour J en juin. L'argent proviendrait de l'aide militaire américaine.

L'histoire est apparue il y a quelques semaines sur un site web français et a été rapidement démentie.

Des experts ont relevé d'étranges anomalies sur la facture mise en ligne. Un lanceur d'alerte cité dans l'article n'apparaissait que dans une vidéo bizarrement éditée qui pourrait avoir été créée artificiellement. Bugatti a publié un démenti cinglant, qualifiant l'information de "fake news", et son concessionnaire parisien a menacé d'intenter une action en justice contre les personnes à l'origine de cette fausse histoire.

Mais avant que la vérité ne puisse éclater, le mensonge est devenu viral. Les influenceurs avaient déjà repris la fausse histoire et l'avaient largement diffusée. Un utilisateur X, l'activiste pro-Russie et pro-Donald Trump Jackson Hinkle, a posté un lien vu par plus de 6,5 millions de personnes. Plusieurs autres comptes ont diffusé l'histoire à des millions d'autres utilisateurs X - au moins 12 millions au total, selon les mesures du site.

Le « psychiatre » fictif

Une autre de ces histoires produites par l'IA et publiées sur Global Village Space, un site numérique pakistanais, est devenue virale sur l'internet en affirmant que le psychiatre du Premier ministre israélien Benjamin Netanyahu s'était « suicidé ». L'article, paru en novembre, affirmait que le « psychiatre » avait rendu Netanyahou responsable de sa mort dans une lettre de suicide.

NewsGuard, un organisme de recherche basé aux États-Unis qui traque la désinformation, a révélé par la suite que l'article avait été inondé de contenu généré par l'intelligence artificielle, principalement à partir de sources en ligne grand public. Après avoir effectué des recherches, l'organisation a trouvé des similitudes significatives entre le faux article et un article fictif publié en 2010 sur un site web satirique.

« La croissance exponentielle des sources d'information générées par l'IA est alarmante car ces sites peuvent être perçus par l'utilisateur moyen comme des sources d'information légitimes et dignes de confiance », a déclaré McKenzie Sadeghi, analyste chez NewsGuard, cité par l'AFP.

Utilisé par les propagandistes

Le faux article sur le psychiatre de Netanyahou est devenu viral. Une chaîne de télévision iranienne l'a pris à bras-le-corps et a incité les téléspectateurs à lire l'article complet sur Global Village Space. L'article a également été traduit en plusieurs langues, dont l'arabe, le farsi et le français, puis amplifié par de nombreuses personnes sur les plateformes de médias sociaux.

Une poignée de sites ont même publié la nécrologie du « psychiatre » fictif.

Un site web d'information généré par l'intelligence artificielle semble être à l'origine d'une fausse affirmation selon laquelle le prétendu psychiatre du Premier ministre israélien Benjamin Netanyahu se serait suicidé, ce qui montre que les outils d'intelligence artificielle générative sont déjà apparemment utilisés par des acteurs malveillants pour diffuser des informations erronées.

La fausse affirmation semble avoir été lancée le 6 novembre sur un site web appelé Global Village Space, qui se présente comme un site d'information pakistanais. L'article, intitulé « Le psychiatre du Premier ministre israélien se suicide », affirmait que « le Dr Moshe Yatom, psychiatre israélien réputé pour ses travaux sur la guérison de maladies mentales graves, a été découvert mort à son domicile de Tel-Aviv ». L'article indique également que M. Yatom a laissé derrière lui une « lettre de suicide dévastatrice qui met en cause » M. Netanyahou. Cette affirmation s'est rapidement répandue sur plusieurs plateformes dans de nombreuses langues, y compris par des milliers d'utilisateurs de médias sociaux.

En réalité, une recherche effectuée par NewsGuard n'a permis d'identifier aucun psychiatre en Israël portant le nom de Moshe Yatom, ni aucune personne portant un nom similaire à celui qui aurait récemment trouvé la mort. Global Village Space semble avoir utilisé l'IA pour réécrire un article satirique sur Netanyahu, en capitalisant sur l'intérêt pour la guerre.

L'article de Global Village Space semble s'inspirer d'un article satirique publié le 8 juin 2010 sur Legalienate, un site qui se décrit comme un site d'actualités, de commentaires et de satire. Les articles présentent d'importantes similitudes et Global Village Space a l'habitude d'utiliser l'IA pour générer du contenu à partir d'autres sources. En août 2023, NewsGuard a découvert que GlobalVillageSpace.com était l'un des 37 sites utilisant également l'IA pour réécrire le contenu de sources d'information grand public, telles que le New York Times, sans en mentionner la source.

En mai 2023, NewsGuard a identifié pour la première fois Global Village Space comme un site web généré par l'IA. Il s'agit d'un exemple de site web déterminé par NewsGuard comme faisant partie des nombreux sites d'actualités non fiables générés par l'IA (UAINS), qui sont des sites qui publient principalement des actualités générées par l'IA, avec une supervision éditoriale humaine minimale et sans divulguer de manière transparente cette pratique à leurs lecteurs.

Pourquoi est-ce inquiétant ?

Les experts pensent que les escrocs pourraient utiliser l'IA pour diffuser des informations erronées au cours d'une année riche en élections à fort enjeu, comme aux États-Unis et en Inde.

« La désinformation générée automatiquement sera probablement un élément majeur des élections de 2024 », a déclaré Gary Marcus, professeur à l'université de New York, cité par l'AFP. « Les escrocs utilisent l'IA (générative) à gauche, à droite et au centre », a-t-il ajouté.

Selon NewsGuard, il existe au moins 739 sites d'information générés par l'IA qui fonctionnent avec peu ou pas de contrôle humain et qui portent des noms génériques tels que « Ireland Top News ».

Les analystes estiment que cela peut également nuire aux intérêts des annonceurs, car ils pourraient être considérés comme soutenant indirectement un contenu qui n'est pas basé sur des faits et des réalités sur le terrain.

La montée en puissance des contenus générés par l’IA

Images et vidéos

Les images et vidéos générées par l’IA sont de plus en plus difficiles à distinguer de celles créées par des humains. Des algorithmes de deep learning peuvent produire des visuels réalistes, des portraits aux paysages, en passant par des œuvres d’art. Cette avancée a des implications pour la photographie, le design graphique et même la sécurité, car les deepfakes deviennent plus convaincants.

Textes et articles

Les chatbots et les modèles de langage tels que GPT-3 et ChatGPT sont capables de rédiger des articles, des résumés et des commentaires. Cela peut être bénéfique pour l’automatisation de tâches, mais pose également des problèmes de désinformation. Les fermes de contenu en ligne utilisent ces modèles pour générer des articles à grande échelle, souvent sans vérification humaine.

Les défis posés par la prolifération de l’IA

Véracité et confiance

Comment pouvons-nous faire confiance à un contenu lorsque nous ne savons pas s’il a été créé par un humain ou par un algorithme ? La vérification devient un défi majeur. Les plateformes en ligne doivent mettre en place des mécanismes pour signaler les contenus générés par l’IA et garantir leur authenticité.

Surcharge d’information

Si l’IA continue de produire du contenu à un rythme effréné, l’internet risque de devenir saturé. Les utilisateurs seront submergés par des informations automatisées, ce qui pourrait nuire à la qualité de l’expérience en ligne. Comment maintenir un équilibre entre l’automatisation et la contribution humaine ?

Éthique et responsabilité

Les créateurs d’algorithmes doivent prendre en compte les implications éthiques de leurs créations. Comment éviter que l’IA ne soit utilisée pour diffuser de la désinformation, de la propagande ou des discours haineux ? La régulation et la transparence sont essentielles pour garantir que l’IA serve l’intérêt public.

1,5 milliard de fake news sont publiées chaque jour sur les médias sociaux, selon ID Crypt Global

ID Crypt Global a analysé les données du rapport Code of Practice on Disinformation de TrustLab pour comprendre la vitesse à laquelle la désinformation se propage sur les six principales plateformes de médias sociaux (Instagram, Facebook, X, LinkedIn, TikTok et YouTube) avant de mener sa propre analyse estimant le nombre de posts de désinformation créés chaque jour, et quelles plateformes sont les plus responsables de la propagation des fake news et des médias.

Le code de bonne pratique en matière de désinformation a été établi à la suite des conseils de la Commission européenne par les principales plateformes en ligne, les plateformes émergentes et spécialisées, les acteurs du secteur de la publicité, les vérificateurs de faits, la recherche et les organisations de la société civile, afin de fournir un code de bonne pratique renforcé en matière de désinformation.

Sur l'ensemble des plateformes, on estime que 5 % des utilisateurs sont des acteurs de la désinformation, ce qui signifie qu'il y a en tout 516 millions d'utilisateurs qui diffusent activement des fake news et des médias. On estime que chaque acteur de la désinformation crée en moyenne 3,9 messages par jour, ce qui signifie que, toutes plateformes confondues, 1,5 milliard de messages de désinformation sont créés ou partagés chaque jour.

Conclusion

L’IA transforme l’internet de manière profonde et irréversible. Face à sa montée en puissance dans les usages d'internet, un internaute a fait cette réflexion :

« Avec les progrès de l'IA, l'internet a été inondé de faux contenus, qu'il s'agisse de pages web sur l'IA ou de vidéos sur l'IA. Depuis leur apparition il y a quelques années, il est de plus en plus difficile de distinguer ce qui est de l'IA de ce qui est réel, et cela vaut pour tous les aspects de l'IA, qui ont tous progressé jusqu'à devenir indiscernables.

« Ainsi, des personnes ont déjà commencé à programmer des fermes de contenu en ligne qui publient des images d'IA avec des légendes d'IA. Facebook a déjà été entièrement envahi par ces comptes robots. Le pire, c'est que les gens programment maintenant des comptes qui publient de la propagande pour promouvoir un agenda en utilisant des modules d'IA de type ChatGPT qui peuvent interagir avec les gens.

« On en est déjà au point où il faut remettre en question chaque information en ligne. Que se passera-t-il une fois que l'internet sera tellement inondé que la majorité du contenu que vous verrez sera de l'IA ? Le marché en ligne deviendrait sursaturé, la musique, les images, les articles d'actualité, les discussions et bien d'autres choses encore seraient envahies. L'internet ne sera plus un endroit où les gens peuvent parler aux gens. L'IA sera trop nombreuse pour nous ».

Source : NewsGuard, tableau de données complet d'ID Crypt Global, fake news générée par IA de Global Village Space démentie par plusieurs médias mainstream comme le Japan Times ou le Washington Post

Et vous ?

Comment pouvons-nous distinguer les contenus générés par l’IA de ceux créés par des humains ? Abordez les problèmes de vérification et d’authenticité, car il devient de plus en plus difficile de faire la distinction.
Quelles mesures pouvons-nous prendre pour lutter contre la désinformation propagée par des algorithmes ? Les régulateurs, les entreprises et les utilisateurs ont un rôle à jouer dans la lutte contre la propagation de fausses informations, mais lequel selon vous ?
Quelles sont les implications éthiques de la prolifération de l’IA sur l’internet ? L’automatisation croissante soulève des questions sur la responsabilité, la transparence et la confiance.
Comment pouvons-nous préserver l’authenticité et la diversité des interactions en ligne malgré la montée en puissance de l’IA ? L’IA peut-elle coexister harmonieusement avec les humains dans les espaces numériques ?

[RenarddeFeu]

Ça fait longtemps que l'internaute ne pense plus selon ce que la raison lui dicte, mais selon ce qu'il a envie de penser. Tu n'aimes pas la Chine ? Qu'à cela ne tienne ! Tu trouveras toute la (dés)information pour conforter tes biais.

[Jon Shannow]

Le plus drôle, ou le plus triste, selon, c'est que ces fausses informations vont nourrir les IA qui utilisent ce qui est déjà publiées pour fabriquer leur contenus.

[Anselme45]

Oui, nous sommes à la fin de l'internet et l'IA n'y est pour rien!!!

La fin de l'internet est tué par Google qui n'indexe plus les pages internet de manière neutre...

Je vous invite d'ailleurs à créer aujourd'hui un site internet et à avoir un compte de WebMaster auprès de Google. Vous aurez la surprise de constater que la majorité de vos pages, si ce n'est pas toutes, ne sont et ne seront jamais indexées par Google! Vous pouvez demander à Google de les référencer, vous pouvez le faire indéfiniment et vos pages seront indéfiniment pas référencées!!!

Sans le dire, Google devenu LE moteur de recherche de l'internet (les autres moteurs sont tout simplement insignifiants en parts de marché) applique maintenant un business model que la société cache sous couvert de l'image de l'indexeur d'nternet: Si vous voulez être visible sur internet et donc être indexé, il faudra se payer de la pub Google sinon vous n'existerez tout simplement plus!!!

[Anselme45]

Le plus drôle, ou le plus triste, selon, c'est que ces fausses informations vont nourrir les IA qui utilisent ce qui est déjà publiées pour fabriquer leur contenus.

En l'état de l'évolution donné à internet, il n'y aura bientôt plus d'utilisateur humain: Alors que l'IA fasse du contenu à destination de l'IA!!!

[BugFactory]

Peut-être que je ne devrais pas faire de politique quand je suis de mauvaise humeur, mas il y a peut être une solution pour endiguer ce flux : pénaliser non seulement les comptes qui publient de fausses nouvelles, mais aussi ceux qui les répandent, afin de pousser les gens à réfléchir avant de "liker" n'importe quoi. Par exemple leurs "like" pourraient ne plus être pris en compte.

[calvaire]

Peut-être que je ne devrais pas faire de politique quand je suis de mauvaise humeur, mas il y a peut être une solution pour endiguer ce flux : pénaliser non seulement les comptes qui publient de fausses nouvelles, mais aussi ceux qui les répandent, afin de pousser les gens à réfléchir avant de "liker" n'importe quoi. Par exemple leurs "like" pourraient ne plus être pris en compte.

le problème c'est que c'est quoi une fausse nouvelle ?
l'histoire récente a montré que les complotistes, ce sont ceux qui avait raison 1ans après. Et le gouvernement est le 1er a mentir et a cacher la vérité.

Les politiciens mentent tous, Bruno Lemaire a menti sur l'économie de la france, le sénat l'a prouvé, doit t'on le sanctionner ?

Ce système risque au contraire de censurer ceux qui dénonce les mensonges des politiciens, ceux qui avait dénoncé Bruno Lemaire 6mois avant on aurait du les sanctionner à cette époque ? Qui croire, un journaliste ou le ministre de l'économie ?

[Jon Shannow]

le problème c'est que c'est quoi une fausse nouvelle ?
l'histoire récente a montré que les complotistes, ce sont ceux qui avait raison 1ans après.

De quoi parles-tu ? Les complotistes avaient raison sur quoi au juste ? (c'est une vraie question)

[BugFactory]

le problème c'est que c'est quoi une fausse nouvelle ?

Et bien, prenons un exemple au hasard :

L'une de ces fausses histoires produites par l'IA a indiqué qu'Olena Zelenska, la première dame d'Ukraine, aurait acheté une rare voiture de sport Bugatti Tourbillon pour 4,5 millions d'euros lors d'une visite à Paris pour les commémorations du jour J en juin. L'argent proviendrait de l'aide militaire américain

Ce n'est pas une insinuation subtile impossible à vérifier. C'est un mensonge éhonté et grotesque, que le moindre effort de fact checking démonterait en une minute.

Alors qu'est-ce qui les rend crédibles ? La quantité industrielle de naïfs (et de bots) prêts à croire n'importe quoi. Un mensonge suffisamment répété devient la vérité.

L'idée est de faire du crowd sourcing de fact checking, en utilisant les réseaux sociaux. Voilà comment ça pourrait marcher. Quand une fausse nouvelle est identifiée, un algorithme pourrait suivre les like, et reconnaitre les comptes qui ont propagé la fausse nouvelle. Si un même compte est ainsi identifié pour de nombreuses fausses nouvelles, il est considéré comme peu crédible. A partir de là, ses like ne sont plus utilisés pour alimenter les canaux de recommandation, et ne sont plus comptabilisés dans le nombre de like de l'article d'origine. Ca empêcherait ainsi des mensonges de gagner de la crédibilité grâce à des like de mauvaise qualité. La difficulté est de définir le seuil à partir duquel un compte n'est plus considéré comme crédible, mais il y a des sociologues qui étudient les réseaux sociaux qui pourraient répondre à cette question mieux que moi.

Ce système plusieurs avantages.
- Tout d'abord, comme Calvaire l'a fait remarquer, il est parfois difficile de différencier le vrai du faux. Toutes les fausses nouvelles n'ont pas des chiffres bidonnés qu'on peut vérifier en 30s. Mais cette méthode n'a pas besoin d'identifier chaque fausse nouvelle avec exactitude, seulement d'en identifier un certain nombre. On ne traite que les mensonges grossiers et évidents, et ensuite l'algorithme identifiera lui-même les informations non crédibles
- Les comptes pénalisés ne perdent l'accès à aucune fonctionnalité, et peuvent toujours accéder aux articles de leur choix.
- Le système pourrait ignorer les activités les plus anciennes lorsqu'il détermine si un compte est crédible ou pas, et ainsi permettre à quelqu'un qui a pris l'habitude de s'informer d'être à nouveau considéré crédible. On évite ainsi s'ostraciser quelqu'un à vie pour une erreur de jeunesse.
- Une fois alimenté par un gros effort de fact checking initial, le système devient auto régulé, parce que les mensonges sont likés par des comptes peu crédibles, ne sont donc pas recommandés, et ne se propagent plus pour recevoir davantage de like.
- Si une véritable information est accusée à tort d'être un mensonge, ça n'aura pas de conséquence parce qu'il faut franchir un seuil avant de ne plus être considéré crédible. Cette information sera relayées par des comptes crédibles et sera donc recommandée.
- A ce stade, pour subvertir le système, il faut une fausse nouvelle capable de tromper experts, journalistes, et le public en grand nombre. Les IA n'en sont pas capables, et pour être dangereuses les campagnes de désinformations doivent produire un grand nombre de fausses nouvelles en peu de temps.
- Le problème des fausses nouvelles c'est qu'il suffit de 30s pour lancer une rumeur et des semaines pour les vérifier... A quelques exceptions prêts. En utilisant ces exceptions comme indicateur de qui est crédible ou non, on a rendu la fabrication de fausse nouvelle aussi difficile que leur vérification.

[Mathis Lucas]

La Russie s'appuie sur des Américains mal intentionnés et des outils avancés basés sur l'IA générative pour diffuser de la désinformation sur les élections
selon les services de renseignement américains

Les responsables des services de renseignement des États-Unis affirment que la Russie continue de représenter la plus grande menace en matière de désinformation électorale. Ils notent aussi que l'Iran semble intensifier ses efforts et que la Chine fait preuve de prudence en ce qui concerne l'échéance de 2024. Ces pays diffuseraient sur Internet des affirmations fausses et incendiaires sur la démocratie américaine afin de saper la confiance dans l'élection. La diffusion de la désinformation et de la propagande sur les prochaines élections américaines, ainsi qu'en France et dans d'autres pays européens, par ces trois États est facilitée par l'essor de l'IA générative.

La désinformation : un fléau complexe à combattre qui est exacerbé par l'essor de l'IA

Le gouvernement américain appelle à nouveau ses populations à faire attention et trier avec soin les contenus avec lesquels elles interagissent en ligne. « Le public américain doit savoir que le contenu qu'il lit en ligne - en particulier sur les médias sociaux - peut être de la propagande étrangère, même s'il semble provenir de compatriotes américains ou être originaire des États-Unis », a déclaré un responsable du bureau du directeur du renseignement national qui a informé les journalistes sous le couvert de l'anonymat, conformément aux règles établies par le bureau du directeur. Le message est en fait double cette fois-ci.

Dans un premier temps, le renseignement américain avertit que la Russie a intensifié ses efforts visant à diffuser à grande échelle de la désinformation et de la propagande sur les élections. Ce message n'est pas vraiment nouveau. Ce qui l'est par contre, c'est le second volet du message d'alerte qui indique que la machine de propagande russe s'appuie désormais également sur des Américains mal intentionnés afin de rendre les infox plus crédibles auprès du peuple américain.

Les groupes affiliés au Kremlin font de plus en plus appel à des sociétés de marketing et de communication situées en Russie afin de sous-traiter une partie du travail de création de propagande numérique tout en couvrant leurs traces. Deux de ces sociétés ont fait l'objet de nouvelles sanctions américaines annoncées en mars. Selon les autorités, ces deux sociétés russes ont créé de faux sites Web et de faux profils de médias sociaux pour diffuser la désinformation du Kremlin.

Cette désinformation peut porter sur les candidats ou le vote, ou sur des questions qui font déjà l'objet de débats aux États-Unis, comme l'immigration, la criminalité ou la guerre à Gaza. Mais l'objectif ultime serait d'amener les Américains à diffuser la désinformation russe sans s'interroger sur son origine. « Les gens sont beaucoup plus enclins à faire confiance et à rediffuser des informations qu'ils croient provenir d'une source nationale », ont déclaré les autorités américaines.

Les faux sites Web conçus pour imiter les organes de presse américains et les profils de médias sociaux générés par l'IA ne sont que deux méthodes parmi d'autres. Dans certains cas, des Américains, des entreprises et des médias américains ont volontairement amplifié et repris les messages du Kremlin. Après l'attaque contre Donald Trump, par exemple, les agences de désinformation russes ont rapidement amplifié les affirmations selon lesquelles la rhétorique démocrate avait conduit à la fusillade.

Elles auraient également propagé des théories suggérant que Joe Biden ou le gouvernement ukrainien avait orchestré l'attentat. « Ces voix prorusses ont cherché à lier la tentative d'assassinat à la guerre que la Russie continue de mener contre l'Ukraine », a conclu le laboratoire de recherche numérique du Conseil atlantique, qui suit la désinformation russe.

La Russie derrière une vaste campagne de désinformation ciblant la France et l'Europe

Selon les autorités américaines, alors que la Chine a organisé une vaste campagne de désinformation avant les récentes élections à Taïwan, elle s'est montrée beaucoup plus prudente lorsqu'il s'agit des États-Unis. Pékin pourrait utiliser la désinformation pour cibler les élections au Congrès ou d'autres élections où un candidat a exprimé des opinions fortes sur la Chine. Mais selon les autorités américaines, la Chine ne devrait pas essayer d'influencer la course à la présidence.

L'Iran, quant à lui, aurait adopté une attitude plus agressive. La directrice du renseignement national des États-Unis, Avril Haines, a déclaré au début du mois que le gouvernement iranien avait soutenu les manifestations américaines contre la guerre menée par Israël contre le Hamas à Gaza. « Des groupes liés à l'Iran se sont fait passer pour des activistes en ligne, ont encouragé des manifestations et ont apporté un soutien financier à certains groupes de protestation », a déclaré Haines.

Au début de l'année, la France a découvert une vaste campagne de désinformation russe en Europe, baptisée Portal Kombat. Selon l'organisme de surveillance Viginum, cette campagne vise la France, l'Allemagne, la Pologne, et d'autres pays européens. Le rapport que la campagne, dirigée depuis la Russie, est composée de 193 sites Web et diffuse des infox, notamment sur l'invasion de l'Ukraine par la Russie et les élections du Parlement européen. Les objectifs sont divers et variés.

Les autorités françaises ont déclaré que cette vaste campagne de désinformation menée par la Russie en Europe vise principalement à dénigrer l'Ukraine, justifier l'invasion russe, discréditer la résistance ukrainienne, et perturber les élections et événements sportifs sur le Vieux Continent. Les experts ont souligné la complexité de cet écosystème de désinformation, mettant en garde contre ses implications sur la démocratie et appelant à une protection urgente des élections à venir.

Selon la Commission européenne, l'OTAN, et les agences de l'ONU, la désinformation est devenue une menace majeure, reflétant ainsi les inquiétudes mondiales sur ce phénomène. Les États-Unis ont récemment annoncé qu'ils sont parvenus à interrompre une opération de désinformation financée par un État-nation et basée sur l'IA.

Le directeur du FBI, Christopher Wray, a déclaré : « la Russie avait l'intention d'utiliser cette ferme de robots pour diffuser de la désinformation étrangère générée par l'IA, en étendant leur travail avec l'aide de l'IA pour saper nos partenaires en Ukraine et influencer les récits géopolitiques favorables au gouvernement russe ».

L'IA et la désinformation en ligne font craindre la fin du Web tel qu'on le connaît

Au début du mois, les autorités américaines ont annoncé qu'une opération conjointe du FBI et des forces internationales de cybersécurité a permis de démanteler une ferme de bots secrète sur les réseaux sociaux, gérés par des groupes affiliés au gouvernement russe, qui utilisait l'IA générative pour diffuser de la désinformation auprès d'utilisateurs du monde entier. Le rapport indique que des affiliés de l'organe de presse Russia Today (RT), parrainé par l'État russe, ont utilisé Meliorator, un logiciel de génération et de gestion de fermes de bots utilisant l'IA, pour créer plus de 1 000 bots sur le réseau social X d'Elon Musk.

D'après le ministère américain de la Justice (DOJ), ces bots étaient destinés à diffuser de la désinformation dans et sur de nombreux pays, dont les États-Unis, la Pologne, l'Allemagne, les Pays-Bas, l'Espagne, l'Ukraine et Israël. Dans un communiqué de presse fournissant des détails sur l'opération de démantèlement, le DOJ a déclaré :

Le ministère de la Justice a annoncé aujourd'hui la saisie de deux noms de domaine et la perquisition de 968 comptes de médias sociaux utilisés par des acteurs russes pour créer une ferme de robots basés sur l'IA sur les médias sociaux qui a diffusé de la désinformation aux États-Unis et à l'étranger.

La ferme de robots des médias sociaux utilisait des éléments de l'IA pour créer des profils de médias sociaux fictifs (souvent censés appartenir à des personnes aux États-Unis) que les opérateurs utilisaient ensuite pour promouvoir des messages soutenant les objectifs du gouvernement russe.

Meliorator est un logiciel de génération et de gestion de fermes de robots basé sur l'IA. Le logiciel a été conçu pour être utilisé sur les réseaux de médias sociaux afin de créer des personnages "authentiques" en masse, servant à la diffusion de la désinformation, ce qui pourrait aider la Russie à exacerber la discorde et à tenter de modifier l'opinion publique dans le cadre d'opérations d'information. Selon le rapport de l'enquête, en juin 2024, Meliorator ne fonctionnait que sur X.

Cependant, des analyses complémentaires suggèrent que la fonctionnalité Meliorator serait probablement étendue à d'autres plateformes de médias sociaux, notamment les réseaux sociaux de Meta. Pour assurer cette fonctionnalité, Meliorator comprend un panneau d'administration appelé "Brigadir" et un outil d'ensemencement appelé "Taras". Ces différentes découvertes démontrent que l'IA fait désormais clairement partie de l'arsenal de désinformation et de propagande en ligne.

Nina Jankowicz, directrice de l'American Sunlight Project, une organisation à but non lucratif qui tente de lutter contre la propagation de la désinformation, a déclaré qu'il n'était pas surprenant qu'une opération liée à la Russie s'appuie sur l'IA pour créer de faux comptes. « C'était l'une des parties les plus fastidieuses de leur travail ; aujourd'hui, elle a été rendue beaucoup plus facile par les technologies qui ont facilité cette opération », a déclaré Jankowicz.

Des chercheurs ont mis en garde contre le déploiement d'outils d'IA pour créer des sites d'infox, amenant souvent les lecteurs et les téléspectateurs à les prendre pour une source d'information authentique. Les outils d'IA offrent des moyens nettement moins coûteux et plus rapides de fabriquer du contenu, une tendance préoccupante, car les mandataires l'utilisent de plus en plus pour influencer les masses au cours d'une année d'élections aux enjeux considérables dans le monde entier.

Source : les responsables des services de renseignement américains

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de l'utilisation accrue de l'IA générative dans les campagnes de désinformation en ligne ?
Quels sont les risques pour le Web ? Le Web tel qu'on le connaît est-il en train de disparaître ?
Comment peut-on faire face à la désinformation en ligne ? Ou la désinformation est-elle devenue un problème insoluble ?

Voir aussi

Cybercriminalité : la France découvre une vaste campagne de désinformation russe en Europe, 193 sites Web, dirigé depuis la Russie, diffusent de fausses nouvelles

La guerre de l'information à l'ère de l'IA : le FBI annonce la perquisition de 968 comptes automatisés sur X en provenance de Russie, qui diffusaient de la propagande aux États-Unis et dans d'autres pays

Microsoft veut que le Congrès interdise les fraudes par deepfake générées par l'IA, avec une "loi sur la fraude par deepfake" qui donnera aux autorités un cadre juridique pour poursuivre les fraudes par l'IA

[Jules34]

Quand le procès pour le fond Marianne va arriver en France, et il va arriver, la Macronie ne pourra plus se cacher derrière "l'ingérence" Russe. Le procès fait à l'auteur à l'origine de l'info fiction Zoé Sagan va également faire beaucoup de bruit.

D'une manière générale la Macronie et le patron, la parti démocrate américain sont en fait en ce moment en pleine panique. L'OTAN a déjà perdu en Ukraine, ils ont balancés des dizaines de milliards dont on sait déjà qu'ils ont été en grande partie détournés. Ils ont balancés des millards dans la "crise" COVID et le vernis tombe également. Ou sont les SMS de Von der Leyen qui ont conduit à la plus grande commande publique de vaccin auprès de nos "amis" américains ? Ils seront jugés.

Le fils à Biden (alcoolique et toxicomane) est déjà tombé (pour la corruption en Ukraine et son appétit pour le se*e, trucs communs entre ces dégénérés, tous copain avec Epstein, pour le coup c'est sur wikipédia) et des dossiers vont ressortir aussitôt qu'il ne sera plus en poste.

Mais c'est du complot ça madame !

Pourquoi sont ils tant pressés de passer des lois sur le contrôle des médias à votre avis ?

Ces gens sont tellement minables que même leur propres mensonges ne suffisent pas à les couvrir, ils sont pathétiques. Il se passe la même chose au USA, ils minimisent à fond dans les média mais les gens n'en peuvent plus de Biden et de son administration, on verra ce que donne les élections de novembre. Après tout, tout s'achète dans ce monde.

C'est tout un monde qui risque de s'effondrer d'ici la fin de l'année et les Russes n'y seront pour rien, ne leur en déplaise. Le plus facile pour eux est de faire passer leurs ennemis pour des fous, des complotistes et de crier au complot contre eux.

Quand vous avez des gens payés 15 000 euros par mois avec vos impôts qui vous expliquent que les punaises de lits c'est l'ingérence Russe, vous comprenez que le vrai ennemi c'est le gouvernement Macron, pas les autres.

Sur le fond de l'article, bien sur que les Russes paient pour avoir des médias chez nous, vous croyez qu'on fait quoi ? Les américains paient des millions pour avoir des relais de propagande pro européen rien qu'en Europe, c'est pareil dans le reste du monde. Rien de nouveau sous le soleil.