IA sous influence : comment les grandes puissances instrumentalisent les LLM pour redéfinir le vrai
L’intelligence artificielle : clé du futur pour dominer sur les nations
D’après le président russe, Vladimir Poutine
Le premier septembre est jour officiel de rentrée scolaire en Russie. Ce jour particulier, connu sous le nom de Knowledge Day, est encadré par un cadre légal et donc pris très au sérieux par les autorités russes. C’est l’occasion pour la plus haute autorité du pays de passer des messages stratégiques à la jeunesse. Cette année encore, Vladimir Poutine s’est prêté au jeu et a abordé un sujet qui s’inscrit dans l’actuel contexte de cyberguerre : celui de l’intelligence artificielle.
« L’intelligence artificielle est le futur, pas seulement pour la Russie, mais pour toute l’humanité. Avec elle, arrivent d’énormes opportunités, mais également des menaces qu’il est difficile de prédire. Celui qui réussira à s’imposer comme leader dans cette sphère sera le maître du monde », a-t-il lancé à des étudiants et enseignants de 16 000 écoles, scotchés devant leurs écrans pour écouter le message retransmis par voie de satellite.
Une déclaration qui vient confirmer que la course à l’armement cybernétique bat son plein entre la Russie et les États-Unis (que le président russe n’a certes pas cités). Le contexte fait de tensions entre ces deux pays, notamment depuis les présumées cyberattaques de groupes de cybercriminels russes contre des organes du Parti démocrate américain, justifie une telle analyse. Mais, doit-on uniquement faire mention de la Russie et des États-Unis dans cette sphère ? Celle de l’intelligence artificielle ? Assurément, non car ce serait faire fi d’autres acteurs.
Si l’on s’en tient à la déclaration de Vladimir Poutine, alors la Chine est rendue à moins d’une dizaine d’années de devenir maître du monde. L’empire du Milieu a en effet affiché l’ambition de devenir numéro un mondial dans ce domaine d’ici à 2025. Le gouvernement chinois a, il y a bientôt deux mois, publié son plan national pour l’émergence de l’intelligence artificielle et il en ressort qu’après avoir fait passer les investissements en la matière à 22,15 milliards de dollars d’ici à l’horizon 2020, ce pays entend les tripler entre 2020 et 2025.
Que dire de la France ? On sait avec la publication (courant janvier) de la feuille de route pour le développement de l’intelligence artificielle que des efforts sont faits au pays d’Emmanuel Macron pour rester dans la course de ce qui, d’après Vladimir Poutine, est le nouveau Graal. Ici, il est question d’injecter 1,5 milliard d’euros pour les dix années à venir, lesquels viennent s’ajouter à 500 millions d’euros préalablement programmés. Des chiffres à mettre en parallèle avec ceux de la Chine : chacun jugera.
Vladimir Poutine n’a, semble-t-il, pas exagéré en parlant de domination sur les nations. Une relecture du rapport « France IA » laisse en effet entrevoir les géants de l’IT américain comme une menace pour la souveraineté des États abonnés à cette abondante offre d’intelligence artificielle « venue d’ailleurs ». Difficile en effet d’ignorer les GAFA avec leur « pression marketing, publicitaire et commerciale », leur « domination de plus en plus accentuée en matière de flux d’échanges et de collectes de la donnée » ou leur statut de « seuls […] acteurs […] disposant d’une capacité de calcul suffisante [pour] proposer aux entreprises des services d’intelligence artificielle », comme consigné dans le rapport.
Les États-Unis, comme dans une panoplie d’autres domaines, mènent pour le moment la barque en matière d’intelligence artificielle. Il ne reste plus qu’à espérer que le fusil change d’épaule en faveur de la Russie. Poutine a en effet promis que son pays partagerait son savoir-faire en la matière pour qu’il n’y ait pas de monopole.
Sources : RT, Rapport FranceIA (PDF)
Et vous ?
:fleche: Qu’en pensez-vous ?
Voir aussi :
:fleche: Les dépenses en matière d'IA et de systèmes cognitifs vont atteindre les 12,5 milliards de dollars cette année, selon des prévisions de l'IDC
Vladimir Poutine a prévenu qu'il ne fallait pas laisser l'Occident développer un monopole de l'IA
Vladimir Poutine a prévenu qu'il ne fallait pas laisser l'Occident développer un monopole dans le domaine de l'IA et qu'une stratégie russe beaucoup plus ambitieuse devait être mise en place.
Poutine déclare que l'Occident ne peut pas avoir le monopole de l'IA. Il appelle la Russie à améliorer ses performances en matière d'IA et il devrait bientôt approuver une nouvelle stratégie en matière d'IA. La Chine et les États-Unis sont actuellement les chefs de file en matière d'IA, tandis que l'IA russe a été freinée par la guerre en Ukraine et les sanctions.
Le président russe Vladimir Poutine a averti qu'il ne fallait pas laisser l'Occident développer un monopole dans le domaine de l'intelligence artificielle (IA) et a déclaré qu'une stratégie russe beaucoup plus ambitieuse pour le développement de l'IA serait approuvée prochainement.
La Chine et les États-Unis sont à la pointe du développement de l'IA, dont de nombreux chercheurs et dirigeants mondiaux pensent qu'elle transformera le monde et révolutionnera la société d'une manière similaire à l'introduction des ordinateurs au XXe siècle. Moscou ambitionne également de devenir une puissance en matière d'IA, mais ses efforts ont été freinés par la guerre en Ukraine, qui a incité de nombreux spécialistes talentueux à quitter la Russie et a déclenché des sanctions occidentales qui ont entravé les importations de produits de haute technologie du pays.
S'exprimant lors d'une conférence sur l'IA à Moscou aux côtés de German Gref, PDG de la Sberbank, Poutine a déclaré qu'il était impossible d'essayer d'interdire l'IA, malgré les conséquences éthiques et sociales parfois troublantes des nouvelles technologies. "On ne peut pas interdire quelque chose - si on l'interdit, elle se développera ailleurs et nous prendrons du retard", a déclaré Poutine à propos de l'IA, tout en précisant que les questions éthiques devraient être résolues en se référant à la culture russe "traditionnelle".
Poutine a mis en garde contre le fait que certains systèmes de recherche en ligne et modèles génératifs occidentaux ignoraient, voire annulaient, la langue et la culture russes. Selon lui, ces algorithmes occidentaux considèrent essentiellement que la Russie n'existe pas. "Bien entendu, le monopole et la domination de tels systèmes, de tels systèmes étrangers, sont inacceptables et dangereux", a-t-il déclaré.
Selon la plupart des classements, la Chine et les États-Unis sont loin devant les autres pays en matière de recherche sur l'IA, bien qu'un deuxième groupe de pays européens ainsi que l'Inde, la Russie, Israël, la Corée du Sud et le Japon figurent également dans les classements. Pour la Russie, cependant, la guerre en Ukraine et les efforts de mobilisation des combattants ont provoqué l'exode d'un grand nombre de Russes instruits, tandis que les sanctions occidentales ont réduit la coopération internationale avec les puissances occidentales en matière d'IA.
"Dans tous les domaines de notre vie, l'humanité entame un nouveau chapitre de son existence", a déclaré Poutine à propos de l'IA, ajoutant que la Russie devait améliorer son jeu dans ce domaine, tant en termes d'ambitions que d'exécution. "Dans un avenir très proche, l'une des premières étapes consistera à signer un décret présidentiel et à approuver une nouvelle version de la stratégie nationale pour le développement de l'intelligence artificielle", a-t-il déclaré lors de la conférence.
Poutine a également déclaré que la nouvelle stratégie apporterait des changements significatifs, notamment "l'expansion de la recherche fondamentale et appliquée dans le domaine de l'intelligence artificielle générative et des grands modèles de langage". Les chercheurs russes devraient bénéficier d'un meilleur accès aux superordinateurs, qui devraient être multipliés par plusieurs ordres de grandeur, et l'enseignement scientifique russe de haut niveau en matière d'intelligence artificielle devrait être amélioré. La Russie, a-t-il dit, devrait modifier sa législation, stimuler la coopération internationale et garantir des investissements beaucoup plus importants pour le développement de l'IA.
Poutine a salué Sberbank et Yandex pour avoir développé leurs propres modèles génératifs d'IA et de langage, qui, selon lui, doivent être développés davantage et appliqués à d'autres secteurs de l'économie. Gref est en train de transformer la Sberbank, autrefois connue comme une ancienne caisse d'épargne soviétique statique où les gens faisaient la queue pendant des heures pour payer leurs factures, en supervisant les investissements dans l'IA, les services cloud, le big data et les appareils intelligents. Il a déclaré à Poutine en juin que Sberbank gagnait environ 3 milliards de dollars par an grâce à 1 milliard de dollars d'investissements dans l'IA.
Source : Le président russe Vladimir Poutine s'exprimant lors d'une conférence sur l'IA à Moscou
Et vous ?
:fleche: Pensez-vous que ces déclarations sont crédibles ou pertinentes ?
:fleche: Quel est votre avis sur le sujet ?
Voir aussi :
:fleche: L'intelligence artificielle : clé du futur pour dominer sur les nations d'après le président russe, Vladimir Poutine
:fleche: Poutine approuve un projet qui éviterait à la Russie d'être distancée par d'autres pays dans la course à l'IA et, pourquoi pas, de "devenir le maître du monde"
:fleche: Quels sont les pays gagnants dans la course à la domination pour l'IA ? Les États-Unis sont premiers, la Chine, seconde et la France, sixième
Vladimir Poutine ordonne à la Russie de s'associer à la Chine pour développer l'IA
Vladimir Poutine ordonne au gouvernement russe et à une banque de développer une coopération avec la Chine dans le domaine de l'IA, pour surmonter les sanctions occidentales et concurrencer les États-Unis
Vladimir Poutine ordonne à la Russie de s'associer à la Chine pour développer l'IA. Poutine a également formulé des demandes et des suggestions concernant l'intégration de la technologie de l'IA en Russie. L'objectif étant de surmonter les sanctions occidentales et de contester la domination des États-Unis en matière d'innovation dans le domaine de l'IA.
La Chine et les États-Unis sont à la pointe du développement de l'intelligence artificielle (IA), dont de nombreux chercheurs et dirigeants mondiaux pensent qu'elle transformera le monde et révolutionnera la société d'une manière similaire à l'introduction des ordinateurs au XXe siècle. La Russie ambitionne également de devenir une puissance en matière d'IA, mais ses efforts ont été freinés par la guerre en Ukraine, qui a incité de nombreux spécialistes talentueux à quitter la Russie et a déclenché des sanctions occidentales qui ont entravé les importations de produits de haute technologie du pays.
Face à cette situation, le président russe Vladimir Poutine a averti en novembre 2024 qu'il ne fallait pas laisser l'Occident développer un monopole dans le domaine de l'IA et a déclaré qu'une stratégie russe beaucoup plus ambitieuse pour le développement de l'IA serait approuvée prochainement. Il a notamment déclaré : "On ne peut pas interdire quelque chose - si on l'interdit, elle se développera ailleurs et nous prendrons du retard", ajoutant, "Bien entendu, le monopole et la domination de tels systèmes, de tels systèmes étrangers, sont inacceptables et dangereux".
Récemment, le président russe Vladimir Poutine a demandé au gouvernement et à la Sberbank, la plus grande banque du pays et un innovateur technologique, de faire équipe avec la Chine pour développer l'IA. La directive charge le Premier ministre Mikhail Mishustin et le PDG de Sberbank Herman Gref de mener l'initiative. Un rapport d'étape est attendu d'ici avril 2025.
Du 11 au 13 décembre 2024, l'AI Journey, une conférence internationale sur la technologie de l'intelligence artificielle, s'est tenue à Moscou, où Vladimir Poutine a souligné la nécessité de développer la technologie de l'IA lors de sa participation aux activités de la conférence.
Sur la base des résultats de cette conférence, Poutine a signé une liste d'ordres pour des mesures de mise en œuvre pertinentes. Outre le renforcement de la coopération avec la Chine dans le domaine de l'IA, Poutine a également formulé des demandes et des suggestions concernant l'intégration de la technologie de l'IA dans les systèmes gouvernementaux, le développement de l'éducation et de la formation à l'IA, l'organisation de conférences internationales sur la technologie de l'IA, la publication de revues internationales sur la technologie de l'IA et la création d'une plateforme à Moscou pour présenter les réalisations dans le domaine de la technologie de l'IA.
Liu Wei, directeur du laboratoire d'interaction homme-machine et d'ingénierie cognitive de l'université des postes et télécommunications de Pékin, estime que le potentiel de coopération entre la Chine et la Russie dans le domaine de l'IA est immense. Les deux parties peuvent tirer pleinement parti de leurs atouts respectifs, notamment dans des domaines tels que la finance, la fabrication, les transports et l'informatique quantique. Grâce à cette collaboration, les deux pays favoriseront l'innovation et l'application de la technologie de l'IA à l'échelle mondiale.
Liu a fait remarquer que les avantages complémentaires de la Chine et de la Russie dans le domaine de la coopération en matière d'IA se reflètent particulièrement dans la complémentarité de la recherche et de l'innovation technologiques, ainsi que dans la complémentarité des applications industrielles et des marchés.
D'une part, les capacités d'application, les ressources en données et la base technologique de la Chine peuvent fournir des scénarios d'application pratique pour la recherche théorique de la Russie, tandis que les avantages de la Russie en matière d'algorithmes d'IA et de théories fondamentales peuvent aider la Chine à réaliser des percées plus importantes dans la recherche sur l'IA. La coopération entre les deux pays en matière d'utilisation des données, d'optimisation des algorithmes et d'innovation des applications présente un grand potentiel, a déclaré Liu.
D'autre part, le marché et les applications industrielles de la Chine peuvent stimuler la commercialisation des technologies d'IA russes, tandis que l'expérience de la Russie dans les industries de haute technologie peut offrir à la Chine des scénarios d'application avancés pour les technologies d'IA, en particulier dans des domaines tels que l'énergie, l'aérospatiale et l'industrie militaire, a fait remarquer l'expert.
Ce n'est pas la première fois que Vladimir Poutine annonce des mesures dans le domaine technologique. En mars 2024, il a voulu que la Russie crée des consoles de jeux vidéo, des services de gaming en nuage et des systèmes d’exploitation souverains. L’initiative s’inscrit dans le contexte des sanctions contre la Russie en raison de l’invasion militaire de l’Ukraine. Ainsi, l'objectif de Valdimir Poutine est d'accélérer l'indépendance de la Russie vis-à-vis des pays occidentaux, et d'éviter que les sanctions contre la Russie paralysent l’industrie technologique russe.
Et vous ?
:fleche: Pensez-vous que cette initiative est crédible ou pertinente ?
:fleche: Quel est votre avis sur le sujet ?
Voir aussi :
:fleche: L'intelligence artificielle : clé du futur pour dominer sur les nations, d'après le président russe, Vladimir Poutine
:fleche: La Russie accusée d'être à l'origine de la rupture des câbles sous-marins de la Baltique. Poutine aurait orchestré le sabotage par un navire chinois avec un capitaine russe, ce que la Chine et la Russie nient
:fleche: La Chine a dépassé les États-Unis en tant que force dominante dans le domaine de la recherche sur les technologies essentielles, celon un rapport de l'Institut Australien de Politique Stratégique
2 pièce(s) jointe(s)
IA sous influence : comment les grandes puissances instrumentalisent les LLM pour redéfinir le vrai
Tandis que la Russie et la Chine « alimentent les chatbots IA en mensonges », n'importe quel acteur mal intentionné pourrait lui aussi transformer les IA en armes de désinformation
en outils de manipulation ou de falsification
Dans un contexte géopolitique tendu où l’intelligence artificielle devient un levier stratégique autant qu’économique, une menace insidieuse prend de l’ampleur : l’empoisonnement délibéré des modèles de langage par des puissances étatiques ou des groupes malveillants. Selon de récentes enquêtes de cybersécurité et d’observation des comportements de l’IA, des pays comme la Russie et la Chine expérimentent des tactiques visant à « semer des mensonges » dans les grands modèles de langage (LLM) via des techniques subtiles mais redoutables de data poisoning.
Contexte
Les modèles de langage comme GPT, Claude ou Gemini ne possèdent pas de « conscience » ni de capacité à discerner la vérité par eux-mêmes. Ils apprennent par ingestion de gigantesques volumes de données textuelles disponibles en ligne. Si une masse suffisante de contenu biaisé, trompeur ou idéologiquement orienté est introduite dans cet océan d’informations, les IA risquent de reproduire – et même légitimer – ces récits dans leurs réponses futures.
Cette tactique est particulièrement préoccupante dans des domaines sensibles : histoire, politique, santé publique, conflits armés. Ainsi, une IA exposée à des récits répétés comme « l’Ukraine appartient historiquement à la Russie », ou « les élections américaines de 2020 ont été truquées », pourrait progressivement apprendre à considérer ces affirmations comme plausibles ou neutres.
Ce qui rend cette problématique explosive, c’est que la capacité à « empoisonner » une IA ne se limite pas aux grandes puissances. Toute organisation – ONG extrémiste, groupe complotiste, cybercriminels – pourrait à terme utiliser des stratégies similaires pour orienter des IA vers des réponses biaisées : falsification historique, désinformation médicale, manipulation d’investissements crypto, voire propagande religieuse.
Pire encore, la génération de contenu par IA elle-même peut servir à entretenir cette boucle toxique : des milliers de faux articles, tweets ou posts peuvent être produits automatiquement pour renforcer un narratif, le rendant plus visible et donc plus susceptible d’être indexé et appris.
Les avancées de Moscou en matière de propagande mettent en lumière une faiblesse fondamentale de l'industrie de l'IA
La Russie automatise la diffusion de fausses informations pour tromper les chatbots d'intelligence artificielle sur des sujets clés, offrant ainsi à d'autres acteurs malveillants un manuel de jeu sur la manière de manipuler l'IA pour diffuser des contenus destinés à enflammer, influencer et obscurcir au lieu d'informer.
Les experts avertissent que le problème s'aggrave à mesure que de plus en plus de personnes font confiance aux chatbots commercialisés à la hâte, que les entreprises de médias sociaux réduisent leur modération et que l'administration Trump dissout les équipes gouvernementales chargées de lutter contre la désinformation.
En début d'année, lorsque des chercheurs ont interrogé dix principaux chatbots sur des sujets ciblés par de faux messages russes, comme l'affirmation selon laquelle les États-Unis fabriquaient des armes biologiques en Ukraine, un tiers des réponses ont répété ces mensonges.
Les avancées de Moscou en matière de propagande mettent en lumière une faiblesse fondamentale de l'industrie de l'IA : Les réponses des chatbots dépendent des données qui leur sont fournies. Le principe directeur est que plus les chatbots « lisent », plus leurs réponses sont informées, ce qui explique pourquoi l'industrie est avide de contenu. Mais des quantités massives de paillettes bien ciblées peuvent fausser les réponses sur des sujets spécifiques. Pour la Russie, il s'agit de la guerre en Ukraine. Mais pour un homme politique, il peut s'agir d'un opposant ; pour une entreprise commerciale, il peut s'agir d'un concurrent.
« La plupart des chatbots ont du mal à gérer la désinformation », explique Giada Pistilli, éthicienne principale de la plateforme d'IA à code source ouvert Hugging Face. « Ils disposent de protections de base contre les contenus nuisibles, mais ne peuvent pas repérer de manière fiable la propagande sophistiquée, [et] le problème s'aggrave avec les systèmes augmentés par la recherche qui donnent la priorité aux informations récentes. »
Les premières tentatives commerciales visant à manipuler les résultats des chats prennent également de l'ampleur, certains des mêmes spécialistes du marketing numérique qui proposaient autrefois l'optimisation des moteurs de recherche (SEO) pour un meilleur classement sur Google essayant aujourd'hui d'augmenter les mentions par les chatbots IA grâce à « l'optimisation générative des moteurs » (GEO).
Le volume de contenu produit par l'IA augmente beaucoup plus vite que sa qualité ne s'améliore
À mesure que les gens utilisent des moteurs d'IA pour les aider à produire un contenu de chatbot qui attire davantage l'attention, le volume de ce contenu augmente beaucoup plus vite que sa qualité ne s'améliore. Cette situation peut frustrer les utilisateurs ordinaires, mais elle fait le jeu de ceux qui ont le plus de moyens et le plus à gagner : pour l'instant, selon les experts, il s'agit des gouvernements nationaux qui ont l'habitude de diffuser de la propagande.
« Nous avions prédit que c'était là que les choses allaient finir par aller », a déclaré un ancien responsable militaire américain de la défense contre les influences, sous le couvert de l'anonymat afin d'évoquer des questions sensibles. « Aujourd'hui, on s'oriente davantage vers les échanges de machine à machine : En termes de portée, d'échelle, de temps et d'impact potentiel, nous sommes à la traîne ».
La Russie et, dans une moindre mesure, la Chine ont exploité cet avantage en inondant la zone de fables. Mais n'importe qui pourrait faire la même chose, en consommant beaucoup moins de ressources que les précédentes fermes à trolls.
La Russie en est l'un des premiers bénéficiaires des contenus de sites destinés aux « crawlers »
L'un des premiers bénéficiaires est le long effort de la Russie pour convaincre l'Occident que l'Ukraine ne vaut pas la peine d'être protégée d'une invasion. En réponse aux questions posées aux plus grands chatbots, on trouve des récits démentis de « mercenaires » français et d'un inexistant instructeur de vol danois tués en Ukraine, ainsi que des descriptions crédules de vidéos mises en scène montrant de prétendus soldats ukrainiens brûlant le drapeau américain et le président Donald Trump en effigie.
De nombreuses versions de ces histoires apparaissent d'abord sur des médias contrôlés par le gouvernement russe, tels que Tass ou Russia Today, qui sont interdits dans l'Union européenne. Dans le cadre d'un processus parfois appelé blanchiment d'informations, les récits sont ensuite diffusés sur de nombreux sites de médias apparemment indépendants, y compris d'autres connus sous le nom de réseau Pravda, en référence au mot russe signifiant « vérité » qui apparaît dans de nombreux noms de domaine de sites web.
Fait nouveau qui a déconcerté les chercheurs pendant un an, presque aucun être humain ne visite ces sites, qu'il est difficile de parcourir. Leur contenu est plutôt destiné aux « crawlers », les logiciels qui parcourent le web et en ramènent le contenu pour les moteurs de recherche et les grands modèles de langage.
Alors que ces entreprises d'IA sont formées sur une variété d'ensembles de données, un nombre croissant d'entre elles proposent des chatbots qui effectuent des recherches sur le web actuel. Ceux-ci ont plus de chances de trouver quelque chose de faux si c'est récent, et encore plus si des centaines de pages sur le web disent à peu près la même chose.
« Les opérateurs sont incités à créer des points de vente alternatifs qui masquent l'origine de ces récits. Et c'est exactement ce que semble faire le réseau Pravda », a déclaré McKenzie Sadeghi, expert en intelligence artificielle chez NewsGuard, qui évalue la fiabilité des sites.
L'opération est d'autant plus efficace que les Russes ont réussi à insérer des liens vers les articles du réseau Pravda dans des pages Wikipédia et des publications de groupes Facebook, probablement avec l'aide de sous-traitants humains. De nombreuses sociétés d'intelligence artificielle accordent une importance particulière à Facebook et surtout à Wikipédia en tant que sources fiables. (Wikipédia a déclaré ce mois-ci que les coûts de sa bande passante avaient augmenté de 50 % en un peu plus d'un an, principalement à cause des robots d'indexation de l'IA).
Directeur général de Coveo : « nous nous retrouverons dans une situation bien pire que celle des médias sociaux »
Les nouveaux systèmes de propagande étant fortement automatisés par leurs propres efforts d'IA, ils sont beaucoup moins coûteux à gérer que les campagnes d'influence traditionnelles. Ils fonctionnent encore mieux dans des pays comme la Chine, où les médias traditionnels sont plus étroitement contrôlés et où les sources d'information pour les robots sont moins nombreuses.
Plusieurs membres du Congrès, dont l'actuel secrétaire d'État Marco Rubio, ont déclaré en juin qu'ils étaient alarmés par le fait que le chatbot Gemini de Google répétait la ligne du gouvernement chinois sur son traitement des minorités ethniques et sa réponse à la pandémie de coronavirus. Les analystes ont déclaré que Gemini s'appuyait probablement trop sur des sources chinoises. Google s'est refusé à tout commentaire.
Certains experts ont déclaré que les réponses erronées des chatbots leur rappelaient l'enthousiasme mal placé, il y a plus de dix ans, pour Facebook et ce qui était alors Twitter, considérés comme des moyens imbattables de communiquer et d'établir la vérité, avant que des pays dotés de vastes budgets et d'arrière-pensées ne s'attellent à ces plateformes.
« Si les technologies et les outils deviennent biaisés - ce qui est déjà le cas - et que des forces malveillantes contrôlent ce biais, nous nous retrouverons dans une situation bien pire que celle des médias sociaux », a déclaré Louis Têtu, directeur général de Coveo, un fournisseur de logiciels d'intelligence artificielle pour les entreprises, basé à Québec.
Le réseau Pravda est documenté dans des rapports européens depuis le début de l'année 2024. À l'époque, le gouvernement français et d'autres ont identifié un réseau basé en Crimée, une région ukrainienne sur la mer Noire qui a été illégalement annexée par la Russie en 2014, créé par une entreprise locale, TigerWeb, qui a des liens avec le gouvernement soutenu par la Russie. L'agence gouvernementale française Viginum a déclaré que le système utilisait des sources pro-russes, les amplifiant par l'automatisation via les médias sociaux et un ensemble de sites qui visaient d'abord l'Ukraine avant de se diriger vers les pays d'Europe occidentale après l'invasion de 2022.
L'objectif est d'infiltrer les LLM
Dans un environnement d'information piloté par l'IA, les anciens et coûteux efforts visant à gagner en crédibilité grâce aux influenceurs et à manipuler les algorithmes des médias sociaux ne sont plus essentiels, a déclaré Ksenia Iliuk, dont la start-up LetsData utilise l'IA pour repérer les opérations d'influence. « Beaucoup d'informations sont diffusées sans aucune modération, et je pense que c'est là que les acteurs malveillants déploient le plus d'efforts », a déclaré Iliuk.
John Mark Dougan a déclaré en janvier que l'amplification de l'IA était un outil essentiel pour s'introduire dans les chatbots : « En diffusant ces récits russes d'un point de vue russe, nous pouvons réellement changer l'IA au niveau mondial », a-t-il déclaré lors d'une discussion téléchargée par les médias russes sur YouTube.
Le réseau Pravdanet s'est étendu à de nouvelles zones géographiques et à de nouvelles langues et, au début de cette année, il produisait jusqu'à 10 000 articles par jour, selon l'organisation à but non lucratif American Sunlight Project. Dans un rapport publié en février, Sunlight a conclu que l'objectif le plus probable de l'opération était d'infiltrer de grands modèles de langage, un processus qu'il a appelé LLM grooming. « La taille et les problèmes de qualité combinés suggèrent un réseau de sites web et de comptes de médias sociaux qui produisent un contenu qui n'est pas principalement destiné à être consommé par des utilisateurs humains », écrivait le rapport.
Sources : rapport du CSIS, Giada Pistilli, entretien avec le professeur Jakob Foerster sur le futur de l'IA, le réseau russe de la Pravda en chiffres : Présentation du tableau de bord de la Pravda, comment les forces pro-Kremlin empoisonnent les modèles d'IA et réécrivent Wikipédia, les réseaux russes inondent l'internet de propagande, dans le but de corrompre les chatbots d'IA
Et vous ?
:fleche: Les grandes entreprises d’IA devraient-elles être tenues responsables si leurs modèles propagent des récits mensongers à grande échelle ?
:fleche: Quels mécanismes concrets pourraient être mis en place pour détecter qu’un LLM a été “empoisonné” ?
:fleche: Devrait-on créer des IA « sentinelles » chargées de vérifier les réponses d’autres IA ? Ou cela créerait-il un système opaque et circulaire ?
:fleche: La traçabilité des sources d’entraînement (data provenance) doit-elle devenir obligatoire pour tous les modèles déployés publiquement ?
:fleche: Comment éviter que des IA locales (russe, chinoise, iranienne…) soient utilisées comme cheval de Troie pour injecter des biais dans les modèles occidentaux via des plateformes publiques ?
