Comment Israël a tenté d'utiliser secrètement l'IA pour générer du contenu visant à influencer les Américains
Comment Israël a tenté d'utiliser secrètement l'IA pour générer du contenu visant à influencer les Américains au sujet de Gaza
la campagne s'est appuyée sur ChatGPT et de faux comptes Facebook et X
Israël aurait lancé une campagne d'influence sur les réseaux sociaux à l'aide de l'IA afin de s'attirer les bonnes grâces de l'opinion publique et des législateurs américains. L'opération, qui s'était appuyée sur des contenus générés par l'IA, visait à inciter les législateurs américains à soutenir la guerre d'Israël contre le Hamas et aurait été organisée et financée par le gouvernement israélien. Environ 2 millions de dollars auraient été affectés à cette campagne, qui a utilisé des centaines de faux comptes usurpant l'identité de personnes inventées pour cibler les législateurs américains. Meta et OpenAI ont déclaré en mai avoir perturbé la campagne d'influence.
Israël a organisé et payé l'année dernière une campagne d'influence ciblant les législateurs et le public américains avec des messages pro-israéliens. La campagne a été révélée dans un rapport publié le mois dernier par FakeReporter, un groupe israélien de surveillance qui traque la désinformation. Cette campagne secrète aurait été commanditée par le ministère israélien des Affaires de la diaspora, un organisme gouvernemental qui relie les juifs du monde entier à l'État d'Israël. Le rapport de FakeReporter indique que la conduite de cette opération d'envergure a été confiée à STOIC, une société israélienne de conseil politique.
FakeReporter dit avoir identifié cinq sites Web spécifiques liés à une société israélienne de conseil politique appelée STOIC. Ce dernier aurait reçu 2 millions de dollars du ministère israélien des Affaires de la diaspora pour influencer les membres démocrates du Congrès américain afin qu'ils maintiennent leur soutien à Israël. L'opération aurait été lancée en octobre et reste active sur la plateforme X (ex-Twitter). À son apogée, l'opération d'influence a utilisé des centaines de faux comptes qui se sont fait passer pour de vrais Américains sur X, Facebook et Instagram afin de publier des commentaires favorables à Israël.
Les comptes se sont concentrés sur les législateurs américains, en particulier ceux qui sont noirs et démocrates, comme le représentant Hakeem Jeffries, chef de la minorité de la Chambre des représentants à New York, et le sénateur Raphael Warnock de Géorgie, avec des messages les exhortant à continuer à financer l'armée israélienne. FakeReporter dit avoir identifié cinq sites Web spécifiques liés à STOIC impliqués dans cette vaste campagne d'influence. Les sites Web ont la même adresse IP, ce qui laisse supposer qu'ils appartiennent au même propriétaire. (Le ministère aurait nié toute implication dans la campagne.)
De nombreux faux comptes de la campagne sur X, Instagram et Facebook se sont fait passer pour des étudiants américains fictifs. Les comptes partageaient des articles et des statistiques qui soutenaient la position d'Israël dans la guerre. Le représentant Ritchie Torres, un démocrate de New York qui ne cache pas ses opinions pro-israéliennes, a été ciblé en plus de Hakeem Jeffries et de Raphael Warnock. Sur Facebook, les faux comptes ont posté sur la page publique de Jeffries en lui demandant s'il avait vu un rapport sur l'emploi par les Nations Unies de membres du Hamas à Gaza, ce qui était bien entendu une infox.
Selon des responsables israéliens et les documents relatifs à l'opération, l'opération aurait commencé quelques semaines après le début de la guerre, en octobre. Un rapport du New York Times indique que ce mois-là, des dizaines de startups technologiques israéliennes auraient reçu des courriels et des messages WhatsApp les invitant à se joindre à des réunions urgentes pour devenir des "soldats numériques" pour Israël pendant la guerre. Certains de ces courriels et messages ont été envoyés par des fonctionnaires du gouvernement israélien, tandis que d'autres provenaient de startups et d'incubateurs technologiques.
FakeReporter a identifié l'opération en mars. En mai, Meta, propriétaire de Facebook et Instagram, et OpenAI, développeur du chatbot d'IA de ChatGPT, ont rapporté qu'ils avaient également trouvé et perturbé l'opération. ChatGPT a été utilisé pour générer de nombreux messages. À en croire Meta et OpenAI, l'opération n'a pas eu un impact généralisé. Le rapport de FakeReporter note que les faux comptes impliqués dans l'opération ont accumulé plus de 40 000 abonnés sur X, Facebook et Instagram. Mais selon Meta, il est possible que nombre d'entre eux soient des robots et qu'ils n'aient pas généré une grande audience.
Dans un rapport détaillé, Meta dit avoir identifié un réseau de plus de 500 faux comptes, dont l'origine se trouve en Israël, qui diffusaient des messages pro-israéliens sur Instagram et Facebook. Meta a noté que les comptes de la campagne se faisaient passer pour des étudiants juifs locaux, des Afro-Américains et des citoyens "concernés" et laissaient des messages sur les pages d'organismes d'information légitimes et de personnalités publiques. Les commentaires portaient sur l'antisémitisme dans les campus, sur des appels à la libération des otages pris lors de l'attaque du Hamas le 7 octobre et sur des documents anti-islam.
OpenAI a déclaré que STOIC avait créé des personas et des biographies fictifs censés se substituer à des personnes réelles sur des services de médias sociaux utilisés en Israël, au Canada et aux États-Unis, pour publier des messages anti-islamiques. Sur sa page LinkedIn, STOIC a fait la promotion de sa capacité à mener des campagnes pilotées par l'IA. « Alors que nous regardons vers l'avenir, il est clair que le rôle de l'IA dans les campagnes politiques est prêt pour un saut transformateur, remodelant la façon dont les campagnes sont stratégisées, exécutées et évaluées », pouvait-on lire sur la page LinkedIn de STOIC.
STOIC a depuis supprimé ces messages de sa page LinkedIn. Selon les experts, cette opération est le premier cas documenté d'une campagne organisée par le gouvernement israélien qui vise à influencer le gouvernement américain. Si les campagnes coordonnées soutenues par un gouvernement ne sont pas rares, elles sont généralement difficiles à prouver. L'Iran, la Corée du Nord, la Chine, la Russie et les États-Unis sont connus pour soutenir des efforts similaires dans le monde entier, mais ils masquent souvent leur implication en externalisant le travail à des entreprises privées ou en le faisant passer par un pays tiers.
Les acteurs politiques tentent régulièrement de manipuler l'opinion publique au moyen de campagnes coordonnées sur les médias sociaux. En mai, TikTok a indiqué avoir interrompu plus d'une douzaine de campagnes de ce type sur sa plateforme, dont une provenant de Chine. À l'instar de la guerre en Ukraine, les médias sociaux sont devenus un champ de bataille par procuration depuis l'attaque du Hamas le 7 octobre, où Israéliens et Palestiniens tentent d'obtenir le soutien des spectateurs numériques, et plus généralement de la communauté internationale.
Cette campagne secrète montre qu'Israël est prêt à tout pour influencer l'opinion américaine sur la guerre à Gaza. Les États-Unis sont l'un des plus fidèles alliés d'Israël, le président Joe Biden ayant récemment signé un programme d'aide militaire de 15 milliards de dollars en faveur d'Israël. Mais le conflit est impopulaire auprès de nombreux Américains, qui ont demandé à Joe Biden de retirer son soutien à Israël face à l'augmentation du nombre de victimes civiles à Gaza.
« Le rôle d'Israël dans cette affaire est imprudent et probablement inefficace. Le fait qu'Israël ait mené une opération qui interfère dans la politique américaine est extrêmement irresponsable », a déclaré Achiya Schatz, directeur général de FakeReporter. STOIC n'a pas répondu aux demandes de commentaires. Selon des responsables israéliens, en plus de STOIC, d'autres entreprises pourraient également avoir été engagées pour mener des campagnes supplémentaires.
Sources : OpenAI, FakeReporter (PDF), Meta
Et vous ?
Quel est votre avis sur le sujet ?
Voir aussi
Répondre avec citation
Partager