Discussion :

[Stéphane le calme]

Des législateurs US estiment que la technologie deepfake constitue une menace à la sécurité nationale,
et appellent à des contremesures

Un deepfake - la contraction des termes anglais deep learning (apprentissage profond) et fake (feint, truqué) - est une technique de synthèse d'images basée sur l'intelligence artificielle. Les méthodes actuelles utilisées deviennent incroyablement sophistiquées et permettent déjà de créer des fausses vidéos difficilement identifiables en tant que telles. Le deepfake est utilisé pour combiner et superposer des images et des vidéos existantes afin de les manipuler à l’aide de l’apprentissage automatique. La technologie est en développement et des chercheurs continuent d’améliorer les méthodes qui contribueront certainement à révolutionner certains secteurs d’activité mais qui ne manqueront, peut-être, pas de se retrouver, comme une arme, entre les mains des personnes malveillantes.

Sans surprise, l’une des premières utilisations de deepfake a été vu dans l’industrie porno, où des visages ont été superposé à d’autres.

Des chercheurs ont créé des algorithmes qui sont capables de récupérer le contenu d'une vidéo et de l'appliquer à une autre et ce sans altérer le style de la vidéo cible. La vidéo, ci-dessous, offre une illustration des plus explicites. Cela commence avec le présentateur américain John Oliver dont les expressions faciales et les mouvements de bouche sont littéralement calqués de façon transparente sur le visage de son homologue Stephen Colbert. On découvre que le système peut s'appliquer à des fleurs ou des paysages. La démonstration se conclut avec le clonage du style de Martin Luther King appliqué sur le visage de Barack Obama, lequel va ensuite se glisser dans la peau de Donald Trump.

Mais à présent, les législateurs pensent que cette technique de synthèse d’images pourrait être utilisées dans le cadre de campagnes de désinformation plus larges par exemple dans l’optique d’influencer des élections en diffusant des fake news qui pourraient alors paraître plus crédibles.

« Les deepfake pourraient devenir un puissant outil pour les puissances hostiles cherchant à propager des informations erronées », a déclaré le représentant du parti démocrate sur le renseignement, Adam Schiff, dans une lettre adressée à Dan Coats, directeur du renseignement national.

« En brouillant la frontière entre les faits et la fiction, la technologie deepfake pourrait miner la confiance du public dans les images et les vidéos enregistrées en tant que représentations objectives de la réalité,. Alors que les technologies deepfake deviennent plus avancées et plus accessibles, cela pourrait constituer une menace pour le discours public et la sécurité nationale des Etats-Unis, avec des implications larges et inquiétantes pour les campagnes de mesures offensives actives contre les Etats-Unis », indique la lettre, qui a été co-signée par les représentants Stephanie Murphy (D-FL) et Carlos Curbelo (R-FL).

Schiff, Murphy et Curbelo veulent que le directeur du renseignement national, qui supervise la communauté du renseignement aux États-Unis, rende compte de son évaluation de la façon dont la technologie deepfake pourrait nuire aux intérêts de la sécurité nationale et des mesures de protection contre les influences étrangères. .

Le bureau du DNI a été invité à faire rapport au Congrès à la mi-décembre.

Source : lettre des représentants

Et vous ?

Partagez-vous les appréhensions des législateurs ?

Voir aussi :

Une nouvelle méthode inédite de deepfake a été mise au point par des chercheurs, permettant de transférer le style d'une personne à une autre
Les législateurs californiens approuvent des règles de confidentialité auxquelles la Silicon Valley s'oppose, début d'un RGPD aux USA ?
Les liens de Google avec Huawei vus d'un mauvais œil par des législateurs américains qui y voient une menace pour la sécurité des États-Unis
Affaire Cambridge Analytica : Facebook témoigne dans un document de 500 pages, en ignorant les préoccupations de nombreux législateurs américains

[el_slapper]

en même temps, le ciel est bleu, je veux dire que les technologies permettant de faire ça vont aller crescendo. Je ne vois pas trop ce qu'interdire une technologie va changer au problème de fond.

[Tagashy]

On as encore à faire à une paire de génie

C'est déjà illégal la diffamation rajouter une loi interdisant l'usage de l'IA pour ça est juste une énorme blague, comme si ceux qui sont déjà dans l’illégalité vont se dire à mince il y as une loi qui interdis l'usage d'IA du coup je peux plus faire ma diffamation dans ce pays. C'est comme les barrières vigipirates devant les écoles, c'est sur qu'un terroriste qui à prévu de se suicider en faisant un attentat va se dire mince y'a une barrière je vais rentrer chez moi et repenser à mes actions ...

Je sens que ce sujet va être un super terrain de pèche au perle ^^

[marsupial]

Lorsque la France a contesté devant l'ONU le bien fondé des accusations sur la production et la possession d'armes de destruction massive en Irak, les patates françaises ont été bannies de l'importation. Les fameuses French Fries.

Que ne ferait-on pas pour la sécurité des Etats-Unis ! C'est du délire.

[Stéphane le calme]

Un sénateur propose un projet de loi prohibant l'utilisation de la technologie deepfake,
si elle venait à servir des buts frauduleux

Un deepfake - la contraction des termes anglais deep learning (apprentissage profond) et fake (feint, truqué) - est une technique de synthèse d'images basée sur l'intelligence artificielle. Les méthodes actuelles utilisées deviennent incroyablement sophistiquées et permettent déjà de créer des fausses vidéos difficilement identifiables en tant que telles. Le deepfake est utilisé pour combiner et superposer des images et des vidéos existantes afin de les manipuler à l’aide de l’apprentissage automatique. La technologie est en développement et des chercheurs continuent d’améliorer les méthodes qui contribueront certainement à révolutionner certains secteurs d’activité mais qui ne manqueront, peut-être, pas de se retrouver, comme une arme, entre les mains des personnes malveillantes.

Sans surprise, l’une des premières utilisations de deepfake a été vu dans l’industrie porno, où des visages ont été superposé à d’autres.

Des chercheurs ont créé des algorithmes qui sont capables de récupérer le contenu d'une vidéo et de l'appliquer à une autre et ce sans altérer le style de la vidéo cible. La vidéo, ci-dessous, offre une illustration des plus explicites. Cela commence avec le présentateur américain John Oliver dont les expressions faciales et les mouvements de bouche sont littéralement calqués de façon transparente sur le visage de son homologue Stephen Colbert. On découvre que le système peut s'appliquer à des fleurs ou des paysages. La démonstration se conclut avec le clonage du style de Martin Luther King appliqué sur le visage de Barack Obama, lequel va ensuite se glisser dans la peau de Donald Trump.

Mais à présent, les législateurs pensent que cette technique de synthèse d’images pourrait être utilisées dans le cadre de campagnes de désinformation plus larges par exemple dans l’optique d’influencer des élections en diffusant des fake news qui pourraient alors paraître plus crédibles.

« Les deepfake pourraient devenir un puissant outil pour les puissances hostiles cherchant à propager des informations erronées », a déclaré le représentant du parti démocrate sur le renseignement, Adam Schiff, dans une lettre adressée à Dan Coats, directeur du renseignement national.

« En brouillant la frontière entre les faits et la fiction, la technologie deepfake pourrait miner la confiance du public dans les images et les vidéos enregistrées en tant que représentations objectives de la réalité,. Alors que les technologies deepfake deviennent plus avancées et plus accessibles, cela pourrait constituer une menace pour le discours public et la sécurité nationale des Etats-Unis, avec des implications larges et inquiétantes pour les campagnes de mesures offensives actives contre les Etats-Unis », indique la lettre, qui a été co-signée par les représentants Stephanie Murphy (D-FL) et Carlos Curbelo (R-FL).

Schiff, Murphy et Curbelo veulent que le directeur du renseignement national, qui supervise la communauté du renseignement aux États-Unis, rende compte de son évaluation de la façon dont la technologie deepfake pourrait nuire aux intérêts de la sécurité nationale et des mesures de protection contre les influences étrangères. .

Le bureau du DNI a été invité à faire rapport au Congrès à la mi-décembre.

Un projet de loi déjà sur la table

Fin décembre, le comité judiciaire du Sénat s’est penché sur une proposition de législation sur le sujet émise par le sénateur républicain Ben Sasse : Malicious Deep Fake Prohibition Act (loi sur la prohibition des deepfake). L’objectif de cette proposition de loi est d’apporter des amendements aux textes américains de loi pour interdire certains enregistrements audiovisuels frauduleux et à d’autres fins.

Il est d’abord question d’apporter des définitions

Le texte entend par « enregistrement audiovisuel » tout support audio ou visuel sous un format électronique; ce qui « comprend toute photographie, film cinématographique, enregistrement vidéo, image électronique ou enregistrement sonore ».

Le texte entend par « falsification » un document audiovisuel créé ou modifié de telle sorte qu’il semblerait à tort à un observateur raisonnable qu’il est un document authentique du discours ou du comportement d’un individu.

De plus, le texte estime que les expressions « service informatique interactif » et « fournisseur de contenu d’information » ont la même signification au sens de l’article 230 de la loi sur les communications de 1934 (47 U.S.C. 230).

Infraction

Le texte estime qu’il est illégal, par tout moyen ou installation du commerce entre États ou avec l'étranger, de :

• « créer, dans l’intention de distribuer, un deep fake avec l’intention de faciliter la conduite criminelle ou délictuelle au regard de la législation fédérale, nationale, locale ou tribale; ou
• « distribuer un enregistrement audiovisuel avec
  
  • « la connaissance réelle que l'enregistrement audiovisuel est un deep fake; et
  • « L'intention selon laquelle la distribution du document audiovisuel faciliterait un comportement criminel ou délictueux en vertu de lois fédérales, d'État, locales ou tribales

Sanction

Toute personne qui enfreint l'alinéa b) sera

• «1) condamné à une amende en vertu de ce titre, à une peine d'emprisonnement maximale de deux ans, ou les deux; ou
• «(2) condamné à une amende en vertu de ce titre, à une peine d'emprisonnement maximale de 10 ans, ou les deux, dans le cas d'une violation dans laquelle la création, la reproduction ou la distribution d’un deep fake pouvait raisonnablement être prévue pour
  
  • «(A) affecter la conduite de toute procédure administrative, législative ou judiciaire d'un organisme gouvernemental fédéral, d'un État, local ou tribal, y compris l'administration d'une élection ou la conduite de relations extérieures; ou
  • «(B) faciliter la violence.

Source : projet de loi

Et vous ?

Partagez-vous les appréhensions des législateurs ?
Que pensez-vous de ces mesures ?

Voir aussi :

Une nouvelle méthode inédite de deepfake a été mise au point par des chercheurs, permettant de transférer le style d'une personne à une autre
Les législateurs californiens approuvent des règles de confidentialité auxquelles la Silicon Valley s'oppose, début d'un RGPD aux USA ?
Les liens de Google avec Huawei vus d'un mauvais œil par des législateurs américains qui y voient une menace pour la sécurité des États-Unis
Affaire Cambridge Analytica : Facebook témoigne dans un document de 500 pages, en ignorant les préoccupations de nombreux législateurs américains

[Ryu2000]

Partagez-vous les appréhensions des législateurs ?

Ouais c'est inquiétant, des fausses preuves deviennent facile à produire.
Peut-être que des guerres vont démarrer sur un mensonge, comme avec Colin Powell et sa fiole (L'incroyable histoire du mensonge qui a permis la guerre en Irak).

Ça me rappelle aussi Running Man :