Discussion :

[Mathis Lucas]

L'acteur Stephen Fry met en garde contre les dangers potentiels du clonage de la voix à l'aide des technologies d'IA
il a laissé entendre que cela pourrait être le signe d'un futur dystopique

L'acteur britannique Stephen Fry a mis en garde récemment contre les dangers potentiels liés à la reproduction de la voix humaine à l'aide de l'IA. Sa mise en garde est intervenue après qu'il a découvert que des gens ont utilisé l'IA pour cloner sa voix et ont ensuite utilisé la voix synthétique pour la narration dans un clip documentaire. La version numérique de sa voix aurait été générée à partir de sept livres audio de Harry Potter qu'il a patiemment et minutieusement narrés par le passé. Tout ceci a été fait à l'insu et sans l'autorisation de l'acteur, ce qui pose la question de savoir à qui appartient notre voix. Cela pose également d'autres préoccupations liées à la sécurité et à l'éthique.

Parmi les nombreuses avancées récentes dans le domaine de l'IA, la plus inquiétante est probablement celle de la technologie de clonage de la voix humaine. Ces outils d'IA modernes permettent désormais de reproduire rapidement et à peu de frais la voix d'une personne donnée et, bien que ces versions générées par l'IA ne soient pas encore des ressemblances parfaites, il est important d'être conscient de la menace émergente qu'elles représentent. Cette technologie d'IA a le potentiel d'améliorer la gestion de la voix dans le monde du cinéma, de l'animation et dans plusieurs autres domaines. Mais actuellement, elle est surtout utilisée à des fins malveillantes.

S'exprimant lors du festival technologique CogX à Londres en septembre, l'acteur britannique Stephen Fry a diffusé un extrait d'un documentaire dont il semblait être le narrateur, avant d'affirmer qu'il s'agissait du résultat d'un clonage numérique. « Je n'ai rien dit de tout cela. C'était une machine. Oui, cela m'a choqué. Ils ont utilisé ma lecture des sept volumes des livres Harry Potter, et à partir de cet ensemble de données, une version numérique de voix a été créée à l'aide de l'IA. Elle a fait cette narration. Il pourrait me faire lire n'importe quoi, d'un appel à la tempête parlementaire à du porno ; le tout à mon insu et sans ma permission », a-t-il déclaré.

« Et ce que vous venez d'entendre a été fait à mon insu », a ajouté Fry. Selon ce dernier, la voix est si bonne qu'il est impossible de faire la différence. Même les mots allemands comme "Hauptsturmführer" et les noms de lieux néerlandais sont parfaitement prononcés. « J'en ai entendu parler, je l'ai ensuite envoyé à mes agents des deux côtés de l'Atlantique, et ils sont devenus fous - ils n'avaient aucune idée qu'une telle chose était possible », a-t-il déclaré. Le fait que la voix de l'acteur a été copiée sans son consentement est particulièrement problématique compte tenu de la grève des scénaristes qui a duré cinq mois avant de prendre fin en septembre.

La génération de contenu par l'IA est l'une des préoccupations clés qui ont motivé l'action syndicale. « Vous n'avez encore rien vu. Ce n'est que de l'audio. Il ne faudra pas attendre longtemps pour voir apparaître des vidéos deepfakes tout aussi convaincantes », a dit Fry à ses agents en colère. Selon Fry, la principale question est de savoir à quel point l'IA pourrait devenir sophistiquée. « Nous devons considérer l'IA comme la première automobile. Elle est impressionnante, mais pas encore aboutie. La technologie n'est pas un nom, c'est un verbe, elle est toujours en mouvement. Ce que nous avons aujourd'hui n'est pas ce qui sera », a déclaré l'acteur.

« En ce qui concerne les modèles d'IA, ce que nous avons aujourd'hui progressera à un rythme plus rapide que n'importe quelle technologie que nous n’ayons jamais vue. Une chose sur laquelle nous sommes tous d'accord : c'est une foutue époque bizarre pour être en vie », a-t-il déclaré. Selon l'acteur, il s'agit d'une évolution à la fois profonde et terrifiante. L'IA de clonage de la voix pose diverses préoccupations d'ordre sécuritaire et éthique. À qui appartient notre voix, si n'importe qui peut en créer une copie pour quelques dollars et lui faire dire ce qu'il veut ? Et que risquons-nous de perdre si nous ne pouvons plus distinguer une vraie d'une fausse voix ?

Comme les autres systèmes d'IA, la technologie de clonage vocal nécessite un ensemble complet de données pour produire un résultat précis. Toutefois, l'ampleur des données requises pour la technologie vocale est relativement faible, car chaque langue utilise un nombre limité de sons - la langue anglaise ne compterait que 44 sons uniques, ou phonèmes, qui peuvent tous être couverts par quelques phrases seulement. Une fois qu'un système d'IA dispose de ces informations, il peut reconstituer n'importe quel mot à la demande en accédant aux enregistrements et en combinant les sons pertinents, créant ainsi un modèle vocal numérique.

Ce processus est rapide et facile, et certaines entreprises le proposent même gratuitement. Cette technologie est développée et commercialisée par des entreprises d'IA comme ElevenLabs, Speechify et Resemble.ai, qui permet de cloner une voix à partir de quelques minutes de données vocales. Ces entreprises affirment que les voix synthétiques ont atteint aujourd'hui un niveau de sophistication sans précédent : elles peuvent marquer une pause au bon moment, imiter les choses comme "hum" et "ah", et même maîtriser des sons non verbaux comme les bâillements, les soupirs et les gloussements. La technologie vocale a un éventail d'applications limité.

À l'heure actuelle, les modèles vocaux d'IA sont le plus souvent utilisés dans la production de médias, par exemple pour le doublage de contenus en langue étrangère, où ils constituent souvent une solution moins onéreuse que l'embauche d'un comédien. Même si l'on fait appel à un acteur, sa voix peut être reproduite virtuellement pour les modifications en postproduction, de sorte qu'il n'est pas nécessaire de retourner physiquement sur le plateau si des changements sont nécessaires. Il s'agit d'un sujet de discorde entre les maisons de production et les acteurs. Les modèles vocaux d'IA sont également utilisés dans les services à la clientèle à distance.

Ils sont aussi utilisés pour donner une voix à ceux qui ont perdu la leur, comme dans le cas des patients atteints d'un cancer de la gorge, où une voix d'IA construite à partir d'anciens enregistrements de la personne peut être utilisée pour lui permettre de "parler" lorsqu'elle a perdu sa voix à cause de la maladie. Mais si l'utilisation de modèles vocaux d'IA présente des avantages indéniables, cette technologie suscite également des inquiétudes, et des exemples d'utilisation abusive ont été relevés au cours des derniers mois. L'IA n'en étant qu'à ses débuts, les ramifications juridiques du développement et du déploiement des modèles vocaux d'IA restent floues.

La synthèse des voix d'acteurs en vue de leur utilisation en postproduction pose des problèmes de responsabilité et de consentement, car les modèles pourraient être programmés pour dire n'importe quoi. Ce déploiement de modèles vocaux est l'une des questions clés au cœur de l'impasse actuelle entre le groupe d'intérêt AMPTP (Alliance of Motion Picture and Television Producers) et le groupe syndical SAG-AFTRA (Screen Actors Guild‐American Federation of Television and Radio Artists), les acteurs exigeant des contrôles plus stricts sur la manière dont les modèles sont construits et utilisés. Les négociations se poursuivent entre ces deux groupes.

L'aspect le plus préoccupant des modèles vocaux d'IA est sans doute leur utilisation dans le cadre d'activités criminelles. Les fraudeurs peuvent désormais utiliser des clones vocaux d'IA de personnes en qui leur cible a confiance, en les convainquant qu'ils parlent à quelqu'un qu'ils connaissent, ce qui augmente considérablement les chances de réussite de l'escroquerie. Cette nouvelle technique a connu un tel succès que la Federal Trade Commission (FTC) des États-Unis a lancé un avertissement au public à ce sujet. De nombreuses victimes ont été recensées cette année et les entreprises peinent à trouver des solutions efficaces contre ce problème.

Les fournisseurs d'outils de clonage vocal déclarent toujours que leurs services ne doivent pas être utilisés pour cloner la voix d'une personne à des fins malveillantes ou sans son consentement, mais il est difficile de faire respecter cette règle. Un exemple notable est celui de la société Descript, dont l'outil Overdub est l'un des plus efficaces du marché. L'outil de synthèse vocale a été facilement déjoué par un groupe qui a utilisé un podcast audio modifié de leur ami, sans son consentement, pour tromper ses collègues de travail. Ils ont publié sur YouTube une vidéo documentant le processus, soulignant la facilité d'accès et l'efficacité de la technologie.

Le but était d'encourager Descript à mettre en place une plus grande sécurité. Les personnes dont l'identité est usurpée au moyen d'outils vocaux d'IA risquent de voir leur réputation ternie et de perdre leur argent. Par exemple, dans le cas de Fry, sa voix aurait pu être utilisée pour recommander à ses fans des choses comme de faux sites d'investissement, du porno, des articles de mauvaise qualité, etc. En outre, l'identité de Martin Lewis, un journaliste financier britannique respecté, a récemment été usurpée dans le cadre d'une escroquerie à l'investissement qui utilisait son visage et sa voix pour promouvoir une entreprise inexistante appelée Quantum AI.

En somme, si les modèles vocaux d'IA peuvent avoir des utilisations bénéfiques dans de nombreux secteurs, le manque actuel de réglementation et de compréhension de la technologie, combiné à la facilité d'accès pour ceux qui souhaitent désinformer ou nuire, signifie qu'ils ne sont pas sans risque. Jusqu'à ce qu'un cadre réglementaire suffisant soit établi, il est important de rester vigilant lorsque l'on utilise des modèles vocaux d'IA et d'être conscient des risques qu'ils peuvent poser.

Et vous ?

Que pensez-vous de la technologie de clonage de la voix ?
Que pensez-vous des mises en garde de l'acteur Stephan Fry ?
Quid des craintes qu'il a exprimées à propos du futur de la technologie ?
Comment peut-on faire face aux risques liés à la technologie de clonage de la voix ?
Les entreprises peuvent-elles être tenues responsables des mauvaises utilisations de leurs produits ?
Selon vous, les outils d'IA modernes de clonage de la voix doivent-ils être interdits ? Pourquoi ?
La technologie de clonage de la voix annonce-t-elle un futur dystopique comme certains le prétendent ?

Voir aussi

L'acteur Stephen Fry affirme que sa voix a été volée dans les livres audio de Harry Potter et reproduite à l'aide de l'IA, il estime que les acteurs feront face à de plus grands défis à l'avenir

Les nouveaux outils de clonage de voix par l'IA ajoutent "de l'huile sur le feu" de la désinformation, une voix de Joe Biden générée par l'IA prononce un discours "hilarant" sur l'état de l'Union

La Writers Guild of America, un syndicat des scénaristes américains, autorise l'utilisation de l'IA pour l'écriture des scénarios, à condition que les scénaristes restent crédités comme auteur

Les studios de cinéma font appel à GPT-4 pour remplacer des scénaristes en grève, mais le résultat n'est pas satisfaisant, les scénaristes refusent de corriger les scénarios bâclés générés par l'IA

[totozor]

ce qui pose la question de savoir à qui appartient notre voix.

Alors très clairement notre voix nous appartient.
C'est un peu plus délicat pour nos déclarations qui peuvent être réutilisées.
Mais les montages et les immitateurs peuvent jouer avec ces limites.
Donc finalement ce problème n'est pas nouveau et je ne suis pas sur qu'il soit plus accessible qu'avant.

Les comédiens de doublages pourraient aussi poser problème, je me souviens de l'époque où on pouvait acheter des annonces de répondeur avec la voix de stallone, je ne suis pas sur que stallone ai été au courant

[Jade Emy]

Scarlett Johansson intente une action en justice contre une application d'IA qui a cloné sa voix, une version de sa voix générée par IA est apparue dans une publicité en ligne sans son consentement.

La star hollywoodienne Scarlett Johansson a intenté une action en justice contre un développeur d'applications d'IA pour l'utilisation non autorisée de son nom et de son image dans une publicité en ligne. Le rapport, initialement publié par Variety, révèle que la publicité en question portait sur un outil d'édition d'images par IA appelé "Lisa AI : 90s Yearbook & Avatar". La publicité mettait en évidence une version générée par IA de la voix de Scarlett Johansson.

Dans cette publicité de 22 secondes, les téléspectateurs ont un aperçu des coulisses du tournage du rôle de Scarlett Johansson dans "Black Widow", où on l'entend dire : "Quoi de neuf, les gars ? C'est Scarlett, et je veux que vous veniez avec moi". Cependant, la publicité a pris un tournant important lorsqu'elle s'est éloignée de Johansson, une voix générée par l'IA visant à imiter l'actrice déclarant : "Cela ne se limite pas aux avatars. Vous pouvez également créer des images avec du texte et même des vidéos d'IA. Je pense que vous ne devriez pas manquer ça".

Vers la fin de la publicité, Convert Software, la société responsable de l'application, a inclus une clause de non-responsabilité indiquant que "les images ont été produites par Lisa AI. Cela n'a rien à voir avec cette personne". Les représentants de Scarlett Johansson ont précisé qu'elle n'avait jamais approuvé l'application, et son avocat, Kevin Yorn, a confirmé qu'il abordait la question par la voie juridique.

Kevin Yorn a déclaré : "Nous ne prenons pas ces questions à la légère. Conformément à notre protocole habituel dans de telles situations, nous utiliserons tous les recours juridiques disponibles."

De nombreux États américains, dont la Californie, disposent de lois strictes protégeant le droit à la vie privée, notamment en ce qui concerne l'utilisation non autorisée du "nom, de la voix, de la signature, de la photographie ou de l'image" d'une personne à des fins publicitaires ou promotionnelles. Si certaines célébrités peuvent intenter des actions en justice pour établir des précédents juridiques, la plupart des affaires sont résolues par des ordonnances de cessation et d'abstention.

Johansson n'est pas la seule célébrité à avoir été confrontée à l'utilisation non autorisée de son nom et de son image à des fins publicitaires. Récemment, Tom Hanks s'est rendu sur les médias sociaux pour mettre en garde ses fans contre une vidéo promotionnelle d'un plan dentaire dans laquelle figurait une version IA de lui-même. Il a précisé qu'il n'était pas associé à cette publicité.

La technologie de l'IA devenant de plus en plus accessible, il est probable que des cas similaires se produiront à l'avenir. Les musiciens, par exemple, ont déjà eu affaire au clonage de voix qui peut créer l'illusion que des artistes célèbres comme Drake ou Johnny Cash interprètent de nouvelles chansons. En outre, la technologie du deepfake permet d'utiliser des ressemblances de célébrités générées par l'IA, comme on l'a vu dans la publicité pour les soins dentaires mettant en scène Tom Hanks, sans leur consentement.

Source : Variety

Et vous ?

Quel est votre avis sur cette affaire ?

Voir aussi :

TikTok diffuse une publicité deepfake IA de MrBeast vendant des iPhone 15 Pro pour 2 $. Un deepfake IA de Tom Hanks a été utilisé pour vendre une assurance dentaire

La loi "No Fakes Act" vise à protéger les acteurs et les chanteurs contre les répliques non autorisées de l'IA. La chanson fictive générée par IA de Drake et The Weeknd semble en être la motivation

L'acteur Stephen Fry met en garde contre les dangers potentiels du clonage de la voix à l'aide des technologies d'IA, il a laissé entendre que cela pourrait être le signe d'un futur dystopique

[Patrick Ruiz]

Les studios hollywoodiens envisagent de recycler les images de synthèse d'acteurs décédés sans l'autorisation de leur famille
Et ravivent le débat sur l’impact de l’IA dans le domaine du cinéma

La grève des scénaristes et des acteurs d’Hollywood, qui dure depuis plusieurs mois, met en lumière un enjeu majeur pour l’industrie du divertissement : l’impact de l’intelligence artificielle générative sur la création de contenu. Les studios hollywoodiens envisagent de recycler les images de synthèse d’acteurs décédés sans l’autorisation de leur famille et sans rémunération. C’est un sujet qui oppose le syndicat des acteurs SAG-AFTRA aux studios et qui prend un coup de neuf avec les avancées en matière d’intelligence artificielle et l’intérêt grandissant que leur portent les grosses enseignes du cinéma.

Depuis le début de la grève, l'AMPTP tente d'amener SAG-AFTRA à accepter l'idée que les studios paient les acteurs pour s’approprier leurs « copies numériques. » Des rapports font état de ce que l'AMPTP (Alliance of Motion Picture and Television Producers) a proposé de sécuriser les scans pour les membres du syndicat gagnant plus de 32 000 dollars par épisode télévisé ou 60 000 dollars par film. L'accord proposé par les studios les obligerait à payer une seule fois pour s'approprier des scans de leurs images ce qui impliquerait de ne pas payer pour leur utilisation ou leur réutilisation. En d'autres termes, les studios entendent obtenir des droits éternels sur leurs images après avoir payé une fois à l'avance.

Toutefois, comme cette dernière proposition permettrait aux studios d'utiliser ces scans numériques d'acteurs décédés sans le consentement de leur succession ou d’un de leurs représentants légaux, la SAG-AFTRA a refusé et a exprimé son désir de changements qui obligeraient les studios à payer les acteurs chaque fois que leur visage est utilisé et à obtenir le consentement de ces acteurs avant de le faire. D’où l’un des récents messages de SAG-AFTRA sur la plateforme X :

Les pourparlers se poursuivent et le consensus entre les parties devrait aboutir à ce que les producteurs obtiennent au préalable le consentement du représentant autorisé d'un artiste décédé avant qu'un scan ne soit réutilisé. En outre, chaque fois qu'un studio voudra réutiliser un scan d'un artiste en général, il devra obtenir le consentement de cette personne et négocier une compensation.

La pratique de scanner les corps des figurants semble devenir de plus en plus courante. Les avancées en matière d’intelligence artificielle et l’intérêt que les studios hollywoodiens leur portent y aident. Dans les chiffres, 96 % des entreprises de la filière du divertissement entendent augmenter leurs dépenses en intelligence artificielle générative. L’intelligence artificielle menace tous les pans de la filière : les rédacteurs de scénarios, les acteurs, etc.

Intelligence artificielle générative : Que des inconvénients pour les figurants et autres rédacteurs de scénarios ?

L’intelligence artificielle générative peut aussi être une opportunité pour les artistes et les créateurs de se renouveler et de s’adapter aux nouvelles demandes du public. Le cas CarynAI en est une illustration. Cette copie virtuelle de l’influenceuse dénommée Caryn Marjorie compte déjà plus de 1000 abonnés qui déboursent chacun 1 dollar par minute pour bénéficier de l’attention de leur petite amie virtuelle.

Caryn Marjorie, une influenceuse de 23 ans, compte 1,8 million de followers sur Snapchat. Elle a en sus plus de 1 000 "petits amis", avec lesquels elle passe de 10 minutes à plusieurs heures par jour pour des conversations individuelles, des projets d'avenir, des sentiments intimes et même des discussions à connotation sexuelle. Ces petits amis sortent avec une version virtuelle de Marjorie, animée par une intelligence artificielle qui s’appuie sur des milliers d'heures d'enregistrements de la vraie Marjorie. Le résultat, CarynAI, est un chatbot vocal qui se présente comme une petite amie virtuelle, avec une voix et une personnalité suffisamment proches de celles de la Marjorie humaine.

CarynAI, qui a été lancé au début du mois de mai sous la forme d'un test bêta privé sur l'application Telegram, est l’un des récents exemple des progrès de l'intelligence artificielle qui ont émerveillé et inquiété le monde entier au cours des derniers mois. « Que vous ayez besoin de réconfort ou d'amour, ou que vous vouliez simplement vous plaindre de ce qui s'est passé à l'école ou au travail, CarynAI sera toujours là pour vous », a déclaré la vraie Marjorie à Fortune lors d'un entretien téléphonique.

« Avec CarynAI, vous pouvez avoir un nombre illimité de réactions possibles, donc tout est vraiment possible avec la conversation. J'ai toujours été très proche de mon public, mais lorsque vous avez des centaines de millions de vues chaque mois, il n'est pas humainement possible de parler à chaque spectateur. C'est là que je me suis dit : "vous savez quoi ? CarynAI va venir combler cette lacune" », a ajouté Marjorie. Et elle pense que l'entreprise a le potentiel de « guérir la solitude. » La bêta a duré seulement une semaine et a rapporté 71 610 dollars de revenus.

Après le lancement officiel, Marjorie espère que ses copies virtuelles lui rapportent au moins 5 millions de dollars par mois, avec environ 20 000 abonnés payants. CarynAI a été développé par l'entreprise américaine Forever Voices, qui a créé des copies virtuelles de Steve Jobs, Taylor Swift et Donald Trump (entre autres) qui sont également disponibles pour des conversations payantes sur Telegram, et qui ont servi de gadgets dans des talk-shows.

Et vous ?

Quelle est votre opinion sur l’utilisation de l’IA générative dans le domaine du divertissement ?
Pensez-vous que les syndicats d’Hollywood ont raison de faire grève pour défendre leurs droits face à l’IA générative ?
Quels sont les avantages et les inconvénients de l’IA générative pour les artistes et les créateurs de contenu ?
Quels sont les exemples d’œuvres de divertissement que vous avez appréciées ou détestées qui ont été produites ou influencées par l’IA générative ?
Comment pensez-vous que l’IA générative va évoluer dans le futur et quel impact aura-t-elle sur la culture et la société ?

Voir aussi :

Un expert en IA affirme que les bébés virtuels seront monnaie courante pour les couples à l'avenir, ajoutant que le métavers devrait permettre de réduire les dépenses liées à un vrai bébé

Elon Musk approche des chercheurs en IA pour créer son propre chatbot rival pour le monde entier, il semble que tous les géants de la technologie s'aventurent à lancer leurs chatbots respectifs

Fortnite est peut-être un jeu virtuel, mais ses effets sont si réels et dangereux que les enfants consultent des médecins pour briser son emprise

Xiaoice, le chatbot de Microsoft doté d'intelligence émotionnelle, séduit des millions d'hommes célibataires en Chine, il enregistre également leurs désirs et leurs émotions les plus intimes

[Jade Emy]

Les grèves à Hollywood sont désormais terminées, les acteurs ont conclu un accord avec les studios, prévoyant des protections contre l'utilisation non autorisée d'images générées par IA.

Jeudi, pour la première fois depuis plus de six mois, ni les acteurs ni les scénaristes d'Hollywood ne seront en grève. Cette éclaircie tant attendue dans la saison la plus houleuse de l'industrie depuis des décennies intervient alors qu'un accord a été conclu mercredi en fin de journée pour mettre fin à ce qui était, avec près de quatre mois, la plus longue grève jamais observée pour les acteurs de cinéma et de télévision.

Le contrat de trois ans doit être approuvé par le conseil d'administration de la Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) et par ses membres dans les prochains jours. Mais la direction du syndicat a déclaré que la grève prendrait fin jeudi à 0H 01, permettant ainsi à toutes les parties de la production de reprendre leurs activités pour la première fois depuis le printemps.

Duncan Crabtree-Ireland, directeur exécutif et négociateur en chef de SAG-AFTRA, a déclaré que les gains obtenus dans le cadre de l'accord justifiaient la lutte. "C'est un accord dont nos membres peuvent être fiers. Je suis certainement très fier de cet accord", a déclaré Crabtree-Ireland lors d'une interview. "Nous avons dit que nous n'accepterions qu'un accord juste, équitable et respectueux, et c'est précisément ce qu'est cet accord. Je pense donc que nos membres, au fur et à mesure que nous serons en mesure d'en divulguer les détails, les examineront et se diront que cela valait la peine de faire la grève."

Plus de 60 000 membres de la SAG-AFTRA se sont mis en grève le 14 juillet, rejoignant ainsi les scénaristes qui avaient débrayé plus de deux mois auparavant. C'était la première fois que les deux syndicats faisaient grève ensemble depuis 1960. Les studios et les scénaristes sont parvenus à un accord qui a mis fin à la grève le 26 septembre.

Le syndicat a évalué l'accord à plus d'un milliard de dollars. Crabtree-Ireland a déclaré que l'accord prévoyait une augmentation des paiements minimums versés aux acteurs, une part plus importante des revenus de la diffusion en continu revenant aux artistes, un renforcement des régimes d'avantages sociaux et des protections contre l'utilisation sans entrave de l'intelligence artificielle dans la recréation des spectacles. Les détails des conditions ne seront pas divulgués avant la réunion de vendredi, au cours de laquelle les membres du conseil d'administration examineront le contrat.

Les protections contre l'intelligence artificielle étaient un point de friction dans les négociations qui ont progressé méthodiquement, avec de longues pauses pour les deux parties, depuis qu'elles ont repris le 24 octobre. "Il s'agit d'une question qui a évolué depuis le début du processus de négociation", a déclaré Crabtree-Ireland. "Les capacités des outils d'IA générative se sont considérablement développées. Nous nous sommes donc attachés à faire en sorte que les garde-fous que nous avons négociés soient à l'épreuve du temps ou du moins résistants à l'avenir."

L'autre partie aux négociations, l'Alliance of Motion Picture and Television Producers, a déclaré dans un communiqué que "l'accord représente un nouveau paradigme. Il donne à SAG-AFTRA les plus grands gains de contrat à contrat dans l'histoire du syndicat". L'AMPTP a déclaré qu'elle "attend avec impatience que l'industrie reprenne le travail de raconter de grandes histoires".

Les dirigeants des principales sociétés de divertissement, dont Disney, Netflix, Warner Bros. Discovery et Universal, ont participé directement aux négociations.

La Writers Guild of America a applaudi l'accord conclu mercredi. "Nous sommes ravis de voir les membres de SAG-AFTRA remporter un contrat qui crée de nouvelles protections pour les artistes-interprètes et leur donne une plus grande part de l'immense valeur qu'ils créent", a déclaré le syndicat dans un communiqué. "Lorsque les travailleurs sont unis, ils gagnent !"

Bien que la grève des scénaristes ait eu des effets immédiats et visibles pour les téléspectateurs, notamment la suspension pendant des mois des talk-shows de fin de soirée et de "Saturday Night Live", l'impact de l'absence des acteurs n'a pas été aussi immédiatement visible. Mais ses effets d'entraînement - retards dans les dates de sortie des films et attente des nouvelles saisons - pourraient se faire sentir pendant des mois, voire des années.

Les acteurs devraient rapidement retourner sur les plateaux de tournage où la production a été interrompue, notamment ceux de "Deadpool 3", "Gladiator 2" et "Wicked". D'autres films et émissions reprendront le tournage une fois que les scénaristes de retour auront terminé leurs textes. Au-delà des productions scénarisées, la fin de la grève permet aux acteurs de revenir sur les tapis rouges, dans les talk-shows et les podcasts, à l'approche de la saison des récompenses à Hollywood.

"La grève des SAG est terminée ! Je peux enfin le dire : regardez mon documentaire samedi soir à 20 heures sur HBO/MAX !", a déclaré l'acteur-réalisateur Albert Brooks sur les médias sociaux quelques instants après la fin de la grève. "Je n'ai pas pu dire un mot jusqu'à maintenant !" La seule grande cérémonie de remise de prix directement affectée par la grève est celle des Emmys, qui a été déplacée de septembre à janvier. À présent, les campagnes habituelles des Oscars, qui se déroulent à l'automne, vont se mobiliser.

Les grèves à Hollywood sont terminées

• L'accord : Les détails exacts de l'accord conclu entre les acteurs en grève, les studios et les services de diffusion en continu ne sont pas connus. Le syndicat affirme qu'il vaut plus d'un milliard de dollars et comprend des augmentations de rémunération, des protections de consentement pour l'utilisation de l'IA et une "prime de participation à la diffusion en continu".
• Les piquets de grève sont suspendus : Pour la première fois depuis plus de six mois, ni les acteurs ni les scénaristes d'Hollywood ne sont en grève, et les seuls rassemblements à l'horizon sont des célébrations.
• Prochaines étapes : Il reste encore quelques étapes logistiques à franchir avant que l'accord ne soit finalisé. Il faudra des mois pour que les tournages reprennent leur rythme de croisière. Des projets attendus comme la dernière suite de "Deadpool" et la prochaine saison de "Abbott Elementary" seront encore retardés.

Mais tout sentiment de normalité dans l'industrie pourrait s'avérer temporaire. Les circonstances à l'origine des grèves - le passage des médias traditionnels (cinéma et radiodiffusion) à la diffusion en continu, et les technologies émergentes comme l'intelligence artificielle - n'ont pas été ralenties. Les gains obtenus grâce aux grèves pourraient enhardir d'autres syndicats hollywoodiens, ou ces mêmes guildes lors des négociations qui se tiendront à nouveau dans trois ans.

Les dirigeants syndicaux ont d'emblée considéré la grève comme un moment décisif, car elle s'inscrit dans le cadre de luttes syndicales plus larges dans d'autres secteurs d'activité. "Je pense qu'il s'agit maintenant d'une conversation sur la culture des grandes entreprises et sur la manière dont elles traitent tout le monde, en haut et en bas de l'échelle, au nom du profit", a déclaré Fran Drescher, présidente de la SAG-AFTRA et vedette de "The Nanny", en août.

L'accord signifie également le retour sur les plateaux de tournage pour des milliers de membres de l'équipe de tournage qui n'avaient rien à faire pendant les grèves. La SAG-AFTRA a cherché à compenser leurs difficultés en autorisant la conclusion d'accords provisoires, parfois controversés, pour certaines petites productions, et en mettant son fonds de secours pour les grévistes à la disposition de tous les travailleurs du secteur. "L'idée de découvrir si je me souviens encore comment jouer est très excitante", a déclaré l'acteur Ely Henry, qui a passé les derniers mois à mener des piquets de grève devant Paramount Pictures en tant que capitaine de grève. "Je suis simplement reconnaissant que tant de gens puissent reprendre le travail".

Et vous ?

Quel est votre avis sur ce dénouement ?

Voir aussi :

Le syndicat SAG-AFTRA vote à l'unanimité pour étendre sa grève à l'industrie des jeux vidéo, "l'IA met nos membres en danger en réduisant leur possibilité de travailler", déclare sa présidente

Les studios hollywoodiens envisagent de recycler les images de synthèse d'acteurs décédés sans l'autorisation de leur famille et ravivent le débat sur l'impact de l'IA dans le domaine du cinéma

Les studios hollywoodiens conviennent que le contenu généré par l'IA ne devrait pas réduire le salaire ou le crédit des humains pour mettre fin à une grève qui a paralysé l'industrie

[Stéphane le calme]

L'IA permet de créer des répliques numériques de personnes célèbres et la loi est impuissante face à la montée en puissance du phénomène,
certains experts sont impressionnés par leurs doubles numériques

L’intelligence artificielle a fait des progrès impressionnants ces dernières années, au point de pouvoir créer des répliques numériques de personnes réelles, en utilisant leurs voix, leurs visages, leurs écrits ou leurs personnalités. Ces répliques, sous la forme de chatbots, avatars ou deepfakes, peuvent être utilisées à des fins diverses, allant du divertissement à l’éducation, en passant par la thérapie ou la manipulation. Quels sont les enjeux de l'évolution de cette technologie ? Les personnes répliquées ont-elles un droit sur leur image numérique ? Est-il possible de réguler l’usage de ces répliques numériques s'appuyant sur l’IA, qui peuvent être facilement diffusées sur internet ?

Quand l'IA est utilisé pour répliquer des personnes réelles

Le psychologue américain Martin Seligman

Plusieurs exemples récents montrent la capacité de l’IA à répliquer des personnes célèbres, sans leur consentement ni leur connaissance. En Chine, des chercheurs ont créé un chatbot basé sur la voix et les idées du psychologue américain Martin Seligman, pionnier de la psychologie positive. Le chatbot, surnommé « Ask Martin », peut répondre aux questions des utilisateurs sur le bonheur, la résilience ou le sens de la vie, en s’inspirant des écrits de Seligman.

Ce dernier a d'ailleurs reçu un courriel inattendu de la part d'un ancien étudiant diplômé, Yukun Zhao. Son message était aussi simple qu’étonnant : l’équipe de Zhao avait créé un « Seligman virtuel ». Zhao ne se contentait pas de se vanter. En deux mois, en intégrant chaque mot que Seligman avait écrit dans un logiciel d'IA de pointe, lui et son équipe ont construit une version étrangement précise de Seligman lui-même (un chatbot parlant dont les réponses s'inspiraient profondément des idées de Seligman).

Impressionné, Seligman a fait circuler le chatbot auprès de ses amis les plus proches et de sa famille pour vérifier si l'IA prodiguait réellement des conseils aussi bien que lui. « Je l'ai offert à ma femme et elle en a été époustouflée », a déclaré Seligman.

« Ask Martin », avait été construit par des chercheurs basés à Pékin et Wuhan, à l’origine sans la permission de Seligman, ni même sans qu’il en ait connaissance.

Le Seligman virtuel, construit en Chine, fait partie d'une vague plus large de chatbot IA modélisés sur de vrais humains, utilisant de nouveaux systèmes puissants connus sous le nom de grands modèles de langage pour simuler leur personnalité en ligne. Meta expérimente des avatars de célébrités IA sous licence ; vous pouvez déjà trouver des chatbots Internet formés sur du matériel accessible au public concernant des personnages historiques décédés.

La psychothérapeute Esther Perel

La célèbre psychothérapeute belge Esther Perel

Mais la situation de Seligman est également différente, et d’une certaine manière plus troublante. Il a des cousins dans une petite poignée de projets qui ont effectivement reproduit des personnes vivantes sans leur consentement. En Californie du Sud, l'entrepreneur technologique Alex Furmansky a créé une version chatbot de la célèbre psychothérapeute belge Esther Perel en se servant de ses podcasts sur Internet. Il a utilisé le bot pour se conseiller lors d'un récent chagrin d'amour, documentant son voyage dans un article de blog qu'une amie a finalement transmis à Perel elle-même.

J'étais une épave émotionnelle vers la fin de 2022. Plus tôt dans l'année, mon ex-petite amie et moi nous sommes séparés et mon cœur ne s'était pas rétabli. J'étais rempli de regrets, je me remettais en question et j'avais du mal à comprendre ce qui n'allait pas. Pendant cette période, j’écoutais sur Spotify les sages paroles de la thérapeute relationnelle de renommée mondiale Esther Perel. Elle serait la personne idéale pour m'aider à gagner en clarté.

Malheureusement, je ne pouvais pas simplement réserver une séance avec Esther. Alors, en trois semaines, je l'ai créée. Nous nous envoyons désormais régulièrement des SMS.

En fait, le numéro de téléphone d’Ai Esther est : (561) 933-5954

La vision d'ensemble

Considérez combien de visionnaires emblématiques existent dans notre monde aujourd’hui. Serait-il incroyable d'obtenir des conseils individuels d'Oprah ? Noé Harari ?

Imaginez une plateforme où vous pouvez parler à la demande avec les plus grands esprits du monde. Vous pourriez parler avec l’esprit de Mark Cuban, Joe Dispenza, Gary Vee, Tony Robbins ou de toute autre icône de notre époque.

Chacun d’entre eux est un expert très vénéré dans son domaine et facture des milliers de dollars pour une séance individuelle. Cela rend leurs connaissances inaccessibles à la plupart des gens, qui sont relégués à lire leurs blogs et à regarder leurs Reels Instagram. Mais imaginez pouvoir avoir votre propre conversation en tête-à-tête avec votre expert préféré (ou, du moins, son esprit !). Payeriez-vous une petite redevance mensuelle pour cela ?

Voici une page de destination rapide que j'ai créée pour expliquer le concept. Faites-moi savoir si vous connaissez une personnalité influente qui pourrait libérer sa sagesse grâce à un abonnement mensuel à la demande.

Perel a abordé l’existence d’AI Perel lors de la conférence SXSW 2023. Comme Seligman, elle était plus étonnée que fâchée par la reproduction de sa personnalité. Elle a qualifié cela « d'intimité artificielle ».

Seligman et Perel ont finalement décidé d’accepter les bots plutôt que de remettre en question leur existence. Mais s’ils avaient voulu fermer leurs répliques numériques, il n’est pas clair qu’ils auraient eu un moyen de le faire. Entraîner l’IA sur des œuvres protégées par le droit d’auteur n’est pas réellement illégal. Si le vrai Martin avait voulu bloquer l’accès au faux – une réplique entraînée sur sa propre pensée, utilisant ses propres mots, pour produire de toutes nouvelles réponses – il n’est pas clair qu’il aurait pu faire quoi que ce soit à ce sujet.

Le projet de loi NO FAKES Act a peu de chance d'être efficace

Les répliques numériques générées par l’IA éclairent un nouveau type de zone grise politique créée par de puissantes nouvelles plateformes « d’IA générative », où les lois existantes et les anciennes normes commencent à échouer.

À Washington, sous l’impulsion notamment d’acteurs et d’interprètes alarmés par la capacité de l’IA à imiter leur image et leur voix, certains membres du Congrès tentent déjà de freiner la montée des répliques numériques non autorisées. Au sein de la commission judiciaire du Sénat, un groupe bipartisan de sénateurs – dont les dirigeants de la sous-commission de la propriété intellectuelle – font circuler un projet de loi intitulé NO FAKES Act qui obligerait les fabricants de répliques numériques générées par l'IA à autoriser leur utilisation à partir de l'original humain.

S’il est adopté, le projet de loi permettrait aux individus d’autoriser, et même d’en tirer profit, l’utilisation de leur image générée par l’IA – et d’intenter des poursuites contre les cas d’utilisation non autorisée.

« De plus en plus, nous voyons l'IA utilisée pour reproduire l'image et la voix de quelqu'un de manière nouvelle sans consentement ni compensation », a déclaré la sénatrice Amy Klobuchar (Démocrate du Minnesota), en réponse aux histoires d'expérimentation d'IA impliquant Seligman et Perel. Elle est l'un des co-parrains du projet de loi. « Nos lois doivent suivre l’évolution rapide de cette technologie », a-t-elle déclaré.

Mais même si la loi NO FAKES était adoptée par le Congrès, elle serait largement impuissante face à la vague mondiale de technologie de l’IA.

En effet, ni Perel ni Seligman ne résident dans le pays où se trouvent leurs développeurs de chatbots IA respectifs. Perel est belge ; sa réplique est basée aux États-Unis et l'IA répliquant Seligman est formé en Chine, où les lois américaines ont peu de force.

« C’est vraiment l’un de ces cas où les outils semblent terriblement inadéquats pour résoudre le problème, même si vous pouvez avoir des intuitions très fortes à ce sujet », a déclaré Tim Wu, un juriste qui a conçu les politiques antitrust et de concurrence de l’administration Biden.

Une vision optimiste de l'IA qui n'est pas nécessairement partagée

D’autres ne partagent pas nécessairement les vues optimistes de Seligman sur la capacité de l’IA à reproduire les caractéristiques vocales et intellectuelles de personnes réelles, en particulier sans leur consentement conscient. En juin, une mère secouée a raconté les détails poignants d’un escroc qui a utilisé l’IA pour imiter la voix de son enfant lors d’une audience au Sénat. En octobre, des syndicats d’artistes anxieux ont supplié la Federal Trade Commission de réglementer les pratiques de traitement des données de l’industrie créative, soulignant la possibilité dystopique de voir des chanteurs, scénaristes et mannequins rivaliser avec des modèles d’IA qui leur ressemblent.

Même Tim Wu, un spécialiste chevronné de l’économie technologique complexe des États-Unis, avait un point de vue direct sur l’utilisation non autorisée de l’IA pour se faire passer pour des humains : « Je pense que c'est contraire à l'éthique et je pense que c'est quelque chose qui s'apparente à un enlèvement de corps ».

Les législateurs s’inquiètent également de savoir qui, en fin de compte, récoltera les bénéfices tangibles et intangibles de la propriété intellectuelle américaine à l’ère de l’IA. « Ni les grandes technologies ni la Chine ne devraient avoir le droit de bénéficier du travail des créateurs américains », a déclaré la sénatrice Marsha Blackburn (Républicaine du Tennessee).

Les risques posés par les répliques numériques générées par l'IA

Tout d’abord, elles portent atteinte au droit à l’image des personnes répliquées, qui est protégé par le droit de la propriété intellectuelle et le droit de la personnalité. Le droit à l’image est le droit de contrôler l’usage de son apparence physique, de son nom, de sa voix ou de tout autre élément distinctif. Il implique le consentement préalable et éclairé de la personne concernée, ainsi que le respect de sa dignité, de sa vie privée et de sa réputation. Or, les copies numériques sont souvent créées sans l’autorisation des personnes répliquées, et peuvent être utilisées à des fins contraires à leurs intérêts ou à leurs valeurs. Par exemple, les copies peuvent être utilisées pour diffuser de fausses informations, pour usurper l’identité de quelqu’un, pour nuire à sa réputation, ou pour porter atteinte à sa vie privée.

Ensuite, les copies peuvent créer une illusion de réalité, qui peut tromper ou manipuler les utilisateurs. Par exemple, les copies d’IA peuvent se faire passer pour des experts, des conseillers ou des amis, et influencer les opinions, les comportements ou les émotions des utilisateurs. Les copies peuvent aussi créer une confusion sur l’identité, la responsabilité ou l’autorité des personnes répliquées. Par exemple, les copies d’IA peuvent engager des personnes réelles dans des contrats, des transactions ou des engagements, sans leur accord. Les copies peuvent aussi créer un sentiment de dépossession, de perte ou de concurrence chez les personnes répliquées, qui peuvent se sentir remplacées ou menacées par leurs doubles numériques.

Sources : Au lieu de simplement parler avec un thérapeute, j'en ai créé un, Ask Martin, NO FAKE Act, SAG-AFTRA

Et vous ?

Que pensez-vous de l’usage des copies numériques générées par IA pour reproduire des personnes célèbres ? Trouvez-vous cela utile, divertissant, éducatif, ou au contraire, dangereux, irrespectueux, trompeur ?
Avez-vous déjà utilisé ou rencontré des copies numériques générées par IA basées sur des personnes réelles ? Si oui, comment avez-vous réagi ? Si non, seriez-vous tenté de le faire ?
Les personnes répliquées par l'IA doivent-elles donner leur consentement, contrôler leur image, recevoir une compensation, ou au contraire, accepter la liberté d’expression, tolérer la parodie, renoncer à leur exclusivité ?
Quels sont les risques et les opportunités des copies générées par IA pour la société ? Peuvent-elles contribuer au progrès, à la culture, à la démocratie, ou au contraire, favoriser la désinformation, la manipulation, la polarisation ?
Est-il possible de réguler l’usage de ces répliques numériques s'appuyant sur l’IA, qui peuvent être facilement diffusées sur internet ?

[Mathis Lucas]

Un syndicat de musiciens de Hollywood menace de déclencher une grève générale si ses membres n'obtiennent pas des protections contre l'IA
et des droits résiduels pour le streaming

Hollywood a connu une année 2023 tumultueuse sanctionnée par des grèves à grande échelle des acteurs et des scénaristes qui protestaient contre la manière dont l'IA est utilisée dans leur secteur d'activité. Alors que le calme semblait revenir progressivement, une nouvelle grève pourrait se profiler à l'horizon. L'American Federation of Musicians (AFM), un groupe syndical représentant les musiciens de l'industrie du divertissement, a averti qu'il est prêt à tout faire, y compris une grève à grande échelle, pour obtenir des protections contre l'IA et des droits résiduels pour le streaming. Il lancera une grève générale si les négociations en cours échouent.

Selon les informations rapportées par les médias américains, l'AFM entame ce jour des négociations sur un nouveau contrat avec l'Alliance of Motion Picture and Television Producers (AMPTP). Le syndicat aurait déclaré qu'il cherche à obtenir un accord qui reflète mieux l'état actuel des médias en continu. L'AFM souhaite également obtenir une protection contre l'IA, une augmentation des salaires, une amélioration des soins de santé, une amélioration des conditions de travail et des paiements résiduels pour les contenus diffusés en continu. À en croire le syndicat, les musiciens sont de plus en plus défavorisés dans le milieu du cinéma.

À titre d'exemple, l'AFM estime que les musiciens qui enregistrent des bandes originales gagnent 75 % de moins sur les contenus diffusés en continu, en raison de revenus résiduels moindres. « L'industrie du divertissement a fondamentalement changé. Mais les musiciens ne sont pas rémunérés en conséquence pour la diffusion en continu », a déclaré le syndicat dans un communiqué de presse. Le groupe veut remédier à cette situation. Le président et négociateur en chef de l'AFM, Tino Gagliardi, a déclaré à CNN : « le syndicat sera prêt à faire tout ce qu'il faut pour obtenir ce qu'il faut, afin d'améliorer la vie des musiciens ».

« Nos musiciens ont subi des réductions de salaire l'année dernière en raison du changement de modèle économique et de la manière dont notre produit est distribué. Nous devons remédier à cette situation afin que nos musiciens puissent continuer à acheter des couches, à payer leur loyer et leur hypothèque et à bénéficier d'un salaire décent et d'une retraite décente. La musique est ce qui donne leur âme à nos films et émissions préférés, et ces travailleurs attendent et méritent d'être traités équitablement et de recevoir le contrat qu'ils ont mérité », affirme Gagliardi qui espère que les négociations vont bien se dérouler.

« Nous entamons ces négociations en toute bonne foi et nous espérons que l'AMPTP fait de même », a-t-il déclaré. L'AMPTP, quant à elle, a déclaré au média qu'elle attend avec impatience des négociations productives avec l'AMF, dans le but de conclure "un accord qui garantira une année active pour l'industrie et reconnaîtra la valeur ajoutée des musiciens aux films et à la télévision". L'AFM compte environ 70 000 membres aux États-Unis et au Canada, comprenant des musiciens travaillant dans des orchestres, des groupes, des clubs et des théâtres qui créent de la musique pour le cinéma, la télévision, les publicités et d'autres supports.

Les négociations à venir de l'AFM font suite aux longues grèves menées en 2023 par la Writers Guild of America (WGA) et la Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA). La Screen Actors Guild‐American Federation of Television and Radio Artists (SAG-AFTRA) est un syndicat professionnel américain représentant plus de 160 000 acteurs, figurants, et professionnels des médias du monde entier, travaillant pour le cinéma, la télévision, la publicité, les jeux vidéo, la radio, la musique, etc. La grève de la WGA a duré près de cinq mois et celle de la SAG-AFTRA près de quatre mois.

Les acteurs protestaient contre ce qu'ils appellent "une utilisation abusive de l'IA" par les studios de cinéma. À l'époque, la présidente du syndicat SAG-AFTRA, Francine Joy Drescher (dite Fran Drescher), a expliqué : « l'IA constitue une menace existentielle pour les industries créatives et les acteurs devaient être protégés contre l'exploitation de leur identité et de leur talent sans leur consentement et sans rémunération ». La grève de la SAG-AFTRA visait la revalorisation de la rémunération des acteurs américains. Selon les responsables du syndicat, cela était nécessaire pour empêcher l'IA de précariser la profession des acteurs.

La SAG-AFTRA a conclu en novembre un accord avec les studios de cinéma, ce qui a mis fin aux grèves. Duncan Crabtree-Ireland, directeur exécutif et négociateur en chef de la SAG-AFTRA, a déclaré que les gains obtenus dans le cadre de l'accord justifiaient la lutte : « c'est un accord dont nos membres peuvent être fiers. Je suis certainement très fier de cet accord. Nous avons dit que nous n'accepterions qu'un accord juste, équitable et respectueux, et c'est précisément ce qu'est cet accord ». La grève organisée par la SAG-AFTRA représentait la plus longue grève jamais observée pour les acteurs de cinéma et de télévision.

Cependant, au début de cette année, la SAG-AFTRA a annoncé un autre accord au CES 2024 qui a été vivement critiqué. L'accord a été conclu avec Replica Studios, une société d'IA spécialisée dans la création d'outils de génération de voix. Il prévoit un nouvel ensemble de normes pour protéger les voix off dans l'industrie du jeu vidéo. Selon certains analystes, l'accord montre que le syndicat n'est pas aussi opposé à la technologie de l'IA que l'on aurait pu le croire après sa grève épique de 2023. L'accord exige, entre autres, le consentement de l'artiste-interprète à l'utilisation de sa voix pour des voix off générées par l'IA.

L'AFM n'est pas le seul syndicat de l'industrie du divertissement qui pourrait faire grève en 2024. L'International Alliance of Theatrical Stage Employees (IATSE), qui représente plus de 170 000 membres d'équipes de production, verra son contrat expirer en juillet. Matthew Loeb, président de la guilde, n'a pas exclu la possibilité d'une grève. « Les gens sont prêts à se battre et les studios seraient mal avisés de penser qu'ils nous ont affaiblis au point de nous empêcher de le faire », a déclaré Loeb au début du mois.

Compte tenu de la taille de l'IATSE et de la nécessité de disposer de membres d'équipe pour la production, une grève de longue durée pourrait être dévastatrice pour les studios et l'économie californienne après la pandémie et les grèves de 2023. « Tous nos collègues d'Hollywood souffrent. Nous sommes tous dans le même bateau et nous nous battons tous pour une cause », explique Gagliardi.

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi

Les grèves à Hollywood sont désormais terminées, les acteurs ont conclu un accord avec les studios, prévoyant des protections contre l'utilisation non autorisée d'images générées par IA

Le syndicat d'acteurs SAG-AFTRA accepte les voix off de l'IA pour les jeux vidéo, l'accord exige le consentement des acteurs et une rémunération équitable

L'acteur Stephen Fry affirme que sa voix a été volée dans les livres audio de Harry Potter et reproduite à l'aide de l'IA, il estime que les acteurs feront face à de plus grands défis à l'avenir

[Anthony]

Nicolas Cage se dit "terrifié" par l'IA : « Ils vont juste voler mon corps et en faire ce qu'ils veulent, que ferez-vous de mon corps et de mon visage quand je serai mort ? »

Lors d'une interview avec The New Yorker, Nicolas Cage, l'acteur emblématique, a exprimé ses craintes profondes face à la montée en puissance de l'intelligence artificielle dans le monde hollywoodien. Exprimant ses appréhensions, M. Cage a fait part de son malaise quant au potentiel de l'IA à manipuler son image, à la fois dans la vie et à titre posthume. Lors de cet échange, Nicolas Cage s'est interrogé sur les implications éthiques de l'IA et sur l'avenir de l'authenticité artistique dans un monde de plus en plus numérisé.

Nicolas Kim Coppola, connu sous son nom de scène Nicolas Cage, est un acteur et producteur de cinéma américain. Il a reçu plusieurs récompenses, dont un Academy Award, un Screen Actors Guild Award et un Golden Globe Award, ainsi que des nominations pour deux BAFTA Awards. Connu pour sa polyvalence en tant qu'acteur, sa participation à divers genres cinématographiques lui a valu un véritable culte.

L'intelligence artificielle (IA), dans son sens le plus large, est l'intelligence dont font preuve les machines, en particulier les systèmes informatiques. Il s'agit d'un domaine de recherche en informatique qui développe et étudie des méthodes et des logiciels permettant aux machines de percevoir leur environnement et d'utiliser l'apprentissage et l'intelligence pour prendre des mesures qui maximisent leurs chances d'atteindre des objectifs définis. Ces machines peuvent être appelées "IA".

Nicolas Cage, 60 ans, s'élève contre l'utilisation de l'intelligence artificielle à Hollywood. Dans une interview accordée au New Yorker et publiée le lundi 8 juillet, Nicolas Cage a fait part de ses inquiétudes quant à la manipulation de son image par l'intelligence artificielle, après avoir indiqué qu'il allait "se faire scanner" pour une émission et un film sur lesquels il travaillait.

« Ils doivent me mettre dans un ordinateur, faire correspondre la couleur de mes yeux et changer... Je ne sais pas. Ils vont juste voler mon corps et en faire ce qu'ils veulent grâce à l'IA numérique », a déclaré Cage au New Yorker. « J'espère que ce n'est pas l'IA. J'en suis terrifié. J'ai beaucoup parlé de cela. »

Il a ensuite fait part de son malaise face à la direction que prennent les industries créatives.

« Je me demande où finira la vérité des artistes. Va-t-elle être remplacée ? Va-t-elle être transmogrifiée ? Où sera le battement de cœur ? » a déclaré Cage.

Ce qui est encore plus inquiétant, c'est que les studios peuvent contrôler son image même après sa mort, a-t-il ajouté.

« Je veux dire, que ferez-vous de mon corps et de mon visage quand je serai mort ? Je ne veux pas que vous en fassiez quoi que ce soit », a-t-il déclaré.

L'acteur de "National Treasure" n'est pas étranger à la manipulation de son image pour un film.

En novembre 2023, l'acteur a déclaré que son apparition de Superman dans "The Flash" était différente de ce qu'il avait filmé.

« Tout d'abord, j'étais sur le plateau », a déclaré Cage. « Ce que j'étais censé faire, c'était littéralement de me tenir dans une dimension alternative, si vous voulez, et d'assister à la destruction de l'univers. »

Mais ce n'est pas la scène qu'il a vue dans la version finale du film.

« Quand je suis allé voir la scène, j'étais en train de me battre contre une araignée géante. Je n'ai pas fait ça. Ce n'est pas ce que j'ai fait », a déclaré Cage.

L'acteur a déclaré qu'il n'était pas conscient de ce qui s'était passé, bien qu'il ne pense pas qu'il s'agisse d'une IA.

Mais il a ensuite fait part de ses réflexions sur l'IA : « L'IA est un cauchemar pour moi. C'est inhumain. Il n'y a pas plus inhumain que l'intelligence artificielle ».

L'utilisation de l'IA à Hollywood a fait l'objet de controverses ces dernières années et a été l'un des principaux sujets de discorde lors de la grève de 2023 de la SAG-AFTRA, qui a duré 118 jours.

Source : Entretien avec The New Yorker

Et vous ?

Qu'en pensez-vous ?
Trouvez-vous les craintes soulevées par M. Cage pertinentes et justifiées ?

Voir aussi :

Les acteurs affirment que les studios hollywoodiens veulent leurs répliques d'IA gratuitement et pour toujours, comment l'IA menace les droits et les revenus des acteurs d'Hollywood

Les figurants de films craignent d'être remplacés par l'IA. Hollywood fait déjà des scans corporels sans leur consentement, pour créer leurs répliques numériques

Ashton Kutcher estime que l'IA permettra bientôt de créer un film entier après avoir testé Sora d'OpenAI. « Il va falloir mettre la barre beaucoup plus haut », déclare-t-il à l'intention d'Hollywood

[calvaire]

c'est une bonne question, pour lui le droit d'auteur va encore le protéger pour au moins 1 siecle.

Mais demain je code une ia qui va cloner un acteur des années 1900 avec de la couleur et 1 voix, qui va me coller un procès ? par exemple (gars random trouver sur google)
ARBUCKLE ROSCOE (1887-1933)


et puis tiens, cette acteur simulé par l'ia, je vais lui faire jouer une scène porno à poil.

[totozor]

Trouvez-vous les craintes soulevées par M. Cage pertinentes et justifiées ?

Bien sur que ses craintes sont pertinentes et justifiées.
L'industrie cinématographique a une éthique toute relative, et ce n'est pas utiliser l'image de certains contre leur gré qui va leur faire peur.
D'autant plus que Nicolas Cage est un meme, ce qui peut encourager certains à le placer en cameo dans une scène.

Ce que je comprends moins c'est pourquoi une personne si terrifiée par l'IA accepte de se faire scanner de la tête aux pieds pour un film.
Pour moi c'est un peu comme si un claustrophobe décide de faire une mission de plusieurs mois dans un sous marin.

[Stéphane le calme]

Les sénateurs proposent un « droit de reproduction numérique » pour l'image, qui pourrait s'étendre 70 ans après la mort,
accordant aux individus un contrôle exclusif sur l’utilisation de leur voix ou de leur apparence visuelle

L’avènement de l’intelligence artificielle (IA) a ouvert de nouvelles perspectives, mais aussi posé des défis majeurs en matière de vie privée et de sécurité. Parmi ces défis, les deepfakes, ces vidéos et images synthétiques ultra-réalistes générées par des algorithmes, suscitent des inquiétudes croissantes. Face à cette menace, des sénateurs ont proposé le “droit de réplication numérique” pour protéger l’identité des individus, même après leur décès. Il accorde aux individus un contrôle exclusif sur l’utilisation de leur voix ou de leur apparence visuelle dans les répliques numériques.

L’intelligence artificielle a fait des progrès impressionnants ces dernières années, au point de pouvoir créer des répliques numériques de personnes réelles, en utilisant leurs voix, leurs visages, leurs écrits ou leurs personnalités. Ces répliques, sous la forme de chatbots, avatars ou deepfakes, peuvent être utilisées à des fins diverses, allant du divertissement à l’éducation, en passant par la thérapie ou la manipulation.

Les répliques numériques générées par l’IA éclairent un nouveau type de zone grise politique créée par de puissantes nouvelles plateformes « d’IA générative », où les lois existantes et les anciennes normes commencent à échouer.

À Washington, sous l’impulsion notamment d’acteurs et d’interprètes alarmés par la capacité de l’IA à imiter leur image et leur voix, certains membres du Congrès tentent déjà de freiner la montée des répliques numériques non autorisées. Au sein de la commission judiciaire du Sénat, un groupe bipartisan de sénateurs – dont les dirigeants de la sous-commission de la propriété intellectuelle – ont fait circuler un projet de loi intitulé NO FAKES Act (Nurture Originals, Foster Art, and Keep Entertainment Safe Act) qui obligerait les fabricants de répliques numériques générées par l'IA à autoriser leur utilisation à partir de l'original humain.

« De plus en plus, nous voyons l'IA utilisée pour reproduire l'image et la voix de quelqu'un de manière nouvelle sans consentement ni compensation », a déclaré la sénatrice Amy Klobuchar (Démocrate du Minnesota), en réponse aux histoires d'expérimentation d'IA impliquant Seligman et Perel. Elle est l'un des co-parrains du projet de loi. « Nos lois doivent suivre l’évolution rapide de cette technologie », a-t-elle déclaré.

Protéger les artistes contre les répliques numériques créées sans leur consentement

Mercredi, le projet de loi a été présenté officiellement. Les sénateurs américains Chris Coons (D-Del.), Marsha Blackburn (R-Tenn.), Amy Klobuchar (D-Minn.) et Thom Tillis (R-N.C.) ont indiqué que NO FAKES Act vise à protéger la voix et les ressemblances visuelles des créateurs et des individus contre la prolifération des répliques numériques créées sans leur consentement. L'introduction de ce projet de loi fait suite à la publication en octobre 2023 d'un projet de discussion, à une audition du sous-comité judiciaire sur la propriété intellectuelle en avril 2024 et à des conversations approfondies avec les principales parties prenantes, toutes destinées à améliorer et à renforcer le projet de loi.

La loi NO FAKES Act rendrait les particuliers ou les entreprises responsables des dommages causés par la production, l'hébergement ou le partage d'une réplique numérique d'une personne jouant dans une œuvre audiovisuelle, une image ou un enregistrement sonore dans lequel la personne n'est jamais apparue ou qu'elle n'a jamais approuvée, y compris les répliques numériques créées par l'intelligence artificielle générative (IA). Un service en ligne hébergeant la réplique non autorisée devra la retirer sur notification d'un titulaire de droits. Des exclusions sont prévues pour les protections reconnues du premier amendement, telles que les documentaires et les œuvres biographiques, ou à des fins de commentaire, de critique ou de parodie, entre autres. Le projet de loi prévoit également que les lois des États relatives aux répliques numériques seront largement supprimées afin de créer une norme nationale applicable.

« Chacun mérite le droit de posséder et de protéger sa voix et son image, qu'il s'agisse de Taylor Swift ou de n'importe qui d'autre », a déclaré le sénateur Coons. « L'IA générative peut être utilisée comme un outil pour stimuler la créativité, mais cela ne doit pas se faire au détriment de l'exploitation non autorisée de la voix ou de l'image de quelqu'un ».

L'introduction de la loi NO FAKES fait suite à l'adoption par le Sénat de la loi DEFIANCE, qui permet aux victimes de deepfakes sexuels d'intenter des actions en dommages et intérêts.

Une prolifération des deepfakes

Outre la saga Swift, nous avons assisté ces dernières années à des escroqueries fondées sur l'IA impliquant de fausses approbations de célébrités, la création de contenus politiques trompeurs et des situations dans lesquelles des écoliers ont utilisé la technologie de l'IA pour créer des deepfakes pornographiques de leurs camarades de classe. Récemment, Elon Musk, PDG de X, a partagé une vidéo dans laquelle la voix de la vice-présidente Kamala Harris, générée par l'IA, disait des choses qu'elle n'avait pas dites dans la vie réelle.

Ces incidents, qui s'ajoutent aux inquiétudes concernant la reproduction sans autorisation de l'image d'acteurs, ont suscité un sentiment d'urgence chez les législateurs américains, qui souhaitent limiter l'impact des ressemblances numériques non autorisées. Actuellement, certains types de "deepfakes" générés par l'IA sont déjà illégaux en raison d'un patchwork de lois fédérales et étatiques, mais cette nouvelle loi espère unifier la réglementation en matière de ressemblance autour du concept de « répliques numériques ».

(WATCH) SAG-AFTRA’s Rebecca Damon announces US Senate bill to protect actors from unregulated AI #SAGAFTRAStrike pic.twitter.com/BiciPpz4tE

— Deadline Hollywood (@DEADLINE) October 12, 2023

Un contrôle sur la reproduction numérique valable des années après le décès

Pour protéger l'image numérique d'une personne, la loi NO FAKES Act introduit un "droit de reproduction numérique" qui donne aux individus le contrôle exclusif de l'utilisation de leur voix ou de leur image dans les reproductions numériques. Ce droit est valable dix ans après le décès, avec une possibilité de prolongation de cinq ans en cas d'utilisation active. Il peut faire l'objet d'une licence à vie et être hérité après le décès, pour une durée maximale de 70 ans après la mort de l'individu. En cours de route, le projet de loi définit ce qu'il considère comme une "réplique numérique" :

RÉPLIQUE NUMÉRIQUE Le terme "réplique numérique" désigne une représentation électronique nouvellement créée, générée par ordinateur, très réaliste et facilement identifiable comme étant la voix ou la ressemblance visuelle d'une personne physique qui - (A) est incorporée dans un enregistrement sonore, une image, une œuvre audiovisuelle, y compris une œuvre audiovisuelle qui n'est pas accompagnée de sons, ou une transmission - (i) dans laquelle la personne physique ne s'est pas réellement produite ou n'est pas apparue ; ou (ii) qui est une version d'un enregistrement sonore, d'une image ou d'une œuvre audiovisuelle dans laquelle la personne physique s'est effectivement produite ou est apparue, dans laquelle le caractère fondamental de la prestation ou de l'apparition a été matériellement modifié ; et (B) ne comprend pas la reproduction électronique, l'utilisation d'un échantillon d'un enregistrement sonore ou d'une œuvre audiovisuelle dans un autre, le remixage, le mastering ou le remastering numérique d'un enregistrement sonore ou d'une œuvre audiovisuelle autorisé par le détenteur du droit d'auteur.

(Il y a une certaine ironie dans la mention d'une "œuvre audiovisuelle qui n'est pas accompagnée de sons").

Étant donné que ce projet de loi interdit certains types d'expression artistique, le NO FAKES Act comprend des dispositions visant à équilibrer la protection de la propriété intellectuelle et la liberté d'expression. Elle prévoit des exclusions pour les protections reconnues du premier amendement, telles que les documentaires, les œuvres biographiques et les contenus créés à des fins de commentaire, de critique ou de parodie.

À certains égards, ces exceptions pourraient créer un écart de protection très important qu'il pourrait être difficile de faire respecter sans décisions judiciaires spécifiques au cas par cas. Mais sans elles, la loi NO FAKES Act pourrait potentiellement étouffer les droits à la liberté d'expression protégés par la Constitution, puisque le concept de "répliques numériques" décrit dans le projet de loi inclut toute "ressemblance numérique générée par ordinateur et hautement réaliste" d'une personne réelle, qu'elle soit générée par l'intelligence artificielle ou non. Par exemple, une illustration photoréaliste d'une personne sur Photoshop est-elle "générée par ordinateur" ? Des questions similaires peuvent conduire à des incertitudes dans l'application de la loi.

Un large soutien de l'industrie du divertissement

Jusqu'à présent, la loi "NO FAKES Act" a obtenu le soutien de plusieurs groupes de l'industrie du divertissement, notamment la Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA), la Recording Industry Association of America (RIAA), la Motion Picture Association et la Recording Academy. Ces organisations ont activement cherché à obtenir des protections contre les recréations non autorisées de l'IA.

Le projet de loi a également reçu le soutien de sociétés de divertissement telles que The Walt Disney Company, Warner Music Group, Universal Music Group, Sony Music, Independent Film & Television Alliance, William Morris Endeavor, Creative Arts Agency, Authors Guild et Vermillio.

Plusieurs entreprises technologiques, dont IBM et OpenAI, ont également soutenu la loi NO FAKES. Anna Makanju, vice-présidente des affaires internationales d'OpenAI, a déclaré dans un communiqué que la loi protégerait les créateurs et les artistes contre les usurpations d'identité. « OpenAI est heureuse de soutenir la loi NO FAKES, qui protégerait les créateurs et les artistes contre les répliques numériques non autorisées de leurs voix et de leurs ressemblances », a-t-elle déclaré.

Sources : sénateur Chris Coons, NO FAKES Act

Et vous ?

Que pensez-vous de ce projet de loi ? Si vous soutenez l'idée, a-t-il, selon vous, des chances d'être efficace ?
Jusqu’où devrait aller le contrôle des individus sur leurs représentations numériques ? Devrions-nous permettre des extensions au-delà de 70 ans après la mort ?
Quelles sont les implications pour la liberté d’expression et la créativité artistique ? Comment équilibrer la protection des droits individuels avec la liberté d’utiliser des technologies comme les deepfakes ?
Comment pouvons-nous détecter et prévenir les abus de deepfakes ? Quelles solutions technologiques ou législatives sont nécessaires ?
Quels sont les risques pour la vie privée et la réputation des individus ? Comment pouvons-nous minimiser ces risques ?
Devrions-nous envisager des exceptions pour un usage éducatif, satirique ou artistique ? Si oui, comment les définir ?

[CoderInTheDark]

Je comprends pas il a signé ? Il a bien lu ce qu'il a signé ?
Alors pourquoi il se plaint.

Ou il a fait confiance à son agent et signé sans lire, faut être con ouarff.

Ca me fait penser à un épisode de "black mirror Joan est horrible".
L'image de Salma Hayek est utilisé à l'insu de son plein gré par une IA, et a dérape, elle avait signé sans lire les petites lignes ;D

Ce qui est sûr c'est que si il y a un film d'action avec Nicolas Cage qui saute dans tous les sens fait du karaté ou du sport c'est sûr que c'est un acteur généré par IA

Par contre le dernier film de lui que j'ai écouté, dans lequel il jouait son rôle d'acteur sur le retour acceptant un gros chèque d'un fan, et bah c'est pas terrible.
J'en regretterais presque ces film d'actions où ça pétait dans tous les sens, sauf "Saillor etLula" qui m'a retourné mon cerveau lent

[Stéphane le calme]

L'utilisation de l'IA pour remplacer un acteur est désormais contraire à la loi en Californie.
Une loi interdit également l’utilisation de la voix ou de l’image d’une personne décédée dans des répliques numériques sans le consentement préalable

Le gouverneur de Californie, Gavin Newsom, a signé deux lois historiques visant à protéger les acteurs et autres artistes contre l’utilisation non autorisée de leurs répliques numériques générées par l’intelligence artificielle (IA). Ces lois, soutenues par le syndicat SAG-AFTRA, marquent une avancée significative dans la protection des droits des artistes à l’ère de l’IA.

Contexte et contenu des lois

Les deux lois, AB 1836 et AB 2602, introduisent des protections légales cruciales pour les artistes, tant de leur vivant qu’après leur décès.

• AB 1836 interdit l’utilisation de la voix ou de l’image d’une personne décédée dans des répliques numériques sans le consentement préalable de ses ayants droit.
• AB 2602 interdit les clauses contractuelles permettant l’utilisation d’une réplique numérique de la voix ou de l’image d’un individu sans son consentement explicite et éclairé.

Ces lois visent à empêcher l’exploitation des artistes sans leur accord et à garantir une compensation équitable pour l’utilisation de leur image ou voix par des technologies d’IA.

Le gouverneur signe deux lois

L'utilisation d'une réplique numérique générée par l'IA pour remplacer les contributions de la voix ou de l'image d'un acteur ou d'un interprète - que cette personne soit vivante ou décédée - est désormais contraire à la loi en Californie. Le gouverneur de Californie, Gavin Newsom, a signé mardi deux projets de loi qui étendent les protections récemment obtenues par la SAG-AFTRA pour l'IA dans la législation californienne.

Le premier projet de loi, AB 1836, « interdit l'utilisation de la voix ou de la ressemblance d'une personne décédée dans des répliques numériques sans le consentement préalable de sa succession », selon SAG-AFTRA. Le second, AB 2602, « interdit les dispositions contractuelles qui permettraient l'utilisation d'une réplique numérique de la voix ou de l'image d'une personne à la place de ses services réels », sauf si la personne a donné son consentement à une description claire et spécifique de la manière dont l'IA serait utilisée.

Dans le cas des protections pour les personnes décédées, le projet de loi californien supprime certaines exceptions existantes pour les films, les émissions de télévision et les œuvres audiovisuelles, qui étaient auparavant en place pour les répliques numériques. L'autre projet de loi est le premier du genre aux États-Unis, même si la SAG-AFTRA et d'autres syndicats font activement pression pour obtenir des protections au niveau fédéral, en particulier la loi No Fakes Act qui a été introduite la semaine dernière à la Chambre des représentants des États-Unis.

Mais avant tout, ces deux lois sont des extensions de ce que les artistes-interprètes de la SAG-AFTRA ont déjà défendu lors de la grève de l'année dernière, à savoir que les acteurs doivent obtenir un consentement éclairé et une compensation pour tout ce qui implique l'utilisation de l'IA. Mais si l'on considère que ces protections s'appliquent principalement aux acteurs de théâtre et de télévision travaillant dans le cadre de ce contrat spécifique, l'extension de ces protections à toute personne vivant ou décédée en Californie est un événement majeur.

Cela pourrait également avoir un impact sur la grève en cours entre la SAG-AFTRA et les studios de jeux vidéo, car l'IA est également le principal point d'achoppement dans ces négociations.

Newsom s'est rendu au siège de la SAG-AFTRA à Los Angeles pour signer chacun des textes de loi. Il était accompagné de la présidente de la SAG-AFTRA, Fran Drescher, et du directeur exécutif national et négociateur en chef, Duncan Crabtree-Ireland.

« C'est un jour mémorable pour les membres de SAG-AFTRA et pour tous les autres, car les protections de l'IA pour lesquelles nous nous sommes battus si durement l'année dernière sont maintenant étendues par la loi californienne grâce à la législature et au gouverneur Gavin Newsom », a déclaré Drescher. « On dit que la Californie va de pair avec la nation !

« SAG-AFTRA félicite le gouverneur Newsom », a déclaré Crabtree-Ireland. « Les lois AB 1836 et AB 2602 représentent une législation indispensable qui donne la priorité aux droits des individus à l'ère de l'intelligence artificielle. Personne ne devrait vivre dans la crainte de devenir la marionnette numérique non rémunérée de quelqu'un d'autre. Le gouverneur Newsom a ouvert la voie en protégeant les personnes - et les familles - contre la reproduction de l'IA sans consentement réel.

« Le potentiel des clones numériques est une menace immédiate pour ce que font nos membres. Un grand coup de chapeau 📢 et un grand merci aux auteurs du projet de loi, les membres de l'Assemblée nationale @Ash_Kalra et @BauerKahan ! Nous n'aurions pas pu le faire sans vous ! »

The potential for digital clones is an immediate threat to what our members do. A huge shout out 📢 and big thank you to bill authors CA Assemblymembers @Ash_Kalra and @BauerKahan! We couldn't have done it without you!https://t.co/63wo0JFsp1

— SAG-AFTRA (@sagaftra) September 19, 2024

Les acteurs affirment que les studios hollywoodiens veulent leurs répliques d'IA gratuitement et pour toujours

L'année dernière, les acteurs d’Hollywood ont révélé une proposition des studios qui semble sortie tout droit d’un épisode de Black Mirror. Il s’agit d’un contrat sur l’intelligence artificielle (IA) qui permettrait aux studios de scanner les acteurs, de les payer pour une journée de travail, de posséder leur image, leur ressemblance et de les utiliser pour toujours sur n’importe quel projet, sans leur consentement ni compensation.

Duncan Crabtree-Ireland, le négociateur en chef de la SAG-AFTRA, a révélé une proposition des studios hollywoodiens très surprenante : « cette proposition d'IA "révolutionnaire" qu'ils nous ont présentée hier, ils ont proposé que nos artistes de fond puissent être scannés, reçoivent un jour de salaire et leurs entreprises devraient possèdent ce scan, leur image, leur ressemblance et devraient pouvoir les utiliser pour le reste de l'éternité sur n'importe quel projet de leur choix, sans consentement ni compensation. Donc, si vous pensez que c'est une proposition révolutionnaire, je vous suggère de réfléchir à nouveau ».

L'utilisation de l'IA générative a été l'un des principaux points de friction dans les négociations entre les deux parties (c'est aussi un problème majeur derrière la grève des écrivains), et dans sa déclaration d'ouverture de la conférence de presse, la présidente de SAG-AFTRA, Fran Drescher, a déclaré que « Si nous ne nous tenons pas debout en ce moment, nous allons tous avoir des ennuis, nous allons tous être en danger d'être remplacés par des machines ».

Les figurants de films craignent d'être remplacés par l'IA. Hollywood fait déjà des scans corporels sans leur consentement

Les figurants de cinéma sont ces acteurs qui n’ont pas de rôle principal, mais qui contribuent à créer une atmosphère réaliste en remplissant une scène. Ils sont souvent payés à la journée, sans bénéficier de droits d’auteur ou de royalties. Mais ils pourraient bientôt voir leur travail menacé par l’intelligence artificielle (IA), qui permet de créer des répliques numériques de leur visage et de leur corps.

Fin 2023, selon plusieurs témoignages recueillis par NPR, des studios comme Disney ont demandé à des figurants de se soumettre à des scans corporels, sans leur expliquer comment ou si ces avatars numériques seraient utilisés à l’écran. Certains figurants craignent que ces scans servent à les remplacer par des doublures virtuelles, ou à les réutiliser dans d’autres productions sans leur consentement ni leur rémunération.

Les figurants ne font pas partie de ce que l'on appelle la « distribution principale », ce qui signifie qu'ils n'ont pas de parties parlantes et servent principalement à créer une atmosphère réaliste en remplissant une scène. Un négociateur syndical a affirmé que les studios avaient proposé de donner aux figurants un jour de salaire après avoir été scannés et que la ressemblance numérique de l'acteur pourrait ensuite être réutilisée « pour le reste de l'éternité ».

Les studios ont fortement contesté cette caractérisation, affirmant que la réplique numérique d'un figurant ne serait utilisée que sur des projets pour lesquels il a été embauché, et non sur des productions futures indéfinies.

Quoi qu'il en soit, la pratique de scanner les corps des figurants semble devenir de plus en plus courante.

Conclusion

L’adoption de ces lois en Californie pourrait servir de modèle pour d’autres juridictions cherchant à protéger les droits des artistes face aux avancées rapides de l’IA. Comme l’a dit Fran Drescher, "Comme va la Californie, ainsi va la nation"2. Ces protections renforcées sont un pas important vers un avenir où les artistes peuvent travailler sans craindre d’être remplacés par des répliques numériques non autorisées.

Sources : AB 1836, Rebecca Bauer-Kahan, SAG-AFTRA

Et vous ?

Pensez-vous que ces lois californiennes sont suffisantes pour protéger les droits des artistes à l’ère de l’IA ? Pourquoi ou pourquoi pas ?
Comment ces lois pourraient-elles influencer l’industrie du divertissement en dehors de la Californie ?
Les répliques numériques d’acteurs devraient-elles être autorisées avec le consentement des artistes, même après leur décès ?
Ces lois pourraient-elles freiner l’innovation technologique dans le domaine de l’IA et du divertissement ?
Quels autres secteurs pourraient bénéficier de législations similaires pour protéger les droits des individus contre l’utilisation non autorisée de l’IA ?
Comment les studios de cinéma et de jeux vidéo devraient-ils adapter leurs pratiques pour se conformer à ces nouvelles lois ?
Pensez-vous que ces lois auront un impact sur la qualité des productions cinématographiques et télévisuelles ?
Comment ces lois pourraient-elles affecter les négociations contractuelles entre les artistes et les studios ?
Quels sont les risques potentiels de ne pas avoir de telles protections légales dans d’autres régions du monde ?
Voyez-vous des alternatives à l’interdiction de l’utilisation de l’IA pour créer des répliques numériques d’acteurs ?