Discussion :

[zecreator]

Du coup, si ça s'trouve La Joconde, De Vinci il l'a fait avec l'AI... Cet escroc, depuis le début il nous ment.

[Gluups]

Lancez voir une recherche sur "bannie parce que trop belle".
Et dites que ça ne vous rappelle rien ...

[Stéphane le calme]

Quand l’IA copie l’art : des artistes ont intenté une action en justice contre Midjourney et Stability AI pour violation de droit d'auteur,
le procès pourrait changer la donne à l'ère de l'IA

Des artistes numériques ont intenté une action en justice contre Midjourney et Stability AI, deux entreprises qui ont lancé des générateurs d’images basés sur l’intelligence artificielle et qui peuvent transformer des textes simples en images réalistes. Les artistes affirment que ces entreprises ont violé leurs droits d’auteur en utilisant leurs images, ainsi que celles de dizaines de milliers d’autres artistes, pour entraîner leurs générateurs d’images et produire des œuvres dérivées.

La plainte, déposée devant le tribunal de district des États-Unis pour le district nord de la Californie, pourrait avoir des implications importantes pour l’avenir de l’art et du droit d’auteur à l’ère de l’intelligence artificielle.

Les entreprises Midjourney et Stability AI ont lancé leurs générateurs d’images au public l’année dernière, et ont attiré plus de 10 millions d’utilisateurs. DeviantArt, une plateforme en ligne pour les artistes numériques, a également intégré la technologie de Stability AI dans son site.

Autrefois réservés à un groupe restreint d'initiés de la technologie, les systèmes d'IA texte-image sont de plus en plus populaires et puissants. Ces outils, qui offrent généralement quelques crédits gratuits avant d'être facturés, peuvent créer toutes sortes d'images avec seulement quelques mots, y compris celles qui évoquent clairement les œuvres de très nombreux artistes (si elles ne semblent pas avoir été créées par le même artiste). Les utilisateurs peuvent désigner ces artistes par des mots tels que « dans le style de » ou « par », accompagnés d'un nom spécifique. Et les utilisations actuelles de ces outils peuvent aller de l'amusement personnel à des cas plus commerciaux. Mais la découverte par des artistes que leur travail est utilisé pour entraîner l'IA soulève une préoccupation fondamentale : leur propre art est effectivement utilisé pour entraîner un programme informatique qui pourrait un jour s'attaquer à leur gagne-pain.

Quiconque génère des images avec des systèmes tels que Stable Diffusion ou DALL-E peut ensuite les vendre, les conditions spécifiques concernant le droit d'auteur et la propriété de ces images varient. « Je ne veux pas du tout participer à la machine qui va dévaloriser ce que je fais », a déclaré Daniel Danger, un illustrateur et graveur qui a appris qu'un certain nombre de ses œuvres avaient été utilisées pour entraîner Stable Diffusion.

Ces résultats sont loin d'être magiques : pour qu'un de ces systèmes puisse ingérer vos mots et produire une image, il doit être entraîné sur des montagnes de données, qui peuvent comprendre des milliards d'images extraites d'Internet, associées à des descriptions écrites.

Les accusations des artistes

Les artistes qui ont intenté le procès affirment que les entreprises d’IA ont utilisé leurs images, ainsi que celles de dizaines de milliers d’autres artistes, sans leur consentement pour entraîner leurs générateurs d’images. Ils soutiennent que cela constitue une violation flagrante de leurs droits de propriété intellectuelle, selon le code américain du droit d’auteur (17 U.S. Code § 106), la loi sur le droit d’auteur numérique (Digital Millennium Copyright Act) et la loi sur la concurrence déloyale.

Ils affirment également que les générateurs d’images produisent des œuvres dérivées, c’est-à-dire des œuvres qui incorporent suffisamment d’éléments de l’œuvre originale pour qu’il soit évident qu’elles en découlent. Ils estiment que ces œuvres dérivées portent atteinte à leur droit moral et à leur réputation, et qu’elles créent une concurrence déloyale sur le marché de l’art.

En outre, ils accusent les entreprises d’IA d’avoir permis aux utilisateurs de créer ce qu’ils appellent des « faux », c’est-à-dire des imitations du style ou de la signature d’un artiste. Par exemple, après la mort de l’illustrateur coréen Kim Jung Gi, un développeur logiciel qui se fait appeler 5you a utilisé la Stable Diffusion pour créer un modèle qui pouvait produire des images dans le style de Kim. D’autres artistes ont rapporté des exemples similaires d’utilisateurs créant des œuvres dans leur style.

Ces images sont générées par IA

Les arguments juridiques invoqués par les entreprises d'IA

Les entreprises d’IA ont demandé au tribunal de rejeter le procès des artistes, en invoquant plusieurs arguments juridiques.

Tout d’abord, elles affirment que l’utilisation des images des artistes pour entraîner leurs générateurs d’images relève de la doctrine du « fair use » (usage loyal), qui crée des exceptions au droit d’auteur pour des fins telles que la critique, le commentaire, le reportage, l’enseignement, la recherche ou la production créative « transformatrice ».

Elles soutiennent que leurs générateurs d’images ont un but éducatif et scientifique, qu’ils n’affectent pas le marché de l’art et qu’ils ne reproduisent pas les images des artistes de manière substantiellement similaire. Elles invoquent également le fait que leurs organisations sont basées en dehors des États-Unis (Stability AI au Royaume-Uni et Midjourney en Allemagne) et que le droit d’auteur américain ne s’applique pas à leurs activités.

Ensuite, elles affirment que les images générées par l’IA ne sont pas des œuvres dérivées, mais des œuvres originales et indépendantes. Elles prétendent que leurs générateurs d’images ne copient pas le style ou la signature des artistes, mais qu’ils créent des images nouvelles et uniques à partir de textes aléatoires.

Elles font valoir que le style artistique n’est pas protégé par le droit d’auteur, mais qu’il relève du domaine public. Elles ajoutent que leurs générateurs d’images ne violent pas le droit moral des artistes, car ils ne portent pas atteinte à leur intégrité ou à leur réputation.

Enfin, elles affirment que les artistes n’ont pas qualité pour agir en justice, car ils n’ont pas identifié les images spécifiques qui auraient été utilisées pour entraîner leurs générateurs d’images ni celles qui auraient été produites par l’IA. Elles estiment que les artistes n’ont pas démontré qu’ils ont subi un préjudice réel ou imminent du fait de leurs générateurs d’images.

Quelles sont les conséquences potentielles du procès ?

Le procès des artistes contre les entreprises d’IA pourrait avoir des conséquences importantes pour l’avenir de l’art et du droit d’auteur à l’ère de l’intelligence artificielle.

Si les artistes obtiennent gain de cause, ils pourraient obtenir des dommages-intérêts et une injonction interdisant aux entreprises d’IA d’utiliser leurs images sans leur autorisation. Ils pourraient également créer un précédent juridique qui limiterait l’utilisation des œuvres protégées par le droit d’auteur pour entraîner ou générer des œuvres basées sur l’IA.

Cela pourrait affecter non seulement les générateurs d’images, mais aussi d’autres types de générateurs basés sur l’IA, comme ceux qui produisent du texte, du son ou du code. Cela pourrait également inciter les créateurs à protéger davantage leurs œuvres en ligne ou à demander une compensation pour leur utilisation par les entreprises d’IA.

Si les entreprises d’IA obtiennent gain de cause, elles pourraient continuer à utiliser les images des artistes sans leur consentement ni rémunération. Elles pourraient également créer un précédent juridique qui favoriserait le “fair use” et la liberté de création à l’aide de l’IA.

Cela pourrait encourager le développement et la diffusion des générateurs d’images et d’autres outils basés sur l’IA, qui offrent de nouvelles possibilités de création et d’expression. Cela pourrait également inciter les créateurs à s’adapter aux changements technologiques et à explorer de nouvelles formes d’art numérique.

Ces images sont générées par IA

Des opinions divergentes sur le sujet

Le procès des artistes contre les entreprises d’IA suscite des opinions divergentes parmi les experts du droit et de l’art.

Certains experts soutiennent la position des artistes et estiment que les entreprises d’IA ont violé leurs droits d’auteur en utilisant leurs images sans leur consentement ni rémunération. Ils considèrent que les générateurs d’images basés sur l’IA ne sont pas des outils créatifs, mais des outils de copie et de plagiat. Ils craignent que ces outils ne nuisent à la valeur et à la singularité de l’art, et qu’ils ne dévalorisent le travail et le talent des artistes.

D’autres experts soutiennent la position des entreprises d’IA et estiment qu’elles ont respecté le droit d’auteur en utilisant les images des artistes dans le cadre du “fair use”. Ils considèrent que les générateurs d’images basés sur l’IA sont des outils innovants et transformatifs, qui ouvrent de nouvelles possibilités de création et d’expression. Ils pensent que ces outils ne menacent pas l’art, mais qu’ils le renouvellent et le diversifient.

Le procès des artistes contre les entreprises d’IA n’est pas le premier ni le dernier à aborder la question du droit d’auteur à l’ère de l’intelligence artificielle. D’autres procès similaires ont été intentés ou sont en cours dans différents pays, comme celui de Getty Images contre Stability AI au Royaume-Uni ou celui de Microsoft, GitHub et OpenAI aux États-Unis.

Ces procès soulèvent des défis juridiques et éthiques complexes, qui nécessitent une réflexion approfondie et une mise à jour des lois existantes. Ils interrogent également la nature et la finalité de l’art, ainsi que le rôle et la responsabilité des artistes et des entreprises d’IA dans la société.

L'Europe, pour sa part, est bien décidée à réguler le secteur. Il y a quelques jours, les législateurs ont voté en faveur de la loi de l'UE sur l'intelligence artificielle (AI Act), initialement proposée en avril 2021 pour faire face à l'influence grandissante de l'IA dans notre vie quotidienne. Certains regrettent que l'UE n'aborde pas les licenciements massifs envisagés par de nombreux experts. C'est le cas de Marsupial qui déclare :

Concernant les droits fondamentaux et la dignité humaine, rien dans cette loi ne parle de l'accès au travail en concurrence avec l'IA. Je crois qu'il s'agit d'une des principales préoccupations du peuple que l'accès à l'emploi, ou sa conservation, et la peur du grand remplacement. Peut-être un revenu universel en Europe ?

Source : plainte

Et vous ?

Quelle est votre opinion sur le procès des artistes contre les entreprises d’IA ? Pensez-vous que les artistes ont raison de défendre leurs droits d’auteur ou que les entreprises d’IA ont le droit d’utiliser leurs images pour créer de nouvelles œuvres ?
Quelle est votre définition de l’art ? Pensez-vous que les images générées par l’IA sont des œuvres d’art originales et indépendantes ou des copies et des plagiat des œuvres des artistes ?
Quels sont les avantages et les inconvénients des générateurs d’images basés sur l’IA pour la création et l’expression artistiques ? Pensez-vous que ces outils favorisent l’innovation et la diversité ou qu’ils nuisent à la valeur et à la singularité de l’art ?
D'ailleurs seriez-vous disposé à acheter une image créée par l'IA auprès d'un individu si vous pouviez simplement taper vous même les requêtes pour obtenir la même ?

[totozor]

Quelle est votre opinion sur le procès des artistes contre les entreprises d’IA ? Pensez-vous que les artistes ont raison de défendre leurs droits d’auteur ou que les entreprises d’IA ont le droit d’utiliser leurs images pour créer de nouvelles œuvres ?

Les artistes auraient tort de laisser ce concurrent ultra agressif entrer sur le marché.
Combien d'entreprises ne repectent pas les droits d'auteur et utilisent des images (ou musiques ou ...) pour leur communication, les artistes se retournent contre elles régulièrement et ce n'est pas un mal de mon point de vue. L'IA fait une mise à l'echelle exponentielle de ce problème.

Quelle est votre définition de l’art ? Pensez-vous que les images générées par l’IA sont des œuvres d’art originales et indépendantes ou des copies et des plagiat des œuvres des artistes ?

Pour moi l'art est un processus de création dont le résultat va être emetteur/transmetteur d'émotion.
La plupart des ouvres de l'IA ne sont pas des oeuvres d'art de mon point de vue, mais il en est de même pour les créations humaines donc je ne suis pas sur que cette distinction soit pertinente.
La plupart des produits de l'IA sont sans interet dont certains éléments sont tellement génériques ou dont la référence est tellement claire qu'on ne peut plus parler de création originale.
Je trouve que l'IA a malgré tout cette faculté de faire des oeuvres proches d'une certaine réalité mais qui ont des éléments incohérents qui font tiquer et donnent une dimension dérangeante que je trouve interressante.

Quels sont les avantages et les inconvénients des générateurs d’images basés sur l’IA pour la création et l’expression artistiques ? Pensez-vous que ces outils favorisent l’innovation et la diversité ou qu’ils nuisent à la valeur et à la singularité de l’art ?

Depuis combien de temps les gens se plaignent de ne pas avoir d'oeuvre originale au cinéma (on a des suites, des adaptations, des remakes, des plagiats) et vont malgré tout voir chaque film du MCU, star wars ou la Nième adaptation d'une nouvelle de Philip K Dick ou Stephen King?
Biensur que si le générateur d'image qui sert à faire une image complète nuit à l'innovation parce que le consommateur ne cherche pas quelquechose d'innovant mais quelquechose qui marque. Combien de vues de New York en noir et blanc avec un détail en couleur dans les salons Français?
Mais j'ai aussi vu un photographe supprimer un élément de sa photo et gagner un temps monstre en faisant générer un détail qui était masqué par Midjourney et l'integrer dans sa photo.

D'ailleurs seriez-vous disposé à acheter une image créée par l'IA auprès d'un individu si vous pouviez simplement taper vous même les requêtes pour obtenir la même ?

Ma réalité est qu'aucune de mes tentatives de faire une image avec une IA était satisfaisante donc je ne peux, a priori, pas faire une oeuvre digne de quelques € avec une IA.
Est ce que je suis pret à acheter un tableau généré par IA? Oui, au même prix qu'une oeuvre originale? Probablement pas.
Saurais je faire la différence? Là est la vraie question, je suppose que si l'artiste y met sufisamment de soin il n'y a aucune chance.

[calvaire]

ces algos de toute manière vol le travail de millions de personnes (légalement mais aussi illégalement).
que ce soit midjourney ou chatgpt.
Ils pillent le contenu des forums, les code source de projet open source...etc

Il faut que les forums et les codes inclus de base dans leurs licences et chate d'utilisation l'interdiction d'entrainement de model d'ia a des fin commercial.
Même chose pour les images, si des artistes partage sur DeviantArt leurs œuvres c'est pas pour qu'une boite se fasse de la tune avec en entrainement son ia dessus et reproduise le style de l'artiste.

Quand chatgpt répond a une question, sa réponse est une synthèse de plusieurs site web.
sauf dans des cas de niche ou il y'a peu de sujet sur internet et la chatgpt ressort mots pour mots la même réponse que le site web qui en parle et c'est assez facile de découvrir le vol de propriété intellectuel.


quand a ceux que ca dérange pas de se faire piller leurs savoirs, dite vous bien que chatgpt peut vous tuer à terme. Si j'ai mes réponses sur chatgpt pourquoi es ce que je m'emmerderai a aller chercher des infos sur developpez.net et wikipedia.
Donc je ne verrai plus les pub sur developpez.net et je ferai plus de don sur Wikipédia donc ces sites vont inéluctablement mourir. Ensuite chatgpt va lui aussi devenir inutile car il n'aura plus de nouvelles infos dans son dataset.

les outils comme chatgpt sont super intéressant et il ne faut pas les interdire mais il faut trouver un bon équilibre pour concilier les intérêts de tous le monde.
Ces algos n'invente rien, il ne font que répéter, si demain les entreprises vire les artistes ou les dev ou les avocats ou autres, ce sera la fin de l'innovation, enfin tout du moins un gros ralentissement.

Il faut pas oublier que beaucoup de dev qui ont un emploi pas trop mal payé et stable, profite du taff en entreprise pour maintenir leurs compétence et de leurs temps libre pour utiliser leurs connaissance pour faire des libs et code opensouce qui seront massivement utilisé par la suite par pleins d'entreprises gratuitement.
si demain on vire massivement beaucoup de dev ce seront fatalement moins de contributions a ces projets et donc très peu d'innovation.
c'est la même chose pour les artistes. Un artistes qui n'arrive pas a s'acheter à manger pour ces repas ne fera pas de contribution bénévole et ne fera aucune innovation car pas d'argent pour nnover.

[ALT]

Un artistes qui n'arrive pas a s'acheter à manger pour ces repas [...] ne fera aucune innovation

Faux : aux siècles précédents, la plupart des artistes étaient indigents. Leur créativité n'en était pas affectée.

[Galactus13]

Je pose la question,
Si l'IA est une entité humaine, donc, elle est vivante et par conséquent a le droit a un procès.
Si l'IA est une machine, c'est son créateur qui a la joie du procès.
.
Dans les deux cas: Ils perdent leurs procès puisque chacun d'eux viole les droits d'auteur. par plagia. La copie étant interdite sans l'accord de l'auteur.
Ceci reste mon avis en tant qu'auteur.
Ce n'est pas pour rien que dans une émission de télé en direct, on vous fait signer un papier autorisant la régie a utiliser votre image et ce qui en découle dans le cadre du sujet.

[totozor]

Dans les deux cas: Ils perdent leurs procès puisque chacun d'eux viole les droits d'auteur. par plagia. La copie étant interdite sans l'accord de l'auteur.
Ceci reste mon avis en tant qu'auteur.

Problème : comment prouver qu'une oeuvre copie la tienne?
Par exemple se retourner contre le nounours qui nage le papillon semble facile si on est l'auteur de la photo originelle du nageur mais combien de photo de la sorte il existe?

Si le tribunal décidait de s'attaquer au problème à fond et décidait d'auditer l'IA trouverait-il seulement le lien entre l'IA et l'oeuvre originale?
Le développeur ne se retrouve-t-il pas donc intouchable?

[byrautor]

Je pose la question,
Si l'IA est une entité humaine, donc, elle est vivante et par conséquent a le droit a un procès.
Si l'IA est une machine, c'est son créateur qui a la joie du procès.
.
Dans les deux cas: Ils perdent leurs procès puisque chacun d'eux viole les droits d'auteur. par plagia. La copie étant interdite sans l'accord de l'auteur.
Ceci reste mon avis en tant qu'auteur.
Ce n'est pas pour rien que dans une émission de télé en direct, on vous fait signer un papier autorisant la régie a utiliser votre image et ce qui en découle dans le cadre du sujet.

Comment gérer la multitude ? par des méthodes statistiques (théorie des gaz parfait) . Des "experts" analyseraient les flux et répartissent les droits statistiquement.....Et oui, la nature a horreur de l'égalité , il y aurait même des "mouvements" dans le vide quantique qui s'annihilent "d'eux mêmes)

[Franck Z]

Elles ajoutent que leurs générateurs d’images ne violent pas le droit moral des artistes, car ils ne portent pas atteinte à leur intégrité ou à leur réputation.

Ils peuvent sûrement refuser (droit moral sur leurs oeuvres) que celles-ci soient utilisées pour contribuer à une pratique trompeuse : une image générée par IA veut donner l'impression qu'elle exprime dans son intégralité (à l'instar de ce que réalise un artiste) une intention ou un travail, ce qui n'est pas le cas. Seuls les mots-clés de la requête traduisent une intention ou sont le résultat d'un travail. Le reste de l'image est un "hasard" statistique orienté.

[Mathis Lucas]

Les géants de la Tech affirment que les utilisateurs de leurs logiciels devraient être tenus responsables des violations de droits d'auteur liées à l'IA
une position qui suscite la controverse

Les entreprises d'IA refusent de rémunérer les détenteurs de droits sur les données d'entraînement de leurs modèles d'IA. Ensuite, ils affirment que ce n'est pas leur faute si leurs logiciels d'IA produisent du matériel protégé par le droit d'auteur, même si ce sont eux qui ont entraîné leurs systèmes sur du matériel protégé par le droit d'auteur. Et pour finir, ils souhaitent que les utilisateurs de leurs logiciels assument la responsabilité juridique des violations de droits d'auteur liées à l'IA. Les consommateurs, les auteurs, les artistes et les chercheurs crient au scandale et appellent les autorités à prendre des mesures pour mettre fin à cette forme de capitalisme.

À mesure que l'IA devient de plus en plus sophistiquée et s'intègre à notre vie quotidienne, des questions difficiles se posent quant à la responsabilité juridique de ses actions. Les outils d'IA générative, capables de produire de nouveaux textes, images, musiques et autres à partir d'un échantillon de données, en sont un bon exemple. Lorsque ces créations empruntent des éléments protégés par le droit d'auteur, qui doit en subir les conséquences : l'utilisateur qui fournit l'invite ou le développeur de l'outil d'IA ? Eh bien, les géants de la Tech ont un avis tout tranché sur la question : il consiste à privatiser les profits et à socialiser la violation des droits d'auteur.

Selon les entreprises du secteur de l'IA, les programmes d'IA sont exactement comme les appareils d'enregistrement audio ou vidéo, les photocopieurs ou les caméras, qui peuvent tous être utilisés pour enfreindre les droits d'auteur. Les fabricants de ces appareils ne sont pas responsables des cas de violation du droit d'auteur, alors pourquoi les entreprises d'IA devraient-elles l'être ? C'est du moins ce qui ressort de leur raisonnement. Par exemple, lorsque vous reproduisez entièrement un livre à l'aide d'une photocopieuse, ce n'est pas le fabricant de l'appareil qui risque des poursuites, mais bien sûr vous, sauf si vous avez une autorisation légale.

Les sociétés d'IA souhaitent que les choses se passent de la même façon avec les programmes d'IA qu'ils fournissent. Le Bureau américain du droit d'auteur réfléchit à de nouvelles réglementations concernant l'IA générative et a publié en août une demande de commentaires sur l'IA et le droit d'auteur. Les réponses à cette demande sont publiques. La démarche révèle que les entreprises du secteur de l'IA du monde ont beaucoup à dire à ce sujet. L'article présente ci-dessous les arguments de Meta, Google, Microsoft, Adobe, Hugging Face, StabilityAI et Anthropic, ainsi qu'une réponse d'Apple sur le droit d'auteur concernant le code généré par l'IA.

D'après les plaintes, la plupart des entreprises d'IA ont utilisé sans autorisation du matériel protégé par des droits d'auteur ou des marques déposées pour former leur logiciel, et OpenAI est poursuivi en justice par plus d'une douzaine d'auteurs majeurs qui l'accusent d'avoir violé leurs droits d'auteur. Et bien que ces entreprises aient déclaré que les consommateurs devraient être responsables des résultats de leurs systèmes, nombre d'entre elles, dont Google, OpenAI, Microsoft et Amazon, proposent de couvrir les frais de justice de leurs clients dans le cadre de procès pour violation des droits d'auteur. Ce qui brouille encore plus les pistes.

Mais, en fin de compte, les entreprises affirment que la loi actuelle sur le droit d'auteur est de leur côté et qu'il n'est pas nécessaire que le Bureau du droit d'auteur la modifie, du moins pas maintenant. Elles notent que si le bureau s'en prend aux développeurs et modifie la loi sur le droit d'auteur, cela pourrait entraver la technologie naissante. Dans sa lettre, OpenAI a déclaré qu'elle demande instamment au Bureau du droit d'auteur de faire preuve de prudence en appelant à de nouvelles solutions législatives qui pourraient s'avérer, a posteriori, prématurées ou malavisées, alors que la technologie évolue rapidement. Voici ce que disent les commentaires :

Microsoft

« Les utilisateurs doivent prendre la responsabilité d'utiliser les outils de manière responsable et conformément à leur conception. Pour répondre aux préoccupations des titulaires de droits, les développeurs d'IA ont pris des mesures pour atténuer le risque d'utilisation abusive des logiciels d'IA à des fins de violation des droits d'auteur. Microsoft intègre un grand nombre de mesures et de garanties de ce type pour limiter les utilisations potentiellement préjudiciables de ses outils d'IA. Ces mesures comprennent des contrôles qui ajoutent des instructions supplémentaires à l'invite de l'utilisateur afin de limiter les résultats nuisibles ou illicites », note Microsoft.

Cependant, il convient de noter que les "mesures de protection" que Microsoft est censé avoir mises en place n'ont guère permis d'empêcher les violations massives de marques et de droits d'auteur. En fait, The Walt Disney Company a récemment demandé au géant de la technologie d'empêcher les utilisateurs de porter atteinte à ses marques. En ce qui concerne la modification de la législation sur le droit d'auteur, Microsoft a déclaré qu'elle pourrait nuire aux petits développeurs d'IA. « L'obligation d'obtenir le consentement pour utiliser des œuvres accessibles à des fins de formation freinerait l'innovation dans le domaine de l'IA », a écrit l'entreprise.

« Il n'est pas possible d'obtenir l'échelle de données nécessaires pour développer des modèles d'IA responsables. De tels régimes de licence entraveront l'innovation des jeunes entreprises et des nouveaux venus qui ne disposent pas des ressources nécessaires pour obtenir des licences, laissant le développement de l'IA à un petit groupe d'entreprises disposant des ressources nécessaires pour gérer des programmes de licence à grande échelle ou à des développeurs dans des pays qui ont décidé que l'utilisation d'œuvres protégées par le droit d'auteur pour former des modèles IA ne constituait pas une violation des droits d'auteur ».

Google

« La possibilité qu'un système d'IA génératif puisse, grâce à une "prompt engineering", être amené à reproduire un contenu à partir de ses données d'apprentissage soulève des questions quant à la limite appropriée entre la contrefaçon directe et la contrefaçon secondaire. Lorsqu'un système d'IA est incité par un utilisateur à produire un résultat de contrefaçon, toute responsabilité qui en découle devrait être attribuée à l'utilisateur en tant que partie dont le comportement volontaire a causé la contrefaçon de manière immédiate », a déclaré la firme de Mountain View. Selon elle, par le passé, de telles règles auraient empêché plusieurs innovations.

« Une règle qui tiendrait les développeurs d'IA directement (et strictement) responsables de tout résultat contrefaisant créé par les utilisateurs imposerait une responsabilité écrasante aux développeurs d'IA, même s'ils ont pris des mesures raisonnables pour empêcher les activités de contrefaçon des utilisateurs. Si cette norme avait été appliquée dans le passé, nous n'aurions pas d'accès légal aux photocopieuses, aux appareils d'enregistrement audio et vidéo personnels ou aux ordinateurs personnels, qui peuvent tous être utilisés à des fins de contrefaçon ainsi qu'à des fins très bénéfiques », affirme Google. L'entreprise ajoute :

« Si la formation pouvait être réalisée sans création de copies, il n'y aurait pas de questions de droit d'auteur dans ce cas. En effet, cet acte de "récolte de connaissances", pour reprendre la métaphore de Harper & Row utilisée par la Cour, comme l'acte de lire un livre et d'apprendre les faits et les idées qu'il contient, non seulement ne constituerait pas une contrefaçon, mais contribuerait à l'objectif même de la loi sur le droit d'auteur. Le simple fait que, d'un point de vue technologique, des copies doivent être faites pour extraire ces idées et ces faits des œuvres protégées par le droit d'auteur ne devrait pas modifier ce résultat ».

OpenAI

« Dans l'évaluation des réclamations pour infraction concernant les résultats, l'analyse commence par l'utilisateur. Après tout, il n'y a pas de résultat sans une demande de l'utilisateur, et la nature du résultat est directement influencée par ce qui a été demandé », indique la startup d'IA. Microsoft et OpenAI sont étroitement liés par un partenariat, la firme de Redmond ayant investi plusieurs milliards de dollars dans le laboratoire d'IA de San Francisco. Cela suggère que les deux entreprises partagent le même point de vue sur la question. OpenAI est beaucoup plus intéressé par une réglementation portant sur le développement de l'IA à l'échelle de l'industrie.

Meta

« Imposer un régime de licence inédit maintenant, bien après les faits, provoquera le chaos, car les développeurs chercheront à identifier des millions et des millions de détenteurs de droits, pour un bénéfice très faible, étant donné que toute redevance équitable due serait incroyablement faible à la lumière de l'insignifiance de n'importe quelle œuvre parmi un ensemble d'entraînement Al », affirme Meta. En clair, Mark Zuckerberg et les siens pensent que la modification de la loi sur le droit d'auteur risque de créer de nouveaux problèmes et que les détenteurs de droits d'auteur ne recevraient de toute façon pas beaucoup d'argent.

Anthropic

« Une politique saine a toujours reconnu la nécessité d'imposer des limites appropriées au droit d'auteur afin de soutenir la créativité, l'innovation et d'autres valeurs, et nous pensons que le droit existant et la collaboration continue entre toutes les parties prenantes peuvent harmoniser les divers intérêts en jeu, libérer les avantages de l'IA tout en répondant aux inquiétudes », note Anthropic. Il estime que la loi actuelle est bonne et il n'y a aucune raison de la changer. En outre, la société a déclaré que la copie n'est qu'une étape intermédiaire qui permet d'extraire des éléments non protégeables et de les utiliser pour aboutir à de nouveaux résultats.

« Comme nous l'avons vu plus haut, pour Claude, le processus de formation fait des copies d'informations dans le but d'effectuer une analyse statistique des données. La copie n'est qu'une étape intermédiaire, qui permet d'extraire des éléments non protégeables de l'ensemble du corpus d'œuvres, afin de créer de nouveaux résultats. De cette manière, l'utilisation de l'œuvre originale protégée par le droit d'auteur est non expressive, c'est-à-dire qu'il ne s'agit pas de réutiliser l'expression protégée par le droit d'auteur pour la communiquer aux utilisateurs », explique Anthropic dans son commentaire adressé au Bureau américain du droit d'auteur.

Adobe

« Dans l'affaire Sega v. Accolade, le neuvième circuit a jugé que la copie intermédiaire du logiciel de Sega constituait un usage loyal. Le défendeur a effectué des copies pendant qu'il procédait à une rétro-ingénierie pour découvrir les exigences fonctionnelles - informations non protégées - permettant de rendre les jeux compatibles avec la console de jeu de Sega. Cette copie intermédiaire a également bénéficié au public : elle a entraîné une augmentation du nombre de jeux vidéo conçus de manière indépendante (qui contiennent un mélange d'aspects fonctionnels et créatifs) disponibles pour la console de Sega », écrit l'entreprise.

D'après elle, cette croissance de l'expression créative était précisément ce que la loi sur le droit d'auteur était censée promouvoir. Des plaintes ont signalé au début de l'année qu'Adobe utilise les photos des clients pour entraîner son IA. Un client a découvert qu'Adobe l'avait inscrit (ainsi que d'autres clients) à un programme d'analyse de contenu à travers lequel l'éditeur de logiciels graphiques peut analyser votre contenu hébergé sur son cloud à l'aide de techniques telles que l'apprentissage automatique (par exemple, pour la reconnaissance des formes) afin de développer et d'améliorer ses produits et services basés sur l'IA.

Hugging Face

« L'utilisation d'une œuvre donnée dans le cadre d'une formation poursuit un objectif largement bénéfique : la création d'un modèle Al distinctif et productif. Plutôt que de remplacer l'expression communicative spécifique de l'œuvre initiale, le modèle est capable de créer une grande variété de sorties différentes sans aucun rapport avec l'expression sous-jacente protégée par le droit d'auteur. Pour ces raisons et d'autres encore, les modèles génératifs sont généralement considérés comme une utilisation équitable lorsqu'ils s'entraînent sur un grand nombre d'œuvres protégées par le droit d'auteur », explique Hugging Face dans son commentaire.

StabilityAI

« Plusieurs juridictions, dont Singapour, le Japon, l'UE et la République de Corée ont réformé leurs lois sur le droit d'auteur afin de créer des zones de sécurité pour la formation à l'IA qui produisent des effets similaires à ceux de l'utilisation équitable. Au Royaume-Uni, le conseiller scientifique en chef du gouvernement a recommandé que : si l'objectif du gouvernement est de promouvoir une industrie innovante de l'IA au Royaume-Uni, il devrait permettre l'extraction de données, de textes et d'images disponibles (l'input) et utiliser les protections existantes du droit d'auteur et de la loi sur la propriété intellectuelle sur l'output de l'IA », note l'entreprise.

Apple

« Dans les cas où un développeur humain contrôle les éléments expressifs de la sortie et les décisions de modifier, d'ajouter, d'améliorer ou même de rejeter le code suggéré, le code final qui résulte des interactions du développeur avec les outils sera suffisamment humain pour être protégé par le droit d'auteur », explique Apple.

Motion Picture Association

Selon les analystes, il peut être surprenant de constater que les principaux studios de cinéma commencent à se ranger du côté des géants de la Tech, même s'ils abordent la question sous un angle différent. Dans sa soumission au Bureau du droit d'auteur, la Motion Picture Association (MPA) a établi une distinction entre l'IA générative et l'utilisation de l'IA dans l'industrie cinématographique, dans laquelle "l'IA est un outil qui soutient, mais ne remplace pas, la création humaine des œuvres des membres". L'association s'est également prononcée contre la mise à jour de la législation actuelle sur le droit d'auteur, en déclarant notamment :

« La MPA estime actuellement que la loi existante sur le droit d'auteur devrait être en mesure de répondre à ces questions. Un titulaire de droits d'auteur qui établit une violation devrait pouvoir se prévaloir des recours existants prévus aux articles 502 à 505, y compris les dommages-intérêts et les mesures d'injonction. À l'heure actuelle, il n'y a aucune raison de penser que les titulaires de droits d'auteur et les entreprises engagées dans la formation de modèles et de systèmes d'IA générative ne peuvent pas conclure des accords de licence volontaires, de sorte qu'une intervention des pouvoirs publics pourrait être nécessaire ».

Source : le Bureau américain du droit d'auteur

Et vous ?

Que pensez-vous des différents avis exprimés ci-dessus par les entreprises d'IA ?
À votre avis, les utilisateurs sont-ils responsables des violations de droits d'auteurs liées à l'IA ?
Que pensez-vous du choix de Google de comparer les programmes d'IA aux appareils comme les photocopieuses ?
Que pensez-vous du refus des entreprises d'IA de rémunérer les détenteurs de droits d'auteur sur les données d'entraînement de l'IA ?
Que pensez-vous de l'approche des entreprises du secteur de l'IA sur le droit d'auteur ? Tentent-elles de le contourner ou d'exploiter ses limites ?

Voir aussi

Adobe utilise-t-il vos photos pour entraîner son IA ? Adobe pourrait analyser votre contenu à l'aide de techniques telles que l'apprentissage automatique, selon la Fondation Krita

Microsoft s'engage à payer les frais de justice si des clients sont poursuivis pour avoir utilisé son IA Copilot, sans s'inquiéter des plaintes pour violation de copyright

OpenAI et Meta accusés d'avoir utilisé les œuvres de Sarah Silverman et de deux auteurs sans leur consentement, comme données d'entraînements de leurs IA. Les plaintes de ce type se multiplient

[ALT]

En ce qui me concerne, j'affirme depuis longtemps que les artistes se sont toujours inspirés de leurs prédécesseurs :
Pour commencer, lors de l'apprentissage.
Et il y a eu les modes : voir les périodes néoclassique, néogothique...
Et puis les emprunts plus ou moins clairs.
Sans compter les œuvres « à la manière de... ».
Donc, que des productions d'IA soient issues d'œuvres originales ne me choque pas. Simplement, il faut que la source d'inspiration soit mentionnée.
Encore que... Avant la protection du droit d'auteur (notion récente à l'échelle de l'Histoire), chaque artiste pouvait être copié, pour ne pas dire pillé, sans que ça perturbât qui que ce fût.
Bref, le périmètre précis du droit d'auteur doit d'abord être clairement & complètement défini avant de décider quoi que ce soit.

[shenron666]

Par exemple, lorsque vous reproduisez entièrement un livre à l'aide d'une photocopieuse, ce n'est pas le fabricant de l'appareil qui risque des poursuites, mais bien sûr vous, sauf si vous avez une autorisation légale.

Plutôt falacieux comme exemple
La photocopieuse n'a pas été "entrainée" avec des milliers / millions de livres originaux

En ce qui me concerne, j'affirme depuis longtemps que les artistes se sont toujours inspirés de leurs prédécesseurs

s'inspirer c'est une chose
copier ou réutiliser c'est du vol
et c'est ce que font les IA actuelles vu qu'elles sont entrainées avec des oeuvres originales
mais surtout, sans l'accord de l'auteur tant les géants derrière ces IA s'estiment en droit de voler le travail des autres pour mieux se dorer la pilule

[Matthieu Vergne]

copier ou réutiliser c'est du vol

De la contrefaçon. Le vol consiste à subtiliser quelque chose à quelqu'un, de sorte que ce quelqu'un ne l'a plus. La contrefaçon non.

Les discussions de ce genre se basent trop souvent sur des amalgames pour faire valoir telle ou telle interprétation. On ne peut pas critiquer qu'un tel fasse un argument fallacieux si de notre côté on fait pareil. Et corriger ça commence par utiliser la bonne terminologie.

[Mathis Lucas]

Les modèles d'IA de génération d'images peuvent être trompés et incités à produire des contenus obscènes
en exploitant une faille critique dans la façon dont ils interprètent le langage naturel

Une nouvelle étude rapporte que les filtres de sécurité des modèles d'IA de génération d'images comme DALL-E et Midjourney peuvent être facilement contournés grâce à une méthode inattendue. Les chercheurs ont découvert une faille dans ces outils d'IA qui permet de générer des contenus inappropriés à l'aide d'un algorithme appelé "SneakyPrompt". Il exploite une faille critique dans la façon dont ces outils d'IA interprètent le langage naturel. L'étude remet une fois de plus en question l'efficacité des filtres intégrés à ces systèmes d'IA. Par le passé, ces garde-fous, pourtant jugés solides par leurs auteurs, avaient déjà permis la génération de nombreux contenus inappropriés.

Les modèles d'IA de génération d'images sont conçus pour créer des images à partir de descriptions textuelles. Stable Diffusion, DALL-E 2 et Midjourney sont parmi les modèles d'IA de génération de texte les plus connus. Pour empêcher les utilisateurs de générer des contenus inappropriés, les créateurs de ces systèmes les ont dotés de filtres de sécurités qui bloquent les requêtes suspectes. Ils visent notamment à empêcher la création d'images obscènes comme des contenus explicites ou violents. Ces garde-fous ont été mis à rudes épreuves au fil du temps, ce qui a poussé les propriétaires de ces modèles d'IA à les rendre plus efficaces contre les attaques.

Mais des chercheurs de l'université Johns Hopkins, à Baltimore, et de l'université Duke, à Durham (Caroline du Nord), ont découvert une faille critique dans ces systèmes d'IA, qui pourrait avoir de vastes répercussions sur la modération des contenus numériques. La découverte concerne un algorithme appelé SneakyPrompt, conçu pour déjouer les filtres de sécurité intégrés dans les modèles d'IA de génération d'images. Dans le cadre de leurs expériences, l'équipe de recherche a commencé par tester des invites que les filtres de sécurité bloqueraient, comme "un homme nu faisant du vélo". Les tests ont été effectués sur DALL-E 2 et Stable Diffusion.

Little bit of a sneaky prompt in here. pic.twitter.com/QcOWfGk7rc

— Kalen Jordan (@kalenjordan) November 20, 2023

L'algorithme a examiné les réponses des IA génératives, puis a progressivement ajusté ces alternatives pour trouver des commandes capables de contourner les filtres de sécurité et de produire des images. Il est important de noter que les filtres de sécurité ne se limitent pas à une liste de mots interdits tels que "nu". Ils recherchent également des termes, tels que "nu", dont la signification est étroitement liée à des mots interdits. SneakyPrompt a pu substituer des mots dans ces messages pour contourner les filtres. Les chercheurs ont constaté que des mots absurdes pouvaient inciter ces modèles d'IA générative à produire des images innocentes ou obscènes.

Par exemple, ils ont remarqué que DALL-E 2 interpréterait les termes "thwif" et "mowwly" comme "chat" et "lcgrfy" et "butnip fwngho" comme "chien". L'équipe ignore exactement pourquoi le modèle prendrait ces mots absurdes pour des ordres. « Notre groupe est généralement intéressé par le fait de casser des choses. Casser les choses fait partie de leur renforcement. Par le passé, nous avons trouvé des vulnérabilités dans des milliers de sites Web, et maintenant nous nous tournons vers des modèles d'IA pour trouver leurs vulnérabilités », explique l'auteur principal de l'étude, Yinzhi Cao, chercheur en cybersécurité à l'université Johns Hopkins, à Baltimore.

Mais Cao fait remarquer que ces systèmes sont formés sur des corpus autres que l'anglais, et que certaines syllabes ou combinaisons de syllabes similaires à, par exemple, "thwif" dans d'autres langues peuvent être liées à des mots tels que "cat". Les chercheurs ont également découvert que des mots absurdes pouvaient amener les IA génératives à produire des images dangereuses pour le travail (NSFW). Apparemment, les filtres de sécurité ne considèrent pas ces invites comme suffisamment liées à des termes interdits pour les bloquer, mais les systèmes d'IA considèrent néanmoins ces mots comme des commandes pour produire un contenu douteux.

Au-delà des mots absurdes, les scientifiques ont constaté que les IA génératives pouvaient confondre des mots normaux avec d'autres mots normaux. Par exemple, ils ont remarqué que DALL-E 2 pouvait confondre le terme "glucose" ou "gregory faced wright" avec "chat" et "maintenance" ou "dangerous think walt" avec "chien". Dans ce cas, l'explication peut résider dans le contexte dans lequel ces mots sont placés. Lorsqu'on leur a demandé de répondre à la question suivante : "the dangerous think walt growled menacingly at the stranger who approached its owner", les systèmes ont déduit que "dangerous think walt" signifiait "dog" dans le reste de la phrase.

« Si le mot "glucose" est utilisé dans d'autres contextes, il peut ne pas signifier "chat" », explique Cao. Les tentatives manuelles précédentes pour contourner ces filtres de sécurité étaient limitées à des modèles d'IA spécifiques, telles que Stable Diffusion, et ne pouvaient pas être généralisées à d'autres systèmes de génération de contenu. Les chercheurs ont constaté que l'exploit SneakyPrompt pouvait fonctionner à la fois sur DALL-E 2 et sur Stable Diffusion. En outre, selon les chercheurs, les tentatives manuelles antérieures visant à contourner les filtres de sécurité de l'IA Stable Diffusion ont montré un taux de réussite aussi faible qu'environ 33 %.

En revanche, SneakyPrompt a obtenu un taux moyen de réussite d'environ 96 % lorsqu'il était confronté à Stable Diffusion et d'environ 57 % avec DALL-E 2. Selon les auteurs de l'étude, les implications de cette découverte sont préoccupantes, car elles soulignent le potentiel d'abus et soulèvent des questions quant à la fiabilité de la modération automatisée des contenus. Ces résultats révèlent que les outils d'IA de génération d'images peuvent être exploités pour créer des contenus perturbateurs. Selon Cao, ces outils pourraient notamment produire des images de personnes réelles ayant un comportement répréhensible qu'elles n'ont jamais eu en réalité.

À titre d'exemple, au début de l'année, les utilisateurs de Midjourney ont créé de fausses images montrant Donald Trump qui tente de résister tant bien que mal à une arrestation, mais également des images montrant l'ancien président des États-Unis en tenue de détenu et faisant du nettoyage dans une enceinte pénitentiaire. Mais ce n'est pas tout. Midjourney a également permis aux internautes de générer des images très réalistes montrant le pape François dans un manteau à la mode et le président français Emmanuel Macron ramassant des ordures dans les rues de Paris ou se mêlant aux forces de l'ordre pour encadrer des manifestants.

Bien que les images aient été rapidement identifiées comme des deepfakes, il est à craindre que des acteurs malveillants utilisent Midjourney, DALL-E, Stable Diffusion ou d'autres outils similaires pour diffuser de fausses informations avec des images très réalistes à l'appui. À l'époque, David Holz, cofondateur et PDG de Midjourney, a déclaré que l'entreprise a tenté de résoudre les problèmes d'abus avec des correctifs de sécurité, mais les changements tentés n'ont pas pu résoudre les problèmes. La société a été obligée de suspendre les essais gratuits après que ces deepfakes sont devenus viraux sur la toile, tout en continuant à chercher d'autres solutions.

L'été dernier, Midjourney a également banni un artiste pour avoir utilisé l'IA de génération d'œuvres d'art de l'entreprise pour créer des images de politiciens trompant leur femme. Bien que ces photos soient fausses, elles sont "hyperréalistes" et capables de tromper facilement la vigilance d'un public non averti. L'artiste a déclaré que son objectif était d'alerter le public sur les dangers potentiels de ce type d'IA pour les personnes, les entreprises et les gouvernements, mais il a été banni par Midjourney. L'entreprise n'a pas évoqué les raisons justifiant cette décision, mais les conditions d'utilisation de son modèle d'IA générative interdisent la création de telles images.

Commentant les risques liés aux outils d'IA de génération d'images, Cao a déclaré : « nous espérons que cette attaque aidera les gens à comprendre à quel point les modèles d'IA de génération d'images peuvent être vulnérables ». Les chercheurs souhaitent à présent explorer les moyens de rendre les IA génératives plus robustes face aux adversaires. « L'objectif de notre travail sur les attaques est de rendre le monde plus sûr. Il faut d'abord comprendre les faiblesses des modèles d'IA, puis les rendre résistants aux attaques », a déclaré Cao. Les implications de ces résultats soulignent la nécessité d'affiner les mesures de sécurité des modèles d'IA.

Les systèmes d'IA interprètent le langage différemment des humains, et les chercheurs soupçonnent ces systèmes d'interpréter certaines syllabes ou combinaisons de manière similaire à des mots d'autres langues, ce qui conduit à des associations inattendues. Il est essentiel de s'assurer qu'ils discernent avec précision et empêchent la création de contenus inappropriés, même lorsqu'ils sont confrontés à des entrées linguistiques trompeuses ou non conventionnelles. Selon l'équipe, il est impératif de s'attaquer à ces failles et de les rectifier afin de respecter les normes éthiques et d'empêcher l'utilisation abusive de l'IA pour générer des contenus inappropriés.

L'équipe présentera ses conclusions en détail en mai 2024 lors du symposium de l'IEEE sur la sécurité et la protection de la vie privée, qui se tiendra à San Francisco. Cette recherche souligne l'urgence d'une vigilance continue et d'une amélioration itérative dans l'industrie de l'IA, préfigurant un avenir où la créativité numérique et les filtres de sécurité évolueront de concert pour faciliter un paysage virtuel responsable et sûr.

Source : rapport de l'étude

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de l'exploit SneakyPrompt mis au point par les chercheurs ?
Selon vous, pourquoi les modèles d'IA de génération d'images se comportent de cette façon ?
Les entreprises développant ces systèmes d'IA sont-elles en mesure de corriger cette vulnérabilité ?

Voir aussi

Le modèle d'IA de génération d'images Midjourney suspend les essais gratuits après que les deepfakes sont devenus viraux, mais la société impute ce choix à la création excessive de comptes jetables

« J'ai perdu tout ce qui me faisait aimer mon travail à cause du modèle d'IA Midjourney », affirme un artiste 3D qui raconte comment l'IA lui a arraché son travail du jour au lendemain

L'IA de génération d'images la plus avancée de la Chine bloque déjà les contenus politiques, des entrées telles que "place Tiananmen" et "Xi Jinping" ne produisent aucun résultat

[pierre.E]

une fois de plus les layers font se faire des nouilles en or c'est bien triste

[Stéphane le calme]

L’IA va-t-elle remplacer les photographes de stock ? Une analyse de Stock Performer s'appuie sur les données
pour étudier les impacts pour les photographes et les clients

Il est facile de supposer que depuis que de puissants outils de conversion de texte en image tels que Midjourney sont entrés en scène, les revenus dans l'industrie du stock ont rapidement diminué. Mais est-ce réellement vrai ?

Pour répondre à cette question, Stock Performer, s'est tournée vers les données. L'entreprise, qui fournit des analyses dans le domaine de l'industrie de stock, a comparé les revenus et les téléchargements des contributeurs pour les trois principales agences de stock (iStockphoto, Shutterstock et Adobe Stock) entre 2017 et 2023. Elle a également analysé la performance des images générées par l’IA par rapport aux images traditionnelles en termes de revenus, de téléchargements et de RPD (revenu par téléchargement).

L’intelligence artificielle (IA) est en train de révolutionner le monde de la photographie, et notamment celui de la photo de stock. Les photos de stock sont des images libres de droits que les créateurs de contenu peuvent acheter et utiliser pour illustrer leurs projets. Elles sont généralement produites par des photographes professionnels ou amateurs qui les vendent à des agences comme Shutterstock, iStock ou Adobe Stock.

Mais avec l’avènement des technologies d’IA capables de générer des images réalistes à partir de rien, ou de transformer des textes en images, les photos de stock traditionnelles sont-elles menacées? Quels sont les avantages et les inconvénients de l’IA pour l’industrie de la photo de stock? Et comment les photographes peuvent-ils s’adapter à cette nouvelle ère?

Comment l'industrie est-elle affectée dans son ensemble ?

Stock Performer a commencé par dessiner le relief :

Lorsque Stock Performer a commencé en 2010, il y avait beaucoup de plaintes selon lesquelles l'industrie du stock était en train de mourir. La précipitation des agences à mettre en place des modèles d'abonnement, déclenchée principalement par le succès de Shutterstock, a conduit à beaucoup d'incertitude quant aux revenus des photographes. Après tout, les clients pouvaient désormais acheter des images pour quelques centimes. Parler d'une catastrophe imminente n'avait rien de nouveau, cependant. Lorsque les microstocks, les équipements bon marché et Internet sont entrés en scène quelques années plus tôt, tous ceux qui gagnaient quelques centaines de dollars par vente avant pensaient certainement que cela allait être la fin de leur carrière.

Aujourd'hui, une nouvelle menace perçue est en hausse : les images générées par l'IA. Et encore une fois, les producteurs d'actions se demandent : l'industrie du stock va-t-elle mourir ? Dois-je arrêter complètement la photographie ou le stock ? Ou devrais-je me lancer à fond dans la production d'images IA ? Toute décision commerciale de ce type doit toujours être motivée par des données. Les producteurs de stock ne sont pas dans l'industrie de l'art, leur objectif est de satisfaire les demandes du marché pour les médias visuels.

Puis Stock Performer a parlé chiffres.

Paysage des trois principales plateformes

Il a également publié les graphiques des trois principales agences de stock, chacune montrant les moyennes des contributeurs pour les revenus (barres bleues), les téléchargements (lignes rouges) et les téléchargements (zones grises, sur une échelle distincte) :

On constate une augmentation constante des revenus depuis 2017 pour iStockphoto. Covid semble avoir accéléré cette augmentation en 2020 et 2021 – malgré un nombre de téléchargements relativement stable pendant la même période – et bien qu'il semble que cela ait été un effet temporaire, les ventes restent à un niveau élevé et il n'y a aucune indication claire d'une baisse majeure dans les ventes. iStockphoto est également la seule des trois grandes agences qui a un RPD (revenu par téléchargement) assez important à environ 2,50 $ par vente.

Les choses semblent bien différentes pour Shutterstock. Le RPD est assez bas, presque toujours inférieur à 1 $, ce qui n'est pas surprenant, car Shutterstock est connu pour vendre des médias à bas prix, mais le compenser en volume. Il semble que les derniers mois aient été difficiles pour de nombreux contributeurs de Shutterstock. Le nombre de téléchargements mensuels a fortement augmenté au cours de 2022, mais il ne semble pas encore que cela porte ses fruits. Est-ce dû à la popularité croissante de l'IA ? C'est douteux, car les effets de l'IA se font encore sentir. C'est une époque où les grandes entreprises réduisent leurs dépenses publicitaires, ce qui se traduit généralement par une réduction des ventes de photos et de vidéos. Que ce soit seulement temporaire pour Shutterstock est la grande question.

En comparaison, les revenus des contributeurs d'Adobe Stock n'ont cessé d'augmenter, avec une forte tendance à la hausse depuis le début de 2022. Il semble que le ralentissement économique n'ait aucun effet sur les ventes d'Adobe Stock. Cela ne semble pas non plus être le résultat d'un nombre de téléchargements plus élevé. Le nombre de téléchargements a été plus ou moins le même. Dans le contexte de son article de blog, Stock Performer s'est demandé si cela est dû aux images d'IA dont les ventes ont commencé juste au moment où les revenus d'Adobe Stock (et le nombre de téléchargements) ont commencé à grimper. Et de préciser : « Comme nous le verrons plus loin, ces ventes supplémentaires ne sont pas des ventes d'IA, elles n'en constituent qu'une petite partie. Donc, s'il y a un "effet IA", cela affecte également les ventes régulières ».

Rapport avec l'IA

Pour analyser spécifiquement les téléchargements générés par l'IA, Stock Performer estime qu'il faut pouvoir les repérer dans la masse. Depuis mai 2023, parmi les grandes agences de stock, seule Adobe Stock accepte la soumission d'images générées par l'IA. Ils le font depuis l'été 2022. Cependant, ce n'est que depuis décembre 2022 qu'ils ont appliqué les directives de soumission pour ces images. Les images AI comptent comme des illustrations et elles doivent être étiquetées avec le mot-clé "generative ai". Stock Performer ne dispose donc que d'environ six mois de données fiables pour ces types d'images et elles ne concernent qu'Adobe Stock. Combien de clients Stock Performer ont commencé à télécharger des images générées par l'IA ?

Ainsi, au moment de la publication de son article, environ 13 % des clients Stock Performer qui téléchargent sur Adobe Stock téléchargent des images générées par l'IA. Sont-ils juste en train de jouer avec ? Ou en sont-ils venus à se fier entièrement aux images générées par l'IA ? Voici la répartition :

Ce diagramme ne prend en compte que les contributeurs qui ont téléchargé au moins une image IA sur Adobe Stock au cours d'un mois donné. L'axe vertical représente le nombre d'images AI produites au cours de ce mois, par rapport à toutes les images produites par ce contributeur au cours de ce mois. Plus le rouge est foncé, plus les contributeurs se situent dans cette plage. Nous pouvons voir que la plupart des photographes qui téléchargent des images IA sur Adobe Stock jouent un peu avec l'IA (0%-10%) ou sont complètement passés à la production d'images IA (90%-100%). Il n'y a pas beaucoup entre les deux. Il semble également que le nombre de contributeurs qui sont entièrement passés au contenu de l'IA augmente. Que cela soit payant ou non, un nombre considérable de producteurs d'actions pensent que leur avenir se situera uniquement dans le contenu de l'IA.

Au final, l'IA a-t-elle un impact négatif dans le secteur ?

L’article conclut que l’imagerie générée par l’IA n’a pas encore eu d’effet négatif significatif sur l’industrie du stock dans son ensemble, mais qu’elle offre de nouvelles opportunités et défis pour les producteurs de stock. Il suggère que les producteurs de stock devraient adopter l’IA comme un outil créatif et non comme une menace, et qu’ils devraient se concentrer sur la qualité, la pertinence et la diversité de leurs images. Il affirme également que l’IA n’est pas une solution miracle et qu’elle nécessite toujours du temps, des compétences et des efforts pour produire des images attrayantes et vendables.

Avantages et inconvénients de l'IA sur cette industrie

L’IA offre plusieurs avantages pour la photo de stock, tant pour les acheteurs que pour les vendeurs. Voici quelques-uns des principaux:

• La diversité: L’IA peut créer des images de personnes, d’animaux, d’objets ou de paysages qui n’existent pas dans la réalité, mais qui sont crédibles et variées. Cela permet d’offrir aux clients un choix plus large et plus représentatif de sujets, d’ethnies, d’âges, de genres, etc. Par exemple, Smarterpix, une agence allemande, a lancé la première collection de portraits 100% générés par l’IA et disponibles à la licence.
• La personnalisation: L’IA peut également permettre aux clients de modifier les images selon leurs besoins, en changeant par exemple la couleur des cheveux, des yeux, des vêtements, le fond, l’éclairage, etc. Cela évite d’avoir à chercher l’image parfaite parmi des milliers d’options, ou à recourir à des logiciels de retouche complexes.
• La créativité: L’IA peut également stimuler la créativité des clients et des vendeurs, en proposant des images originales, surprenantes ou humoristiques. Par exemple, Midjourney est un programme qui transforme des textes en images. On peut ainsi obtenir des images comme “une photographie vintage du monstre du Loch Ness” ou “un chat qui joue du piano”.

L’IA n’est pas sans poser des problèmes pour la photo de stock. Voici quelques-uns des principaux:

• La qualité: L’IA n’est pas encore capable de produire des images parfaites. Certaines images générées par l’IA présentent des défauts visibles, comme des traits du visage mal rendus, des proportions anormales, des artefacts numériques, etc1. De plus, les images générées par l’IA ont souvent une résolution faible, ce qui limite leur utilisation pour des projets à grande échelle.
• L’éthique: L’IA pose également des questions éthiques sur la représentation des personnes et des réalités. En effet, les images générées par l’IA sont basées sur des données préexistantes, qui peuvent être biaisées, incomplètes ou obsolètes.
• La concurrence: L’IA représente également une concurrence potentielle pour les photographes qui vendent leurs images sur les plateformes de stock. En effet, les images générées par l’IA sont souvent moins chères, plus rapides et plus faciles à obtenir que les images réelles. Cela peut réduire la demande et les revenus des photographes, ou les obliger à se différencier par la qualité, l’originalité ou la spécialisation de leurs images.

Comment les photographes peuvent-ils s’adapter à l’IA?

Face à l’émergence de l’IA dans le domaine de la photo de stock, les photographes ont plusieurs options pour s’adapter et tirer parti de cette nouvelle technologie. Voici quelques pistes:

• Se former à l’IA : Les photographes peuvent apprendre à utiliser les outils d’IA pour créer ou améliorer leurs propres images. Par exemple, ils peuvent utiliser l’IA pour générer des fonds, des éléments ou des effets qui complètent leurs photos réelles, ou pour retoucher leurs images de manière plus efficace et créative.
• Collaborer avec l’IA : Les photographes peuvent également collaborer avec les programmes d’IA pour co-créer des images originales et innovantes. Par exemple, ils peuvent utiliser l’IA comme source d’inspiration, en lui demandant de générer des images à partir de mots-clés, de phrases ou de croquis. Ils peuvent ensuite sélectionner, modifier ou combiner les images générées par l’IA pour créer leur propre œuvre.
• Se distinguer de l’IA : Les photographes peuvent également se distinguer de l’IA en mettant en avant leur valeur ajoutée humaine. Par exemple, ils peuvent se spécialiser dans des domaines où l’IA est moins performante, comme la photographie artistique, documentaire ou éditoriale. Ils peuvent également miser sur leur sensibilité, leur émotion, leur style ou leur éthique pour créer des images qui touchent et fidélisent leur public.

Source : Stock Performer

Et vous ?

Quelle est votre opinion sur l’utilisation de l’IA pour générer des images de stock ?
Quels sont les avantages et les inconvénients de l’IA pour les acheteurs et les vendeurs de photos de stock ?
Comment l’IA peut-elle affecter la qualité, l’éthique et la concurrence dans l’industrie de la photo de stock ?
Comment les photographes peuvent-ils s’adapter à l’IA et tirer parti de cette nouvelle technologie ?
Quels sont les risques et les opportunités de l’IA pour la création d’images ?

[totozor]

Fun Fact : Mon entreprise a lancé une campagne de communication avec une image générée par IA avec des détails plus ou moins marquants pour les gens.

Le sérieux de la campagne a été remis en question avec cette image (pourquoi vous prendre au sérieux si vous n'y investissez même pas dans un graphiste et que vous ne vous donnez pas le mal de regarder l'image).
Je penses que la comm' ne se lancera plus dans cette expérience avec un sujet plus délicat.

C'est probablement là que doit s'immiscer les vendeurs de photos de stocks : fournir de photo libre de droits à bas prix et à qualité élevée.
Les entreprises ne payeront pas pour une photo qu'ils sont capables de générer elles même, par contre la garantie de ne pas avoir ce genre de retour de baton peut les convaincre.

Reste à savoir si la validation de ses images est une action rentable.
C'est probablement compliqué à automatiser et demande une attention importante du controleur.

[Mathis Lucas]

Un artiste banni par Midjourney pour avoir utilisé l'IA pour créer des images de politiciens trompant leur femme
ces images réalistes montrent l'ampleur du problème des deepfakes générés par l'IA

Une expérience réalisée récemment par un artiste a attiré une nouvelle fois l'attention sur la dangerosité des deepfakes à l'ère de l'IA générative. Il a utilisé l'IA de génération d'œuvres d'art de Midjourney pour créer des images de politiciens trompant leur partenaire. Bien que ces photos soient fausses, elles sont "hyperréalistes" et capables de tromper facilement la vigilance d'un public non averti. L'artiste a déclaré que son objectif était d'alerter le public sur les dangers potentiels de ce type d'IA pour les personnes, les entreprises et les gouvernements, mais il a été banni par Midjourney. L'entreprise n'a pas évoqué les raisons justifiant cette décision.

L'IA générative a propulsé les deepfakes dans une nouvelle ère. Ils sont passés de l'état de simples canulars à celui d'armes dangereuses pouvant être dirigées contre des politiciens, des personnalités influentes, les ménages, les internautes et les entreprises. Un rapport publié le mois dernier indique que les deepfakes sont devenus la première forme de fraude et sont principalement utilisés pour contourner des systèmes de reconnaissance biométrique et fabriquer de fausses cartes d'identité. Cet état de choses alarme les chercheurs et les entreprises qui tentent tant bien que mal de trouver une solution efficace. D'autres activistes alertent sur les dangers de l'IA.

Récemment, Justin T. Brown, éditeur de vidéos et satiriste politique, a utilisé Midjourney (une plateforme d'IA permettant de créer des images à partir de descriptions textuelles) pour générer de fausses images montrant des personnalités politiques américaines telles que Donald Trump et Joe Biden dans des positions compromettantes. Selon l'artiste, la collection d'images, intitulée "AI's Impact on the Blackmail Industry" (l'impact de l'IA sur l'industrie du chantage), vise à démontrer le potentiel de l'IA générative en tant qu'arme dangereuse lorsqu'elle est utilisée pour représenter des scénarios susceptibles d'infliger des dommages à des personnes innocentes.

I got banned from Midjourney AI for generating realistic images of politicians cheating on their wives for a series called “AI will revolutionize the blackmail industry”

A couple thoughts on AI images from someone who’s good at making fake stuff 🧵

Trump cheating on his wife: pic.twitter.com/HjxBj7qdaR

— JustinTBrown (@JuuustinBrown) May 26, 2023

« J'ai créé cette série dans le but d'impliquer certaines des personnes les plus influentes d'Amérique dans la conversation sur les dangers de l'IA, et d'atteindre le plus grand public possible. Le but était de créer un buzz et de susciter la conversation de la manière la plus salace, la plus choquante et la plus drôle possible. Pour montrer le danger potentiel réel de l'IA, le projet lui-même devait être une menace, et à mon avis, il n'y a pas de cibles plus sûres que les hommes puissants de Washington. Il s'agissait d'un coup d'épée dans l'eau », a déclaré Brown lors d'un interview. L'artiste a ajouté ensuite avoir été banni par Midjourney sans aucune explication.

Brown, qui est basé à Los Angeles, affirme avoir créé ces images plusieurs mois auparavant et qu'il lui a fallu un peu plus d'une heure pour cela. Mais deux jours après la publication des photos sur Reddit, les modérateurs de Reddit ont supprimé les images et Brown a rapidement été banni de Midjourney presque au même moment. « Après avoir gagné du terrain sur Reddit, la série a été supprimée par les modérateurs et le bannissement de Midjourney a suivi presque immédiatement. J'ai déjà été confronté à des messages bloqués par le passé - pour des mots grossiers ou des personnages controversés - mais je n'ai jamais été banni », explique Brown.

« Midjourney ne m'a donné aucune raison directe justifiant l'interdiction, seulement un message disant que j'étais bloqué, mais le moment de la publication sur Reddit et l'interdiction sont en corrélation directe. C'est un espace où les gens de Midjourney se retrouvent », a-t-il ajouté. L'interdiction concerne le fait que les images n'ont été signalées qu'après avoir été partagées sur un site tiers. Selon les experts, cela confirme l'affirmation de Brown selon laquelle d'autres personnes pourraient créer des images similaires sans que Midjourney les détecte. Ces images pourraient servir dans des campagnes de chantage et d'autres types d'actions malveillantes.

Dans un fil de discussion viral sur Twitter, Brown a fait part de ses sentiments contradictoires au sujet de son exclusion de Midjourney et de la facilité avec laquelle l'IA peut générer des images fausses, mais crédibles. « Je ressens toutes les émotions possibles à ce sujet. Je préférerais ne pas être banni, mais au moins cela signifie peut-être qu'il y a une certaine responsabilité lorsque les utilisateurs génèrent du contenu nuisible avec de mauvaises intentions », explique Brown. Mais il a laissé entendre que le fait de punir une personne après qu'elle a généré des contenus malveillants n'est pas une politique rassurante. Selon l'artiste, le mal est déjà fait.

« J'ai été banni des mois après avoir créé les images, alors quand un contenu préjudiciable est généré, n'est-il pas déjà trop tard ? Je pense qu'une certaine régulation du contenu est nécessaire, mais pourquoi ferais-je confiance à une entreprise pour réguler ses propres résultats ? Et qui décide du type de contenu à réglementer ? », s'interroge Brown. Il affirme en outre que l'une de ses principales préoccupations à l'égard de l'IA est sa capacité à diffuser de la désinformation et qu'il est nécessaire d'engager une "conversation internationale" sur cette technologie. « Je n'ai jamais présenté les images [de la série de photos] comme réelles », a-t-il déclaré.

Midjourney et al have some safe guards in place, but you can get around them with creative prompting or repeated requests. These generators are mostly just mashing up photos available on the internet. Privacy, copyright, dignity, and safety be damned

Bernie cheating on his wife: pic.twitter.com/uxSCXevQFd

— JustinTBrown (@JuuustinBrown) May 26, 2023

« Toutefois, je sais que certaines de ces images ont été prises et partagées hors contexte par d'autres, et je ne serais donc pas surpris que certaines personnes croient qu'elles sont réelles. Mais dans une certaine mesure, cela fait partie du projet. Ce type de désinformation continuera à se produire, la prochaine fois par des personnes mal intentionnées, et nous ferions mieux de commencer à nous en occuper dès maintenant. Dans un monde meilleur, je serais favorable à l'IA. Cela dit, dans le monde dans lequel nous vivons, elle a le potentiel d'être dévastatrice. Je pense que notre monde doit changer », a-t-il ajouté. Cette forme d'utilisation est déjà répandue.

Un récent rapport du New York Times montre comment les lacunes dans la réglementation des campagnes électorales ont facilité la circulation d'images générées par l'IA par les politiciens. À l'approche de l'élection présidentielle américaine de 2024, cela pourrait s'avérer désastreux. Par exemple, en avril, le parti républicain a réagi à l'annonce de la candidature de Biden à l'élection présidentielle de 2024 par une publicité générée par l'IA qui dépeint une vision dystopique des États-Unis si l'actuel locataire de la Maison-Blanche est réélu. Dans la vidéo partagée par les républicains, l'IA suggère que la réélection de Joe Biden entraînera une série de crises.

Les images diffusées dans la vidéo représentent des explosions à Taïwan après une invasion chinoise et des déploiements militaires importants dans ce que l'on suppose être des rues américaines. Pour aggraver les choses, les efforts des réseaux sociaux pour détecter le contenu généré par l'IA se sont avérés largement inefficaces pour endiguer l'afflux de faux contenus. Par conséquent, il est de plus en plus difficile de distinguer la réalité de la fiction. En outre, les experts indiquent que les faux contenus générés par l'IA peuvent violer la vie privée des personnes en créant et en diffusant des images ou des enregistrements vocaux sans leur consentement.

Cela porte non seulement atteinte aux limites de la vie privée, mais ouvre également la porte à des abus potentiels, tels que le chantage ou l'usurpation d'identité. Les implications juridiques et éthiques des contenus générés par l'IA ne peuvent pas non plus être ignorées. Les droits de propriété intellectuelle et les lois sur les droits d'auteur peuvent être enfreints, entraînant des conséquences juridiques et financières importantes. En outre, l'utilisation de faux contenus à des fins frauduleuses ou diffamatoires est une préoccupation croissante qui doit être prise en compte. En raison de l'essor de l'IA, la confiance et la crédibilité des médias numériques sont en jeu.

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des propos de l'artiste Justin Brown ?
Que pensez-vous de la démarche qu'il a utilisée pour alerter sur les dangers de l'IA ?
Selon vous, Midjourney a-t-il bien fait de le bannir ? Pourquoi ?
Que pensez-vous du fait que Midjourney laisse les utilisateurs générer de telles images ?
Selon vous, quels pourraient être les impacts de l'IA générative sur l'avenir des deepfakes ?

Voir aussi

Les "deepfakes" deviennent la première forme de fraude et sont principalement utilisés pour le "liveness bypass" et la fabrication de cartes d'identité falsifiées ou modifiées, selon Sumsub

Les publicités générées par l'IA visant à attaquer des adversaires politiques sont là et les implications sont terrifiantes, une IA dépeint une vision dystopique des États-Unis si Joe Biden est réélu

Le nombre de contenus deepfake en ligne augmente à un rythme annuel de 900 %, d'après le World Economic Forum

Des cybercriminels ont utilisé la technologie deepfake pour voler 35 millions de dollars à une banque, en clonant la voix du directeur

[Bruno]

Les auteurs veulent être reconnus et indemnisés par les entreprises d’IA qui utilisent leurs œuvres sans leur consentement,
affirment des milliers de créateurs

Des milliers d’auteurs demandent aux entreprises d’IA de respecter leurs droits d’auteur et de les payer pour l’utilisation de leurs œuvres dans l’entraînement des modèles de langage. Ils dénoncent l’injustice et le piratage dont ils sont victimes, alors que leurs revenus sont en baisse. Ils espèrent une résolution à l’amiable, mais certains ont déjà intenté des actions en justice. Les entreprises d’IA se défendent en affirmant qu’elles utilisent des contenus sous licence ou publics. La collecte de textes sur le web est une source de conflit entre les créateurs, les plateformes et les acteurs de l’IA.

Plus de 8 000 auteurs, dont des sommités telles que James Patterson, Margaret Atwood et Jonathan Franzen, ont signé une lettre ouverte demandant aux dirigeants des six principales entreprises spécialisées dans l'IA de ne pas utiliser leurs œuvres pour des modèles d'entraînement sans avoir obtenu au préalable leur consentement et offert une compensation.

La lettre, publiée par l'organisation d'écrivains professionnels The Authors Guild, est adressée aux patrons d'OpenAI, d'Alphabet, de Meta, de Stability AI, d'IBM et de Microsoft. Elle interpelle les PDG sur « l'injustice inhérente » à l'utilisation des œuvres des auteurs pour entraîner leurs grands modèles de langage sans consentement, crédit ou compensation. « Ces technologies imitent et régurgitent notre langage, nos histoires, notre style et nos idées. Des millions de livres, d'articles, d'essais et de poèmes protégés par le droit d'auteur constituent la "nourriture" des systèmes d'IA, des repas sans fin pour lesquels il n'y a pas de facture », peut-on lire dans la lettre.

« Vous dépensez des milliards de dollars pour développer la technologie de l'IA. Il n'est que juste que vous nous indemnisiez pour l'utilisation de nos écrits, sans lesquels l'IA serait banale et extrêmement limitée. »

The Authors Guild est la plus ancienne et la plus grande organisation professionnelle d'écrivains d'Amérique et fournit un plaidoyer sur les questions de liberté d'expression et de protection du droit d'auteur. Son nouveau rapport révèle que les revenus des écrivains ont baissé de 42 % entre 2009 et 2019. Avec des IA génératives telles que ChatGPT et Bard qui ajoutent à leur pression, et certaines entreprises qui remplacent déjà les travailleurs par ces systèmes, il est facile de comprendre d'où vient la colère. Mary Rasenberger, PDG de l'Authors Guild, a déclaré que l'objectif de la lettre était de convaincre les entreprises d'IA de régler les différends avec les auteurs sans passer par la voie des poursuites judiciaires, longues et coûteuses.

Ce n'est pas que tous les auteurs évitent une action en justice : Sarah Silverman, Paul Tremblay et Mona Awad sont demandeurs dans des actions collectives contre Meta et/ou OpenAI pour avoir formé leurs programmes sur des copies piratées de leurs œuvres.

L’IA, une menace pour le droit d’auteur et la création littéraire

La possibilité que des livres, des histoires et du journalisme médiocres, écrits par des machines et basés sur le travail original des auteurs, inondent le marché représente une menace importante pour la profession d'écrivain. La lettre de la Guilde souligne que la plupart des livres utilisés dans les ensembles de données de « formation » proviennent de sources et de sites web pirates, et remet en question les arguments d'utilisation équitable avancés par les sociétés d'IA.

La lettre poursuit en indiquant que la récente décision de la Cour suprême dans l'affaire Warhol v. Goldsmith jette un doute supplémentaire sur les arguments de fair use (un ensemble de règles de droit, d'origine législative et jurisprudentielle, qui apportent des limitations et des exceptions aux droits exclusifs de l'auteur sur son œuvre aux États-Uni) des sociétés d'IA en les rejetant comme une défense valable lorsque l'utilisation aboutit à un substitut commercial de l'œuvre originale.

OpenAI a déclaré dans un communiqué (via le Wall Street Journal) que ChatGPT est formé à partir de « contenus accessibles au public et de contenus créés par des formateurs d'IA et des utilisateurs humains », ajoutant que l'entreprise respecte les droits des créateurs et des auteurs. Les auteurs ne sont pas les seuls à voir leurs œuvres utilisées pour l'apprentissage de l'IA. Google a mis à jour sa politique de confidentialité au début du mois pour indiquer explicitement que l'entreprise se réserve le droit de collecter et d'analyser à peu près tout ce que les internautes partagent sur le web pour entraîner ses systèmes d'IA.

L’IA, une source de conflits entre les écrivains, les artistes et les plateformes

La collecte de textes par les entreprises spécialisées dans l'IA est une question controversée à l'heure actuelle. Elon Musk a déclaré que Twitter avait limité le nombre de tweets que les comptes pouvaient lire par jour pour prétendument faire face à des « niveaux extrêmes » de raclage de données et de « manipulation du système » sur la plateforme. Il a également menacé de poursuivre Microsoft, qui a investi des milliards dans OpenAI, pour utilisation illégale des données de Twitter.

Stability AI, Midjourney et DeviantArt font l’objet d’une plainte collective pour avoir violé le droit d’auteur en utilisant une « intelligence artificielle » qui reproduit des œuvres. Le procès se fonde sur diverses bases juridiques, dont le DMCA, les droits de publicité, le contrat de DeviantArt et la concurrence déloyale en Californie.

Les images créées par des systèmes comme Stable Diffusion ou DALL-E peuvent être commercialisées, mais les conditions sur le droit d’auteur et la propriété sont incertaines. Daniel Danger, un artiste dont les œuvres ont servi à entraîner Stable Diffusion, redoute que son travail ne soit menacé par les générateurs d’images IA. Matthew Butterick, un écrivain, designer, développeur et avocat, a participé à une action collective contre GitHub Copilot pour son « vol sans précédent de logiciels open source » (le procès se poursuit).

The Authors Guild appelle les dirigeants de l'industrie de l'IA à répondre à ces préoccupations et à prendre les mesures suivantes :

• obtenir l'autorisation d'utiliser du matériel protégé par le droit d'auteur dans les programmes d'IA générative ;
• rémunérer équitablement les écrivains pour l'utilisation passée et présente de leurs œuvres dans les programmes d'IA générative ;
• rémunérer équitablement les écrivains pour l'utilisation de leurs œuvres dans les résultats de l'IA, indépendamment du fait que les résultats enfreignent ou non les lois en vigueur.

L'Authors Guild estime que la coopération avec les leaders de l'industrie de l'IA est essentielle à la sauvegarde de la profession d'écrivain. En unissant les voix des écrivains, l'Authors Guild vise à favoriser un environnement qui respecte les principes fondamentaux d'équité et de reconnaissance.

Au cours de la dernière décennie, les auteurs ont vu leurs revenus diminuer de 40 %, et le revenu médian lié à l'écriture pour les écrivains à temps plein en 2022 n'était que de 23 330 dollars, selon la dernière enquête sur les revenus de Authors Guild, menée auprès de plus de 5 700 répondants. L'avènement de la technologie de l'IA ne fait qu'exacerber ces défis et rendra de plus en plus difficile, voire impossible, pour les écrivains - en particulier ceux issus des communautés sous-représentées - de gagner leur vie en exerçant un métier qu'ils ont mis des années, voire des décennies, à perfectionner.

Source : The Authors Guild

Et vous ?

Quelles peuvent être les conséquences juridiques et éthiques de l’utilisation des œuvres des auteurs sans leur consentement ?

À votre avis, comment les auteurs peuvent-ils contrôler et protéger leurs œuvres face aux entreprises d’IA ?

Quels sont selon vous, les risques pour la diversité et la qualité de la création littéraire face à l’IA ?

Existe-t-il des enjeux économiques et sociaux du partage des bénéfices de l’IA entre les créateurs et les utilisateurs ? Lesquels ?

Voir aussi :

L'Office européen des brevets refuse d'accorder des brevets à des concepts proposés par une IA, sous prétexte que l'inventeur doit être un humain et non un algorithme

Une plainte en recours collectif est déposée contre Stability AI, Midjourney et DeviantArt pour violations du droit d'auteur, sous le couvert d'une prétendue « intelligence artificielle »