Discussion :

[Jade Emy]

Adobe vend de fausses images de la guerre entre Israël et Gaza générées par IA, des publications en ligne ont utilisé une image d'une attaque provenant d'Adobe Stock sans la signaler comme fausse.

Des images réalistes générées par IA et décrivant le conflit entre Israël et Gaza sont vendues sur le service d'abonnement aux images de stock d'Adobe et utilisées par des publications en ligne. La préoccupation est que certaines de ces publications ne mentionnent pas que ces images avaient été générées par IA, diffusant ainsi des informations erronées sur le conflit.

Les services d'abonnement d'Adobe permettent aux utilisateurs de télécharger et de vendre des images, y compris celles générées par l'IA, dans le cadre de l'adoption de la technologie par l'entreprise, avec ses outils d'intelligence artificielle générative Firefly.

Les personnes qui soumettent des images générées par l'IA au service de stock d'images d'Adobe sont tenues d'indiquer qu'elles sont générées par IA, et les images sont accompagnées d'une mention "généré par l'IA" sur le site. Certaines de ces images ont l'air très réelles, ce qui signifie que sans ces marques, il ne serait pas difficile de les confondre avec des photos réelles.

Cette préoccupation est en train de devenir une réalité, puisque des images d'IA décrivant la guerre entre Israël et le Hamas ont été utilisées par un certain nombre de publications sans mentionner qu'elles avaient été générées par l'IA. Ces images représentent des scènes d'explosions dans des zones peuplées de civils ou des femmes et des enfants fuyant les zones de combat et les flammes, paraissant photoréalistes alors qu'elles ne sont pas réelles.

Par exemple, une recherche d'image inversée sur une image de nuages de fumée noire s'élevant de bâtiments intitulée "conflict between israel and palestine generative ai" par Scheidle-Design montre qu'elle a été utilisée par un grand nombre de publications d'information.

Le problème est que ces publications diffusent, sciemment ou non, des informations erronées au cours d'un conflit où la désinformation et la propagande sont monnaie courante, et où il est déjà difficile de discerner ce qui est vrai ou faux.

Layla Mashkoor, rédactrice en chef adjointe du Digital Forensic Research Lab de l'Atlantic Council, a déclaré que l'IA générative avait déjà joué un rôle important en influençant les partisans de chaque camp. "Les exemples incluent un panneau d'affichage généré par l'IA à Tel Aviv pour défendre les Forces de défense israéliennes, un compte israélien partageant de fausses images de personnes acclamant les FDI, un influenceur israélien utilisant l'IA pour générer des condamnations du Hamas, et des images d'IA représentant des victimes du bombardement israélien de Gaza", a-t-elle déclaré.

Malgré cela, Mashkoor a déclaré que ces images sont largement utilisées pour "susciter le soutien, ce qui n'est pas l'une des façons les plus malveillantes d'utiliser l'IA à l'heure actuelle", et que leur efficacité est limitée en raison de l'ampleur même de la désinformation qui circule en ligne. "L'espace d'information est déjà inondé d'images et de séquences réelles et authentiques, ce qui a pour effet d'inonder les plateformes de médias sociaux", a-t-elle déclaré.

Quoi qu'il en soit, ces images suscitent une réaction émotionnelle chez le spectateur et, qu'elles le veuillent ou non, ont le potentiel de manipuler les opinions de ceux qui les voient, en particulier dans le contexte d'un article qui les accompagne. La désinformation et l'armement de la désinformation sont des préoccupations majeures liées à l'adoption de l'IA. Selon une enquête de Forbes Advisor, 76 % des consommateurs craignent que les outils d'IA tels que Google Bard, ChatGPT et Bing Chat ne génèrent des informations erronées.

En outre, Sam Altman, directeur général d'OpenAI, la société mère de ChatGPT, a déclaré que sa plus grande préoccupation concernant le développement de l'IA était sa capacité à diffuser des informations erronées. "Ce qui me préoccupe le plus, ce sont les capacités plus générales de ces modèles à manipuler, à persuader, à fournir une sorte de désinformation interactive individuelle", a-t-il déclaré au Congrès en mai dernier. "Étant donné que nous allons être confrontés à des élections l'année prochaine et que ces modèles s'améliorent, je pense qu'il s'agit d'un sujet de préoccupation important, et je pense qu'il existe de nombreuses politiques que les entreprises peuvent adopter volontairement."

Source : Crikey, Adobe

Et vous ?

Quel est votre avis sur le sujet ?
Selon vous, quelles sont les solutions pour éviter l'utilisation de l'IA générative pour la désinformation ?

Voir aussi :

Les contenus générés par l'IA générative devraient être étiquetés afin de prévenir les abus potentiels de la technologie et les risques de désinformation, selon la commissaire européenne Jourova

La pensée critique serait plus efficace que la censure pour lutter contre la désinformation, selon une étude d'experts de l'université de l'État du Michigan

Qui se laisse séduire par les infox (fake news) ? Profilage psychologique et clinique des consommateurs de fake news

[yoyo3d]

Il était déjà très difficile pour le commun des mortels de prouver un fait avec une photo ou une bande son ou de croire tel ou tel argument.... aujourd'hui même les "pros" ne peuvent plus etre garants de ce qu'ils annoncent .
désinformer, c'est empêcher le public de se faire une opinion et donc de choisir son avenir... nos grands "yaka" l'ont bien compris...
j'ai toujours été pour le progrès technologique, la recherche, la science...mais la, ça n'augure rien de bon, c'est triste....

[Mathis Lucas]

Adobe critiqué publiquement pour avoir vendu des images générées par l'IA dans le style du célèbre photographe Ansel Adams
la succession du photographe exhorte Adobe à protéger les droits des artistes

La succession d'Ansel Adams a publiquement critiqué Adobe pour avoir laissé des utilisateurs d'Adobe Stock vendre des imitations des œuvres du photographe générées par l'IA. Elle a publié vendredi sur Threads une capture d'écran montrant des images générées par l'IA mises en vente sur Adobe Stock avec la mention "Ansel Adams-Style ". Ce comportement n'a pas plu aux ayants droit d'Ansel Adams et ils l'ont fait savoir dans plusieurs messages. Adobe a répondu au signalement en déclarant avoir supprimé le contenu incriminé. Précédemment, Adobe a été critiqué pour avoir permis la vente d'images générées par l'IA sur le conflit à Gaza.

Adobe autorise l'hébergement et la vente d'images générées par l'IA sur sa plateforme d'images de stock, Adobe Stock. Mais les utilisateurs sont tenus de détenir les droits ou la propriété appropriés sur le contenu qu'ils téléversent sur la plateforme. Les conditions de contribution d'Adobe Stock interdisent spécifiquement "le contenu créé à l'aide d'invites contenant d'autres noms d'artistes ou créé à l'aide d'invites destinées à copier un autre artiste". Pourtant, ces directives n'ont apparemment pas empêché certains utilisateurs de téléverser des images générées par l'IA imitant le style ou encore les œuvres d'autres artistes.

Vendredi dernier, Adobe a reçu un avertissement public de la part de la succession d'Ansel Adams au sujet d'images générées par l'IA, disponibles sur Adobe Stock, qui ont été créées dans le style du défunt photographe. La succession a écrit sur Threads : « @adobe, vous êtes officiellement sur nos nerfs avec ce comportement ». Ce message était accompagné d'une capture d'écran montrant une image générée par l'IA. Intitulée "Nature's Symphony : Ansel Adams-Style Landscape Photography", l'image représente un paysage de montagne en noir et blanc, et peut être achetée sous licence au prix de 79,99 dollars.

Elle a été mise en vente par un utilisateur nommé frefre. Toutefois, contrairement à la photographie d'Ansel Adams, qui est riche en détail, cette image semble clairement numérique, avec des montagnes assombries et des arbres à l'aspect plat. Adobe répondu au signalement en expliquant : « merci d'avoir signalé ce comportement qui va à l'encontre de notre politique en matière de contenu d'IA générative. Nous sommes heureux que notre équipe ait pu supprimer le contenu ». Adobe a également déclaré avoir envoyé un message privé à la succession d'Ansel Adams pour qu'elle prenne contact directement avec lui à l'avenir.

Toutefois, la succession d'Ansel Adams a déclaré avoir contacté Adobe directement à plusieurs reprises depuis août 2023. Elle a invité la société à se montrer proactive sur les questions liées aux droits pour lutter contre les imitations et protéger les œuvres originales des artistes. Elle a déclaré :

Si vous voulez être pris au sérieux en ce qui concerne votre prétendu engagement en faveur d'une IA éthique et responsable, tout en faisant preuve de respect à l'égard de la communauté créative, nous vous invitons à vous montrer proactifs face à des plaintes comme les nôtres et à cesser d'imposer aux artistes et à leurs ayants droit la responsabilité de contrôler en permanence notre propriété intellectuelle sur votre plateforme, selon vos conditions. Il est grand temps d'arrêter de gaspiller des ressources qui ne vous appartiennent pas.

Bassil Elkadi, directeur de la communication et des relations publiques d'Adobe, a déclaré qu'Adobe est activement en contact avec la succession d'Ansel Adams à ce sujet et que des mesures appropriées ont été prises étant donné que l'utilisateur a violé les conditions de la plateforme. Le vice-président d'Adobe Stock, Matthew Smith, a précédemment déclaré à The Verge que la société modère généralement toutes les ressources d'Adobe Stock avant qu'elles ne soient mises à la disposition des clients, en employant une variété de méthodes qui incluent "une équipe expérimentée de modérateurs qui examinent les soumissions".

Smith a déclaré que la mesure la plus ferme que l'entreprise puisse prendre pour faire respecter les règles de sa plateforme est de bloquer les utilisateurs qui les enfreignent. « Nous ne voyons aucun inconvénient à ce que quelqu'un s'inspire des photographies d'Ansel Adams. Mais nous nous opposons fermement à l'utilisation non autorisée de son nom pour vendre des produits de quelque nature que ce soit, y compris des produits numériques, et notamment des produits générés par l'IA, que son nom ait été utilisé en entrée ou qu'un modèle donné ait été entraîné à partir de son travail », a déclaré la succession d'Ansel Adams.

Sur Threads, de nombreux internautes critiquent Adobe, affirmant que l'entreprise ne rend pas service aux créateurs en ouvrant sa plateforme aux œuvres générées par l'IA. « C'est absolument dégoûtant. Adobe doit savoir quelle est sa position : avec les artistes ou contre les artistes », a écrit un utilisateur. Un autre écrit : « il s'agit d'un problème mondial majeur. Le fait qu'un service comme Adobe, que nous utilisons depuis des décennies, promeuve activement l'IA comme s'il s'agissait d'un moyen de créer de l'art est absolument frustrant. L'IA n'est pas un talent et elle nuit aux gens qui ont passé des décennies à construire leur art ».

Critiquant l'image mise en vente sur Adobe Stock, un utilisateur écrit : « les paysages ont l'air déformés et erronés. La perspective du lac de montagne est absurde. Le ruisseau qui traverse la forêt sombre ressemble plus à Mirkwood qu'à une véritable forêt. Pas de végétation riveraine. L'éclairage provient d'une source inexpliquée ». Mais d'autres se sentent à l'aise avec l'IA : « on a dit la même chose du passage de la peinture à la photographie. Les temps changent. Il faut l'accepter. L'IA n'enlève rien aux personnes qui ont passé des décennies à construire leur art. L'IA est juste un nouvel outil, comme un appareil photo ».

En novembre dernier, des images générées par l'IA décrivant le conflit entre Israël et le groupe Hamas ont été mises en vente sur Adobe Stock et ont été utilisées par des publications en ligne. La préoccupation provient du fait que certaines de ces publications ne mentionnent pas que ces images ont été générées par IA, diffusant ainsi des informations erronées sur le conflit. Enfin, il faut rappeler que des entreprises d'IA telles que Microsoft, OpenAI, Stability AI et Midjourney font l'objet de plusieurs plaintes pour avoir supposément formé leurs générateurs d'images avec des œuvres protégées par le droit d'auteur.

Et vous ?

Quel est votre avis sur le sujet ?

Voir aussi

Adobe achètera vos vidéos jusqu'à 7,25 dollars la minute pour former son générateur de texte en vidéo par IA afin de rattraper ses concurrents après la démonstration d'OpenAI

Adobe utilise-t-il vos photos pour entraîner son IA ? Adobe pourrait analyser votre contenu à l'aide de techniques telles que l'apprentissage automatique, selon la Fondation Krita

Adobe vend de fausses images de la guerre entre Israël et Gaza générées par IA, des publications en ligne ont utilisé une image d'une attaque provenant d'Adobe Stock sans la signaler comme fausse

[Aiekick]

le probleme c'est qu'a force de melanger du contenu partagé par des createurs humain,
les createurs humain vont peu a peu disparaitre, et commc l'ia est incapable d'imaginer quelques chose qui provoque des emotion chez les humains.
l'ia va melanger du contenu ia sans rien ajouter de neuf, et ca va desinteresser les gens. mais trop tard et le mal sera fait.