Discussion :

[Jade Emy]

OpenAI accusée de former GPT-4o sur les livres payants d'O'Reilly Media sans accord de licence, d'après un nouveau rapport d'AI Disclosures Project

Un nouveau document publié par une organisation de surveillance de l'IA accuse sérieusement OpenAI de s'appuyer de plus en plus sur des livres non publics dont elle n'a pas obtenu la licence pour entraîner des modèles d'IA plus sophistiqués. Selon le rapport, GPT-4o a "reconnu" beaucoup plus de contenus de livres O'Reilly protégés par des droits d'auteur que les anciens modèles d'OpenAI, en particulier GPT-3.5 Turbo.

En 2024, des éditeurs de presse de Californie, du Colorado, de l'Illinois, de Floride, du Minnesota et de New York ont déclaré que Microsoft et OpenAI avaient utilisé des millions de leurs articles sans paiement ni autorisation pour développer des modèles d'intelligence artificielle pour ChatGPT et d'autres produits. La manœuvre intervenait suite à une sortie d’OpenAI dans laquelle le créateur de ChatGPT reconnaît qu’il est impossible de créer des outils de ce genre sans contenus sous copyright.

Un récent rapport semble confirmer ces plaintes. Selon l'AI Disclosure Project, une organisation à but non lucratif cofondée par le directeur des médias Tim O'Reilly et l'économiste Ilan Strauss, le dernier modèle d'OpenAI, GPT-4o, avait été pré-entrainé sur le contenu des livres payés d'O'Reilly Media. Le rapport affirme notamment que GPT-4o reconnaît mieux les livres payants que les modèles précédents.

Les chercheurs ont mené des expériences sur plusieurs modèles d'IA ouverte, dont GPT-4o, en utilisant 13 962 paragraphes extraits d'un total de 34 livres publiés par O'Reilly Media. La technique d'analyse utilisée était « DE-COP », introduite pour la première fois dans le monde universitaire en 2024, qui permet d'estimer les données de formation en fonction de la capacité d'un modèle spécifique à distinguer les textes originaux des auteurs humains des phrases similaires générées par l'IA.

Les résultats montrent que GPT-4o "reconnaît" le contenu des livres privés d'O'Reilly beaucoup mieux que GPT-3.5 Turbo, un modèle antérieur d'OpenAI. Les chercheurs ont analysé que GPT-4o est susceptible d'avoir appris ces livres au cours du processus de formation. "GPT-4o a une conscience remarquable du contenu payant par rapport au modèle précédent d'OpenAI", a déclaré Tim O'Reilly. "Cela suggère que le modèle a appris le matériel." Il a également souligné qu'O'Reilly Media, dont il est le PDG, n'a signé aucun accord de licence avec OpenAI.

OpenAI a déjà été impliqué dans plusieurs procès liés aux droits d'auteur, et des critiques ont été régulièrement émises sur la manière dont les matériaux protégés par les droits d'auteur sont utilisés comme données d'apprentissage. En conséquence, OpenAI a signé des accords de licence payants avec certains créateurs de contenu et médias d'information et a également mis en place un processus d'« opt-out » pour demander l'exclusion de l'apprentissage de son modèle, mais ce système n'est pas encore considéré comme parfait.

Cependant, un autre rapport a révélé que la startup a supprimé deux énormes ensembles de données, appelés "books1" et "books2", qui avaient été utilisés pour entraîner son modèle d'IA GPT-3. Les avocats de la firme Authors Guild ont déclaré en mai 2024 que les ensembles de données contenaient probablement plus de 100 000 livres publiés et qu'ils étaient au cœur des allégations selon lesquelles OpenAI avait utilisé des documents protégés par le droit d'auteur pour entraîner des modèles d'IA.

En outre, un ancien chercheur d'OpenAI, Suchir Balaji, avait déjà affirmé que l'entreprise a enfreint les lois sur le droit d'auteur américaines et détruit la viabilité commerciale des individus, des entreprises et des services Internet qui ont créé les données numériques utilisées pour entraîner ces systèmes d'IA. Il a notamment travaillé sur le modèle GPT-4 avant de quitter l'entreprise. Il était cité comme témoin dans les affaires judiciaires contre OpenAI comme ayant des « documents pertinents » sur la violation présumée des droits d'auteur par la startup. Malheureusement, il a été retrouvé mort dans son appartement le 26 novembre 2024.


Source : Rapport d'AI Disclosure Project

Et vous ?

Pensez-vous que ce rapport est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

OpenAI déclare la course à l'IA « terminée » si l'entraînement sur des œuvres protégées par le droit d'auteur n'est pas considéré comme une utilisation équitable, ajoutant que les États-Unis seraient perdants

« Complot d'assassinat » : la mère de Suchir Balaji, le lanceur d'alerte d'OpenAI, partage une photo prise le jour de sa mort et affirme que plusieurs caméras de vidéosurveillance ont cessé de fonctionner

Le New York Times et d'autres médias intentent un procès contre OpenAI qui pourrait mettre en jeu l'avenir de ChatGPT. Microsoft et OpenAI tentent de le faire annuler

[Artaeus]

Le "droit d'auteur" est surtout devenu un abus :
Il a été tellement détourné qu'il est responsable de l'interdiction du prêt (via les DRM), de la censure DNS d'internet, des blocages du "piracy shield" italien.
L'IA ne copie pas, elle apprend, tout comme nous : Bientôt on devra payer une licence pour réutiliser une connaissance issue d'un document sous "droit d'auteur" ?

[der§en]

J’ai lu des livres que je n’ai pas acheté et dont j’ai tiré profit, moi aussi, j’aurais violé le droit d’auteur ?

[smarties]

On peut lire des livre en en tirant profil gratuitement dans les bibliothèques/médiathèques déjà

[AoCannaille]

J’ai lu des livres que je n’ai pas acheté et dont j’ai tiré profit, moi aussi, j’aurais violé le droit d’auteur ?

Si tu as lu des livres et donné des formations avec des formulations et/ou des exemples tirés du livre, oui. Et c'est d'une certaine façon ce que font les IA.

[totozor]

Le "droit d'auteur" est surtout devenu un abus

ne jetons pas le bébé avec l'eau du bain, les droits d'auteurs n'ont pas évolués avec l'art (au sens large) ce qui en fait un objet plus ou moins obsolète que les gens vont respecter ou invoquer quand ça les arrange.
Et tu sais d'autant plus le faire quand tu es puissant, c'est à dire que Universal n'a aucun problème à réclamer des droits à l'association des cinéphiles de pélouaille les vignes mais n'a aucun problème à sampler une musique sans rien donner au musicien initial (ou sas ayants droit).

Oui, on ne peut pas tout faire avec un œuvre et ça parait plutôt logique.
Il me semble normal que Jean Michel Tube de l'été puisse vivre les pieds en éventails parce qu'il a écrit le tube de l'été 1996 et qu'on aime se le repasser à la radio tous les ans.
Ca me semble un peu moins normal que Jean Pierre Plagiat ai la même vie parce qu'il a rajouté un kick à la musique en 2009.
Et je sais bien que je ne parles pas de Jean Charles techno qui l'a samplé en 2012 parce que la frontière entre les précédents n'est pas si claire.

[Bruno]

Le juge rejette la demande d'OpenAI de rejeter les plaintes en matière de droits d'auteur,
un succès du Times signerait l'arrêt de l'exploitation gratuite des œuvres protégées par l'industrie de l'IA

La semaine dernière, un juge du tribunal de district des États-Unis a rejeté la majeure partie de la requête d'OpenAI visant à rejeter une action en justice intentée par le New York Times à son encontre et à celle de son actionnaire minoritaire, Microsoft. Cette décision du juge Stein de laisser progresser le procès du New York Times contre OpenAI et Microsoft marque un tournant dans le débat sur l’utilisation des contenus protégés pour entraîner les IA. En rejetant les arguments d’OpenAI sur la prescription et en validant les accusations de violation directe et contributive des droits d’auteur, le tribunal envoie un signal fort : les entreprises technologiques ne peuvent pas simplement invoquer l’« usage loyal » pour justifier l’exploitation massive d’œuvres sans compensation.

Cependant, le rejet partiel de certaines plaintes (comme celles sur le parasitisme ou la suppression des métadonnées) montre que la bataille juridique reste complexe et que le Times devra prouver qu’OpenAI a délibérément enfreint ses droits plutôt que de simplement en bénéficier indirectement. Cette affaire soulève des questions plus larges sur l’équilibre entre innovation et protection des créateurs. Si le Times l’emporte, cela pourrait imposer des restrictions coûteuses aux développeurs d’IA, voire ralentir l’évolution des LLM. À l’inverse, une victoire d’OpenAI risquerait d’éroder davantage les droits des médias, déjà fragilisés par l’économie numérique. Dans les deux cas, le verdict aura des répercussions bien au-delà de cette affaire, définissant comment le droit d’auteur s’applique – ou échoue à s’appliquer – à l’ère de l’IA.

La semaine dernière, le juge Sidney Stein du tribunal fédéral de Manhattan a rendu une décision partagée dans l'affaire opposant le New York Times à OpenAI et Microsoft. Tout en rejetant plusieurs demandes des entreprises technologiques visant à écarter des éléments clés de la plainte, il a néanmoins accepté certaines de leurs requêtes limitant partiellement la portée du litige. Parmi les arguments rejetés figuraient ceux concernant la prescription des revendications sur des œuvres de plus de trois ans et la responsabilité indirecte dans les violations alléguées de droits d'auteur.

Les demandes relatives à la suppression des informations de copyright sous le régime de la Digital Millennium Copyright Act n'ont été que partiellement satisfaites, laissant ouverte une partie importante du débat juridique. Ce litige s'inscrit dans un contexte plus large où les entreprises d'IA défendent l'idée que leur utilisation de données publiques pour entraîner leurs modèles constitue une utilisation équitable au sens de la loi sur le droit d'auteur. Cette position est farouchement contestée par les détenteurs de contenus, mais la question fondamentale ne trouvera de réponse définitive qu'après une décision judiciaire claire ou une réforme législative.

L'affaire, particulièrement scrutée par l'industrie médiatique, pourrait établir un précédent crucial pour les questions de propriété intellectuelle à l'ère de l'intelligence artificielle. La procédure se poursuivra par une phase de découverte, après laquelle les parties soumettront leurs arguments pour un éventuel jugement sommaire. Si cette décision devait être défavorable au Times, le journal aurait la possibilité de faire appel.

Cette bataille juridique trouve son origine dans la plainte déposée par le New York Times en décembre 2023, accusant ChatGPT de violer ses droits d'auteur en reproduisant ses articles. OpenAI avait tenté de faire déclarer la plainte irrecevable pour prescription, arguant que le journal aurait dû engager des poursuites dès 2020, sachant que ses articles étaient utilisés pour entraîner l'IA. Pour étayer cette thèse, la société s'était appuyée sur un article du Times lui-même datant de novembre 2020, mentionnant qu'OpenAI analysait des milliards de mots en ligne.

Le juge Stein a cependant rejeté cet argument, estimant qu'OpenAI n'avait pas démontré de manière convaincante que le Times aurait dû anticiper, dès 2020, que ChatGPT reproduirait ultérieurement ses articles de manière litigieuse. Dans son raisonnement, le magistrat a souligné que le simple fait qu'un journaliste du Times ait évoqué la formation des modèles d'IA ne signifiait pas que le journal était conscient des potentielles violations qui surviendraient des années plus tard.

L'argument complémentaire d'OpenAI, selon lequel l'utilisation des articles du Times serait de "notoriété publique" depuis 2020, a également été écarté. Le juge a relevé que l'entreprise n'avait pas expliqué en quoi ces informations générales auraient dû alerter le Times sur les reproductions spécifiques qui font l'objet de la plainte. Il a particulièrement insisté sur le fait que la plainte portait sur des copies précises d'œuvres protégées, et non sur une utilisation générale des données.

Dans le fond, la décision valide la position du Times selon laquelle OpenAI n'a pas apporté la preuve que le journal aurait pu connaître à l'avance le fonctionnement exact de ChatGPT avant son lancement public. Le juge a ainsi rejeté la demande de classement pour prescription, qualifiant d'« homme de paille » l'argument d'OpenAI selon lequel le Times, en tant qu'éditeur expérimenté, aurait dû agir plus rapidement contre des violations qu'il ne pouvait alors connaître.

Le magistrat a toutefois laissé une porte ouverte à OpenAI, précisant que l'entreprise pourrait tenter d'établir lors de l'instruction que le Times avait effectivement connaissance des potentielles violations dès 2020. Mais à ce stade préliminaire, un rejet de la plainte lui paraissait prématuré. Cette même logique s'appliquerait à une affaire similaire impliquant le Daily News, selon le juge Stein.

Davida Brook, avocate principale représentant le New York Times, a accueilli favorablement cette décision, y voyant une victoire importante pour son client. Dans une déclaration, elle a salué l'analyse minutieuse du juge et confirmé que toutes les revendications en matière de droits d'auteur contre Microsoft et OpenAI seraient maintenues. « Nous nous réjouissons de poursuivre cette action pour le vol à grande échelle de millions d'œuvres protégées du Times », a-t-elle déclaré, marquant ainsi la détermination du journal à aller jusqu'au bout de ce combat judiciaire.

L'IA devant les Assises : Un procès pour l'ère algorithmique

Le New York Times a engagé des poursuites judiciaires contre OpenAI et Microsoft, les accusant d'avoir exploité illégalement son contenu protégé. Selon le quotidien, ces géants technologiques se seraient appuyés sur des millions de ses articles pour entraîner leurs systèmes d'intelligence artificielle, causant selon lui un préjudice économique considérable qui se chiffrerait en milliards de dollars.

Dans cette affaire portée devant le tribunal fédéral de Manhattan, le New York Times soutient que les chatbots développés par ces entreprises, alimentés par son contenu journalistique, représentent une menace concrète pour la profession journalistique. La plainte dénonce une utilisation massive et non autorisée d'articles protégés pour perfectionner des produits comme ChatGPT et Bing Chat, qui viendraient directement concurrencer le travail des rédactions.

Le journal met particulièrement en cause les pratiques des deux entreprises, qu'il accuse d'avoir systématiquement copié son contenu pour développer leurs modèles linguistiques avancés. « Les défendeurs ont délibérément exploité notre investissement journalistique substantiel pour créer des produits concurrents, sans jamais solliciter d'autorisation ni proposer de compensation », peut-on lire dans les documents judiciaires.

Cette action en justice souligne le conflit croissant entre les créateurs de contenu original et les développeurs de technologies d'IA. Le Times y voit une appropriation illicite de sa propriété intellectuelle, tandis qu'OpenAI et Microsoft défendent le principe d'utilisation équitable (fair use), estimant que leur approche relève de l'innovation technologique légitime. L'issue de ce procès pourrait établir un précédent important pour l'industrie médiatique à l'ère du numérique.

En mars 2023, Microsoft a engagé une contre-offensive juridique en demandant le rejet de plusieurs chefs d'accusation formulés par le New York Times, qualifiant les craintes du journal sur l'impact de l'IA sur le journalisme indépendant de "scénario catastrophiste injustifié". Cette manœuvre procédurale intervient quelques semaines après une démarche similaire d'OpenAI visant à limiter la portée du litige.

Dans un contraste frappant avec la position conflictuelle du New York Times, le Financial Times a opté pour la voie de la collaboration en signant un accord de licence avec OpenAI. Ce partenariat stratégique autorise l'utilisation des archives du célèbre quotidien économique britannique pour alimenter les algorithmes d'apprentissage des modèles génératifs d'OpenAI, ces systèmes révolutionnaires capables de reproduire des productions humaines complexes.

L'essor fulgurant des technologies d'IA comme GPT s'appuie fondamentalement sur l'ingestion massive de données textuelles, incluant fréquemment des contenus protégés par des droits d'auteur. Cette pratique fait l'objet d'une contestation croissante de la part du New York Times et d'autres éditeurs, qui dénoncent une exploitation systématique de leur propriété intellectuelle sans autorisation ni contrepartie financière.

L'affaire prend une tournure plus complexe avec les dernières allégations du Times concernant la disparition suspecte de preuves potentielles. Le journal accuse OpenAI d'avoir involontairement effacé des éléments cruciaux suite à un incident technique, ce qui selon lui entraverait sérieusement la démonstration des violations alléguées et l'obtention d'une réparation équitable.

En avril 2024, le New York Times a intensifié son offensive contre OpenAI en révélant des pratiques controversées de collecte de données. Selon une enquête approfondie du journal, la société aurait utilisé illégalement plus d'un million d'heures de vidéos YouTube pour entraîner son modèle GPT-4. Le plus surprenant est que Google, propriétaire de YouTube via Alphabet, aurait fermé les yeux sur ces agissements - probablement parce qu'il emploierait lui-même des méthodes similaires pour ses propres modèles d'IA. Ces pratiques contreviennent non seulement aux conditions d'utilisation de YouTube, mais violent potentiellement les droits d'auteur de millions de créateurs de contenu.

L'insatiable appétit des systèmes d'IA en données pose un défi majeur. Ces technologies - qu'il s'agisse de modèles d'apprentissage automatique, d'analyse prédictive ou de capacités de généralisation - reposent entièrement sur la disponibilité de masses colossales d'informations variées. Cette dépendance est telle qu'on compare souvent les données au "carburant" indispensable au développement de l'intelligence artificielle. Si les récentes avancées spectaculaires ont été possibles grâce au pillage systématique des ressources disponibles sur le web, cette manne pourrait bientôt se tarir, menaçant l'avenir même de ces technologies.

Des experts sonnent l'alarme : l'industrie de l'IA se dirige droit vers une crise des données. Le New York Times a récemment documenté les méthodes parfois douteuses employées par ces entreprises pour contourner la future pénurie. Ces tactiques, qui flirtent souvent avec l'illégalité, consistent essentiellement à puiser dans des sources protégées sans compensation pour les ayants droit. Artistes, écrivains, créateurs de contenu - tous voient leur travail exploité sans contrepartie par des géants technologiques en quête perpétuelle de nouvelles données à ingurgiter.

Le jugement préliminaire dans l'affaire OpenAI : prélude à une révolution du droit d'auteur ?

Cette affaire pourrait redéfinir les limites légales de l’entraînement des IA et poser une question cruciale : comment concilier innovation technologique et respect de la propriété intellectuelle ?

La décision du juge Stein de permettre au procès de se poursuivre constitue un développement juridique significatif, mais ne doit pas être interprétée comme une victoire définitive pour le New York Times. Le rejet des arguments sur la prescription et le maintien des accusations principales montrent effectivement que les tribunaux prennent au sérieux les préoccupations concernant l'utilisation non autorisée de contenus protégés. Cependant, comme le soulignent plusieurs commentaires, cette décision préliminaire ne préjuge en rien du fond de l'affaire - elle indique simplement que les allégations du Times méritent d'être examinées plus avant.

La complexité du débat apparaît clairement dans les positions divergentes exprimées. D'un côté, certains estiment que le processus d'apprentissage des LLM s'apparente à une forme de synthèse cognitive similaire à l'apprentissage humain, ce qui pourrait relever du "fair use". D'autres soulignent avec justesse la différence fondamentale entre une personne qui lit des contenus pour son enrichissement personnel et une entreprise qui commercialise un produit basé sur ces mêmes contenus sans compensation. Cette distinction est cruciale et mériterait d'être au cœur du débat juridique.

Sur le plan technique, l'argument comparant les LLM à des moteurs de recherche améliorés semble réducteur. Comme le note un commentaire avisé, les modèles de langage opèrent une véritable transformation des données, créant des outputs statistiquement probables plutôt que de simplement référencer des sources. Cette caractéristique pourrait jouer en faveur d'OpenAI dans l'analyse du « fair use », mais ne résout pas pour autant la question éthique de la juste rémunération des créateurs.

L'affaire révèle surtout l'inadéquation croissante des cadres juridiques existants face aux innovations technologiques. Le droit d'auteur, conçu pour un monde analogique, peine à appréhender les réalités du big data et de l'IA. Plutôt qu'une simple bataille entre un média et une entreprise technologique, ce procès pourrait devenir le catalyseur d'une refonte nécessaire du système de propriété intellectuelle.

En définitive, quelle que soit l'issue du procès, cette affaire souligne l'urgence d'établir un nouveau contrat social pour l'ère numérique - un équilibre qui protège à la fois les droits des créateurs et les potentialités innovantes de l'IA, sans pour autant sacrifier l'un au profit de l'autre.

Source : U.S. District Judge Sidney Stein denies OpenAI's motion to dismiss the NYT's copyright claims

Et vous ?

Le New York Times peut-il prouver un préjudice économique direct ?

L'« usage loyal » (fair use) est-il vraiment applicable à l’entraînement des IA ?

Une régulation trop stricte ne risquerait-elle pas de bloquer l’innovation en IA ?

Les LLM sont-ils des « moteurs de recherche améliorés » ou des plagiaires automatisés ?

Voir aussi :

Le New York Times poursuit OpenAI et Microsoft pour violation des droits d'auteur, affirmant que des "millions d'articles" ont été utilisés pour former des chatbots

Microsoft accuse le New York Times de propager une « futurologie apocalyptique » dans le cadre du procès OpenAI et demande de rejeter des éléments clés du procès intenté pour violation du copyright

Alors que le New York Times poursuit OpenAI pour violation des droits d'auteur, le Financial Times accepte de conclure un accord de licence de contenu avec OpenAI pour alimenter officiellement son IA générative