Discussion :

[Jade Emy]

Le projet de loi KOSA sur la censure d'Internet vient d'être adopté par le Sénat : il faut l'arrêter car c'est une mauvaise idée que les politiciens décident de ce qu'on peut voir en ligne, d'après l'EFF

Le projet de loi sur la sécurité en ligne des enfants (Kids Online Safety Act) passe l'étape du Sénat au États-Unis. Pour l'EFF, c'est la dernière chance de l'arrêter, car c'est une très mauvaise idée de laisser les politiciens décider de ce que les gens devraient lire et regarder en ligne. L'EFF affirme que la loi KOSA conduira à la persécution et à la fermeture des personnes qui créent du contenu en ligne sur l'éducation sexuelle, l'identité et la santé des personnes LGBTQ+. La loi KOSA permettrait aussi de contrôler les différents type de contenus sur l'internet, suivant les opinions politiques des régulateurs.

La loi sur la sécurité des enfants en ligne (Kids Online Safety Act, KOSA) vient d’être adoptée par le Sénat US. La KOSA a bénéficié d'un large soutien bipartisan au Sénat et a été adoptée par 91 voix contre 3, en même temps que la Children's Online Privacy Protection Action (COPPA) 2.0. Ces deux lois visent à contrôler la quantité de données pouvant être collectées auprès des mineurs et à réglementer les fonctionnalités des plateformes susceptibles de nuire à la santé mentale des enfants.

Les groupes de défense des libertés civiles tiennent néanmoins à attirer l’attention sur les dangers pour la vie privée et les élans de censure autoritariste en toile de fond. Dans une lettre adressée récemment aux sénateurs, des groupes tels que l'American Civil Liberties Union (ACLU), l'Electronic Frontier Foundation (EFF), LGBT Tech et NetChoice ont écrit que le devoir de diligence pourrait entraîner « un filtrage agressif des contenus ». Ils craignent également que les plateformes soient amenées à imposer des systèmes de vérification de l'âge, ce qui soulèverait des problèmes supplémentaires en matière de respect de la vie privée et de constitutionnalité.

Les projets de loi sont maintenant transmis à la Chambre des représentants. L'EFF insiste que « c'est notre dernière chance de l'arrêter ». L'Electronic Frontier Foundation (EFF) est une organisation à but non lucratif qui défend les libertés civiles dans le monde numérique. Fondée en 1990, l'EFF défend la vie privée des utilisateurs, la liberté d'expression et l'innovation par le biais de litiges, d'analyses politiques, d'activisme de terrain et de développement technologique. La mission de l'EFF est de veiller à ce que la technologie soutienne la liberté, la justice et l'innovation pour tous les peuples du monde.

Voici le message de l'EFF après que le projet de loi KOSA a été adopté par le Sénat :

Le projet de loi KOSA sur la censure d'Internet vient d'être adopté par le Sénat - c'est notre dernière chance de l'arrêter

Le Sénat vient d'adopter un projet de loi qui permettra au gouvernement fédéral et aux États d'enquêter et de poursuivre en justice les sites Web qui, selon eux, causent une détresse mentale aux enfants. C'est une très mauvaise idée de laisser les politiciens et les bureaucrates décider de ce que les gens doivent lire et regarder en ligne, mais le Sénat a adopté le projet de loi KOSA par 91 voix contre 3.

Les partisans du projet de loi se sont concentrés sur des histoires de perte vraiment tragiques et ont ensuite lié ces tragédies à l'internet. Mais l'anxiété, les troubles de l'alimentation, la toxicomanie, les jeux d'argent, la consommation de tabac et d'alcool par les mineurs et les nombreux autres maux que la loi KOSA prétend combattre existaient bien avant l'apparition d'Internet.

Le vote du Sénat signifie que la Chambre peut reprendre et voter ce projet de loi à tout moment. La Chambre pourrait également choisir de débattre de sa propre version de KOSA, qui présente les mêmes défauts. Plusieurs membres de la Chambre ont exprimé des inquiétudes concernant le projet de loi.

Les membres du Congrès qui votent en faveur de ce projet de loi ne doivent pas oublier qu'ils ne contrôlent pas, et ne contrôleront pas, qui sera chargé de punir les mauvaises expressions sur Internet. La Commission fédérale du commerce, contrôlée majoritairement par le parti du président, pourra décider quel type de contenu « nuit » aux mineurs, puis enquêter ou engager des poursuites contre les sites web qui hébergent ce contenu.

Les hommes politiques des deux partis ont cherché à contrôler différents types de contenus sur l'internet. L'un des auteurs du projet de loi a déclaré que le matériel pédagogique largement utilisé pour enseigner l'histoire du racisme aux États-Unis provoquait des dépressions chez les enfants. Les enfants qui s'expriment sur les problèmes de santé mentale ou qui tentent d'aider leurs amis toxicomanes seront probablement traités de la même manière que ceux qui encouragent les comportements de dépendance ou d'automutilation, et seront mis hors ligne. Les mineurs qui s'engagent dans l'activisme ou qui discutent même de l'actualité pourraient être mis hors ligne, puisque les motifs de poursuite des sites web s'étendent à des troubles tels que l'« anxiété ».

KOSA conduira à la persécution et à la fermeture des personnes qui créent du contenu en ligne sur l'éducation sexuelle, l'identité et la santé des personnes LGBTQ+. Les opinions sur la manière dont ces sujets doivent être abordés, ou s'ils doivent l'être, varient considérablement d'une communauté américaine à l'autre. Il suffira qu'un membre de la Commission fédérale du commerce cherche à marquer des points politiques, ou qu'un procureur général d'un État cherche à assurer sa réélection, pour commencer à s'en prendre aux discours en ligne que ses électeurs n'apprécient pas.

Toutes ces entraves à la liberté d'expression affecteront également les adultes. Les adultes ne trouveront tout simplement pas les contenus qui ont été supprimés en masse afin d'éviter les poursuites judiciaires inspirées par la KOSA ; et on sera tous gênés par les sites web et les applications qui installent des contrôles d'identité, des barrières d'âge et des filtres de contenu logiciels invasifs (et qui fonctionnent mal).

La grande majorité des discours affectés par la KOSA sont protégés par la Constitution des États-Unis, ce qui explique la longue liste des raisons pour lesquelles la KOSA est inconstitutionnelle. Malheureusement, les législateurs qui ont voté en faveur de ce projet de loi ont ignoré ces préoccupations. Ils ont également ignoré les voix de millions de jeunes qui verront leur liberté d'expression restreinte par ce projet de loi, y compris les milliers de personnes qui ont parlé directement à l'EFF de leurs préoccupations et de leurs craintes concernant le KOSA.

L'EFF conclut :

Nous ne pouvons pas compter uniquement sur les poursuites et les tribunaux pour nous protéger de la vague croissante de législation anti-discours sur Internet, avec KOSA en première ligne. Nous devons faire savoir à ceux qui élaborent les lois que le public prend conscience de leurs plans de censure et qu'il ne les acceptera pas.

Source : Electronic Frontier Foundation (EFF)

Et vous ?

Pensez-vous que ce message de l'EFF est crédible ou pertinent ?
Quel est votre avis sur ce projet de loi ?

Voir aussi :

Le projet de loi sur la sécurité en ligne des enfants (Kids Online Safety Act) passe l'étape du Sénat, en dépit des dangers qu'il représente pour la vie privée et sa saveur de censure autoritariste

Pourquoi la loi "Kids Online Safety Act" qui vise prétendument la sécurité des enfants en ligne, est préjudiciable aux mineurs. La loi est plutôt subie comme une censure autoritariste, d'après l'EFF

La loi KOSA sur la sécurité des enfants en ligne ciblera les contenus transgenres pour "protéger les mineurs des transgenres dans la culture américaine", affirme une sénatrice américaine

[Mathis Lucas]

Un juge déclare que les réseaux sociaux ne peuvent être contraints de filtrer les contenus destinés aux enfants
estimant que cela constitue une menace pour les discours protégés par le premier amendement

Un juge fédéral a partiellement bloqué la nouvelle loi texane qui visait à obliger les plateformes de médias sociaux à identifier les mineurs et à filtrer ce qu'ils voient en ligne. Cette partie de la loi visait à imposer aux réseaux sociaux de nouvelles exigences pour tenir les contenus préjudiciables à l'écart des mineurs. Cependant, le juge a estimé que les exigences en matière de surveillance et de filtrage constituent une menace importante pour la liberté d'expression en ligne, et a mis un terme à leur mise en œuvre. Cette décision a des répercussions importantes sur la modération des contenus en ligne et sur les débats relatifs à la sécurité des enfants sur Internet.

Certaines dispositions de loi HB18 du Texas pourraient porter atteinte à la liberté d'expression

La loi HB18 ou SCOPE (Securing Children Online Through Parental Empowerment Act) a été loi adoptée et promulguée l'année dernière. Elle devait commencer à faire office de réglementation dès ce 1er septembre, mais une partie de la législation a été bloquée quelques heures seulement avant son entrée en vigueur. Dans sa forme initiale, la loi HB18 exigeait qu'une série de services Web, en particulier les grands réseaux sociaux, appliquent des règles spéciales aux utilisateurs dont l'âge enregistré est inférieur à 18 ans. Les nouvelles exigences concernent la collecte de données, la publicité ciblée en ligne, etc.

Il s'agit notamment de limiter la collecte de données, d'interdire la publicité ciblée et de ne pas autoriser les transactions financières sans le consentement des parents. Elle stipule aussi que les services doivent mettre en œuvre « un plan visant à empêcher l'exposition des mineurs connus à des contenus préjudiciables, notamment des contenus qui promeuvent ou glorifient des choses telles que le suicide, l'automutilation, la toxicomanie et le grooming en ligne ».

Le représentant de Shelby Slawson, R-Stephenville, du Texas a porté le projet de loi et a déclaré que son objectif était de donner aux parents plus de contrôle sur la façon dont les informations des mineurs sont collectées et utilisées par les fournisseurs de services numériques, qui sont des entreprises qui exploitent des sites Web, des applications, des programmes ou des logiciels qui collectent massivement et traitent des informations d'identification personnelle.

En outre, tout service dont le contenu est considéré comme plus d'un tiers nuisible ou obscène (selon la définition d'une loi texane existante) doit mettre en œuvre une méthode de vérification de l'âge commercialement raisonnable. Ces exigences ont suscité un tollé dans l'industrie et les groupes industriels, dont NetChoice et Computer & Communications Industry Association (CCIA), ont intenté une action en justice pour empêcher l'entrée en vigueur de la législation.

Ils ont allégué que la législation texane restreignait de manière inconstitutionnelle la liberté d'expression. Le groupe FIRE (Foundation for Individual Rights and Expression) a intenté une action distincte. Le 30 août, le juge Robert Pitman a partiellement accédé aux demandes de NetChoice en accordant une injonction sur les règles de surveillance et de filtrage pendant que l'affaire suit son cours. Les autres dispositions de la loi sont entrées en vigueur comme prévu.

Le jugement n'a pas conclu que l'ensemble de la loi constitue une menace pour les discours protégés par le premier amendement de la constitution des États-Unis. Les autres dispositions de la loi HB18, comme les règles de collecte de données et la vérification de l'âge pour les sites à fort contenu adulte, restent en vigueur. Les acteurs concernés (Meta, TikTok, etc.) n'ont pas encore indiqué s'ils prévoyaient des changements pour se conformer à la nouvelle loi.

Il s'agit d'une victoire partielle pour les groupes tels que NetChoice et CCIA. Cette évolution s'inscrit dans le cadre d'un débat plus large sur la manière de protéger les enfants en ligne tout en conciliant les droits des utilisateurs et les responsabilités des entreprises technologiques. Le débat se poursuit alors que les législateurs et les entreprises technologiques cherchent des moyens efficaces d'assurer la sécurité des enfants sur l'internet sans dépasser les limites légales.

La loi pourrait également faire peser une charge excessive sur les entreprises de médias sociaux

Le juge Pitman s'est montré très critique à l'égard des règles de contrôle et de filtrage prévu par la législation. « Des termes tels que "promouvoir, glorifier, abus de substances, harcèlement et toilettage" ne sont pas définis, malgré leur large portée potentielle et leur nature politiquement chargée », écrit-il. Il a donc jugé inconstitutionnelle l'obligation faite aux plateformes de médias sociaux de filtrer les contenus potentiellement préjudiciables aux mineurs. Ses propos font écho aux critiques du groupe FIRE selon lesquels des termes tels que "toilettage" ont été appliqués à toutes les formes de contenu LGBTQ.

Le groupe s'est interrogé sur les points suivants : « à quel moment la consommation d'alcool devient-elle un abus de substances ? À quel moment "un régime extrême" devient-il un trouble de l'alimentation ? Un procureur général appliquant la loi pourrait finir par le faire de manière sélective - en décidant, par exemple, que les messages ou les vidéos sur la marijuana glorifient l'abus de substances même si la consommation de cigarettes et d'alcool ne l'est pas ».

La décision du juge est temporaire, ce qui signifie qu'elle ne s'applique que jusqu'à ce qu'un jugement définitif soit rendu dans la bataille juridique engagée par la CCIA et NetChoice. Il a souligné que si les réseaux sociaux doivent filtrer les contenus controversés, les mêmes règles ne s'appliquent pas aux autres médias :

Un adolescent peut lire Peter Singer plaider en faveur du suicide médicalement assisté dans Practical Ethics sur Google Books, mais il ne peut pas regarder ses conférences sur YouTube ni même, éventuellement, chroniquer le même livre sur Goodreads. En tentant d'empêcher les enfants d'accéder à des contenus préjudiciables, le Texas interdit également aux mineurs de participer à l'échange démocratique d'opinions en ligne.

Même en admettant que le Texas ne souhaite interdire que les contenus les plus préjudiciables, un État ne peut pas choisir les catégories de discours protégés qu'il souhaite empêcher les adolescents de discuter en ligne

« Dans une tentative malavisée de sécuriser Internet, la loi texane traite les adultes comme des enfants. Mais même les mineurs ont des droits au titre du premier amendement. Qu'ils aient 16 ou 65 ans, cette loi porte atteinte aux droits de tous les Texans », a déclaré Bob Corn-Revere, avocat en chef de FIRE, dans un communiqué. Le groupe a allégué dans sa plainte que la loi sur la vérification de l'âge pourrait les empêcher d'accéder à des informations vitales.

La CCIA et NetChoice représentent les intérêts des industries de la communication et de la technologie. Elles comptent parmi leurs membres Meta, X, Google et eBay. Dans leur plainte, les plaignants affirment que la loi HB18 viole de manière inconstitutionnelle le droit à la liberté d'expression du premier amendement en obligeant les sites Web à surveiller et à supprimer certains types de discours et en limitant l'accès des mineurs à des discours légaux.

Impact plus large : la loi HB18 fait partie d'un nombre croissant de lois étatiques aux États-Unis qui tentent de réglementer la façon dont les entreprises de médias sociaux modèrent leur contenu. L'issue de cette affaire pourrait avoir des répercussions sur les affaires en cours au Texas et dans d'autres États. D'autres États, dont le Mississippi, l'Ohio et la Californie, qui ont tenté d'adopter des lois similaires, ont jusqu'à présent été bloqués par les tribunaux.

Sur le plan fédéral, le Congrès travaille toujours sur la loi KOSA (Kids Online Safety Act), qui a soulevé ses propres problèmes de censure malgré les efforts des législateurs pour les apaiser. La bataille juridique autour de la loi HB18 n'est pas terminée, mais pour l'instant, les adolescents texans peuvent continuer à accéder à tout type de contenu. Des projets de loi similaires en Europe font également face à des préoccupations concernant le respect des libertés en ligne.

Source : décision judiciaire, SCOPE Act (PDF)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la décision du juge de bloquer les exigences de filtrage de contenu introduites par la loi texane SCOPE Act ?
L'obligation faite aux réseaux sociaux de filtrer les contenus préjudiciables aux mineurs porte-t-elle atteinte à la liberté d'expression ?
Selon vous, le filtrage des contenus potentiellement préjudiciables aux mineurs participe-t-il réellement à la sécurité des enfants en ligne ?

Voir aussi

Les adolescents sur Facebook et Instagram ne pourront plus voir les contenus sur l'automutilation, le suicide et les troubles de l'alimentation, même si leurs amis les partagent

Un parent poursuit Facebook au motif de ce que l'utilisation excessive de la plateforme a contribué aux problèmes de santé mentale de sa fille et ravive le débat sur la nécessité d'interdire les RS

La loi KOSA sur la sécurité des enfants en ligne ciblera les contenus transgenres pour "protéger les mineurs des transgenres dans la culture américaine", affirme une sénatrice américaine

[calvaire]

le plus simple serait d'imposer un système universelle.

1) pour les sites exclusivement pour adulte l'obligation d’être sur un nom de domaine pour adulte uniquement (xxx.adult par exemple)
2) la création d'une une balise html <adult>
3) pour les sites avec un peu de tous comme youtube/les réseaux sociaux, chaque postes/vidéos devrait avoir un tag "adult_only" ou pas, tag accessible dans le code html.
Ainsi il serait assez simple d'implémenter un filtre parentale universelle.

et on en reste la niveau législatif, pas la peine d'essayer de pondre une usine a gaz pour prouver qu'on a plus de 18ans avec des données importante (carte d'identité) qui vont inévitablement fuité un jours ou l’autre.

[ALT]

Je n'argumenterai pas sur le jugement, ne connaissant pas le droit local.
Pour ma part, je pense qu'on en fait beaucoup trop, alors que c'est le boulot des parents. Et si, malgré les précautions prises, les gamins accèdent à du porno, par exemple, c'est aux parents de décider de la suite à donner (punir, discuter, filtrer mieux... au choix). Le législateur ne devrait en aucun cas intervenir dans la sphère privée, ce qu'il fait de plus en plus, hélas.
D'autant que je ne suis pas sûr de la fiabilité des filtres « parentaux ». À mon avis, une vraie éducation est plus efficace.

[Artae]

le plus simple serait d'imposer un système universelle.

1) pour les sites exclusivement pour adulte l'obligation d’être sur un nom de domaine pour adulte uniquement (xxx.adult par exemple)
2) la création d'une une balise html <adult>
3) pour les sites avec un peu de tous comme youtube/les réseaux sociaux, chaque postes/vidéos devrait avoir un tag "adult_only" ou pas, tag accessible dans le code html.
Ainsi il serait assez simple d'implémenter un filtre parentale universelle.

et on en reste la niveau législatif, pas la peine d'essayer de pondre une usine a gaz pour prouver qu'on a plus de 18ans avec des données importante (carte d'identité) qui vont inévitablement fuité un jours ou l’autre.

Totalement d'accord, ça serait bien simple en plus.
Concernant les sites, faudrait simplement avoir un "path" adult, des balises ou des tags normalisé (mieux qu'un domaine xxx ou adult pour la vie privé)

Mais je penses que niveau gouvernant, il y a un non-dit sur le véritable objectif ...

[Jade Emy]

"Les lois sur la vérification de l'âge nuiront plus qu'elles n'aideront" : l'EFF et l'ACLU demandent à la Cour de maintenir le blocage de la loi du Mississippi sur la vérification de l'âge.

l'EFF et l'ACLU ont déposé un mémoire demandant à une cour d'appel fédérale de continuer à bloquer la loi sur la vérification de l'âge sur les plateformes de médias sociaux. Selon l'EFF, cette loi menace la liberté d'expression et fait des sites de médias sociaux qui collectent les données les plus sensibles des cibles de choix pour les pirates informatiques. L'EFF conclut : "Les lois sur la vérification de l'âge nuiront plus qu'elles n'aideront"

Depuis 2023, les administrations législatives aux États-Unis essaient de passer des lois sur la vérification de l'âge sur les plateformes de médias sociaux. En septembre 2024, un juge fédéral a partiellement bloqué la nouvelle loi texane qui visait à obliger les plateformes de médias sociaux à identifier les mineurs et à filtrer ce qu'ils voient en ligne. Cette partie de la loi visait à imposer aux réseaux sociaux de nouvelles exigences pour tenir les contenus préjudiciables à l'écart des mineurs.

Cependant, le juge a estimé que les exigences en matière de surveillance et de filtrage constituent une menace importante pour la liberté d'expression en ligne, et a mis un terme à leur mise en œuvre. Cette décision a des répercussions importantes sur la modération des contenus en ligne et sur les débats relatifs à la sécurité des enfants sur Internet.

Dans le sens de cette déclaration, l'EFF, l'ACLU (Union américaine pour les libertés civiles) et l'ACLU du Mississippi ont déposé le 3 octobre 2024 un mémoire d'amicus curiae demandant à une cour d'appel fédérale de continuer à bloquer la loi HB 1126 du Mississippi, qui impose la vérification de l'âge sur les services de médias sociaux sur Internet.

Le mémoire, déposé auprès de la cour d'appel fédérale du cinquième circuit, affirme que la loi HB 1126 est "une loi de censure extraordinaire qui viole les droits du premier amendement de tous les utilisateurs d'Internet de s'exprimer et d'accéder à des discours protégés" en ligne.

La loi HB 1126 oblige les sites de médias sociaux à vérifier l'âge de chaque utilisateur et exige que les mineurs obtiennent le consentement explicite de leurs parents avant d'accéder aux espaces en ligne. Elle les oblige également à surveiller et à censurer le contenu sur des sujets vastes et vaguement définis, dont beaucoup impliquent des discours protégés par la Constitution.

Ces dispositions radicales créent des obstacles considérables à un internet libre et ouvert et "obligent les adultes et les mineurs à sacrifier l'anonymat, la vie privée et la sécurité pour s'engager dans une expression en ligne protégée". Un tribunal fédéral de district a déjà empêché l'entrée en vigueur de la loi HB 1126, estimant qu'elle violait probablement le premier amendement.

Voici l'avis de l'EFF sur le sujet :

Bloquer l'accès des mineurs aux espaces vitaux en ligne

Au cœur de notre opposition à la loi HB 1126 se trouve son impact dangereux sur la liberté d'expression des jeunes. Les mineurs jouissent du même droit au premier amendement que les adultes pour accéder et s'engager dans un discours protégé en ligne.

Aucune autorité juridique ne permet aux législateurs d'entraver l'accès des adultes aux discours politiques, religieux, éducatifs et artistiques par des régimes restrictifs de vérification de l'âge en raison d'une préoccupation pour ce que les mineurs pourraient voir. Il n'existe pas non plus d'autorité juridique permettant aux législateurs d'empêcher catégoriquement les mineurs de s'engager dans une expression protégée sur des sites Internet à usage général tels que ceux réglementés par la loi HB 1126.

Les sites de médias sociaux ne sont pas seulement des centres de divertissement ; ce sont des espaces divers et importants où les mineurs peuvent explorer leur identité, que ce soit en créant et en partageant de l'art, en pratiquant la religion ou en s'engageant dans la politique. Comme l'explique notre mémoire, l'accès des mineurs à ces espaces en ligne "est essentiel à leur développement en tant que membres productifs de la société adulte, car il les aide à développer leurs propres idées, à apprendre à s'exprimer et à s'engager de manière productive avec d'autres dans notre sphère publique démocratique".

Les médias sociaux "permettent également à des individus dont la voix ne serait pas entendue autrement d'établir des liens vitaux, voire salutaires, entre eux et de partager plus largement leurs points de vue uniques". Les jeunes LGBTQ+, par exemple, se tournent vers les médias sociaux pour trouver une communauté, une exploration et un soutien, tandis que d'autres trouvent de l'aide dans les forums qui traitent de la santé mentale, du handicap, des troubles de l'alimentation ou de la violence domestique.

Le régime de vérification de l'âge de la loi HB 1126 place des barrières inutiles entre les jeunes et ces ressources cruciales. La loi oblige les plateformes à restreindre largement l'accès des mineurs à une liste vague de sujets - dont la majorité concerne des discours protégés par la Constitution - que le Mississippi considère comme "préjudiciables" pour les mineurs.


Droits du premier amendement : Protection pour tous

L'impact de la loi HB 1126 ne se limite pas aux mineurs : elle impose également des restrictions inutiles et inconstitutionnelles à la liberté d'expression des adultes. La loi exige que tous les utilisateurs vérifient leur âge avant d'accéder aux médias sociaux, ce qui pourrait bloquer complètement l'accès aux millions d'adultes américains qui n'ont pas de pièce d'identité délivrée par le gouvernement. Une personne qui prend les transports en commun tous les jours devrait-elle avoir besoin d'un permis de conduire pour pouvoir accéder à Internet ? Souhaiteriez-vous que tout ce que vous faites en ligne soit lié à votre pièce d'identité délivrée par le gouvernement ?

La loi HB 1126 prive également les utilisateurs de leur droit protégé à l'anonymat en ligne, ce qui les rend vulnérables à l'exposition et au harcèlement et les empêche de s'exprimer librement sur les médias sociaux. Comme le rappelle notre mémoire, la grande majorité des utilisateurs d'Internet ont pris des mesures pour minimiser leurs empreintes numériques et même pour "éviter d'être observés par des personnes, des organisations ou le gouvernement".

En liant de force les interactions en ligne des internautes à leur identité dans le monde réel, la loi HB 1126 va refroidir leur capacité à s'engager dans la dissidence, à discuter de contenus sensibles, personnels, controversés ou stigmatisés, ou à chercher de l'aide auprès des communautés en ligne.

Vérification de l'âge en ligne : Un cauchemar pour la vie privée

Enfin, la loi HB 1126 oblige les sites de médias sociaux à collecter les données les plus sensibles et les plus immuables des utilisateurs, ce qui en fait des cibles de choix pour les pirates informatiques. À une époque où les violations de données et les vols d'identité sont de plus en plus fréquents, la loi HB 1126 met en danger les données personnelles de tous les utilisateurs. En outre, le processus de vérification de l'âge implique souvent des services tiers qui tirent profit de la collecte et de la vente des données des utilisateurs. Cela signifie que les informations personnelles sensibles figurant sur votre carte d'identité, telles que votre nom, votre adresse et votre date de naissance, pourraient être partagées avec un réseau de courtiers en données, d'annonceurs et d'autres entités intermédiaires.

Selon la formulation claire de la loi HB 1126, ces intermédiaires ne sont pas tenus de supprimer les données d'identification des utilisateurs et, contrairement aux fournisseurs de services en ligne eux-mêmes, ils ne sont pas non plus empêchés de partager, de divulguer ou de vendre ces données sensibles. En fait, les incitations sont inverses : il s'agit de partager largement les données.

Personne - ni les mineurs ni les adultes - ne devrait avoir à sacrifier sa vie privée ou son anonymat pour exercer ses droits à la liberté d'expression en ligne.


Les tribunaux continuent de bloquer des lois comme celle du Mississippi

Les lois de vérification de l'âge en ligne telles que la loi HB 1126 ne sont pas nouvelles, et les tribunaux du pays les ont toujours jugées inconstitutionnelles. Dans des affaires allant de l'Arkansas à l'Ohio en passant par l'Utah, les tribunaux ont invalidé des obligations similaires de vérification de l'âge en ligne parce qu'elles entravaient l'accès des utilisateurs à des discours protégés et leur capacité à s'y engager.

Si le Mississippi peut avoir un intérêt légitime à protéger les enfants, comme l'a affirmé la Cour suprême, "cela n'inclut pas le pouvoir de restreindre les idées auxquelles les enfants peuvent être exposés". En imposant des exigences de vérification de l'âge à tous les utilisateurs, des lois comme la HB 1126 sapent les droits du Premier Amendement des mineurs et des adultes, posent de sérieux risques pour la vie privée et la sécurité, et empêchent les utilisateurs d'accéder à l'un des moyens d'expression les plus puissants de notre époque.

Pour ces raisons, l'EFF et l'ACLU demandent instamment au cinquième circuit de suivre le mouvement et de continuer à bloquer la loi HB 1126 du Mississippi. En juin 2024, l'EFF s'est déjà exprimé sur le sujet. À l'époque, une importante société de vérification d'identité, AU10TIX, a laissé ses identifiants de connexion exposés en ligne pendant plus d'un an, permettant l'accès à ces données utilisateur très sensibles.

L'EFF affirmait que la vérification de l'âge en ligne est incompatible avec la protection de la vie privée. Les entreprises chargées de stocker ou de traiter des documents sensibles tels que les permis de conduire sont susceptibles de subir des violations de données, exposant potentiellement non seulement des données personnelles telles que la carte d'identité délivrée par le gouvernement, mais aussi des informations sur les sites qu'ils visitent.


À propos de l'EFF

L'Electronic Frontier Foundation est une organisation à but non lucratif qui défend les libertés civiles dans le monde numérique. Fondée en 1990, l'EFF défend la vie privée des utilisateurs, la liberté d'expression et l'innovation par le biais de litiges, d'analyses politiques, d'activisme de terrain et de développement technologique. La mission de l'EFF est de veiller à ce que la technologie soutienne la liberté, la justice et l'innovation pour tous les peuples du monde.

Source : Electronic Frontier Foundation

Et vous ?

Pensez-vous que ce mémoire de l'EFF est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Pourquoi la loi "Kids Online Safety Act" qui vise prétendument la sécurité des enfants en ligne, est préjudiciable aux mineurs. La loi est plutôt subie comme une censure autoritariste, d'après l'EFF

La vérification d'âge est-elle compatible avec les valeurs d'Internet ? Qu'en pensez-vous comme approche pour protéger les enfants des sites pornographiques ? Atteinte aux libertés en gestation ?

Les entreprises de médias sociaux et de streaming vidéo se sont engagées dans une vaste surveillance des utilisateurs avec des contrôles laxistes et des garanties inadéquates pour les enfants

[Mathis Lucas]

Un homme condamné à 18 ans de prison pour avoir utilisé l'IA pour créer des images d'abus sexuels sur enfant
un précédent de la manière dont les deepfakes créés par l'IA pourraient être poursuivis à l'avenir

La justice britannique envoie un signal fort aux personnes qui seraient tentées d'utiliser l'IA pour générer des deepfakes préjudiciables aux victimes et notamment aux enfants. Elle a condamné à 18 ans de prison un homme qui a utilisé l'IA pour créer des images d'abus sexuels sur enfant (CSAM). Sur une période de 18 mois, il a partagé et vendu en ligne à d'autres pédophiles les images qu'il a créées, ce qui lui a rapporté 5 000 livres sterling. Sa condamnation constitue « un exemple de la manière dont les contenus générés par l'IA et les deepfakes indécents et explicites pourraient être poursuivis à l'avenir ». La lutte contre les deepfakes reste un défi de taille.

Quand l'IA est utilisée pour créer et vendre du matériel d'abus sexuel sur enfant

Hugh Nelson, 27 ans, originaire de Bolton, en Angleterre, a plaidé coupable d'un total de 16 délits d'abus sexuels sur des enfants, notamment d'avoir transformé des photographies quotidiennes de vrais enfants en CSAM à l'aide des systèmes d'IA du fournisseur américain de logiciels Daz 3D. Il a également reconnu avoir encouragé d'autres personnes à commettre des délits sexuels sur des enfants. Une forme d'utilisation de l'IA qui suscite de profondes préoccupations.

Grâce aux progrès de l'IA, les images truquées (ou deepfakes) sont devenues plus réalistes et plus faciles à créer, ce qui a incité les experts à mettre en garde contre l'augmentation des images indécentes d'enfants générées par ordinateur. L'avènement de l'IA a également fortement amélioré le caractère réaliste des deepfakes, comme en témoignent les photos pornos de la chanteuse américaine Taylor Swift générées par une IA de Microsoft au début de cette année.

À l'époque, le PDG de Microsoft, Satya Nadella, avait appelé l'industrie technologique à prendre rapidement des mesures contre ce fléau. Jeanette Smith, procureure de l'unité chargée des abus sexuels sur les enfants au sein du Crown Prosecution Service, a déclaré que « l'affaire Nelson créait un nouveau précédent en ce qui concerne la manière dont les images générées par des outils d'IA générative et les deepfakes indécents et explicites pouvaient être poursuivis ».

« Cette affaire est l'une des premières du genre, mais nous nous attendons à en voir d'autres au fur et à mesure que la technologie évolue », a déclaré Jeanette Smith. Bien que Satya Nadella et d'autres dirigeants du secteur technologique appellent à agir contre les deepfakes, il n'y a aucune initiative sérieuse sur la question. Les entreprises d'IA proposent d'intégrer des filigranes à leurs produits respectifs, mais les experts sont sceptiques à l'égard de cette solution.

Hugh Nelson utilisait un générateur de caractères en 3D pour transformer des photos d'enfants ordinaires et non explicites en CSAM, avant de les vendre sur un forum Internet utilisé par des artistes. Les personnes qui connaissaient les enfants dans le monde réel envoyaient à l'homme de 27 ans des images de ces enfants. Hugh Nelson facturait ensuite à son réseau de pédophiles 80 livres sterling pour un nouveau « personnage » (un CSMA basé sur une photo d'enfant).

Daz 3D, la société qui a créé le logiciel utilisé par Hugh Nelson, a déclaré dans un communiqué que « son contrat de licence utilisateur interdit l'utilisation de son logiciel pour la création d'images qui violent les lois sur la pornographie enfantine ou l'exploitation sexuelle des enfants, ou qui sont autrement préjudiciables aux mineurs et qu'elle s'engage à améliorer continuellement sa capacité à empêcher l'utilisation de son logiciel à de telles fins ».

Une vente de matériels d'abus sexuel sur enfant générés à l'aide des outils d'IA

Jeanette Smith a déclaré : « il s'agit de l'une des premières affaires de ce type qui démontre un lien entre des personnes comme Nelson, qui créent des images générées par ordinateur à l'aide de la technologie, et la délinquance réelle qui se cache derrière ces images ». Cependant, les médias britanniques soulignent qu'un certain nombre de pédophiles ont été envoyés en prison ces derniers mois pour avoir utilisé l'IA afin de créer des images d'abus sexuel sur enfant.

La police du Grand Manchester a trouvé des images réelles d'enfants et des images générées par ordinateur d'abus sexuels sur des enfants sur les appareils de Nelson, qui ont été saisis en juin 2024. Sur une période de 18 mois, Hugh Nelson admet avoir gagné environ 5 000 livres sterling (soit environ 6 000 euros) en vendant les images qu'il avait générées. Dans certains cas, Hugh Nelson encourageait ensuite ses clients à violer et à agresser sexuellement les enfants.

Selon la décision de justice, les images générées par ordinateur ne ressemblaient pas exactement à de vraies photographies, mais pouvaient être classées dans la catégorie des « photographies indécentes » plutôt que dans celle des « images interdites », qui est généralement assortie d'une peine moins lourde. Selon Jeanette Smith, cela a été possible parce que les enquêteurs ont pu démontrer qu'elles étaient dérivées d'images d'enfants réels envoyées à Hugh Nelson.

En août 2024, Hugh Nelson a admis avoir créé et vendu des images d'abus sexuels d'enfants sur mesure, adaptées aux demandes spécifiques de ses clients. La police a également indiqué qu'il avait diffusé les images qu'il avait générées en ligne, à la fois gratuitement et contre rémunération. Les enfants dont Hugh Nelson recevait les photos étaient tous basés à l'étranger, notamment en France, en Italie et aux États-Unis. Les forces de l'ordre de ces pays ont été alertées.

L'agent-détective Carly Baines, de la police du Grand Manchester, a déclaré que « cette affaire était profondément horrible ». Carly Baines a ajouté : « il nous est apparu clairement, après des recherches approfondies sur ses nombreux appareils par des experts en criminalistique numérique, que son comportement allait bien au-delà de ce qu'il considérait manifestement comme une "opportunité commerciale" ».

CSAM générés à l'aide de l'IA : un phénomène critique qui prend de l'ampleur

Cette affaire survient alors que le secteur technologique et les autorités de régulation sont aux prises avec les répercussions sociales considérables de l'IA générative. Des entreprises telles que Google, Meta et X (ex-Twitter) s'efforcent de lutter contre les deepfakes sur leurs plateformes. Bien que ce soit la première fois qu'une personne soit poursuivie pour avoir créé ce type d'images d'abus sexuels sur enfant, les autorités se préparent à de nombreuses autres arrestations.

L'équipe de la police du Grand Manchester spécialisée dans les enquêtes sur les abus pédosexuels en ligne affirme que les images générées par l'IA sont devenues un élément courant de leurs enquêtes. De son côté, Graeme Biggar, directeur général de l'Agence nationale britannique de lutte contre la criminalité, a averti l'année dernière qu'il avait commencé à voir des images et des vidéos hyperréalistes d'abus sexuels sur des enfants qui ont été générées par l'IA.

Graeme Biggar a ajouté que « la visualisation de ce type de matériel, qu'il soit réel ou généré par ordinateur, augmente matériellement le risque que les délinquants passent à l'abus sexuel sur les enfants eux-mêmes ». Au sein de l'Internet Watch Foundation à Cambridge, des dizaines d'analystes parcourent Internet chaque jour, à la recherche d'images d'abus sexuels sur enfants et pour les retirer d'Internet. L'organisation a constaté une augmentation préoccupante.

Au cours des six derniers mois, l'association a vu plus d'images d'abus d'enfants créées à l'aide de l'IA qu'en 2023. Dan Sexton, directeur technique de l'organisation caritative, affirme : « notre travail a toujours été difficile. Mais nous n'avons jamais été confrontés à la possibilité que quelqu'un télécharge un logiciel sur son ordinateur et crée une quantité infinie de nouvelles images. Ils en utilisent autant qu'ils le peuvent jusqu'à ce que les disques durs se remplissent ».

« C'est un nouveau type de préjudice auquel nous n'avons pas été préparés », a ajouté Dan Sexton. L'un des analystes de l'organisation, connu uniquement sous le nom de Jeff lorsqu'il est au travail pour protéger son identité, s'est dit inquiet de voir à quel point la génération d'image à l'aide de l'IA devient convaincante. « Nous en sommes au point où même un analyste expérimenté aurait du mal à déterminer si elle est réelle ou non », a déclaré le dénommé Jeff.

Les cadres juridiques existants ne sont pas adaptés à la lutte contre le CSAM

Lorsque Hugh Nelson a plaidé coupable, l'agent-détective Carly Baines a déclaré : « cette affaire a été un véritable test pour la législation, car l'utilisation de programmes informatiques de cette manière est très nouvelle pour ce type de délit et n'est pas spécifiquement mentionnée dans la législation britannique actuelle ». La loi britannique sur la sécurité en ligne, adoptée en octobre 2023, rend illégale la diffusion de deepfakes pornographiques non consensuels.

Cependant, Hugh Nelson a été poursuivi en vertu de la loi sur la maltraitance des enfants. Hugh Nelson a été arrêté à son domicile en juin 2023 et ses appareils ont été saisis et examinés. Il a déclaré aux officiers que son comportement était devenu incontrôlable après avoir rencontré d'autres pédophiles en ligne. L'avocat de Hugh Nelson a déclaré : « il était solitaire et socialement isolé. Il avait plongé dans ce genre de vie fantaisiste et s'y était complètement absorbé ».

Dans une démarche visant à lutter contre la violence faite aux femmes, le ministère de la Justice du Royaume-Uni a annoncé début 2024 qu’il criminaliserait la création de deepfakes à caractère sexuel explicite. Cette nouvelle législation, qui n’a pas encore été adoptée, prévoit des poursuites et une amende illimitée pour les contrevenants. La création de ces images sera considérée comme une infraction pénale, même si le créateur n’a pas l’intention de les partager.

En Union européenne, la proposition visant à surveiller la création, le stockage et le partage du CSAM est fortement controversée. La législation obligerait les services de messagerie à analyser le contenu des communications des utilisateurs à la recherche de CSAM connus et inconnus, et à essayer de détecter le grooming en temps réel. Selon les experts, cette loi risque d'affaiblir le chiffrement de bout en bout, ce qui nuirait à la protection de la vie privée en ligne.

Avec sa proposition législative connue sous le nom de « Chat Control », la Commission européenne veut mettre en place un appareil de surveillance de masse sans précédent, aux proportions orwelliennes, au sein de l'Union européenne. Le 20 juin 2024, le Conseil de l’UE et ses participants ont décidé de retirer le vote sur le controversé plan de contrôle des discussions. Cependant, les experts s'attendent que la Commission lance prochainement une nouvelle tentative.

Source : la police du Grand Manchester

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous de la sentence prononcée contre l'accusé dans cette affaire ?
Selon vous, comment luter contre la création, le stockage et la diffusion en ligne du CSAM ?
Comment empêcher la génération de CSAM et d'autres images indécentes à l'aide des outils d'IA générative ?
Comment les législations peuvent-elles évoluer afin de s'adapter aux nouvelles technologies que l'IA et les deepfakes ?

Voir aussi

Les photos pornos de Taylor Swift générées par IA sont issues d'un défi, selon un rapport indiquant que plusieurs utilisateurs cherchaient des moyens de contourner les filtres d'outils IA populaires

Le plan européen de surveillance CSAM est un point de basculement pour les droits démocratiques, avertissent les experts

Le PDG de Microsoft appelle l'industrie technologique à « agir » après des photos pornos de Taylor Swift générées par IA, certaines d'entre elles ont été générées par un outil de Microsoft

[Artae]

La création d'image interdite via ne pourra jamais être empéchée, que cela concerne les pedos ou le terros.
Du moment où un IA connait des notions similaire ou proche, les mesures de sécurité seront toujours contournable.

Mon point de vue c'est qu'on pousse à nous inciter à accepter toujours plus de flicage sous n'importe quel prétexte, mais pourquoi ? Une finalité sans doute inavoué de nos dirigeants ?

Enfin je rappel que n'importe qui avec un crayon et une feuille peut potentiellement faire quelque chose d'interdit, idem avec un simple logiciel.
Doit-on mettre des numéros d'immatriculation sur les feuilles et les crayons ? Doit-on intégrer des logiciels espions dans tout nos machines ? Faut-il sacrifier sa vie privé ? Non !
Pouvoir faire quelque chose d'illégal, ne signifie pas que la personne le fait : Ce n'est jamais une excuse pour instaurer une surveillance de masse !

[calvaire]

je vois plutot quelque chose de positif.

que les pédophiles génère des vidéos ou des images pédophiles avec des ia, c'est plutot une bonne chose, sa évite que de vrai enfants soit utilisé.

Meme si c'est une pratique a ne pas promouvoir, je pense qu'il serait bon de laisser ces outils se développer un peu et au contraire de serrer d'avantage la vis pour l'utilisation de vrai enfants.
Ces modèles ia ne doivent évidement pas avoir été entrainé avec de vrai enfants, en tous cas pas en faisant des choses sexuels.

Il faudrait inciter les pédophiles vers l'usage de ces outils plutot que de voir du vrai. Car comme la lutte contre la drogue, il ne suffit pas d'une lois pour empêcher un truc. Si on peut emmener des consommateurs vers des choses moins graves c'est mieux.

je suis partisan pour légaliser les drogues les moins nocives (autoriser le cannabis au lieu de la cocaïnes) a consommer dans des endroits dédiés et contrôler (ca évite les drogues plus dangereuse comme la cocaines ou les seringues qu'on s'injecte a plusieurs), légalisé les maisons closes, on y gagnerai en sécurité pour tous.
dans le meme registre, l'ia pedophile éviterait des drames sur de vrais enfants.


le monde parfait des bisounours n'existe pas, parfois pour lutter efficacement contre un fléau faut lâcher du leste quelques part.
les site web pédophiles ca existe depuis le début d'internet, le simple faite d'aller sur tor, on tombe que sur ca de partout, déjà testé, peut importe ce qu'on cherche sur le moteur de recherche Not Evil, je tombe systématiquement sur de la vente de drogue, ou de la pédophilie en 1ere page de la recherche.
Cela démontre que c'est impossible de lutter à 100%, l'ia générative pourrais etre un outil dans cette lutte.


edit: es ce vraiment interdit d'ailleurs ? les hentai japonais ce sont souvent des jeunes femmes avec un visage qui faut plus penser a des mineurs... pourtant ca pullule sur le web ca. Une ia générative c'est la meme chose, sa génère de fausses images sans le style cartoon/manga.

[MytheOuMytho]

Le titre est clairement putaclic et trompeur ça devient voici ce forum ?

[Ryu2000]

Quel est votre avis sur le sujet ?

Je pensais qu'aucun outil ne permettait de générer des images érotiques.
Que ceux qui essayaient de manipuler l'IA afin qu'elle génère quand même des images sexy se faisaient bannir.

Apparemment ce n'est pas le cas de tous les générateurs d'images par IA.

que les pédophiles génère des vidéos ou des images pédophiles avec des ia, c'est plutot une bonne chose, sa évite que de vrai enfants soit utilisé.

Arf, c'est quand même une pente très savonneuse.
Je ne crois pas que ce soit bien que des gens prennent l'habitude d'être excité par des images d'enfants.
Ce serait mieux qu'ils s'intéressent à du contenu associé au mot clé "Milf" par exemple.

je suis partisan pour légaliser les drogues les moins nocives (autoriser le cannabis au lieu de la cocaïnes)

Quelque part le cannabis est déjà un peu légalisé vu qu'on peut en acheter c'est juste que le taux de THC est limité à 0,2%.
Vivement la loi qui va supprimer la limite de concentration en THC.
Ça pourrait rapporter des milliards à l'état chaque année.

Le problème c'est que ça ferait énormément de mal aux trafiquants marocains et je pense qu'il y a des élus qui participent à ce trafic.

légalisé les maisons closes, on y gagnerai en sécurité pour tous.

Ouais ça pourrait être chouette, le problème c'est que j'imagine qu'une partie des travailleuses du sexe et des travailleurs du sexe sont en France illégalement.
Remarque on pourrait donner la nationalité Française aux travailleuses du sexe étrangères.

les hentai japonais ce sont souvent des jeunes femmes avec un visage qui faut plus penser a des mineurs...

Les auteurs doivent dire "on dirait qu'elle a 12 ans, mais en réalité elle en a 30, dans son univers les femmes ont l'air plus jeunes".
Il existe des actrices et des acteurs pornographique qui ont l'air d'être mineur. (Manuel Ferrara ne veut pas tourner de scène avec eux)

======
Si le pouvoir voulait réellement lutter contre la pédophilie, il demanderait à la police et la justice de lutter contre les réseaux pédophiles.
Il y a des gens qui capturent des enfants et qui les revendent.
Mais au lieu de ne punir que ceux qui font ça, il faudrait peut-être lutter contre les commanditaires.

Il me semble que dans le droit Français celui qui commande un meurtre est plus puni que celui qui le réalise.
Donc ceux qui commandent des enfants devraient prendre plus cher que ceux qui les ont capturé.

[calvaire]

Ouais ça pourrait être chouette, le problème c'est que j'imagine qu'une partie des travailleuses du sexe et des travailleurs du sexe sont en France illégalement.
Remarque on pourrait donner la nationalité Française aux travailleuses du sexe étrangères.
.

quand je dis légalisé, sa signifie que ce sont des entreprises qui gère. Donc le but c'est d'avoir des salariés avec des papiers en règles dans des locaux dédiés, et qu'ils paient donc des impôts et cotise au système.
Donc plus du travail au black sans contrôle d'hygiene le long de la route par des roumaines.

Bon pour etre honnête, mon but 1er c'est surtout faire rentrer de l'argent dans les caisses et réduire les traffics et travail au black, de l'argent qui part en plus dans des pays étrangers.

Je ne crois pas que ce soit bien que des gens prennent l'habitude d'être excité par des images d'enfants.
Ce serait mieux qu'ils s'intéressent à du contenu associé au mot clé "Milf" par exemple.

oui mais ce n'est pas le cas, et ces gens ne vont pas aller chez le médecin et se dénoncer d'eux meme pour se faire soigner. Ca reste une honte inavouable ce trouble/pathologie.
Au lieu de continuer de faire cela au black avec du traffic d'enfants, autant le laisser faire en proposant une alternative sans enfants.

Un modèle ia crée et vendu par une boite française pour généré du porn ce serait bien aussi, ca ferais toujours quelques tunes en plus et ca réduirait le traffic d'enfant.
l'argent qui va dans les boites de porn, c'est de l'argent en moins aux réseaux criminels qui vende des enfants, car les contenus pédophiles ou les prostitué le long de la route, ce sont souvent derriere des groupes terroristes ou mafias étranger et c'est un outil pour gagner de l'argent.
Un peu comme la corée du nord qui a envoyé des ouvrier travaillé en europe un bon moyen de récupérer des devises étrangère

[Rolllmops]

je vois plutot quelque chose de positif.

que les pédophiles génère des vidéos ou des images pédophiles avec des ia, c'est plutot une bonne chose, sa évite que de vrai enfants soit utilisé.

Mais quand tu dis ça tu réalises un minimum qu'entretenir la libido d'un pédophile ne fait que rapprocher le moment où il passera très certainement à l'acte ou pas du tout ?

La pédophilie est un trouble psychiatrique et les concernés doivent être traités, ce qu'une bonne partie d'entre eux fait spontanément. Leur fournir des outils pour entretenir leurs fantasmes est une idée d'une stupidité et d'une dangerosité affligeante.

oui mais ce n'est pas le cas, et ces gens ne vont pas aller chez le médecin et se dénoncer d'eux meme pour se faire soigner. Ca reste une honte inavouable ce trouble/pathologie.

Ben euh si justement, beaucoup le font...

Tes interventions donnent sacrément l'impression que tu es concerné par le problème, sans en avoir honte par contre.

[calvaire]

La pédophilie est un trouble psychiatrique et les concernés doivent être traités, ce qu'une bonne partie d'entre eux fait spontanément.

je ne savais pas qu'ils allait se faire soigné spontanément... je pensais qu'ils consommait du contenue en secret jusqu'à ce qu'ils se fasse chopper.


de toute façon, les modèles d'ia open source installable chez soit se multiplies, c'est un combat perdu d'avance, dans quelques temps n'importe qui pourra crée ce contenue depuis son pc. Il y'a beaucoup d'ia non censurer sur hugging face et il est possible d'entrainer son propre modele sur son dataset.
ca reste encore technique aujourd'hui, je l'ai fait dans mon travail, faut installer pleins de libs et faut s'y former et avoir des bases dans la programmation python. Mais je ne doute pas que dans quelques temps des outils simple avec une jolie ihm verront le jour.


surtout que ca tourne bien sur un simple gpu grand publique, comme une 4090, le prix d'un bon gpu pour crée la photo ou la video dans la minute va baisser.

déja pour la photo, sa tourne pas trop mal sur des gpu moyen gamme style RTX 4060.

je tenterai ce weekend de monter un modèle sur mon pc et généré un texte à la gloire d'hitler et de l'extermination des juifs Ou une histoire pédophile, je suis sur que ca va marcher sur un petit modèle non censuré.

[Fagus]

Merci à la justice d'utiliser ses ressources pour lutter contre des images générée de pédophilie. Les clients seront obligés de se rabattre sur des images réelles.

Ceci est un commentaire provocateur, mais l'IA générative de pornographie est-elle vraiment un problème ?

Ya un article Le passage à l’acte pédophile et les enjeux psychopathologiques du téléchargement : un virtuel protecteur ? la réponse serait : ça dépend des gens... on est que moyennement avancé.

Mais globalement peut être qu'on pourrait passer d'un modèle axé sur le soin plus que la répression. Déjà les pédophiles ne seraient pas obligés de se cacher, on les aurait dans le viseur pour les empêcher de fauter, et si c'est incurable, ça me choquerait pas qu'ils s’adonnent sur des images virtuelles plutôt que sur des commandes d'images réelles...

[calvaire]

Merci à la justice d'utiliser ses ressources pour lutter contre des images générée de pédophilie. Les clients seront obligés de se rabattre sur des images réelles.

Ceci est un commentaire provocateur, mais l'IA générative de pornographie est-elle vraiment un problème ?

Ya un article Le passage à l’acte pédophile et les enjeux psychopathologiques du téléchargement : un virtuel protecteur ? la réponse serait : ça dépend des gens... on est que moyennement avancé.

Mais globalement peut être qu'on pourrait passer d'un modèle axé sur le soin plus que la répression. Déjà les pédophiles ne seraient pas obligés de se cacher, on les aurait dans le viseur pour les empêcher de fauter, et si c'est incurable, ça me choquerait pas qu'ils s’adonnent sur des images virtuelles plutôt que sur des commandes d'images réelles...

pour moi le plus important c'est de détruire les réseaux de traffics d'enfants, a partir de la, fantasmer dans sa tête sur des enfants, les dessinés, en faire des hentai ou les généré par ia, ca reste pas très grave et limite temps que ca reste secret..., on ne peut empêcher une femme ou un homme de rêver d'un enfant a poile la nuit.

c'est une trouble mental c'est sur, mais tant que ca reste de la consommation de contenue factice.

il y'a des catégories de porno sur des cadavres ou sur la torture ou sur le meurtre pendant l'acte, ces vidéos sont simulé avec des acteurs et sont légales. Pourtant tuer quelqu'un est illégale.
Il y'a des films d'Hollywood d'ailleurs ou il y'a des scenes de meurtre pendant l'acte sexuel.

Es ce que fantasmer d'enfant a poile est plus grave que de fantasmer de tuer quelqu'un pendant l'acte ou de se taper sa grand mere dans la tombe ?
ca reste une zone d'ombre pénalement, car les vidéos d'actrices maquillé jeune et en costume de collégienne de 15ans, c'est pas ca qui manque sur l'internet légale.

[Rolllmops]

je ne savais pas qu'ils allait se faire soigné spontanément... je pensais qu'ils consommait du contenue en secret jusqu'à ce qu'ils se fasse chopper.

Comme tout trouble mental impliquant une vie en marge de la société et menant à des actes illégaux, un bon nombre pédophiles cherchent des soins oui. Les autres choix sont soit de réfréner pour toujours ses pulsions, ce qui n'est pas nécessairement possible, soit de céder à ses pulsions et donc vivre dans la peur constante d'être découvert et de passer des années en prison.

c'est une trouble mental c'est sur, mais tant que ca reste de la consommation de contenue factice.

De la même manière que la pornographie normale ne suffit généralement pas à vie à la plupart des gens qui vont à un moment chercher des partenaires sexuels, il y a peu de chances que la pédopornographie qu'elle soit réelle ou factice ne suffise à assouvir la libido des pédophiles.

[calvaire]

De la même manière que la pornographie normale ne suffit généralement pas à vie à la plupart des gens qui vont à un moment chercher des partenaires sexuels, il y a peu de chances que la pédopornographie qu'elle soit réelle ou factice ne suffise à assouvir la libido des pédophiles.

de toute façon ca ne change rien, il est préférable que cette personne consulte du contenus généré par ia que du vrai contenue.

dans un monde parfait il est préférable que cette personne ne consulte pas ce genre de contenue et cherche des "milf" comme l'a dit Ryu2000 sur des sites porno légaux ou consulte un médecin, mais voila le monde est ainsi fait on peut pas empêcher cela à 100%.

chaque photo ou video généré par ia, c'est 1 enfant de sauver mine de rien.

[Fagus]

De la même manière que la pornographie normale ne suffit généralement pas à vie à la plupart des gens qui vont à un moment chercher des partenaires sexuels, il y a peu de chances que la pédopornographie qu'elle soit réelle ou factice ne suffise à assouvir la libido des pédophiles.

Oui mais ça c'est une analogie. Beaucoup de gens qui ont une paraphilie assouvissent également leurs désirs de manière plus conventionnelle. C'est comme dans l'article qui assène images pédophiles = passage à l'acte comme une vérité. Mais d'où est-ce que ça sort ? d'une intuition ? Si quelqu'un a une étude factuelle sur le sujet je suis preneur. L'article que j'avais cité plus haut et dont je n'ai pas les droits de lecture mettait en conclusion que la réalité n'est pas univoque.

[xmornard]

Ah les beaux parleurs qui font la leçon sur "l'entrainement des pédophiles"! Eux savent bien sûr que montrer des images pédophiles amènent ces derniers à s'attaquer aux petits enfants, et tout ça sans présenter une seule étude sérieuse qui corroborent ce fait! Parce que bien sûr la pornographie crée des pervers sexuel (et pas la misère sexuelle plutôt) tout comme les images d'assassinats crée des assassins (qu'on interdise tout les thrillers et autres films de guerre, vite!), et il suffirait donc de montrer des films sur l'Amour pour que tout aille bien mieux en ce bas monde...
En fait, tout ceci montre surtout que beaucoup de gens aime se mettre dans une posture morale de bien-pensance qui les mettront toujours du bon coté, sans tenir compte de la réalité; parce que quand même imaginer que l'on puisse emprisonner quelqu'un pendant 18 ans sans qu'on ai aucune preuve que ses actes ait la moindre influence sur la réalité d'autres actes délictuelles c'est quand même gravissime. Comment réagiront les gens quand ils pourront être poursuivis et enfermé pour avoir dit "c'est quand il y en a beaucoup que ça devient un problème" pour incitation au meurtre? Où cela va t'il s'arrêter?
Quand on a crée le délit "d'incitation à", on a ouvert la boite de Pandore, et jamais elle ne se refermera. Et bientôt nous serons tous concernés.