Discussion :

[Bill Fassinou]

La Chine propose un contrôle strict des algorithmes en vue de réglementer davantage les services Internet,
Le pays veut interdire les algorithmes qui créent la dépendance chez les utilisateurs

La Chine poursuit ses efforts visant à établir des réglementations plus strictes pour les services et les plateformes Internet. Dans un projet de directives en 30 points publié vendredi, l'Administration chinoise du cyberespace (CAC - Cyberspace Administration of China) a introduit des règles interdisant aux entreprises de déployer des algorithmes qui "encouragent la dépendance ou la consommation élevée et mettent en danger la sécurité nationale ou perturbent l'ordre public". Le pays revendique une autorité sur des services Internet que des gouvernements comme celui des États-Unis ont eu du mal à réglementer.

La Chine, ou le Parti communiste chinois (PCC), est connu pour son envie de contrôler et de filtrer toutes les données transitant par le cyberespace national, comme en témoignent les projets tels que le grand pare-feu de Chine. Au cours de ces 18 derniers mois, le pays s'est attaqué aux entreprises technologiques pour comportement monopolistique présumé et non-respect de la réglementation. Désormais, les régulateurs chinois cherchent à mettre en œuvre des règles de grande portée concernant les algorithmes utilisés par les entreprises technologiques pour recommander des vidéos et d'autres contenus.

Ainsi, l'Administration chinoise du cyberespace a dévoilé vendredi un projet de proposition en 30 points pour une "réglementation de la gestion des recommandations d'algorithmes" qui affecterait directement des entreprises telles que ByteDance Ltd, Tencent Holdings Ltd et Kuaishou Technology. Ces règles interdiraient les pratiques qui "encouragent la dépendance ou la forte consommation", ainsi que toute activité mettant en danger la sécurité nationale ou perturbant l'ordre social et économique. Selon certains spécialistes, ces nouvelles règles pourraient finalement permettre de lutter contre le doomscrolling.

Le doomscrolling est le fait de défiler sans réfléchir des articles d'actualité, des messages sur les médias sociaux ou d'autres plateformes de partage de contenu. Ces contenus sont la plupart du temps à prédominance négative. Essentiellement, il s'agit de lire une histoire négative après l'autre. Une étude canadienne a même appelé ce phénomène "panique des médias sociaux". Bien que l'on puisse penser que l'année 2020 et tous ses obstacles (la pandémie du Covid-19, les tensions politiques et l'injustice sociale, etc.) ont inspiré le terme "doomscrolling", l'on estime qu'il est probablement apparu sur Twitter en 2018.

Il est devenu un terme culturel depuis lors. Pour en revenir aux nouvelles règles proposées par la CAC, elles stipulent que les services Internet doivent respecter l'éthique commerciale et les principes d'équité, et leurs algorithmes ne doivent pas être utilisés pour créer de faux comptes d'utilisateurs ou d'autres impressions erronées. Il faut noter que la CAC, l'organisme de surveillance de l'Internet chinois, rend compte à un groupe de dirigeants centraux présidé par le président Xi Jinping. Le chien de garde a indiqué qu'il recueillerait les commentaires du public sur ces nouvelles directives pendant un mois (jusqu'au 26 septembre).

Les lignes directrices proposent aussi que les utilisateurs aient la possibilité de désactiver facilement les recommandations des algorithmes. En outre, il est indiqué que les fournisseurs d'algorithmes qui ont le pouvoir d'influencer l'opinion publique ou de mobiliser les citoyens doivent obtenir une approbation de la CAC. La proposition de vendredi intervient à un moment où Pékin cible de plus en plus les entreprises technologiques pour la manière dont elles ont traité les données des consommateurs et les positions monopolistiques qu'elles ont prises dans la nation. Ces entreprises ont vu leur influence considérablement diminuée.

Au début de l'année, l'Association chinoise des consommateurs, soutenue par Pékin, a déclaré que les sociétés Internet locales avaient "intimidé" les utilisateurs pour qu'ils effectuent des achats et des promotions, et porté atteinte à leur droit à la vie privée. Les récentes mesures prises par Pékin en matière de sécurité des données et le renforcement des réglementations relatives aux services de tutorat ont effrayé les investisseurs et fait perdre des centaines de milliards de dollars. Les nouvelles directives proposées vendredi semblent viser ByteDance, Alibaba Group, Tencent et Didi, et d'autres entreprises de médias sociaux.

La raison pour laquelle ces entreprises seront immédiatement touchées par ces directives est que leurs services sont construits à partir d'algorithmes propriétaires. Les actions d'Alibaba et de Tencent ont légèrement baissé à la suite de l'annonce. Par ailleurs, ces dernières années, plusieurs gouvernements, dont ceux des États-Unis et de l'Inde, ont tenté - avec peu ou pas de succès - de bien comprendre le fonctionnement ces algorithmes et de mettre en place des contrôles pour éviter les abus. Si le gouvernement américain n'a pas réussi à imposer des changements, les autorités de réglementation de Pékin ont un pouvoir considérable. Voici quelques-unes des principales propositions de réglementation :

1. les entreprises doivent divulguer les principes de base de tout service de recommandation par algorithme, en expliquant l'objectif et les mécanismes des recommandations de manière "ostensible" ;
2. elles doivent proposer aux utilisateurs des options pratiques pour désactiver les recommandations algorithmiques et donner suite "immédiatement" à toute demande de désinscription ;
3. les algorithmes ne doivent pas être utilisés pour une discrimination par les prix fondée sur les préférences et les habitudes des utilisateurs ;
4. les fournisseurs doivent évaluer et tester régulièrement leurs algorithmes et leurs données afin d'éviter les modèles qui induiront chez les utilisateurs des comportements obsessionnels, des dépenses excessives ou d'autres comportements contraires à l'ordre public et à la morale ;
5. ils doivent adhérer aux "valeurs dominantes" et "diffuser activement une énergie positive, et promouvoir l'application des algorithmes pour le mieux" ;
6. les algorithmes ne peuvent pas être utilisés pour créer de faux comptes ou influencer faussement les classements et les résultats de recherche au profit du fournisseur, influencer le discours en ligne ou éviter la surveillance réglementaire ;
7. les algorithmes ne peuvent pas mettre en danger la sécurité nationale, perturber l'ordre économique et social ou porter atteinte aux droits et intérêts légitimes d'autrui ;
8. les fournisseurs d'algorithmes qui peuvent influencer l'opinion publique ou mobiliser les masses doivent soumettre leurs services à l'approbation du CAC. Ceux qui n'obtiennent pas cette autorisation s'exposent à une amende pouvant aller jusqu'à 30 000 yuans et à l'obligation de mettre fin à leurs services.

Source : Site Web de la CAC (Cyberspace Administration of China)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des règles proposées par la CAC ?
Pensez-vous que ces règles protègent réellement les consommateurs ?
Ou augmentent-elles simplement le pouvoir de Pékin sur le cyberespace national ?

Voir aussi

Le Parti communiste chinois se dirigerait vers une nationalisation des groupes Alibaba et Ant de Jack Ma, alors que des médias rapportent que le milliardaire n'a pas disparu, mais fait profil bas

Comment la Chine a retourné le piratage d'un iPhone primé lors d'un concours contre les Ouïghours. Pékin utiliserait les vulnérabilités zero-days découvertes lors de concours à ses avantages

Le PDG d'Epic Games met en garde contre la "surveillance d'État" d'Apple, alors qu'Epic Games est détenu en partie par Tencent en Chine

La Chine adopte la PIPL, l'équivalent du RGPD, pour protéger la vie privée en ligne et les données personnelles, la nouvelle loi devrait entrer en vigueur le 1er novembre 2021

[MysticKhal_0]

Interdire les mécanismes liés à l'addition est une bonne idée. Ça réduit les perspectives de croissance à court terme, mais il me semble que c'est bien peu cher payé pour ce qu'on obtient en retour.

[calvaire]

cela ne reviens pas a ces entreprises à donner l'algorithme au PCC ?
les algo de Youtube, Netflix etc ont couter des millions en R&D et sont très bien protégé, pas sur qu'ils acceptent...

[Gazeld]

Interdire les mécanismes liés à l'addition

: en cours de maths ou au resto ? 😅

[Gazeld]

NB : on ne défile pas qqch sur un écran, on le fait défiler.

[Médinoc]

Il y a du doomscrolling en Chine? J'aurais pensé que toutes leurs news disaient seulement que tout allait bien...

[Invité]

Bonsoir,

La Chine propose un contrôle strict des algorithmes en vue de réglementer davantage les services Internet

Quel est votre avis sur le sujet ?

En Chine FAI (tel,mail,internet) et provider sont tous dans le giron de l'état chinois ... Donc un contrôle accru de la data pour ceux s’inscrivant sut des sites de media sociaux .

En Europe/Amerique du Nord le marché est liberalisé pour les télécoms ... les états ont donc bien peu de droit de regard ou on du mal. Résultat des sites comme Facebook ou Twitter , c'est une hydre à réguler !

Pensez-vous que ces règles protègent réellement les consommateurs ?

La Chine veut garder une main de fer sur ce qui se dit/fait sur les réseaux sociaux, même sans être aux manettres des entreprises en question. L'idée est de mater toute forme de opposition politique .

Ou augmentent-elles simplement le pouvoir de Pékin sur le cyberespace national ?

Cela augmente le pouvoir de pékin sur son cyberespace.

[Stéphane le calme]

La Chine implémente une loi qui interdit les algorithmes qui créent la dépendance chez les utilisateurs,
« une législation sans précédent pour le bien-être », selon un expert

La Chine est connue pour son envie de contrôler et de filtrer toutes les données transitant par le cyberespace national, comme en témoignent les projets tels que le grand pare-feu de Chine. Ces dernières années, le pays s'est attaqué aux entreprises technologiques pour comportement monopolistique présumé et non-respect de la réglementation. Désormais, les régulateurs chinois cherchent à mettre en œuvre des règles de grande portée concernant les algorithmes utilisés par les entreprises technologiques pour recommander des vidéos et d'autres contenus.

En août, l'Administration chinoise du cyberespace (ACC) a dévoilé un projet de proposition en 30 points pour une « réglementation de la gestion des recommandations d'algorithmes » qui affecterait directement des entreprises telles que ByteDance Ltd, Tencent Holdings Ltd et Kuaishou Technology. Ce projet a été le fruit de la collaboration entre l'ACC et quatre autres départements gouvernementaux.

Ces règles interdisent les pratiques qui « encouragent la dépendance ou la forte consommation », ainsi que toute activité mettant en danger la sécurité nationale ou perturbant l'ordre social et économique.

Les règles proposées par l'ACC stipulent que les services Internet doivent respecter l'éthique commerciale et les principes d'équité, et leurs algorithmes ne doivent pas être utilisés pour créer de faux comptes d'utilisateurs ou d'autres impressions erronées. Il faut noter que l'ACC rend compte à un groupe de dirigeants centraux présidé par le président Xi Jinping. Le gendarme du cyberespace a indiqué à cette période qu'il recueillerait les commentaires du public sur ces nouvelles directives jusqu'au 26 septembre 2021 (soit pendant un mois).

Les lignes directrices proposent aussi que les utilisateurs aient la possibilité de désactiver facilement les recommandations des algorithmes. En outre, il est indiqué que les fournisseurs d'algorithmes qui ont le pouvoir d'influencer l'opinion publique ou de mobiliser les citoyens doivent obtenir une approbation de l'ACC.

La loi, que l'ACC a publiée en janvier, vise à « réglementer les activités de recommandation d'algorithmes... protéger les droits et intérêts légitimes des citoyens... et promouvoir le développement sain des services d'information sur Internet ». Depuis le 1^er mars 2022, cette proposition de loi est en vigueur en Chine.

Ci-dessous, les articles relatifs à la protection des droits et intérêts des utilisateurs :

• Article 16 : Les prestataires de services de recommandation algorithmique informent les utilisateurs de manière visible de la fourniture de services de recommandation algorithmique et publient de manière appropriée les principes de base, les objectifs et les principaux mécanismes de fonctionnement des services de recommandation algorithmique.
• Article 17 : Les prestataires de services de recommandation algorithmique offrent aux utilisateurs des options qui ne sont pas adaptées à leurs caractéristiques personnelles ou offrent aux utilisateurs une option pratique pour désactiver le service de recommandation algorithmique. Si l'utilisateur choisit de fermer le service de recommandation d'algorithmes, le fournisseur de services de recommandation d'algorithmes cessera immédiatement de fournir les services concernés.
  
  Le fournisseur de service de recommandation algorithmique devrait fournir aux utilisateurs la fonction de sélection ou de suppression des balises d'utilisateur pour leurs caractéristiques personnelles pour le service de recommandation algorithmique.
  
  Si l'application de l'algorithme par le fournisseur de services de recommandation d'algorithmes a un impact significatif sur les droits et les intérêts de l'utilisateur, il doit l'expliquer conformément à la loi et assumer les responsabilités correspondantes.
  
• Article 18 : Lorsque les prestataires de services de recommandation d'algorithmes fournissent des services aux mineurs, ils s'acquittent de leurs obligations de protection du réseau des mineurs conformément à la loi, et facilitent l'utilisation des mineurs en développant des modèles adaptés à l'usage des mineurs et en fournissant des services adaptés aux caractéristiques. Les mineurs obtiennent des informations bénéfiques pour leur santé physique et mentale.
  
  Les fournisseurs de services de recommandation algorithmique ne doivent pas transmettre aux mineurs des informations susceptibles de les amener à imiter des comportements dangereux, à violer la moralité sociale, à induire de mauvaises habitudes chez les mineurs, etc. susceptibles d'affecter la santé physique et mentale des mineurs, et ne doivent pas utiliser les services de recommandation algorithmique pour induire des comportements dangereux. Les adultes sont dépendants d'Internet.
  
• Article 19 : Lorsque les prestataires de services recommandés par l'algorithme fournissent des services aux personnes âgées, ils doivent protéger les droits et intérêts dont jouissent les personnes âgées conformément à la loi, tenir pleinement compte des besoins des personnes âgées en matière de déplacements, de soins médicaux, de consommation et de courses, et fournir des services intelligents adaptés aux personnes âgées conformément aux réglementations nationales en vigueur. Effectuer la surveillance, l'identification et l'élimination des informations relatives à la fraude sur les réseaux de télécommunication conformément à la loi et faciliter l'utilisation en toute sécurité des services de recommandation d'algorithmes par les personnes âgées.
  
• Article 20 : Lorsque les prestataires de services de recommandation d'algorithmes fournissent aux travailleurs des services de planification des tâches, ils doivent protéger les droits et intérêts légitimes des travailleurs tels que la rémunération du travail, le repos et les vacances, et établir et améliorer les algorithmes pertinents pour la distribution des commandes de la plateforme, la composition et le paiement de la rémunération, les heures de travail, récompenses et punitions, etc.
• Article 21 : Lorsque les prestataires de services recommandés par des algorithmes vendent des biens ou fournissent des services aux consommateurs, ils protègent les droits des consommateurs à des transactions équitables et n'utilisent pas d'algorithmes pour déterminer les prix des transactions et d'autres conditions de transaction en fonction de caractéristiques telles que les préférences et les habitudes de transaction des consommateurs. Mettre en œuvre un traitement différentiel déraisonnable et d'autres actes illégaux.
• Article 22 : Les prestataires de services de recommandation d'algorithmes doivent mettre en place des portails pratiques et efficaces pour les plaintes des utilisateurs, les plaintes du public et les rapports, clarifier les procédures de traitement et les délais de retour d'information, et accepter, traiter et retourner rapidement les résultats du traitement.

« Une législation sans précédent pour le bien-être », selon un expert

Alberto Romero, spécialiste en IA et analyste pour le compte de CambrianIA, a noté :

« Les algorithmes définissent nos réalités. Ils manipulent notre attention et nous font perdre notre temps. Nous pensons que nous ne voulons pas vivre sans eux, mais finissons par chercher des moyens de lutter contre la forte envie de faire défiler vers le bas sur nos téléphones. Les entreprises technologiques ont un pouvoir absolu sur eux et ne répondent pas aux voix de plus en plus fortes demandant de rétablir ces prisons numériques incontournables.

« Les algorithmes devraient être soumis aux mêmes règles qui régissent les autres nouvelles technologies, mais la grande technologie refuse d'être tenue responsable ou de faire auditer ses algorithmes les plus importants en externe. Maintenant, la Chine a décidé de renverser la tendance ».

Il s'est laissé aller à une analyse des textes de loi pour étayer sa déclaration.

Art 6 : « ... diffuser activement l'énergie positive et promouvoir l'application d'algorithmes pour le bien. »

« De nos jours, nous acceptons les algorithmes comme un mal nécessaire. Nous embrassons l'idée fausse que la nature inhérente de l'algorithme est de nous donner quelque chose (la recommandation) en échange de notre attention, de notre temps ou de notre santé mentale. Nous essayons ensuite de riposter en passant du temps hors d'Internet ou en désinstallant des applications pendant quelques jours.

« Je dis que nous devrions recadrer cet état d'esprit. Comme je l'ai dit dans l'article que j'ai mentionné ci-dessus, "avec très peu d'efforts, les algorithmes pourraient être modifiés pour protéger notre psychologie sensible au lieu de l'exploiter. Ils pourraient être formés pour optimiser le bien-être au lieu de l'engagement".

« C'est exactement l'objet de ce nouveau règlement chinois. Ils obligeront des entreprises comme ByteDance (TikTok et Douyin) à faire du bien-être des utilisateurs l'objectif principal de leurs algorithmes ».

Art 8 : « … ne pas mettre en place des modèles d'algorithmes qui incitent les utilisateurs à s'adonner à l'addiction, à la consommation excessive, etc. »

« L'algorithme Youtube a été initialement conçu pour maximiser le temps passé sur la plateforme et la probabilité qu'un utilisateur clique sur une vidéo. Aujourd'hui, environ 70 % du temps que nous passons sur YouTube, nous regardons des vidéos recommandées. Lorsque Facebook a démarré, l'objectif principal était de consommer autant de temps et d'attention que possible.

« Les algorithmes peuvent être extrêmement addictifs et s'engager dans ce qu'on appelle "l'intoxication du contenu". Par exemple, les flux TikTok For You sont conçus pour maintenir l'engagement des utilisateurs en affichant un flux constant de contenu personnalisé, sans épuiser notre durée d'attention raccourcie.

Art 13 : « … ne pas générer de fausses informations synthétiques ni les diffuser. …”

« Les fake news sont le problème de l'information de notre époque. Avec des IA capables d'écrire comme des humains et des algorithmes optimisés pour que les gens discutent en ligne, il faut s'attendre à ce que les fake news prolifèrent.

« Étant donné que les gens aiment lire ce qu'ils croient déjà - formant ce qu'on appelle une chambre d'écho - les algorithmes vont certainement promouvoir des articles de presse (réels ou faux) qui renforcent ces croyances, car ils recevront des quantités considérables de goûts, d'attention et de débats.

« Les fake news qui reflètent une réalité fabriquée peuvent cibler des groupes vulnérables. Les croyants fermes renforceront davantage leurs opinions au lieu de trouver de nouvelles perspectives qui pourraient leur fournir une vision tridimensionnelle de la réalité. Et les sceptiques pourraient voir leurs décisions prises pour eux par la présence écrasante d'un récit particulier.

« Si Facebook était une entreprise chinoise, elle devrait prendre très au sérieux le problème omniprésent des fake news et de la désinformation qui inonde la plateforme – qui aurait eu un impact définitif sur les élections américaines de 2016 ».

Art 14 : « ... ne pas utiliser d'algorithmes pour enregistrer faussement des comptes, des comptes de transactions illégales, manipuler des comptes d'utilisateurs, ou faussement aimer, commenter ou transférer... »

« Un autre problème critique dans les médias sociaux d'opinion comme Twitter est l'existence de faux comptes, communément appelés bots. Ces comptes peuvent être créés par milliers pour promouvoir des messages spécifiques et les diffuser via la plateforme. Les personnes qui en sont victimes peuvent finir par former leurs croyances ou leurs visions de la réalité sur des mensonges.

« Cela peut également être un problème pour des entreprises comme Amazon ou Alibaba. Les bots créés par les vendeurs peuvent remplir les pages d'avis avec des notes élevées, créant ainsi la sensation qu'un produit est extrêmement bon, alors qu'en réalité ce n'est peut-être pas le cas.

« Souvent, les robots et les fake news vont de pair, créant un mélange extrêmement dangereux qui brouille et déforme la perception des gens en général, tout en fournissant une source de revenus difficilement traçable pour les esprits sans scrupules derrière la tromperie.

« Nous sommes témoins de la gravité de ce problème dans la guerre russo-ukrainienne actuelle. Il est difficile d'évaluer la véracité d'une source, car les faux comptes et les fake news inondent les canaux d'information ».

Art 16 : « … informent les utilisateurs de manière apparente de leur fourniture de services de recommandation algorithmique, et rendent publics les principes de base, les finalités et les principaux mécanismes de fonctionnement … »

« Les utilisateurs peuvent désormais être conscients des mécanismes derrière les algorithmes et des objectifs pour lesquels ils sont employés. Cela signifie que les gens peuvent prendre des décisions éclairées. Si Facebook indique explicitement la raison pour laquelle chaque article est promu dans les flux des utilisateurs, ils peuvent réfléchir à deux fois à leurs habitudes et à leurs comportements – ou s'ils souhaitent conserver leur compte Facebook ».

Art 17 : « … fournir aux utilisateurs des options qui ne sont pas adaptées à leurs caractéristiques personnelles, ou fournir aux utilisateurs une option pratique pour désactiver le service de recommandation algorithmique. »

« C'est sans doute l'article principal du nouveau règlement. Cela oblige les entreprises à offrir aux utilisateurs la possibilité de désactiver les recommandations et de sélectionner ou de supprimer les balises utilisateur. Cette législation pourrait, à elle seule, changer radicalement le paysage commercial des technologies Internet en Occident. Cela permettrait aux utilisateurs d'avoir un impact sur les principales sources de revenus de Facebook, Instagram, YouTube, Twitter, Reddit et de nombreuses autres plateformes qui dépendent fortement de l'argent publicitaire pour exister.

« Les entreprises de technologie Internet en Chine qui fournissent des services de recommandation guidés par des algorithmes devront adapter leurs plateformes et applications à la nouvelle législation. Ils pourraient perdre beaucoup d'argent. Mais que vaut cet argent par rapport au bien-être des gens ?

« Permettre aux gens de vivre dans un monde qui ne leur est pas artificiellement personnalisé est libérateur et sans précédent (les personnes qui choisissent de conserver les recommandations peuvent toujours le faire). Cette mesure vise à réduire le pouvoir des entreprises et les incitations à gagner de l'argent grâce à des publicités ciblées qui utilisent non seulement nos informations personnelles, mais également nos comportements et tendances en ligne : ce que nous aimons, ce que nous pensons d'un sujet ou ce que nous sommes plus susceptibles de faire ou d'acheter ».

Sources : texte de loi de l'administration chinoise du cyberespace, analyse d'Alberto Romero

Et vous ?

Quelle lecture faites-vous de cette loi chinoise ?
Partagez-vous le point de vue d'Alberto Romero qui y voit une « législation sans précédent pour le bien-être » ?
L'Occident devrait-il s'en inspirer ? Dans quelle mesure ?
Des chances qu'une telle loi puisse être promulguée en Europe ?

Voir aussi

Le Parti communiste chinois se dirigerait vers une nationalisation des groupes Alibaba et Ant de Jack Ma, alors que des médias rapportent que le milliardaire n'a pas disparu, mais fait profil bas
Comment la Chine a-t-elle retourné le piratage d'un iPhone primé lors d'un concours contre les Ouïghours. Pékin utiliserait les vulnérabilités zero-days découvertes lors de concours à ses avantages
Le PDG d'Epic Games met en garde contre la "surveillance d'État" d'Apple, alors qu'Epic Games est détenu en partie par Tencent en Chine
La Chine adopte la PIPL, l'équivalent du RGPD, pour protéger la vie privée en ligne et les données personnelles, la nouvelle loi devrait entrer en vigueur le 1er novembre 2021

[Mathis Lucas]

La Chine donne trois mois au Big Tech pour mettre fin aux algorithmes de recommandation qui créent des « chambres d'écho », induisent une dépendance et permettent de manipuler les sujets en vogue

La Chine demande aux entreprises technologiques de résoudre les problèmes liés à leurs algorithmes dans un délai de trois mois. Elles doivent éviter les algorithmes de recommandation qui créent des « chambres d'écho », induisent une dépendance, permettent de manipuler les sujets en vogue ou exploitent les droits des travailleurs itinérants. L'administration chinoise du cyberespace affirme que cette mesure vise à renforcer la réglementation et à empêcher les Big Tech d'envoyer les utilisateurs dans des terriers de lapin en ligne ou d'utiliser des algorithmes pour les surfacturer. Les entreprises ont été invitées à promouvoir « l'énergie positive » sur leurs plateformes.

La Chine veut construire un cyberespace sain basé sur des algorithmes fiables

L'économie numérique chinoise est dominée par des géants tels que Tencent, Alibaba, Meituan et JD.com, et les plateformes de médias sociaux telles que Douyin de ByteDance. Ces entreprises ont connu une croissance rapide au cours de la dernière décennie et ont adopté des pratiques qui tendent à rendre les utilisateurs dépendants de leurs plateformes ou qui les incitent à dépenser toujours plus d'argent pour acheter des produits ou des services en ligne.

La Chine veut mettre fin à ces pratiques. Elle a annoncé son intention de sévir contre les pratiques et les algorithmes qui rendent Internet « désagréable ». Les Big Tech chinois ont été invités à corriger les problèmes liés aux algorithmes de recommandation dans un délai de trois mois. La Cyberspace Administration of China (CAC) invite les entreprises technologiques à se débarrasser des algorithmes de recommandation qui créent des « chambres d'écho ».

L'avis publié par la CAC indique également que les entreprises doivent éviter « les algorithmes qui induisent une dépendance, qui permettent de manipuler les sujets en vogue ou qui exploitent les droits des travailleurs itinérants ». En outre, la CAC appelle à des algorithmes qui garantissent un « contenu sain » pour les personnes âgées et les enfants, et un « mécanisme d'examen des algorithmes et un système de gestion de la sécurité des données » robustes.

Les utilisateurs ne doivent pas être contraints de sélectionner des balises d'intérêt, les informations illégales ou nuisibles ne doivent pas être utilisées dans les balises d'utilisateur ou pour un contenu ciblé, et les informations personnelles ne doivent pas être collectées au-delà de ce qui est nécessaire pour les recommandations de contenu.

La CAC a également demandé une plus grande transparence sur le fonctionnement des algorithmes, y compris la divulgation publique de la manière dont les plateformes en ligne classent les contenus. Selon le régulateur, la mesure vise à éviter l'utilisation abusive des algorithmes pour diffuser du battage médiatique.

L'utilisation d'algorithmes pour pratiquer des prix discriminatoires est également interdite. L'industrie chinoise du commerce électronique, un secteur d'activité sur lequel Pékin fonde ses espoirs en tant que moteur économique et source de recettes d'exportation, s'appuie de plus en plus sur les algorithmes.

La directive de la CAC stipule que les plateformes ne peuvent pas fixer des prix différenciés pour les produits en fonction de facteurs tels que l'âge, la profession et le niveau de consommation, et qu'elles doivent faire preuve de transparence lorsqu'elles émettent ou rejettent des coupons de réduction.

Les entreprises pourraient faire face à des sanctions en cas de violation

Les entreprises ont été invitées à procéder à un « autoexamen approfondi » et à des rectifications afin d'améliorer « les capacités de sécurité de leurs algorithmes ». Elles ont jusqu'à la fin de l'année 2024 pour effectuer ce travail. En janvier, les autorités commenceront à inspecter la « situation d'auto-examen » des entreprises et « organiseront des forces techniques pour vérifier et superviser la rectification » des entreprises qui ne respectent pas les normes.

À la mi-février, les unités centrales et locales de technologie de l'information examineront l'impact de la campagne et évalueront le cadre général de réglementation des algorithmes du pays afin d'y apporter de nouvelles améliorations. Elles analyseront également les difficultés et les problèmes et élaboreront des mesures pragmatiques pour une certaine période à venir. L'avis de la CAC ne définit pas les sanctions encourues par les entreprises en cas de violation.

Toutefois, il a été promis que les sanctions seraient proportionnelles à l'ampleur de la violation.

Pékin a commencé à s'intéresser à la surveillance des algorithmes en mars 2022. La CAC a publié un cadre réglementaire détaillé pour les algorithmes de recommandation. L'objectif était de limiter l'utilisation et l'abus de ces algorithmes, dans des domaines allant des jeux aux activités susceptibles de mettre en danger la sécurité nationale ou de perturber l'ordre social. À l'époque, il a exigé que les plateformes permettent de se désengager des contenus ciblés.

Elle a également exigé que les services technologiques rendent leurs algorithmes publics. En août 2022, les autorités chinoises de régulation ont publié les détails de 30 algorithmes utilisés par des entreprises comme Alibaba, ByteDance, Tencent, Baidu et bien d'autres. Selon la CAC, ces efforts font partie d'un effort visant à ouvrir les fournisseurs de services Internet à un examen réglementaire et à promouvoir une « énergie positive » sur Internet.

La plupart de ces exigences ont été reprises dans le nouvel avis de la CAC, notamment la protection des travailleurs indépendants employés par les plateformes de services à la demande, tels que les chauffeurs-livreurs qui peuvent être contraints d'enfreindre le Code de la route pour respecter les délais serrés fixés par les algorithmes.

Pékin admet que, bien qu'elle ait parcouru un long chemin en deux ans, elle aimerait poursuivre ses progrès. Selon la CAC, les règlements publiés en 2022 devraient également aider les autorités à lutter contre les recommandations de contenu, qui ont le potentiel de « façonner l'opinion publique » ou de « mobiliser la société ».

« L'écosystème des applications algorithmiques est devenu de plus en plus normalisé, mais il subsiste des problèmes typiques qui doivent être continuellement renforcés », a écrit la CAC dans son avis.

Source : Cyberspace Administration of China (CAC)

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des exigences de la Chine en matière d'algorithmes ? Sont-elles pertinentes ?
Ces exigences permettront-elles de rendre les algorithmes fiables, éthiques et sans effets indésirables majeurs ?
Selon vous, ces nouvelles exigences pourraient-elle permettre à Pékin de contrôler davantage le discours en ligne ? Pourquoi ?

Voir aussi

La Chine propose un contrôle strict des algorithmes en vue de réglementer davantage les services Internet, le pays veut interdire les algorithmes qui créent la dépendance chez les utilisateurs

La Chine mobilisera des ressources à l'échelle nationale pour développer les industries de l'informatique quantique, de l'IA et du big data afin d'atteindre l'autosuffisance technologique

L'algorithme de TikTok : un outil de manipulation politique ? Oui, selon le ministère de la justice, qui affirme que la Chine pourrait s'en servir pour influencer les élections américaines

[Prox_13]

C'est rigolo de voir que cette news sort après une autre mentionnant que le gouvernement Chinois a mis les USA sur écoute. Serait-ce du consulting gouvernemental ? Ou juste un autre acte d'espionnage ?

Au final, la Chine a raison sur le papier, mais comment contrôler le contenu des réseaux sociaux sans tomber dans la censure ? On pourrait avancer que les algorithmes qui induisent la dépendance sont d'ores et déjà en train de censurer, mais dans un sens économiquement viable pour l'entreprise. Favorisant ainsi la haine et le sensationnalisme, tout ce qui est bon pour provoquer une réaction, on finit en effet sur une chambre d'écho.

Jusqu'à ce que nous ayons une solution, la question serait donc; quelle chambre d'écho choisir ?

[Jules34]

Je fais un peu de whataboutisme mais en Europe on se laisse vraiment dépasser par les chambres d'écho, pendant que la Chine décide de reprendre le contrôle des médias sociaux et de la manipulation à grande échelle voila ce que propose la sous préfecture de la commission européenne le parlement Français, ni plus ni moins que l'abrogation de la loi pénale sur l'apologie du terrorisme :



La LFI en roue libre cherche à se protéger, ils disent eux même dans le rapport que c'est nul que cette loi ait conduit à la mise en examen de Rima Hassan (qui n'est pas née en Palestine, malgré ce qu'elle dit et qui a participée à des manifestations pro hamas en jordanie, rien que çà), de Mathilde Panot, bref de tout les antisémites notoire de ce parti de foux furieux qui préparent le terrain pour les fondamentalistes du coran par pure magouille électoraliste. Mais il n'y a pas de grand remplacement en France !! Et dire qu'on paie ces gens...

Réagir avec un émoji en forme de cœur sur la publication d’un djihadiste assumé, c’est bel et bien l’exploit du député Sébastien Delogu. En juillet 2024, Seyyed Gouasmi, islamiste chiite pro-iranien, soutenait sur Instagram le geste de l’insoumis Sébastien Delogu brandissant le drapeau palestinien. Seyyed Gouasmi est pourtant un personnage sulfureux. Il est le fondateur de Zahra, une association djihadiste chiite soutenant le Hezbollah. L’organisation a été dissoute en 2018 par le tribunal de Lille pour « propagande glorifiant la lutte armée et provoquant la haine et la violence en relayant des messages antisémites ».

Si LFI profite de la communauté musulmane pour obtenir des votes, ce parti est-il devenu un cheval de Troie pour les islamistes afin d’exercer une influence politique et sociale ? Depuis 2021, la loi contre le séparatisme a mis les associations fréristes sous surveillance. Le 16 juin, juste avant les législatives, LFI a proposé la candidature de Mahmud Awad. Ce dernier était un des responsables de l’association Jeunes musulmans de France, un proche de Hassan Iquioussen, imam accusé de faire l’apologie du terrorisme. C’est aussi le cas d’Ismaël el-Hajri, le conseiller actuel de Louis Boyard. El Hajri n’est autre qu’un ancien militant engagé pour la défense de Baraka City et du CCIF, deux organisations communautaristes dissoutes par le ministère de l’Intérieur.

Cette complicité entre LFI et l’islam politique transparaît, aussi, à travers des projets communs. Le 10 octobre 2023, Thomas Portes publiait sur X une photo le montrant aux côtés d’Abu Amir Mutasen Eleïwa au Caire. Dans la légende accompagnant le cliché, le député écrivait : « Hier, j’ai eu le plaisir d’échanger avec Abu Amir Eleïwa, coordinateur et animateur de plusieurs projets mis en place à Gaza. » L’individu mentionné par Thomas Portes est un des dirigeants d’Humani’Terre. Cette organisation se prétend humanitaire et agricole. Elle est en réalité le nouveau visage du CBSPP, Comité de bienfaisance et de secours aux Palestiniens. Cette dernière est inscrite sur la liste officielle des organisations terroristes du Canada et des États-Unis. Le label humanitaire couvre un canal de financement du Hamas. […]

Nous aussi on a des chambres d'échos à fermer si on veut pas mal finir.

[Jules34]

la question serait donc; quelle chambre d'écho choisir ?

A mon sens déjà il faudrait pouvoir voir sous les yeux ce que les algo poussent comme sujet et pourquoi. Ensuite recentrer le débat public sur les vraies priorités des Français plutôt que nous noyer dans un océan de sujet qui ne nous touche pas mais dont on nous fait croire qu'ils sont primordiaux...

En France ça passera par l'arrêt du financement de toute cette presse publique qui est en elle même une énorme caisse de résonnance de ce que disent les porte paroles des ministère, de Matignon mais aussi de la commission européenne. Les mêmes médias et influenceurs qui quittent X car ils ne supportent pas de se faire flinguer en permanence par les notes de communautés qui relèvent leurs propagande ou leur idéologie mortifère.

On en reviens toujours au même sujet : l'Europe est en train de mourir sous le poids des mondialistes, qui nous détournent des sujets nationaux. Macron en est le parfait exemple.