« une législation sans précédent pour le bien-être », selon un expert

La Chine est connue pour son envie de contrôler et de filtrer toutes les données transitant par le cyberespace national, comme en témoignent les projets tels que le grand pare-feu de Chine. Ces dernières années, le pays s’est attaqué aux entreprises technologiques pour comportement monopolistique présumé et non-respect de la réglementation. Désormais, les régulateurs chinois cherchent à mettre en œuvre des règles de grande portée concernant les algorithmes utilisés par les entreprises technologiques pour recommander des vidéos et d’autres contenus.

En août, l’Administration chinoise du cyberespace (ACC) a dévoilé un projet de proposition en 30 points pour une « réglementation de la gestion des recommandations d’algorithmes » qui affecterait directement des entreprises telles que ByteDance Ltd, Tencent Holdings Ltd et Kuaishou Technology. Ce projet a été le fruit de la collaboration entre l’ACC et quatre autres départements gouvernementaux.

Ces règles interdisent les pratiques qui « encouragent la dépendance ou la forte consommation », ainsi que toute activité mettant en danger la sécurité nationale ou perturbant l’ordre social et économique.

Les règles proposées par l’ACC stipulent que les services Internet doivent respecter l’éthique commerciale et les principes d’équité, et leurs algorithmes ne doivent pas être utilisés pour créer de faux comptes d’utilisateurs ou d’autres impressions erronées. Il faut noter que l’ACC rend compte à un groupe de dirigeants centraux présidé par le président Xi Jinping. Le gendarme du cyberespace a indiqué à cette période qu’il recueillerait les commentaires du public sur ces nouvelles directives jusqu’au 26 septembre 2021 (soit pendant un mois).

Les lignes directrices proposent aussi que les utilisateurs aient la possibilité de désactiver facilement les recommandations des algorithmes. En outre, il est indiqué que les fournisseurs d’algorithmes qui ont le pouvoir d’influencer l’opinion publique ou de mobiliser les citoyens doivent obtenir une approbation de l’ACC.

La loi, que l’ACC a publiée en janvier, vise à « réglementer les activités de recommandation d’algorithmes… protéger les droits et intérêts légitimes des citoyens… et promouvoir le développement sain des services d’information sur Internet ». Depuis le 1^er mars 2022, cette proposition de loi est en vigueur en Chine.

Ci-dessous, les articles relatifs à la protection des droits et intérêts des utilisateurs :

• Article 16 : Les prestataires de services de recommandation algorithmique informent les utilisateurs de manière visible de la fourniture de services de recommandation algorithmique et publient de manière appropriée les principes de base, les objectifs et les principaux mécanismes de fonctionnement des services de recommandation algorithmique.
• Article 17 : Les prestataires de services de recommandation algorithmique offrent aux utilisateurs des options qui ne sont pas adaptées à leurs caractéristiques personnelles ou offrent aux utilisateurs une option pratique pour désactiver le service de recommandation algorithmique. Si l’utilisateur choisit de fermer le service de recommandation d’algorithmes, le fournisseur de services de recommandation d’algorithmes cessera immédiatement de fournir les services concernés.
  
  Le fournisseur de service de recommandation algorithmique devrait fournir aux utilisateurs la fonction de sélection ou de suppression des balises d’utilisateur pour leurs caractéristiques personnelles pour le service de recommandation algorithmique.
  
  Si l’application de l’algorithme par le fournisseur de services de recommandation d’algorithmes a un impact significatif sur les droits et les intérêts de l’utilisateur, il doit l’expliquer conformément à la loi et assumer les responsabilités correspondantes.
• Article 18 : Lorsque les prestataires de services de recommandation d’algorithmes fournissent des services aux mineurs, ils s’acquittent de leurs obligations de protection du réseau des mineurs conformément à la loi, et facilitent l’utilisation des mineurs en développant des modèles adaptés à l’usage des mineurs et en fournissant des services adaptés aux caractéristiques. Les mineurs obtiennent des informations bénéfiques pour leur santé physique et mentale.
  
  Les fournisseurs de services de recommandation algorithmique ne doivent pas transmettre aux mineurs des informations susceptibles de les amener à imiter des comportements dangereux, à violer la moralité sociale, à induire de mauvaises habitudes chez les mineurs, etc. susceptibles d’affecter la santé physique et mentale des mineurs, et ne doivent pas utiliser les services de recommandation algorithmique pour induire des comportements dangereux. Les adultes sont dépendants d’Internet.
• Article 19 : Lorsque les prestataires de services recommandés par l’algorithme fournissent des services aux personnes âgées, ils doivent protéger les droits et intérêts dont jouissent les personnes âgées conformément à la loi, tenir pleinement compte des besoins des personnes âgées en matière de déplacements, de soins médicaux, de consommation et de courses, et fournir des services intelligents adaptés aux personnes âgées conformément aux réglementations nationales en vigueur. Effectuer la surveillance, l’identification et l’élimination des informations relatives à la fraude sur les réseaux de télécommunication conformément à la loi et faciliter l’utilisation en toute sécurité des services de recommandation d’algorithmes par les personnes âgées.
• Article 20 : Lorsque les prestataires de services de recommandation d’algorithmes fournissent aux travailleurs des services de planification des tâches, ils doivent protéger les droits et intérêts légitimes des travailleurs tels que la rémunération du travail, le repos et les vacances, et établir et améliorer les algorithmes pertinents pour la distribution des commandes de la plateforme, la composition et le paiement de la rémunération, les heures de travail, récompenses et punitions, etc.
• Article 21 : Lorsque les prestataires de services recommandés par des algorithmes vendent des biens ou fournissent des services aux consommateurs, ils protègent les droits des consommateurs à des transactions équitables et n’utilisent pas d’algorithmes pour déterminer les prix des transactions et d’autres conditions de transaction en fonction de caractéristiques telles que les préférences et les habitudes de transaction des consommateurs. Mettre en œuvre un traitement différentiel déraisonnable et d’autres actes illégaux.
• Article 22 : Les prestataires de services de recommandation d’algorithmes doivent mettre en place des portails pratiques et efficaces pour les plaintes des utilisateurs, les plaintes du public et les rapports, clarifier les procédures de traitement et les délais de retour d’information, et accepter, traiter et retourner rapidement les résultats du traitement.

« Une législation sans précédent pour le bien-être », selon un expert

Alberto Romero, spécialiste en IA et analyste pour le compte de CambrianIA, a noté :

« Les algorithmes définissent nos réalités. Ils manipulent notre attention et nous font perdre notre temps. Nous pensons que nous ne voulons pas vivre sans eux, mais finissons par chercher des moyens de lutter contre la forte envie de faire défiler vers le bas sur nos téléphones. Les entreprises technologiques ont un pouvoir absolu sur eux et ne répondent pas aux voix de plus en plus fortes demandant de rétablir ces prisons numériques incontournables.

« Les algorithmes devraient être soumis aux mêmes règles qui régissent les autres nouvelles technologies, mais la grande technologie refuse d’être tenue responsable ou de faire auditer ses algorithmes les plus importants en externe. Maintenant, la Chine a décidé de renverser la tendance ».

Il s’est laissé aller à une analyse des textes de loi pour étayer sa déclaration.

Art 6 : « … diffuser activement l’énergie positive et promouvoir l’application d’algorithmes pour le bien. »

« De nos jours, nous acceptons les algorithmes comme un mal nécessaire. Nous embrassons l’idée fausse que la nature inhérente de l’algorithme est de nous donner quelque chose (la recommandation) en échange de notre attention, de notre temps ou de notre santé mentale. Nous essayons ensuite de riposter en passant du temps hors d’Internet ou en désinstallant des applications pendant quelques jours.

« Je dis que nous devrions recadrer cet état d’esprit. Comme je l’ai dit dans l’article que j’ai mentionné ci-dessus, « avec très peu d’efforts, les algorithmes pourraient être modifiés pour protéger notre psychologie sensible au lieu de l’exploiter. Ils pourraient être formés pour optimiser le bien-être au lieu de l’engagement ».

« C’est exactement l’objet de ce nouveau règlement chinois. Ils obligeront des entreprises comme ByteDance (TikTok et Douyin) à faire du bien-être des utilisateurs l’objectif principal de leurs algorithmes ».

Art 8 : « … ne pas mettre en place des modèles d’algorithmes qui incitent les utilisateurs à s’adonner à l’addiction, à la consommation excessive, etc. »

« L’algorithme Youtube a été initialement conçu pour maximiser le temps passé sur la plateforme et la probabilité qu’un utilisateur clique sur une vidéo. Aujourd’hui, environ 70 % du temps que nous passons sur YouTube, nous regardons des vidéos recommandées. Lorsque Facebook a démarré, l’objectif principal était de consommer autant de temps et d’attention que possible.

« Les algorithmes peuvent être extrêmement addictifs et s’engager dans ce qu’on appelle « l’intoxication du contenu ». Par exemple, les flux TikTok For You sont conçus pour maintenir l’engagement des utilisateurs en affichant un flux constant de contenu personnalisé, sans épuiser notre durée d’attention raccourcie.

Art 13 : « … ne pas générer de fausses informations synthétiques ni les diffuser. …”

« Les fake news sont le problème de l’information de notre époque. Avec des IA capables d’écrire comme des humains et des algorithmes optimisés pour que les gens discutent en ligne, il faut s’attendre à ce que les fake news prolifèrent.

« Étant donné que les gens aiment lire ce qu’ils croient déjà – formant ce qu’on appelle une chambre d’écho – les algorithmes vont certainement promouvoir des articles de presse (réels ou faux) qui renforcent ces croyances, car ils recevront des quantités considérables de goûts, d’attention et de débats.

« Les fake news qui reflètent une réalité fabriquée peuvent cibler des groupes vulnérables. Les croyants fermes renforceront davantage leurs opinions au lieu de trouver de nouvelles perspectives qui pourraient leur fournir une vision tridimensionnelle de la réalité. Et les sceptiques pourraient voir leurs décisions prises pour eux par la présence écrasante d’un récit particulier.

« Si Facebook était une entreprise chinoise, elle devrait prendre très au sérieux le problème omniprésent des fake news et de la désinformation qui inonde la plateforme – qui aurait eu un impact définitif sur les élections américaines de 2016 ».

Art 14 : « … ne pas utiliser d’algorithmes pour enregistrer faussement des comptes, des comptes de transactions illégales, manipuler des comptes d’utilisateurs, ou faussement aimer, commenter ou transférer… »

« Un autre problème critique dans les médias sociaux d’opinion comme Twitter est l’existence de faux comptes, communément appelés bots. Ces comptes peuvent être créés par milliers pour promouvoir des messages spécifiques et les diffuser via la plateforme. Les personnes qui en sont victimes peuvent finir par former leurs croyances ou leurs visions de la réalité sur des mensonges.

« Cela peut également être un problème pour des entreprises comme Amazon ou Alibaba. Les bots créés par les vendeurs peuvent remplir les pages d’avis avec des notes élevées, créant ainsi la sensation qu’un produit est extrêmement bon, alors qu’en réalité ce n’est peut-être pas le cas.

« Souvent, les robots et les fake news vont de pair, créant un mélange extrêmement dangereux qui brouille et déforme la perception des gens en général, tout en fournissant une source de revenus difficilement traçable pour les esprits sans scrupules derrière la tromperie.

« Nous sommes témoins de la gravité de ce problème dans la guerre russo-ukrainienne actuelle. Il est difficile d’évaluer la véracité d’une source, car les faux comptes et les fake news inondent les canaux d’information ».

Art 16 : « … informent les utilisateurs de manière apparente de leur fourniture de services de recommandation algorithmique, et rendent publics les principes de base, les finalités et les principaux mécanismes de fonctionnement … »

« Les utilisateurs peuvent désormais être conscients des mécanismes derrière les algorithmes et des objectifs pour lesquels ils sont employés. Cela signifie que les gens peuvent prendre des décisions éclairées. Si Facebook indique explicitement la raison pour laquelle chaque article est promu dans les flux des utilisateurs, ils peuvent réfléchir à deux fois à leurs habitudes et à leurs comportements – ou s’ils souhaitent conserver leur compte Facebook ».

Art 17 : « … fournir aux utilisateurs des options qui ne sont pas adaptées à leurs caractéristiques personnelles, ou fournir aux utilisateurs une option pratique pour désactiver le service de recommandation algorithmique. »

« C’est sans doute l’article principal du nouveau règlement. Cela oblige les entreprises à offrir aux utilisateurs la possibilité de désactiver les recommandations et de sélectionner ou de supprimer les balises utilisateur. Cette législation pourrait, à elle seule, changer radicalement le paysage commercial des technologies Internet en Occident. Cela permettrait aux utilisateurs d’avoir un impact sur les principales sources de revenus de Facebook, Instagram, YouTube, Twitter, Reddit et de nombreuses autres plateformes qui dépendent fortement de l’argent publicitaire pour exister.

« Les entreprises de technologie Internet en Chine qui fournissent des services de recommandation guidés par des algorithmes devront adapter leurs plateformes et applications à la nouvelle législation. Ils pourraient perdre beaucoup d’argent. Mais que vaut cet argent par rapport au bien-être des gens ?

« Permettre aux gens de vivre dans un monde qui ne leur est pas artificiellement personnalisé est libérateur et sans précédent (les personnes qui choisissent de conserver les recommandations peuvent toujours le faire). Cette mesure vise à réduire le pouvoir des entreprises et les incitations à gagner de l’argent grâce à des publicités ciblées qui utilisent non seulement nos informations personnelles, mais également nos comportements et tendances en ligne : ce que nous aimons, ce que nous pensons d’un sujet ou ce que nous sommes plus susceptibles de faire ou d’acheter ».

Sources : texte de loi de l’administration chinoise du cyberespace, analyse d’Alberto Romero