La CNCDH appelle à une conception des services numériques respectueuse des droits humains (Statistics)

L'Avis s'inscrit dans la lignée des travaux de la CNCDH relatifs aux enjeux pour la protection des droits humains soulevés par les nouvelles technologies. Il marque cependant un tournant dans l'approche de la CNCDH, qui choisit de privilégier une perspective globale et préventive. Plutôt que de se limiter à la modération des contenus a posteriori, la CNCDH estime qu'il est indispensable d'encadrer l'architecture même des services numériques.

La CNCDH alerte tout d'abord sur un modèle de conception toxique qui exploite les vulnérabilités humaines par le biais de ressorts cognitifs pour favoriser l'hyperconnexion et générer des comportements addictifs. Ce phénomène, accentué par l'hyperpersonnalisation des contenus et l'anthropomorphisation des système d''intelligence artificielle, engendre des risques individuels (exposition à des contenus dangereux, atteintes à la santé) et systémiques (cyberviolences de genre, désinformation, menaces pour l'État de Droit et la démocratie). Tout en soulignant que chaque personne est potentiellement exposée, la CNCDH rappelle que le croisement des facteurs de vulnérabilité aggrave le risque de subir des atteintes aux droits humains.

Des recommandations publiques à la hauteur des enjeux

Face à ces constats majeurs, la CNCDH formule une série de 25 recommandations, qui appellent notamment à :

• Interdire les pratiques de conception toxiques et créer, sur le modèle du droit de la consommation, une liste de pratiques présumées toxiques ;
• Reconnaître un droit de ne pas être dérangé en ligne, dans la lignée des propositions du Parlement européen, afin de mettre un terme aux dynamiques addictives ;
• Favoriser l'autonomisation des utilisateurs et utilisatrices en garantissant une réelle liberté de choix en ligne, en renforçant l'éducation au numérique et en encourageant l'action de la société civile ;
• Créer un nouveau régime de responsabilité permettant d'engager la responsabilité des fournisseurs de services numériques et renforer le cadre réglementaire actuel face aux logiques de dérégulation.

Pour Célia Zolynski, membre de la CNCDH et co-rapporteure de l'avis :

Le modèle dominant de conception des services numériques repose sur la volonté de prolonger la connexion des utilisateurs et utilisatrices, au détriment de notre santé, de nos libertés, de nos droits fondamentaux. En adoptant une approche préventive, la CNCDH propose non seulement de garantir la protection des droits humains en amont de l'utilisation de ces services, mais également d'envisager la responsabilité des fournisseurs de ces services pour ce qu'ils sont : des concepteurs d'environnements numériques, dont les choix peuvent entraîner de graves risques pour la protection des droits humains, et, plus largement, pour le système démocratique. »

À l'heure du déploiement massif des réseaux sociaux et des systèmes d'intelligence artificielle, la CNCDH appelle les pouvoirs publics à encadrer fermement ce secteur pour préserver l'État de Droit.