L'UIT lance une initiative mondiale en matière de normalisation pour instaurer la confiance dans le comportement de l'IA

L'Union internationale des télécommunications (UIT), institution des Nations Unies pour les technologies numériques, a annoncé aujourd'hui une nouvelle initiative visant à élaborer des cadres pour l'identité numérique de confiance et à garantir que le comportement des agents d'intelligence artificielle (IA) reste digne de confiance et responsable tout au long de leur cycle de vie.

La création du nouveau Groupe spécialisé de l'UIT sur la confiance et l'identité dans les domaines de l'IA générative et de l'IA agentique, annoncée lors du Sommet mondial sur l'IA au service du bien social, intervient alors que l'IA évolue rapidement au-delà des outils d'assistance et se présente de plus en plus sous la forme d'agents autonomes agissant au nom des personnes.

Si elle promet des gains de productivité considérables, l'IA agentique comporte également de nouveaux risques, allant de l'usurpation d'identité de personnes ou d'organisations par des agents autonomes à la réalisation d'actions non autorisées au sein de systèmes interconnectés. Le Groupe spécialisé de l'UIT traitera ces problèmes en élaborant des cadres qui préservent un contrôle humain efficace pour des tâches telles que l'exécution de transactions financières et l'exploitation d'infrastructures essentielles.

"L'avenir de l'IA repose sur la confiance", a déclaré la Secrétaire générale de l'UIT, Doreen Bogdan-Martin. "À mesure que l'IA devient plus autonome, nous devons collaborer avec le secteur privé, les gouvernements, les établissements universitaires et la société civile pour assurer la plus grande confiance possible dans les systèmes d'IA."

Alors que les systèmes d'IA planifient et agissent avec une indépendance croissante, la capacité à établir l'identité d'un agent et la fiabilité de son comportement deviennent essentielles.

Les agents IA sont de plus en plus amenés à s'identifier mutuellement et à vérifier leur identité. Il est tout aussi essentiel que leurs décisions et leurs actions demeurent traçables, maîtrisables et dignes de confiance.

Les systèmes de gestion de l'identité permettent d'établir qui agit, tandis que la fiabilité détermine si cet acteur est digne de confiance. Ensemble, ils constituent le socle d'interactions sûres entre les êtres humains et les systèmes d'IA autonomes.

Le Groupe spécialisé s'attachera à relever les défis liés à la gestion de la confiance pour les personnes et les agents IA, sur la fiabilité globale des systèmes d'IA agentiques et sur les moyens de renforcer la confiance dans le comportement des agents IA tout en conservant la maîtrise de leurs actions.

"Les agents IA seront bientôt amenés à négocier, à effectuer des transactions et à prendre des décisions pour notre compte", a déclaré Debora Comparin, Coprésidente du Groupe spécialisé. "Avant que cette perspective ne devienne réalité, il est nécessaire d'établir des bases communes à l'échelle internationale afin de déterminer qui sont ces agents, dans quelles conditions ils peuvent être considérés comme dignes de confiance et comment les personnes conserveront la maîtrise de leurs actions. C'est précisément pour relever ce défi que ce Groupe spécialisé a été créé."

"L'IA agentique introduit une nouvelle catégorie d'acteurs numériques qui collaboreront de plus en plus avec les personnes et entre eux", a déclaré Amir Banifatemi, Coprésident. "L'identité permet de déterminer qui agit, tandis que la fiabilité permet d'établir comment cet acteur est susceptible de se comporter. En réunissant ces deux dimensions, on crée le socle commun nécessaire à la mise en place de systèmes d'IA interopérables, responsables et dignes de confiance à l'échelle mondiale."

Le Groupe est ouvert à la participation d'experts techniques ainsi que de spécialistes des politiques, du droit et de la réglementation afin d'élaborer:

• une terminologie commune et des définitions;
• des architectures de référence pour l'identité, la confiance, la découverte d'agents et l'interopérabilité;
• des cadres de confiance et modèles (d'assurance) de cycle de vie;
• des mécanismes d'interopérabilité pour l'identité numérique et les justificatifs correspondants;
• des critères de sécurité et des critères de référence pour l'évaluation continue des agents IA;
• une feuille de route de la normalisation pour coordonner l'action entre les milieux d'experts.

Le Groupe spécialisé fera rapport au Groupe d'experts de l'UIT chargé des normes en matière de sécurité, la Commission d'études 17 de l'UIT-T.

"Nous avançons de manière stratégique et résolue, tout en veillant à prendre le temps nécessaire pour établir des fondements solides", a déclaré Arnaud Taddei, Président de la Commission d'études 17. "Nous connaissons la direction à suivre et avons une vision globale de ce que nous souhaitons construire. Nous mettons désormais en place l'équipe dirigeante et la structure adéquates, et le Sommet sur l'IA au service du bien social est précisément le cadre où nous rencontrerons les partenaires qui souhaitent nous rejoindre."

Les Coprésidents du groupe seront épaulés par une équipe de direction plus large, dont la composition sera finalisée dans les semaines à venir à l'issue d'une vaste consultation. Le Groupe, qui est ouvert à tous les experts intéressés, tiendra sa première réunion à Paris en novembre 2026 et sa deuxième réunion à Genève en janvier 2027.

Les groupes spécialisés de l'UIT contribuent à accélérer l'élaboration de nouvelles normes mondiales et sont largement mis à profit pour suivre le rythme de l'évolution rapide de l'environnement de l'IA.

"Le consensus que nous établissons lors de l'élaboration des normes de l'UIT apporte la clarté dont nous avons besoin pour que les nouveaux écosystèmes de l'innovation se développent", a déclaré Seizo Onoe, Directeur du Bureau de la normalisation des télécommunications de l'UIT. "Ce groupe spécialisé constitue une plate-forme ouverte conçue pour permettre à tous d'avancer en toute confiance et avec assurance."

D'autres groupes spécialisés actifs traitent de l'IA au service des villes intelligentes, de l'IA incarnée dans le multimédia et des réseaux fondés sur l'IA. Les travaux des précédents groupes spécialisés sur l'IA ont porté sur les réseaux autonomes, la santé, l'agriculture, la réduction des risques de catastrophe et les voitures autonomes.

###

À propos de l'UIT:

L'Union internationale des télécommunications (UIT) est l'institution spécialisée des Nations Unies pour les technologies numériques et encourage l'innovation au service des populations et de la planète, aux côtés de 194 États Membres et des plus de 1 000 entreprises, universités, entités de la société civile et organisations internationales ou régionales qui la composent. Fondée en 1865, l'UIT coordonne l'utilisation du spectre des fréquences radioélectriques et des orbites de satellites à l'échelle mondiale, établit des normes internationales relatives aux technologies, encourage la connectivité universelle et les services numériques, et contribue à faire en sorte que tous, y compris les communautés les plus isolées, bénéficient d'une transformation numérique durable. De l'intelligence artificielle (IA) à l'informatique quantique, des satellites aux câbles sous-marins en passant par les réseaux large bande mobiles et hertziens évolués, l'UIT s'engage à connecter le monde et au-delà. Pour en savoir plus, rendez-vous sur www.itu.int.