La UIT pone en marcha una iniciativa de normalización mundial para crear confianza en el comportamiento de la IA

La Unión Internacional de Telecomunicaciones (UIT), el organismo especializado de las Naciones Unidas para las tecnologías digitales, ha anunciado hoy una nueva iniciativa cuyo objetivo es desarrollar marcos para una identidad digital fiable y garantizar que el comportamiento de los agentes de IA sea digno de confianza y esté sujeto a responsabilidades durante todo su ciclo de vida.

El nuevo Grupo Temático de la UIT sobre confianza e identidad para las personas y la IA agéntica, anunciado en la Cumbre Mundial AI for Good, llega en un momento en que la inteligencia artificial (IA) está dejando de brindar meras herramientas de asistencia para materializarse, cada vez más, en agentes autónomos que actúan en nombre de personas físicas.

Si bien la IA agéntica promete importantes avances en términos de productividad, también alberga nuevos riesgos, como los que plantean los agentes autónomos que se hacen pasar por personas u organizaciones, o realizan acciones no autorizadas en sistemas interconectados. El nuevo Grupo Temático de la UIT abordará estos retos mediante el desarrollo de marcos encaminados a preservar un control humano significativo en el marco de tareas como la ejecución de transacciones financieras y la explotación de infraestructuras críticas.

"El futuro de la IA depende de la confianza", afirmó la Secretaria General de la UIT, Sra. Doreen Bogdan-Martin. "A medida que la IA va ganando en autonomía, hemos de trabajar juntos -empresas, gobiernos, instituciones académicas y entidades de la sociedad civil- para garantizar el mayor nivel de confianza posible en los sistemas de IA".

Dado que los sistemas de IA planifican y actúan con un grado de independencia cada vez mayor, la capacidad de establecer la identidad de un agente y determinar si su comportamiento es digno de confianza reviste una importancia crucial.

Los agentes de IA necesitan identificarse y autenticarse entre sí con una frecuencia cada vez mayor, y no menos importante es que sus decisiones y acciones deben seguir siendo justificables, controlables y fiables.

Los sistemas de identidad permiten determinar quién está actuando, mientras que la fiabilidad indica si ese agente es digno de confianza. Juntos, sientan las bases necesarias para una interacción segura entre personas y sistemas de IA autónomos.

Este Grupo Temático abordará retos atinentes a la gestión de la confianza para las personas y los agentes de IA, cuestiones relacionadas con la fiabilidad general de los sistemas de IA agéntica y estrategias encaminadas a reforzar la confianza en el comportamiento de los agentes de IA, manteniendo al mismo tiempo el control sobre sus acciones.

"Pronto, los agentes de IA negociarán, realizarán transacciones y tomarán decisiones en nuestro nombre", afirmó la Copresidenta del Grupo Temático, Sra. Debora Comparin. "Antes de que ese futuro se haga realidad, necesitamos una base internacional común que nos permita establecer quiénes son esos agentes, en qué medida podemos confiar en ellos y cómo podrán las personas mantener el control en este ámbito. Ese es el desafío al que responde la creación de este Grupo Temático".

"La IA agéntica trae consigo una nueva clase de actores digitales que colaborarán cada vez más con las personas y entre sí", señaló el Copresidente, Sr. Amir Banifatemi. "La identidad nos indica quién está actuando, mientras que la fiabilidad nos indica qué comportamiento cabe esperar de ese actor. Al combinar ambos elementos se crea la base común necesaria para construir sistemas de IA interoperables, responsables y fiables a escala mundial".

En este Grupo pueden participar tanto expertos técnicos como especialistas en política, derecho y reglamentación, con miras a elaborar:

• términos y definiciones comunes;
• arquitecturas de referencia para la identidad, la confianza, la detección de agentes y la interoperabilidad;
• marcos de confianza y modelos (de garantía) de ciclo de vida;
• mecanismos de interoperabilidad para la identidad digital y las credenciales;
• criterios y parámetros de referencia en materia de seguridad para la evaluación continua de los agentes de IA, y
• una hoja de ruta de normalización para coordinar la forma de proceder de las comunidades de expertos.

El Grupo Temático rendirá cuentas al grupo de expertos en normas de seguridad de la UIT, la Comisión de Estudio 17 del UIT-T.

"Estamos avanzando de forma estratégica y rápida, pero tomándonos deliberadamente el tiempo necesario para sentar unas bases sólidas", afirmó el Sr. Arnaud Taddei, Presidente de la Comisión de Estudio 17. "Sabemos qué dirección queremos tomar y, a grandes rasgos, qué queremos construir. Ahora estamos configurando el equipo directivo y la estructura adecuados, y la Cumbre AI for Good es precisamente el lugar donde nos reuniremos con los socios que deseen acompañarnos".

A los Copresidentes del Grupo se unirá un equipo directivo más amplio, cuya composición se ultimará en las próximas semanas tras una amplia consulta. El Grupo, abierto a todos los expertos interesados, celebrará su primera reunión en París en noviembre de 2026 y la segunda en Ginebra en enero de 2027.

Los Grupos Temáticos de la UIT contribuyen a impulsar la elaboración de nuevas normas mundiales y se han utilizado ampliamente para poder seguir la rápida evolución del panorama de la IA.

"Los consensos que alcanzamos al elaborar normas en el marco de la UIT aportan la claridad que necesitamos para que crezcan los nuevos ecosistemas de innovación", afirmó el Sr. Seizo Onoe, Director de la Oficina de Normalización de las Telecomunicaciones de la UIT. "Este Grupo Temático brinda una plataforma abierta, diseñada para ayudarnos a avanzar con confianza y certeza".

Existen otros Grupos Temáticos activos que se ocupan de temas tales como la IA para ciudades inteligentes, la IA integrada y los multimedios, y las redes de IA nativa. En el pasado, otros Grupos Temáticos estudiaron la IA en los ámbitos de las redes autónomas, la salud, la agricultura, la reducción del riesgo de catástrofe y los vehículos autónomos.

###

Acerca de la UIT:

La Unión Internacional de Telecomunicaciones (UIT) es el organismo de las Naciones Unidas encargado de las tecnologías digitales, que impulsa la innovación para las personas y el planeta. Cuenta con 194 Estados Miembros y más de 1 000 miembros de empresas, universidades, sociedad civil y organizaciones internacionales y regionales. Creada en 1865, la UIT coordina la utilización mundial del espectro radioeléctrico y las órbitas de satélite, establece normas tecnológicas internacionales, impulsa la conectividad universal y los servicios digitales, y ayuda a garantizar que todos se beneficien de una transformación digital sostenible, incluidas las comunidades más remotas. Desde la inteligencia artificial (IA) hasta la tecnología cuántica, desde los satélites y los cables submarinos hasta las redes de banda ancha móviles e inalámbricas avanzadas, la UIT se compromete a conectar el mundo y más allá. Más información: www.itu.int.​