La ministra delegada ante el Jefe del Gobierno encargada de la Transición Digital y de la Reforma de la Administración, Amal El Fallah Seghrouchni, abogó este martes en Ginebra por la construcción de un nuevo paradigma de la rendición de cuentas (accountability) de los sistemas de inteligencia artificial (IA) agéntica, al considerar que la responsabilidad de estos sistemas constituye «probablemente uno de los mayores desafíos jurídicos de esta década».
Durante su intervención en un panel de alto nivel dedicado al respeto, la protección y la promoción de los derechos humanos en la era de la IA, organizado en el marco del Diálogo Mundial sobre la Gobernanza de la IA, la ministra explicó que los sistemas de IA agéntica se basan en una red de agentes autónomos que actúan cada uno en su propio nivel, sin que exista un único actor humano directamente responsable de la decisión final.
En este contexto, señaló, resulta especialmente difícil determinar qué agente debe ser considerado responsable en caso de fallo o cómo repartir dicha responsabilidad entre los distintos agentes implicados.
Al igual que ocurre cuando varios actores contribuyen, cada uno, a una parte de un mismo proceso, el resultado final puede ser perjudicial sin que sea posible identificar con precisión dónde se produjo el error, en qué momento y cuál es el grado de responsabilidad de cada uno, una dificultad agravada además por los problemas de causalidad temporal y la complejidad de modelos compuestos por miles de millones de parámetros, explicó.
Para ilustrar esta problemática, Seghrouchni recordó que Marruecos tramita cerca de 52 millones de transacciones administrativas al año, subrayando que, a esa escala, identificar con precisión el origen de un fallo constituye un desafío de primer orden.
Ante estos retos, consideró necesario desarrollar nuevos métodos capaces de responder a la creciente complejidad de estos sistemas de toma de decisiones. En este sentido, defendió un enfoque basado en el «throttling» (limitación o regulación controlada), que permita reconstruir un grafo causal no determinista de las acciones de los sistemas agénticos para identificar, en cada nodo, los derechos aplicables y poner de manifiesto las áreas que permanecen sin cobertura, donde pueden surgir riesgos de perjuicio para las personas.
