- Gutiérrez David, María Estrella
El Capítulo aborda un análisis exegético profundo y exhaustivo del Artículo 13 del Reglamento de Inteligencia Artificial (RIA) en el marco también de una obra colectiva exhaustiva que abarca 38 capítulos y 34 autores, nacionales e internacionales. Esta obra colectiva ha sido co-dirigida por el actual Presidente de la Agencia Española de Protección de Datos, Lorenzo Cotino y Pere Simón, y se presenta, según sus directores como un Tratado que realiza “una clasificación por bloques temáticos a fin de ofrecer una respuesta global y exhaustiva a la aportación que supone, tanto a nivel teórico como práctico, la aprobación de un Reglamento que cuenta con 180 considerandos, 112 artículos y 13 anexos”.
Fiel al planteamiento global de la obra colectiva, a lo largo de 51 páginas, más de 50 referencias bibliográficas, unas 15 normas técnicas consultadas, 116 notas a pie de página y 7 tablas, la autora aborda el contenido y alcance de las obligaciones de transparencia y comunicación que el Artículo 13 del RIA impone a los proveedores de sistemas de IA de alto riesgo, clasificados de acuerdo con los criterios establecidos en el Art. 6 y Anexo III del RIA.
A pesar del predominante carácter de reglamentación técnica del RIA en general y de su Art. 13 en particular, el Capítulo no olvida la perspectiva iusfundamental del tema abordado. Resulta necesaria un adecuado nivel de intelección e interpretación sistemática del precepto y su interrelación con otros (como los Arts. 50 y 86 del RIA), para poder comprender el impacto que, en los derechos fundamentales puede tener el diseño, desarrollo e implementación de los sistemas de IA de alto riesgo. Si bien tal aproximación se aborda al final del Capítulo, resulta necesario todo el camino previo recorrido a lo largo de la exégesis del Art. 13 del RIA.
La estructura de este Capítulo aborda, en primer lugar, una descripción sistemática del Artículo 13 y la correlación de sus apartados con otras disposiciones del Reglamento, así como necesarias referencias a la normalización a efectos de completar la interpretación de los aspectos más técnicos del precepto (Tabla 3).
En segundo lugar, se analiza cómo se ha producido la integración de los requisitos de transparencia, interpretabilidad y explicabilidad en el texto del Artículo 13. Dicho análisis pasa por una necesaria referencia a: (i) la conceptualización técnica de cada uno de los requisitos; (ii) los antecedentes pre-legislativos del texto (desde las Directrices Éticas para una IA fiable del Grupo de Expertos de la Comisión Europea, pasando por la propuesta de la Comisión hasta el proceso de trílogos); (iii) la interrelación entre los tres requisitos (Tablas 4, 5 y 6), al tiempo que se incorpora un estudio exhaustivo del enfoque (asistemático, insuficiente y ambiguo) que el Reglamento de Inteligencia Artificial tiene de la interpretabilidad y la explicabilidad.
En tercer lugar, la exégesis del Artículo 13 pasa por abordar las tres dimensiones de la «transparencia» que incorpora el precepto: una dimensión subjetiva (quiénes son los sujetos obligados y destinatarios de la transparencia), una dimensión formal (el cómo o modo de cumplimiento de la obligación), y una dimensión sustantiva o material (qué información debe comunicarse a los sujetos destinatarios de la transparencia).
A la hora de establecer una metodología adecuada para abordar el análisis y exégesis del Artículo 13, se han tenido en cuenta los siguientes aspectos.
En primer lugar, el Artículo 13, al igual que buena parte del texto de la norma, tiene una vocación clara de reglamentación técnica. Por tanto, para una correcta interpretación teleológica del precepto, será necesaria su integración no sólo con otros preceptos del Reglamento (con idéntica vis técnica) y algunos apartados específicos del Anexo IV.
En segundo lugar, para asegurar una adecuada intelección de aquellos términos de claro significado técnico incluidos en el Artículo 13 (e.g. precisión, métricas, rendimiento, transparencia, interpretación, explicación, entre otros), a falta de definición en el Reglamento, ha resultado necesario acudir a las normas técnicas y documentos de normalización que algunos organismos internacionales y nacionales (ISO, ETSI, IEEE, NIST) han empezado a producir (Tablas 1 y 3). Se han tenido en cuenta, además, las deficiencias de traducción detectadas en la versión oficial española del texto del RIA con relación a algunos términos fundamentales en el ámbito de la IA como «funcionamiento», «métricas», «parámetro» o «precisión».
Así, la consulta y remisión a las normas técnicas referidas a lo largo del Capítulo ha permitido completar el significado de los aspectos más técnicos del contenido del Artículo 13, así como introducir un análisis comparado desde la perspectiva de la normalización en cuanto a la categorización de los tipos y niveles de transparencia (Tabla 2) o de las categorías de interesados y de información relevante (Tabla 7).
En particular, han sido de especial utilidad la ISO/IEC DIS 12792:2024(en), la ISO/IEC 25059:2023, sobre modelo de calidad para sistemas de IA, o la ISO/IEC 22989:2022, donde se incluyen conceptos básicos sobre IA. En el caso particular de la ISO/IEC DIS 12792:2024(en), aunque se trate de una norma técnica en trámite el momento de cierre del Capítulo, ha resultado relevante su consulta a los efectos de este Capítulo por los niveles de transparencia e información técnica que establece (nivel del contexto del sistema de IA, nivel del sistema de IA, nivel del modelo de IA, y nivel del conjunto de datos utilizados por el sistema).
El Capítulo finaliza con una valoración final del Artículo 13 del RIA donde se destacan aspectos como la mejorable técnica redaccional del precepto, la también mejorable articulación de las relaciones entre la transparencia, la interpretabilidad y la explicabilidad, la inseguridad jurídica para proveedores y responsables del despliegue que produce la indefinición del «tipo y nivel de transparencia adecuados» establecida precepto o la ausencia de criterios cuantitativos o cualitativos respecto del contenido o alcance de las categorías de información que están sujetas a la obligación de transparencia que podría dar lugar a interpretaciones restrictivas, entre otras.
Pero, desde un punto iusfundamental, posiblemente una de las conclusiones más importantes del análisis exegético y sistemático del Artículo 13 en el conjunto del texto del RIA, es la identificación de los «grandes olvidados del Reglamento» desde la perspectiva de la transparencia, a saber, los sujetos destinatarios de los sistemas de IA (por lo general, los ciudadanos), más allá de las previsiones contenidas en los Artículos 50 (las obligaciones de transparencia de los proveedores y responsables del despliegue de determinados sistemas de IA) y 86 (el derecho a una explicación de las decisiones tomadas individualmente, este último como intento de completar las insuficiencias del Art. 22 del Reglamento General de Protección de Datos). Teniendo en cuenta que la afectación grave y adversa de los derechos fundamentales, la salud o la seguridad son elementos definitorios del alto riesgo de los sistemas de IA, ni el Art. 13, ni los Arts. 50 y 86 podrían considerarse instrumentos verdaderamente habilitantes para que el público en general, y los afectados en particular, reciban información suficiente para comprender los riesgos a los que están sometidos e impugnar de manera eficaz las decisiones individuales que causen efectos adversos en los derechos fundamentales, la salud y la seguridad, individuales o colectivos.
Se trata, en todo caso, de un Capítulo abierto, a la espera de que las autoridades europeas de normalización, el CEN y al CENELEC cumplan con el mandato de la Comisión Europea de elaborar normas técnicas y documentos de normalización que concreten el contenido y alcance de los requerimientos de los sistemas de alto riesgos establecidos en la Sección 2ª del Capítulo 3, entre los que se encuentra el requisito de transparencia y comunicación de información del artículo 13 RIA (Anexo I C(2023) 3215 final).