Portal del Contribuyente del Ayuntamiento de Madrid

La irrupción de la inteligencia artificial (IA) en la vida de los ciudadanos es ya un hecho cotidiano, aunque no siempre sea bien entendida por la inmensa mayoría. Incluso algunos de los que ven en ella una grave amenaza no siempre son conscientes de las ventajas que diariamente les aporta la existencia de numerosos sistemas y servicios basados en la inteligencia artificial.

En el ámbito de la gestión pública el avance de esta tecnología sigue con retraso a la iniciativa privada, que ya ha normalizado su uso en todo tipo de sistemas asociados a ámbitos tan diferentes como las estrategias de marketing, la asistencia automatizada a sus clientes, los diagnósticos, las predicciones y evaluaciones en todos los ámbitos (sanitario, financiero, de gestión de riesgos,..), o la distribución de bienes y servicios, por citar algunos de los ejemplos más habituales.

En el sector público empiezan también a ser frecuentes las iniciativas para aplicar las tecnologías asociadas a la IA, si bien están apareciendo dificultades, muy previsibles, respecto a la forma en la que esta tecnología está incidiendo en las relaciones entre la Administración y los ciudadanos y, más concretamente, si con ella se está afectando, limitando o incluso vulnerando algún derecho.

Sin duda es en el ámbito de la gestión de los tributos donde se están observando algunos de los avances más significativos, con un claro liderazgo de la Agencia Estatal de Administración Tributaria (AEAT), que con una apuesta clara a favor del uso de la IA continúa con su estrategia tradicional de apoyarse fuertemente en la tecnología, como «marca de la casa».

Empiezan a ser frecuentes los trabajos en todo tipo de publicaciones y plataformas donde se pone de manifiesto los riesgos que, a juicio de los autores, supone el uso de la IA en la actividad pública y, específicamente, en la gestión tributaria. Como posición más repetida se asume como una necesidad que los responsables de la recaudación fiscal utilicen este tipo de herramientas, aunque con limitaciones y exigencias, mientras que desde otras posiciones más extremas se ve en ello un paso más en la pérdida de libertades y una invasión injustificada de la privacidad.

Existe también una cada vez más abundante colección de obras que, desde la academia, estudian la forma en que la IA incide en la gestión de los tributos [1]. Ya existían varias publicaciones anteriores, pero con la aparición del Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial [2] (en adelante, Reglamento UE sobre IA), están apareciendo otras que analizan la forma en que incide esta nueva normativa en la gestión pública en general, y en la gestión tributaria en particular.

En paralelo, desde el Gobierno se están impulsando diversas iniciativas para definir un marco normativo y estratégico que aporte la necesaria seguridad jurídica que reclama la utilización de la IA en el sector público, cuestión nada sencilla dado el carácter ampliamente disruptivo de esta tecnología.

Sin embargo, y pese a todas estas acciones, ni las aportaciones realizadas desde el sector privado, ni desde la academia, ni tampoco desde las iniciativas gubernamentales, muestran hoy un escenario nítido donde se despejen todas las dudas que surgen con la aplicación de la IA, y se dé la necesaria seguridad jurídica no sólo a los ciudadanos, sino también a quienes estamos aplicando ya estas tecnologías desde nuestras responsabilidades como funcionarios públicos.

Como se expone en las siguientes líneas, es tan novedosa y de tal impacto esta tecnología que su aplicación imparable está poniendo de manifiesto tres características generales que inciden en todo tipo de situaciones:

• La tecnología avanza más rápido que la legislación. Y lo hace cada vez más, ganado distancia.
• Se están generando no solo dudas, sino aparentes contradicciones derivadas de su aplicación. Un buen ejemplo de ello es la posible incompatibilidad entre conceptos como «actuación administrativa automatizada» y «supervisión humana».
• Y, sobre todo, y esto es lo más urgente, no siempre se está entendiendo la forma en que nos afecta la IA cómo usuarios dependientes de la tecnología. Y esta falta de comprensión está manifestándose tanto en los responsables políticos como en los lideres empresariales, los comunicadores, los gestores públicos, o en quienes, desde el poder judicial, han de juzgar sus efectos.

La intención general de este trabajo es aportar la visión de un gestor público, responsable de recaudar tributos municipales, que entiende como una auténtica necesidad el uso de la IA, porque sabe que con ello mejorará sustancialmente el servicio que se presta a los ciudadanos, pero que encuentra numerosas dudas para su aplicación. No se debe olvidar que, después de los ciudadanos, los funcionarios públicos somos quienes más sufrimos los escenarios de inseguridad jurídica cuando desarrollamos nuestra actividad.

[1] Como ejemplo, puede destacarse, por la amplitud en el tratamiento de la cuestión, la obra colectiva titulada, «Inteligencia artificial y administración tributaria: eficiencia administrativa y defensa de los derechos de los contribuyentes», dirigida por el profesor Fernando Serrano Antón. Editorial Aranzadi.

[2] El título completo es: Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) número 300/2008, (UE) número 167/2013, (UE) número 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828 (Reglamento de Inteligencia Artificial) boe.es/doue/2024/1689/L00001-00144.pdf.

En el momento actual, si queremos aplicar la IA en nuestros procesos, los gestores tributarios nos vemos «atrapados» entre normativas de ámbito genérico y poco preciso (el Reglamento Europeo sobre IA), una nueva normativa estatal que no acaba de nacer, y otra normativa vigente (Ley General Tributaria, Ley 40/2015 del Régimen Jurídico del Sector Público, Ley de Transparencia, Acceso a la Información Pública y Buen Gobierno,…), cuya falta de precisión y coordinación no aporta la necesaria seguridad jurídica. En esta situación es realmente difícil asegurar que siempre se logra el adecuado equilibrio entre principios constitucionales tales como la eficiencia administrativa y el respeto a los derechos y garantías de los contribuyentes, especialmente ante la irrupción de otros nuevos derechos (si es que tienen suficiente autonomía para considerarse como tales) que ya se enarbolan en cuanto se pretende utilizar la IA, como son los de explicabilidad, transparencia y supervisión humana.

Por enmarcar el estado de la cuestión, conviene dar un rápido repaso a los documentos claves con los que en la actualidad un gestor tributario ha de enfrentar la implantación de proyectos basados en IA.

Distinguimos entre normativa aprobada o en elaboración para regular expresamente el uso de la IA, de aquella otra vigente y dispersa en varios textos normativos, que pueden -ya lo están haciendo-, incidir sobre los primeros proyectos que se están desarrollando en el ámbito tributario que hacen uso de la IA. Asimismo, citaremos varios documentos que, aun no siendo normas, definen marcos de actuación para las instituciones que los aprueban.

2.1 Unión Europea

Sin duda la principal referencia es el ya citado Reglamento (UE) 2024/1689 del Parlamento Europeo y del Consejo, de 13 de junio de 2024, por el que se establecen normas armonizadas en materia de inteligencia artificial y por el que se modifican los Reglamentos (CE) número 300/2008, (UE) número 167/2013, (UE) número 168/2013, (UE) 2018/858, (UE) 2018/1139 y (UE) 2019/2144 y las Directivas 2014/90/UE, (UE) 2016/797 y (UE) 2020/1828.

Como es de esperar, el Reglamento UE sobre IA no va más allá de la definición de un marco de actuación, que no resuelve las múltiples dudas que surgen en el momento de aplicar esta tecnología en procesos específicos, tarea que queda encomendada a la legislación nacional de los distintos estados miembros, limitándose a establecer normas armonizadas para su aplicación. Además de referirse al gran objetivo de la UE, -mejorar el funcionamiento del mercado interior, garantizando la libre circulación de mercancías y servicios-, mediante este Reglamento se define un marco jurídico uniforme para el desarrollo, comercialización y uso de sistemas de IA, buscando la protección de la salud, seguridad y los derechos fundamentales.

La parte que más nos interesa, como gestores públicos, es la que se refiere al sistema de garantías destinadas a la protección de los derechos fundamentales mediante varias medidas clave, siendo la principal la creación de un sistema de clasificación y evaluación de los riesgos que se derivan de la implantación de la IA, siguiendo aquí el mismo esquema adoptado para la regulación de los datos de carácter personal. De esta manera, los sistemas de IA deben someterse a evaluaciones de riesgos rigurosas para identificar y evitar y, en todo caso, controlar, posibles impactos negativos en los derechos fundamentales. A destacar que, según se deduce de una primera lectura, los sistemas de IA utilizados para la gestión de los tributos no deben ser considerados de alto riesgo. A ello nos referiremos más adelante.

La gestión de riesgos incluye, como no podía ser de otra manera, cumplir estrictamente las normativas de protección de datos personales, garantizando la privacidad y seguridad de la información. Este emparejamiento (datos protegidos - IA) introduce importantes rigideces en cuanto al uso de la nueva tecnología, no siempre justificados. Es previsible que en los próximos años veamos situaciones en las que, apelando a la protección de datos personales, se intenten establecer barreras para el desarrollo de la IA.

El Reglamento UE sobre IA establece también mecanismos que intentan definir el marco de responsabilidad para los desarrolladores y operadores de sistemas de IA, al tiempo que se garantiza que las personas afectadas por decisiones basadas en esta tecnología tengan acceso a los recursos que les permitan defender sus derechos ante los tribunales.

Pero lo que, a nuestro juicio, genera un mayor grado de incertidumbre, dada la amplia ambigüedad con la que se describen los conceptos, es la exigencia de que se dé cumplimiento y se garanticen algunas cuestiones cuya implantación en la práctica genera muchas dudas. Nos referimos expresamente a las ideas de transparencia y explicabilidad, exigiéndose que los sistemas de IA sean transparentes, proporcionando información clara sobre su funcionamiento y decisiones, lo que debería permitir a los usuarios entender y cuestionar los resultados, a través de la explicación de sus elementos.

También contribuye a generar incertidumbre la deficiente definición de la idea de la supervisión humana, según la cual los sistemas de IA deben estar sujetos a supervisión por un humano con el fin de asegurar que las decisiones automatizadas no vulneren los derechos fundamentales.

A estas tres ideas: explicabilidad, transparencia y supervisión humana nos referiremos con detalle a lo largo del trabajo.

2.2 España: ámbito nacional y legislación autonómica

En el ámbito nacional existen tres actuaciones que merecen ser citadas, que se refieren al marco institucional, al marco legal y, específicamente, a los documentos elaborados por la Agencia Estatal de Administración Tributaria en relación con esta cuestión.

El marco institucional está centrado en la Agencia Española de Supervisión de la Inteligencia Artificial (AESIA), de reciente creación [1]. Es especialmente significativo que el posicionamiento inicial de esta Agencia Pública, claramente pesimista, la sitúa entre quienes ven la IA fundamentalmente como un riesgo que hay que controlar. Si bien no deja de reconocerse sus efectos positivos, -puesto que entre los objetivos de la AESIA está la creación de conocimiento, formación y la difusión de una IA ética y humanista, mostrando su potencial para el desarrollo socioeconómico, la innovación y la transformación del modelo productivo-, lo cierto es que la imagen pesimista pesa más, cuando se remarca como una de las principales funciones de la Agencia la inspección, comprobación y aplicación de las sanciones previstas en Reglamento UE sobre IA.

El marco normativo está todavía menos desarrollado que el institucional, y se limita al Anteproyecto de Ley para el buen uso de la inteligencia artificial, presentado el pasado mes de marzo por el Gobierno [2]. Del texto publicado cabe concluir que se abunda en la visión pesimista de la IA, entendida fundamentalmente como un riesgo, como se constata fácilmente al comprobar que 25 de sus 37 artículos, - todos los que se integran en el Capítulo IV- se dedican a regular el sistema de infracciones y sanciones.

Desde esta visión pesimista, el anteproyecto de Ley de inteligencia artificial se declara alineado con la regulación europea, garantizando el uso ético, inclusivo y beneficioso de esta tecnología, adaptando la legislación española al reglamento europeo. Para ello, establece el catálogo de prácticas prohibidas, introduce obligaciones rigurosas para los sistemas de IA considerados de alto riesgo, e incorpora nuevos derechos digitales.

En definitiva, de lo visto en el texto del anteproyecto no parece que quepa esperar de esta norma una mayor definición de los conceptos clave para resolver las dudas que se plantean desde la óptica de la gestión pública a la hora de implementar sistemas basados en IA.

Aunque no tienen un valor normativo pero si estratégico son de mayor interés, por lo que contienen de reflexiones expresas sobre la IA aplicada a la gestión de los tributos, los documentos elaborados por la Agencia Estatal de Administración Tributaria y, en concreto las directrices sobre IA que aparecen en el Plan Estratégico 2024-2027 [3], en el documento de estrategia sobre Inteligencia artificial, aprobado en mayo del pasado año [4], y en el titulado [5]«- Compromiso ético en el diseño y uso de IA en la AEAT», de enero de 2025.

En estos documentos, cuya lectura completa se recomienda, la AEAT anuncia un esfuerzo significativo en el uso de la IA para la prevención y lucha contra el fraude fiscal. Si bien su uso por la AEAT no es algo novedoso, en este nuevo plan estratégico se aprecia un mayor interés por la IA, aportándose incluso una definición: «conjunto de sistemas capaces de funcionar con ciertos niveles de autonomía para alcanzar objetivos y generar información en forma de predicciones, recomendaciones o decisiones a partir de datos, aplicando estrategias de aprendizaje automático o basadas en la lógica y el conocimiento».

De acuerdo con esta visión, la AEAT prevé el uso de todas las posibilidades que puedan desarrollarse en torno a la IA, incluyendo las herramientas de aprendizaje automático disponibles (machine learning / deep learning), utilizando las abundantes fuentes de información, propias de la AEAT y externas, con la finalidad de realizar predicciones, recomendaciones o tomar decisiones que afecten a los contribuyentes. En definitiva, va mucho más allá de las herramientas clásicas de modelización, automatización y «cruce de datos» que ha venido utilizando en los últimos años, presentando la estrategia en torno a la IA como un sistema que será capaz de «razonar» y analizar datos de manera autónoma para tomar sus propias decisiones en su relación con el contribuyente, si bien, - y el inciso es importante porque genera dudas sobre cómo se aplicará-, la toma final de decisiones seguirá recayendo en las personas.

En el desarrollo de estos objetivos, la AEAT asume de manera expresa los siguientes compromisos, recogidos en el documento titulado "Compromiso ético en el diseño y uso de IA en la AEAT":

La Agencia Tributaria se compromete a utilizar la IA respetando el marco jurídico vigente y los principios éticos. Este compromiso se basa en marcos éticos internacionales y europeos, como las directrices de la OCDE, UNESCO y la Comisión Europea, así como la Estrategia Nacional de Inteligencia Artificial de España. No podría ser de otro modo.

• Centralidad humana: la IA debe estar al servicio de las personas, respetando sus circunstancias y necesidades. La IA debe mejorar la eficacia y eficiencia del sistema tributario, respetando los derechos de las personas.
• Transparencia: se debe garantizar la trazabilidad y explicabilidad de las decisiones basadas en IA. Se debe documentar correctamente el diseño y uso de la IA, asegurando su identificabilidad y accesibilidad.
• Equidad: la IA debe respetar los derechos fundamentales y evitar sesgos discriminatorios. Se deben tomar medidas para evitar sesgos y garantizar la accesibilidad de la IA para todos.
• Calidad: se debe asegurar la mejora continua y la minimización de errores en los sistemas de IA. Se debe minimizar los riesgos y maximizar la calidad de los resultados de la IA.

También, en distintos documentos se busca ajustar los perfiles del personal de la AEAT que utilizará la IA para que esté capacitado en todo momento para cumplir con la visión, misión, valores y metas de la Agencia Tributaria. Esta idea nos parece especialmente relevante, porque incide directamente en la necesidad de que las administraciones tributarias cuenten con personal propio capacitado para asumir y desarrollar estas nuevas tecnologías, lo cual está muy lejos de la realidad en la inmensa mayoría de las administraciones públicas españolas.

Además, se establecen los siguientes principios rectores en el empleo de la IA por parte de la AEAT:

• i) El respeto al «principio de responsabilidad», que (aunque no se define en el documento) exige que se asignen y definan correctamente responsabilidades y funciones en el uso de la IA y obliga a la AEAT a rendir cuentas por cualquier impacto negativo derivado de su aplicación.
• ii) La adopción de un enfoque dirigido a la persona (el ciudadano en el centro), para garantizar el uso seguro y ético de la IA.
• iii) La atención al «principio de seguridad y gobierno de la IA» tanto en los propios sistemas de IA como en los datos de los contribuyentes, que deberán ser resguardados con las máximas garantías de seguridad.

Este marco ético, aunque no normativo, ha sido analizado desde distintos puntos de vista. Como ejemplo, en una publicación de Gonzalo Rincón titulado «El uso de la inteligencia artificial por la Administración Tributaria: ¿Quién vigila a los vigilantes?» [6], se realizan algunos comentarios de interés, con una visión distinta del uso de la IA por las administraciones tributarias.

Señala el artículo que se debe aplaudir que la propia AEAT reconozca la existencia de determinados principios rectores que, a modo de autocontrol interno, deberán regir su uso de las herramientas de IA en su relación con el contribuyente. Sin embargo, echa de menos la mención expresa a otros principios y derechos de los ciudadanos que, a juicio del asesor fiscal, son ya ampliamente aceptados y que también deberían haber sido reconocidos de manera expresa en este documento. Así, señala como cuestiones a analizar las siguientes:

• Un mayor alcance del principio de transparencia junto con el consiguiente derecho de explicación, considerando el autor que, en aplicación de este, el contribuyente debería tener acceso a los aspectos técnicos, algoritmos y datos empleados por estos sistemas de IA para la toma de sus decisiones (con las lógicas restricciones imprescindibles para asegurar su eficacia como mecanismo para la lucha contra el fraude fiscal). No le ha pasado desapercibido al autor que la AEAT confunde, quizá intencionadamente, explicabilidad y transparencia, pues cuando se refiere a esta última se habla de garantizar «la trazabilidad y explicabilidad de las decisiones basadas en IA» así como de «documentar correctamente el diseño y uso de la IA, asegurando su identificabilidad y accesibilidad», pero nada se dice entre los compromisos adquiridos de dar visibilidad a los algoritmos que utiliza y utilizará la AEAT.
• Tras hacer algunas referencias a la necesidad de dar mayor explicación y cobertura de los principios de proporcionalidad, equidad, no discriminación y ausencia de sesgos en la relación de la AEAT con los contribuyentes, así como sobre el derecho a la impugnación del contribuyente de las decisiones basadas en la IA que considere incorrectas o injustas, concluye el autor con una petición con la que estamos absolutamente de acuerdo, cuando señala: «debemos abogar por el desarrollo en España de un marco legal, de obligado cumplimiento y con rango de ley, que regule de manera específica el uso de la IA por la AEAT (y también, añado yo, por el resto de las administraciones tributarias) en el que se definan los principios rectores y los derechos de los ciudadanos en este ámbito de manera completa y en protección de los derechos del contribuyente».

Algunas Comunidades Autónomas ya han regulado expresamente la IA, aunque con un éxito escaso a mi juicio. Una de ellas, la Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la inteligencia artificial en Galicia, la primera norma autonómica que se dicta en el ámbito de la IA con posterioridad a la aprobación del Reglamento Europeo, contiene algunas referencias a destacar. En su artículo 23 se refiere expresamente a los derechos de los ciudadanos en relación con la IA, de esta forma:

«Transparencia y supervisión humana

1. Toda persona en cuya relación con la Administración general de la Comunidad Autónoma de Galicia intervengan sistemas de inteligencia artificial tendrá derecho a:

• a) Recibir la debida información, clara y comprensible, con la posibilidad del uso de iconos o símbolos fácilmente reconocibles, sobre:
  • 1) El carácter automatizado de las interacciones y las decisiones, en particular a saber si está interactuando con un sistema de inteligencia artificial.
  • 2) La configuración general del sistema, tipos de decisiones, recomendaciones o predicciones que se pretenden hacer y las consecuencias de su uso para las personas afectadas.
  • 3) La racionalidad y la lógica del sistema de inteligencia artificial o modelo de inteligencia artificial de uso general.
  • 4) La identificación de la titularidad del sistema de inteligencia artificial o modelo de inteligencia artificial de uso general.
  • 5) El grado de contribución o participación del sistema de inteligencia artificial y del personal empleado público en el proceso de toma de decisión, predicción o recomendación.
  • 6) Las categorías de datos personales utilizados por los sistemas de inteligencia artificial y su origen o fuentes.
  • 7) Las medidas de seguridad, no discriminación y fiabilidad adoptadas.
  • 8) El modo de ejercitar el derecho a la transparencia y supervisión humana, así como otros derechos que le asistan.
• b) Recibir una explicación de la decisión tomada por el sistema de inteligencia artificial. Las personas afectadas por tales decisiones podrán requerir una explicación con la información debida respecto a los factores, criterios y procedimientos que incidan en dichas decisiones, previsiones o recomendaciones, en particular sobre la ponderación de los criterios para la adopción de la decisión en su caso particular, el nivel de intervención humana en la adopción de la decisión que le afecta y los mecanismos por medio de los cuales puede reclamar contra la decisión adoptada.
• c) Requerir la intervención de una persona empleada pública en el proceso de adopción de una decisión por parte de un sistema de inteligencia artificial, cuando esta produzca efectos jurídicos o impacte significativamente de modo similar en sus intereses.

2. En todo caso, se tendrán en cuenta los derechos que en materia de transparencia se contemplan en el artículo 50 del Reglamento (UE) 2024/1689, de 13 de junio.»

Por su parte, en el artículo 25 se establecen unos criterios para la tutela de estos derechos:

«1. Toda persona en cuya relación con la Administración general de la Comunidad Autónoma de Galicia intervenga un sistema de inteligencia artificial tendrá derecho a:

• a) Hacer valer todos los derechos en materia de protección de datos personales que le reconoce la legislación vigente frente a las decisiones, previsiones o recomendaciones efectuadas por el sistema de inteligencia artificial o frente al propio funcionamiento de este.
• Solicitar la revisión de decisiones, previsiones o recomendaciones efectuadas por el sistema de inteligencia artificial que produzcan efectos jurídicos o que impacten significativamente de modo similar, no solo de actos decisorios sino también de actuaciones materiales. Dicha solicitud podrá fundarse en las deficiencias técnicas, como el uso de sistemas o métodos imprecisos o no confiables, la arbitrariedad de sus premisas o de los resultados, el carácter discriminatorio de sus premisas o de los resultados o cualquier otra que conculque principios como el principio de la buena fe.

2. Asimismo, se tendrá en cuenta lo dispuesto en la sección 4 del capítulo IX del Reglamento (UE) 2024/1689, relativo a las vías de recurso.»

Asimismo, añade un apartado nuevo en el artículo 8 de la Ley 1/2016, de 18 de enero, de transparencia y buen gobierno de Galicia, señalando que se facilitará información sobre: «f) La relación de sistemas de inteligencia artificial o modelos de inteligencia artificial de uso general que tengan impacto en los procedimientos administrativos o en la prestación de los servicios públicos, con descripción de manera comprensible de su arquitectura y funcionamiento, de los datos que utilizan, del nivel de riesgo que implican y del impacto de sus resultados en los procedimientos administrativos, en especial si son o no directamente decisorios de los mismos».

2.3 Ayuntamiento de Madrid

Finalmente, es adecuado analizar qué están haciendo las administraciones locales y, en concreto sus organismos encargados de la gestión de los tributos municipales en materia de la IA, fijándonos en las iniciativas puestas en marcha por el Ayuntamiento de Madrid.

No existe regulación en forma de Ordenanza municipal del uso de la IA en el Ayuntamiento de Madrid, pero si se han definido unos principios rectores. En un documento titulado «Itinerario de Inteligencia Artificial. Marco estratégico« [7] el Ayuntamiento de la capital describe una batería de compromisos, de carácter ético y estratégico, que no normativos, buscando integrar la inteligencia artificial (IA) en la gestión y servicios de la ciudad. Los contenidos más relevantes se refieren a los objetivos y líneas de actuación, centrados en la transformación de servicios públicos, -haciendo uso de la IA para personalizar y mejorar su prestación-, la gestión Inteligente, -centrada en la implementación de IA para una gestión urbana eficiente y sostenible-, el desarrollo del objetivo «Madrid Hub Digital», -mediante la creación de un ecosistema de innovación en IA, que atraiga y retenga talento- y, finalmente, preparando al Ayuntamiento mediante la capacitación del personal y la adopción de principios éticos comunes en el uso de IA.

Para desarrollar estos objetivos se crea un marco de gobernanza para coordinar el uso de IA en todas las áreas del Ayuntamiento (sobre un comité de IA y el grupo de trabajo MAIA (Madrid Inteligencia Artificial), que será el canal de impulso y desarrollo de proyectos). Son interesantes en este documento las referencias a distintos proyectos, que afectan a varios ámbitos de servicios municipales, que ya se están desarrollando aplicando la IA en Madrid.

De especial relación con el objeto de este artículo es la referencia al Laboratorio Tributario, de la Agencia Tributaria Madrid (ATM) descrito de la siguiente forma: «Laboratorio Tributario: La Inteligencia Artificial se incorpora en la actividad de la Agencia Tributaria con el objetivo de hacer más eficiente la gestión, definir unos tributos más justos y mejorar la lucha contra el fraude. La IA se aplica a través de simulaciones y con el desarrollo de asistentes virtuales de resolución de dudas o detección de situaciones de fraude».

Puede completarse la información sobre el uso de la IA en la Agencia Tributaria Madrid (ATM), señalando su incorporación dentro de la estrategia de tributos inteligentes («smart taxes»), incorporada en el Plan Estratégico, que incluye una reflexión sobre la IA con el siguiente contenido: «Los cambios tecnológicos implican también, como ya sabemos, cambios en los procedimientos y en la propia forma de trabajar. La diferencia respecto a etapas anteriores vendrá de la mano de lo que la inteligencia artificial generativa puede aportar en el ámbito de la gestión de los tributos, herramientas que van más allá de los propios procesos de gestión, puesto que incluirán importantes cambios en las personas respecto al uso de la tecnología. Como ejemplos de ello, será necesario aprovechar las nuevas posibilidades que ofrece la inteligencia artificial en procedimientos de depuración y mejora de la información, o en la creación de asistentes virtuales, tanto para uso interno como al servicio de los ciudadanos».

En desarrollo de dicha voluntad, en la línea Estratégica 3 del citado Plan, titulada «Desarrollo de la estrategia de tributos inteligentes», se incorpora como objetivo estratégico la implantación del uso de la IA en la gestión tributaria señalando que, para ello, se definirá un marco normativo y operativo que regule su uso, garantizando que su aplicación cumpla con la normativa vigente y proteja los derechos de los contribuyentes. Se establece también, como un objetivo operativo incluido dentro de esta estrategia, el análisis, valoración y, en su caso, publicación, de los resultados obtenidos mediante el uso de la IA, encomendándose estas funciones y compromisos al Laboratorio Tributario.

Esta intención se materializa también en el Plan de control tributario 2025, cuando se indica que «…la ATM está involucrada activamente en los proyectos municipales que tienen por objeto utilizar las tecnologías de Inteligencia Artificial más avanzadas. Cabe destacar el uso de la IA generativa en la atención a los contribuyentes, en la formación de los empleados o en la generación de datos sintéticos con los que alimentar los sistemas de detección basados en machine learning.»

Por tanto, en este ámbito municipal también se dispone del marco ético y estratégico, pero todavía no de una regulación normativa para la utilización de la IA por los responsables de la ATM.

Como conclusión, la normativa actual de regulación de la IA es escasa, -con el reglamento de la UE como única referencia-, e insuficiente. Un escenario muy poco útil para apoyar la implantación de la IA en el ámbito de la gestión tributaria.

[1] La AESIA se crea por la disposición adicional séptima de la Ley 28/2022, de 21 de diciembre, de fomento del ecosistema de las empresas emergentes, conforme a la exigencia prevista en el artículo 91, de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público

[2] aesia.digital.gob.es/es.

[3] sede.agenciatributaria. gob.es/static_files/Sede/ Agencia_Tributaria/ Planificacion/Plan_ estrategico_2024_2027/ PlanEstrategico2024.pdf.

[4] sede.agenciatributaria.gob.es/static_files/AEAT_Intranet/Gabinete/Estrategia_IA.pdf.

[5] sede.agenciatributaria.gob.es/static_files/Sede/Tema/Agencia_tributaria/Gobierno_abierto/compromiso%20_etico_uso_IA.pdf.

[6] garrigues.com/es_ES/garrigues-digital/uso-inteligencia-artificial-administracion-tributaria-quien-vigila-vigilantes.

[7] madrid.es/UnidadesDescentralizadas/OficinaDigital/Nav_OfDigital/ficheros/PlanesAccionPDFs/ItinerarioIA_Ayuntamiento%20de%20Madrid_V2.pdf.

Comprobada la ausencia de normas directas y claras que regulen el uso de la IA, con alguna legislación autonómica, como vimos con el caso de Galicia, queda por tanto al criterio del gestor definir cuándo y cómo utilizar esta tecnología.

Lo que sí parece ser una característica común, tanto del Reglamento UE como de las demás iniciativas que se están desarrollando para establecer una normativa a nivel nacional, es la visión pesimista del uso de la IA, percibida claramente como una tecnología peligrosa que hay que controlar a toda costa. Como consecuencia, parece que se está poniendo más énfasis en prohibir, limitar y sancionar, que en definir una auténtica regulación de su uso. Tan evidente es el tono negativo que se aprecia que podría llegar a pensarse que lo sensato sería no utilizar estas herramientas en la gestión pública, y mucho menos en la gestión tributaria, para evitar los riesgos descritos. Parece incluso que ni siquiera existe una visión suficientemente clara sobre cómo definir adecuadamente una buena normativa para el uso de la IA.

Cuando se habla de la gran dificultad que surge a la hora de legislar sobre tecnologías realmente innovadoras es muy frecuente citar el caso de la «Ley de Bandera Roja», dictada en Inglaterra en 1865 para regular el uso de los primeros automóviles. Esta ley, en un claro ejemplo de falta de entendimiento de lo que la nueva tecnología suponía:

• Establecía el límite de velocidad a 6 km/h, en el medio rural, y a 3 km/h en ciudad.
• Cada automóvil tenía que ser acompañado por un grupo de tres personas, incluyendo un hombre con una bandera de color rojo (de ahí el nombre de Ley de la Bandera Roja) que tenía que caminar 55 metros por delante. El hombre con la bandera roja (o, alternativamente, con un farol) obligaba a los vehículos a mantener el ritmo del paso de hombre (que es precisamente 6 km/h). Como no podía ser de otra forma, esta Ley fue modificada en 1878, eliminando la bandera roja.

De este ejemplo se pueden extraer tres conclusiones:

• La norma no entendió la tecnología.
• La norma no paró la implantación de la nueva tecnología
• Finalmente, fue necesario redefinir las normas desde otra óptica totalmente diferente, evolucionando desde una regulación preventiva y limitante (bandera roja), a una normativa que confía en el usuario, estableciendo Códigos de circulación y criterios previos de validación tecnológica de los vehículos y de capacitación de los conductores, para actuar sólo de forma reactiva cuando se aprecia que estos Códigos y normas se incumplen.

Este ejemplo nos debería servir para preguntarnos si está ocurriendo lo mismo con la normativa que está elaborándose para regular el uso de la IA. La exigencia de determinadas obligaciones, que no están bien explicadas y generan dudas y confusión, va a dar lugar a permanentes conflictos e, incluso, a la aplicación de sanciones, si en la función supervisora del Estado se llega a la conclusión de que no se está haciendo uso adecuado de las «banderas rojas».

En concreto, nos referimos a la enorme dificultad que puede producirse en el uso de la IA si prospera una interpretación negativa de los principios que se reiteran en toda la normativa aprobada hasta ahora, - explicabilidad, transparencia y supervisión humana-, unidos todos ellos al marco, de por sí ya limitante, de la protección de datos.

limitante, de la protección de datos. A ello nos referimos en el siguiente epígrafe.

Reflexiones sobre los principios de explicabilidad, transparencia y supervisión humana

Todos los escenarios estratégicos y normativos hasta ahora definidos tienden a otorgar un alto valor, -el tiempo dirá si es proporcional-, a lo que debe entenderse por derecho a recibir explicaciones, derecho a obtener información, o derecho a que las actuaciones desarrolladas con una herramienta de IA sean supervisadas por un humano, dando la impresión de que estas acciones son perfectamente aplicables, y producen todo tipo de efectos de protección de los derechos de los ciudadanos, solo con ser citadas. No se observa que, en la mayoría de las ocasiones, con la mera cita no se aclaran las dudas, o incluso se generan más. Como ejemplo la Ley gallega, cuando habla del derecho a:

• «a) Recibir una explicación de la decisión tomada por el sistema de inteligencia artificial. Las personas afectadas por tales decisiones podrán requerir una explicación con la información debida respecto a los factores, criterios y procedimientos que incidan en dichas decisiones, previsiones o recomendaciones, en particular sobre la ponderación de los criterios para la adopción de la decisión en su caso particular.
• b) Requerir la intervención de una persona empleada pública en el proceso de adopción de una decisión por parte de un sistema de inteligencia artificial, cuando esta produzca efectos jurídicos o impacte significativamente de modo similar en sus intereses».

Poniéndome en mi posición de gestor público, poder atender estos derechos de información o de intervención, tal y como están descritos, se convierte en una tarea cuyo cumplimiento sólo será posible si se da mucha mayor definición a su alcance. Entre otras razones, porque términos como «explicación», «transparencia» o «intervención humana» pueden tener distintos significados, según quien haga uso de los mismos.

Es evidente que las exigencias de transparencia y explicación persiguen un resultado concreto. Son medios para un fin: que alguien entienda algo. Y dado que no todos los seres humanos tenemos la misma capacidad, inteligencia, conocimientos y habilidades resulta enormemente difícil generar una explicación única válida para todos los contribuyentes, como también resulta de imposible cumplimiento generar una explicación ajustada a cada persona, de manera específica y en un procedimiento individualizado, como parece deducirse de la expresión «en su caso particular», incorporada en la Ley gallega, como hemos visto.

Toca pues dedicar alguna atención a las dudas que surgen de los conceptos citados de «explicabilidad», «transparencia» y «supervisión humana» [1].

4.1 Explicabilidad

Como se ha repetido frecuentemente, al igual que ocurre con el funcionamiento del cerebro humano la IA es, en ocasiones, difícilmente explicable. O, al menos, no es explicable de la misma forma en la que tradicionalmente se han explicado entre si los seres humanos.

Esto no es en absoluto nuevo. Desde el primer momento en que los humanos empiezan a aplicar tecnologías una gran parte de las mismas han sido utilizadas sin que pudieran explicarse en su totalidad las causas que posibilitan su uso y sus efectos. Pensemos en el fuego: ¿acaso los primeros humanos que lo utilizaron sabían explicar las causas químicas y físicas que daban lugar a la combustión y al calor generado?. Lo que si se aprendió rápidamente, y se pudo explicar a otros humanos, fueron unas reglas básicas para su utilización, sus efectos y las enormes ventajas que aportaba en el cocinado de alimentos o en su uso como calefacción, así como sus riesgos.

Cuando el conocimiento y la tecnología empezaron a hacerse más complejos comenzó también a hacerse más evidente esta situación: no todos los seres humanos contaban con la misma capacidad para entender aquello que les era explicado. Era evidente que, dependiendo del nivel de formación y del conocimiento de la materia concreta, empeñarse en explicar algunas cuestiones complejas a determinados colectivos humanos no garantizaba que estos realmente entendiesen la materia explicada. Y este efecto no necesariamente se produce sólo respecto a personas con bajos niveles de estudios o conocimientos, sino que guarda una relación directa con su nivel de especialización. Esto es lo que sucede con la IA.

El mejor ejemplo de ello soy yo mismo. Con formación universitaria, procesos constantes de actualización de conocimientos en distintos ámbitos, y muchos años de dedicación a la gestión tributaria, me considero capaz de entender la normativa tributaria y aplicarla, de utilizar las herramientas tecnológicas habituales en el desempeño de mi puesto de trabajo, así como de aplicar las distintas metodologías conocidas de gestión directiva. Fruto de ello, espero haber realizado una labor, al menos aceptable, como directivo público.

Y, sin embargo, me reconozco absolutamente incapaz de entender, más allá de los conceptos y principios generales, el funcionamiento interno del sistema de algoritmos que soporta, da contenido y produce los efectos que obtendríamos de una red neuronal que podamos utilizar para la gestión de los tributos. Y estoy seguro de que en la misma situación están la gran mayoría de los gestores tributarios y de los jueces y magistrados, sin duda grandes administrativistas y fiscalistas, que habrán de aplicar y juzgar, ya empiezan a hacerlo, distintos supuestos en los que se ha utilizado la IA.

Siendo esto así, si ni siquiera los mejores fiscalistas ni quienes han de juzgar el trabajo de los gestores tributarios entienden ni entenderán lo que hay dentro de las «cajas negras» de la IA, lo primera pregunta que deberíamos responder es ¿a qué llamamos explicabilidad?.

Desde luego, será un ejercicio inútil pretender explicar a todos los ciudadanos el modelo y funcionamiento de los algoritmos publicando en los Boletines Oficiales normas técnicas con los mismos criterios y formatos como se ha venido haciendo hasta la actualidad. Esto ya lo vimos, hace 26 años, en un ejemplo concreto.

En el año 2004, Julio Gallego Mora-Esperanza, -un gran funcionario de la Dirección General del Catastro, experto en modelos de valoración automatizada de inmuebles-, publicó en la revista CT/Catastro un importante artículo titulado «La inteligencia artificial aplicada a la valoración de inmuebles: un ejemplo para valorar Madrid». En el trabajo demostraba cómo la aplicación de redes neuronales ofrecía resultados muy adecuados para la valoración catastral de los inmuebles, lo que permitiría, dada la potencia de estas herramientas, desarrollar procesos masivos y ágiles para la asignación de valores catastrales en todo el país en muy poco tiempo. El modelo superaba los resultados que se obtenían con la metodología utilizada, descrita en la normativa de valoración catastral vigente publicada. Como ejemplo, entendía que dos viviendas del mismo edificio, con la misma superficie, tenían un valor diferente en función de si se trataba de un ático o de un primer piso, o de su orientación.

Siendo muy positivas las conclusiones obtenidas, ¿por qué no se aplicó esta metodología?. La respuesta estuvo en la incapacidad de explicarla con métodos tradicionales: la transcripción del modelo en un formato de «Real Decreto de valoración catastral» era imposible, lo que suponía que, si hubiera sido aplicado, habría sido sin duda anulado por los jueces. [2]

Ante esta situación, ¿Cómo describir en la Ordenanza fiscal que elabore un Ayuntamiento la metodología y los procesos que aplicaremos para la gestión, recaudación o inspección de los tributos municipales basándonos en modelos de IA generativa?

Es evidente que la interpretación del principio de «explicabilidad» que, como hemos visto, permea toda la normativa europea y española sobre IA elaborada y en elaboración, tendrá que ser desarrollada y regulada desde una nueva visión, distinta de los conceptos tradicionales.

Sin duda, habrá que explicar a los ciudadanos que se están utilizando metodologías basadas en IA. Parece lógico explicar también qué tipo de datos se está utilizando y en qué condiciones, especialmente si cuentan con algún nivel de protección. Asimismo, es posible explicar de manera genérica el proceso que se seguirá para la obtención de las respuestas y resultados que se espera obtener y, finalmente, cuáles son los procesos de supervisión que van a ser aplicados para intentar evitar al máximo que se produzcan efectos no deseados. ¿Habrá que ir más allá y dar más explicaciones, de contenido muy técnico?. No lo creo. Con toda seguridad demasiadas explicaciones confundirán más que facilitarán el entendimiento de la IA por el ciudadano común. En este sentido, recordemos cuales son los modelos que se están utilizando para implantar una «comunicación clara» con los ciudadanos en las administraciones públicas, suprimiendo las tradicionales explicaciones muy técnicas.

La duda es si con este tipo de medidas se considerará que se da adecuado cumplimiento al principio de explicabilidad. Si no es así, si se va más allá y los Tribunales exigirán a las administraciones tributarias explicar el funcionamiento de las «cajas negras», entonces estaremos haciendo inviable la aplicación de la IA en este entorno. Pero no dudemos que, de ser así, se estarían aplicando «leyes de bandera roja» que, como antes vimos, sólo demorarán su imparable aplicación hasta que se encuentre la manera correcta de regularla

Es evidente que, aunque la normativa europea sobre IA crea el derecho a la explicación, este deseo no hace que todo proyecto que utilice esta tecnología sea automáticamente explicable, aunque lo ponga en la norma. Como consecuencia, como hemos visto en la ley gallega, de nada valdrá imponer el principio de explicabilidad sin definir la forma o el nivel de detalle de lo que debe ser explicado y, lo que es más importante, quién debe entender esa explicación.

Por tanto, antes de ponernos a explicar cómo actúa la IA en un determinado proyecto tributario deberíamos tener en cuenta, al menos, cuatro circunstancias:

• En primer lugar, la cuestión fundamental es saber quién debe entenderlo, para poder definir cómo hay que explicarla. Cómo antes señalamos, muy pocas personas están capacitadas para entender su funcionamiento. Incluso los especialistas y expertos pueden tener grandes dificultades para comprender ciertas cuestiones relacionadas con la IA. Además, el hecho habitual de que hayan sido varios los autores de los algoritmos hace todavía más complejo que puedan explicarse de una manera transparente y sencilla, problema que se acentúa si, en un proceso de aprendizaje automático, los cambios se han producido por la misma herramienta de IA.

Como señala Innerarity en la obra citada, en vez de intentar explicar «cajas negras» lo más adecuado sería explicar el funcionamiento de la herramienta centrándonos en el quién, cuándo, qué y por qué de la actuación.

• En segundo lugar, hay que tener claro que el uso de una tecnología y la comprensión detallada de su funcionamiento son dos cosas diferentes. Saber utilizar algo no equivale a comprender su funcionamiento. Una cosa es la competencia y otra el conocimiento. Por eso los niños pueden ser más competentes digitalmente que sus padres, porque no aspiran a entender el funcionamiento de una determinada herramienta, sino que se concentran directamente en su uso. Por tanto, las explicaciones deberían ir referidas a mostrar los criterios conforme a los cuales se ha construido la herramienta de IA y lo que el ciudadano puede obtener de ella, y no tanto a su funcionamiento.
• En tercer lugar, la mayoría de los ciudadanos hemos de asumir que puede ser necesario delegar el conocimiento detallado del funcionamiento de una IA en terceras personas o instituciones, renunciando a entenderlo personalmente.

Desde el desarrollo de la revolución industrial una gran parte de la tecnología compleja es utilizada por el ser humano sin que tenga un control real sobre la misma. La usamos sin saber realmente cómo funciona. Sin embargo, todavía seguimos queriendo tener el control, aun sabiendo que, tarde o temprano, tendremos que delegar en expertos o instituciones tanto el diagnóstico como la solución del problema. El ejemplo simpático que suele citarse de esta resistencia a asumir la «delegación tecnológica» es el del automovilista que, en un gesto no meditado, abre el capó de su vehículo cuando se avería, sabiendo que no sabrá repararlo y que su única opción es llamar a una grúa y llevar el vehículo a un taller mecánico.

Y esto ocurre no sólo con la tecnología, sino también con el conocimiento en general, y el conocimiento tributario en particular. ¿Cuál es sino la causa de que existan los asesores fiscales?.

La solución real y posible será controlar a aquellas personas o entidades en las que tendremos que delegar nuestra soberanía tecnológica. Mejor que dar más explicaciones será que los procesos desarrollados sobre IA para la gestión de los tributos cuenten con algún tipo de certificación o informe de validación técnica externa, expedida por alguna entidad, que ha de ser pública, que acredite que la metodología seguida cumple con todos los requisitos exigidos por la normativa aplicable, y que los resultados obtenidos son acordes con esa legislación, lo que implica la protección de los derechos de los ciudadanos en toda su extensión.

¿Debería ser esta una de las funciones principales de la AESIA, actuando de manera similar a como lo hace el Centro Español de Metrología (CEM), cuando calibra, homologa y valida técnicamente los radares que son utilizados para el control del tráfico, garantizando que funcionan correctamente y que sus mediciones son precisas?. De esta forma, cuando recibimos una sanción por exceso de velocidad no recibimos explicaciones detalladas sobre las características tecnológicas y el funcionamiento de los radares, sino una acreditación expedida por la institución pública competente, el CEM, de que la tecnología aplicada cumple con las exigencias requeridas y es controlada por expertos, capacitados para hacerlo.

• Finalmente, en cuarto lugar, debemos ir asumiendo la posibilidad de que, en ocasiones, la mejor forma de explicar una determinada IA sea la que ofrezca la misma u otra IA. Es decir, que sean máquinas las que explican lo que hacen las máquinas. Una gran ventaja de esta tecnología es que resulta posible que las propias máquinas aporten explicaciones que sean entendidas por el usuario mejor que las que puede describir un ser humano. Obviamente, hay que ser suficientemente honestos para evitar caer en el bucle de exigir que la IA que explica otra IA tenga, a su vez, que ser explicada por un humano.

En contra del rechazo que pueda generar esta idea debemos recordar que este es un comportamiento normal en las relaciones humanas, cuando pedimos a alguien que explique su decisión. Explicar nuestras decisiones no requiere explicar el funcionamiento de nuestro cerebro, tan opaco como una «caja negra», como se repite constantemente, sino una presentación de las razones que justifican esa decisión. Lo mismo podrían hacer las herramientas basadas en IA: explicarse a sí mismas.

4.2 Reflexiones sobre la transparencia

El principio de transparencia es otro de los grandes pilares sobre los que se están construyendo las normas que pretenden regular la aplicación de la IA.

Una primera cuestión por aclarar, dado el uso que se hace habitualmente de ambos términos, es que transparencia y explicación no son sinónimos. Una herramienta de IA puede estar muy bien explicada y no ser transparente al ciudadano, y viceversa.

De entrada, debemos convenir que no siempre se desea, desde la óptica del interés público, que un sistema de IA sea completamente transparente, si por tal entendemos que todos sus elementos estén al alcance de cualquiera. Existe una opacidad intencionada cuando esta se busca expresamente: supuestos de algoritmos utilizados en la lucha contra el fraude, protección de datos, derechos de propiedad, seguridad para evitar acciones delictivas que dañen el sistema, etcétera. En este sentido, como hemos visto anteriormente, la AEAT, -confundiendo explicabilidad y transparencia-, acota claramente su compromiso de transparencia, que se limita a «garantizar la trazabilidad y explicabilidad de las decisiones basadas en IA», y a «.…..documentar correctamente el diseño y uso de la IA, asegurando su identificabilidad y accesibilidad». Lejos, como se ve, de las exigencias que, como vimos también anteriormente, hacía el asesor fiscal cuando pedía la publicación de los algoritmos.

En segundo lugar, hemos también de admitir que existe una opacidad objetiva e intrínseca en toda tecnología compleja, como también existe en el comportamiento humano. «Querer» ser transparente no siempre garantiza «poder» serlo. Es fundamental que entendamos esto, si se quiere realmente obtener todas las ventajas que ofrece la IA, la cual, en su evolución, no sólo no disminuye esta opacidad objetiva, sino que puede incluso aumentar.

Finalmente, existe una opacidad derivada de los cambios constantes, que es la que más preocupa a los ciudadanos y a los expertos, y es fruto de las capacidades de la IA más avanzada. Nos referimos a sistemas que, en la medida que aprenden por sí mismos, van construyendo una realidad inestable, adaptativa y en permanente reconfiguración, sobre un modelo definido como de «diseño continuo». Como señala Innerarity, «Un fenómeno que cambia continuamente se hace, por definición, poco transparente. La humanidad siempre ha construido máquinas que, al menos, si eran entendidas por sus creadores. La diferencia con la situación actual es que estamos empezando a construir máquinas cuyo funcionamiento ni siquiera es entendido por sus creadores».

En definitiva, el modelo de relación que debe establecerse entre tecnologías basadas en IA y los seres humanos ha de basarse en admitir un cierto nivel de opacidad en su construcción y funcionamiento, sin que esto tenga que afectar para nada respecto a los resultados. Si las soluciones aportadas por una IA son inadecuadas, o dañan de alguna manera los derechos de los ciudadanos, es obvio que no han de ser utilizados, con independencia de que sea más o menos transparente su funcionamiento.

Como conclusión, hemos de aceptar que la «transparencia» en el uso de la IA, exigida de forma absoluta sin mayor reflexión ni conocimiento, no es siempre posible. No basta con que nos den largas o complejas explicaciones. Esa visión maximalista del concepto de «transparencia» es un mito que hemos de superar, como también hemos de superar el mito de que solo las máquinas generan sesgos, lo que nos lleva a la tercera cuestión: la supervisión humana.

4.3 Reflexiones sobre la gestión supervisada por humanos

En todos los documentos estratégicos o normativos estudiados relacionados con el uso de la IA se incluye, como una «cláusula de garantía» con la que se desea tranquilizar a los ciudadanos, que los procesos serán desarrollados bajo supervisión humana. Así lo hace, como hemos visto, el Reglamento UE sobre IA, los documentos elaborados por la AEAT, o la Ley gallega que, como hemos visto, va aún más allá, cuando recoge el derecho a «requerir la intervención de una persona empleada pública en el proceso de adopción de una decisión por parte de un sistema de inteligencia artificial, cuando esta produzca efectos jurídicos o impacte significativamente de modo similar en sus intereses». Este tipo de redacciones provoca siempre una pregunta: ¿la supervisión humana se aplica sobre la definición y control general del procesos aplicado, o sobre todas y cada una de las actuaciones individuales que se producen por la aplicación de este proceso?.

Como ocurre con los conceptos de «explicabilidad» y «transparencia», será necesario acotar mucho más que debe entenderse por «supervisión humana».

De entrada, parece evidente que esta intervención no consistirá en repetir, con métodos tradicionales, los procesos y cálculos que soportan el resultado que la IA ha proporcionado. Si fuera esta la interpretación, si se pensara en replicar humanamente lo que hace la IA, estaríamos aplicando, ingenuamente, una «Ley de bandera roja» sin ningún futuro.

Tampoco debe basarse únicamente en el argumento de que la IA puede generar sesgos que produzcan discriminación, apelando a los ya manidos ejemplos de que los algoritmos diseñados por humanos trasladan los sesgos de sus creadores, o el caso, reiteradamente citado, del sistema COMPAS, utilizado por la justicia de Estados Unidos, que generaba sesgos discriminatorios en función de la raza y el lugar de residencia del procesado. Este argumento no es válido en sí mismo por el simple hecho de que la acción humana no impide, sino todo lo contrario, ni la arbitrariedad ni la generación de sesgos que puedan resultar discriminatorios. Más bien parecería que es todo lo contrario.

Por tanto, ¿de que hablamos cuando nos referimos a «supervisión humana»?.

El concepto proviene de la expresión inglesa «Human-in-the-loop» (HITL) y se basa en una metodología utilizada en los procesos que utilizan inteligencia artificial con el objetivo de mejorar el aprendizaje automático. Esta metodología no busca repetir lo que la máquina hace, sino en introducir la valoración o aportación de los humanos en el desarrollo y funcionamiento del sistema de IA, mediante interacciones con expertos que retroalimentan el modelo automatizado para mejorarlo. Es decir, se trata de un sistema que hace interactuar a humanos y a máquinas para aprovechar lo mejor de ambos elementos. Muy alejado, como se aprecia, de las visiones negativas, que parecen estar prosperando, que entienden esta supervisión como la necesaria repetición por un humano de lo que la máquina hace.

Por tanto, se hace necesario definir bien qué entendemos como «supervisión humana» para entender cómo se puede cumplir este requerimiento y, por tanto, garantizar el «derecho a la supervisión». Con visión realista, esta supervisión si puede desarrollarse en distintos momentos de un proceso: en la elección de datos, en la configuración de los algoritmos, en la actividad del sistema y, sobre todo en los resultados obtenidos. Cada una de estas fases requerirá de un «supervisor» con unas cualidades diferentes. Poniendo como ejemplo la inspección tributaria, el inspector añadirá mucho valor en la supervisión de los datos aportados y en la valoración del resultado obtenido, mientras que será el experto en TIC quien lo haga cuando se trata de analizar la configuración de los algoritmos.

De hecho, los expertos señalan que el mejor modelo de supervisión debe centrarse en el análisis detallado de sus efectos valorando, por ejemplo, sí generan respuestas discriminatorias. Sin duda, es en este momento, el de la valoración de resultados, donde se puede aplicar con mayor eficacia y realismo el principio de supervisión humana.

Otra reflexión más se puede añadir sobre esta cuestión, que se refiere a la voluntad real en evitar la aplicación subjetiva de las normas y la generación de sesgos discriminatorios. ¿Y si en vez de hablar de supervisión humana de la IA hablásemos de supervisión por la IA de la actividad humana?.

Pensemos en el uso del VAR en el futbol. La experiencia de su uso induce a pensar que un partido de futbol arbitrado únicamente por el VAR, sin intervención humana, podría ser más objetivo y justo, si como tal entendemos la estricta aplicación del reglamento. Si no se hace, y tardará mucho en hacerse, es porque quitaría gran parte de la subjetividad que acompaña a este deporte, subjetividad que es lo que lo hace más atractivo, en tanto que más «humano». Es decir, preferimos un futbol con sesgos y arbitrario bajo decisiones humanas que pueden ser erróneas, antes que un modelo más justo controlado enteramente por las máquinas.

De nuevo hay que concluir esta reflexión sobre la «supervisión humana» de la misma manera que hicimos en los epígrafes anteriores: reclamando más reflexión y una normativa más real y menos pesimista, que permita una correcta interacción entre humanos y máquinas, evitando una visión errona e inútil de competición entre ambos.

Una última cuestión respecto al concepto de supervisión humana se refiere a su posible incompatibilidad con los procedimientos basados en actuaciones administrativas automatizadas, regulados en nuestro ordenamiento desde hace bastantes años, que se caracterizan, precisamente, porque no hay intervención humana. Es urgente aclarar si los sistemas que ya se están utilizando de actuaciones administrativas automatizadas, basados en IA, son o no acordes con los principios antes citados. Su extraordinario valor, ya demostrado, mejorando el servicio que se presta a los ciudadanos no puede quedar comprometido por la inexistencia de un marco normativo claro para su aplicación.

[1] Algunas de las reflexiones y ejemplos que siguen han sido obtenidos del libro de Daniel Innerarity «Una teoría crítica de la inteligencia artificial», obra más que recomendable por lo que aporta sobre la comprensión de la IA y las relaciones entre humanos y tecnología.

[2] Puede consultar el artículo en 01-CATASTRO 50.

Normativa vigente útil para aplicar la IA en el ámbito de la gestión tributaria y una sentencia del Tribunal Supremo para reflexionar

5.1 Los sistemas de IA destinados a fines tributarios no son sistemas de alto riesgo

Es especialmente relevante a la hora de plantearse la aplicación de sistemas de IA en la gestión tributaria el contenido del considerando 59 del Reglamento sobre IA de la UE, que expresamente señala que, en estos casos, no serán considerados sistemas de alto riesgo.

Esta norma, permitiría ajustar la implantación de sistemas de IA cumpliendo las exigencias exigidas para el segundo nivel de riesgo, es decir las aplicables a una situación de «riesgo limitado». No obstante, tampoco estamos ante una norma suficientemente clara, por lo que esta idea ha de ser gestionada con precaución, por dos motivos:

• En primer lugar, porque es una previsión contenida en un considerando y no en la parte dispositiva de la norma, si bien, como es sabido, en el derecho europeo los considerandos, aun careciendo de valor normativo, tienen un alto valor como criterio interpretativo.
• Y, en segundo lugar, porque sí tienen la consideración de alto riesgo los sistemas destinados a la elaboración de perfiles a efectos de investigación de delitos. Dada la proximidad entre derecho tributario y penal en lo que se refiere a la persecución del fraude, -llegando a la plena coincidencia en el caso de delitos fiscales-, es más que previsible que se genere un debate sobre el alcance del considerando, al menos en lo que se refiere al uso de sistemas de IA aplicados a la inspección tributaria.

Por tanto, por mera prudencia, debe valorarse previamente qué sistemas de IA para la gestión tributaria deberían ser considerados de alto riesgo, y cuáles de riesgo limitado.

5.2 Normativa vigente que puede orientar en la aplicación de la IA en la gestión tributaria

Los gestores públicos estamos obligados más que cualquier otro ciudadano a cumplir el mandato constitucional establecido en el artículo 103.1 según el cual: «La Administración Pública sirve con objetividad los intereses generales y actúa de acuerdo con los principios de eficacia, jerarquía, descentralización, desconcentración y coordinación, con sometimiento pleno a la ley y al Derecho».

En mi opinión este párrafo constitucional concentra en sí mismo la profunda paradoja en la que nos encontramos los gestores públicos a la hora de aplicar la IA en los procedimientos tributarios. Por un lado, dado que la Administración Pública debe actuar con objetividad y con sometimiento pleno a la ley y al Derecho, somos quienes más necesitamos que «exista Ley» y una adecuada regulación de la IA «en Derecho». Pero también, somos quienes estamos obligados a impulsar la existencia de una administración pública «eficaz», lo que invita a usar esta tecnología que, si ha demostrado algo, es que es muy eficaz y eficiente.

Por tanto, si necesitamos usar la IA pero la regulación normativa no resuelve las dudas que surgen para su aplicación, ¿Cuál es la postura correcta del responsable público?. ¿Debemos quedarnos inmovilizados hasta que dentro de algunos años se clarifique el marco normativo o, por el contrario, debemos ir construyendo herramientas que permitan su uso, teniendo en cuenta la complejidad que ello supone en el marco actual, donde, en muchas ocasiones solo contamos con compromisos éticos, pero no con normativa de directa aplicación?.

Mi posición personal, sin dudarlo, está en la segunda opción, apoyándome también en la Constitución, cuyo artículo 31 establece la obligación de todos los ciudadanos a contribuir al sostenimiento de los gastos públicos de acuerdo con su capacidad económica mediante un sistema tributario justo. El uso de una IA construida sobre valores éticos, bien regulada, y correctamente aplicada es, sin duda, la mejor tecnología para definir la capacidad económica real de cada contribuyente.

Desde esta posición, debemos implementar ya la IA en la gestión tributaria, y para ello tendremos que utilizar las escasas herramientas normativas que nos ofrece el ordenamiento tributario, que nos da, al menos, dos buenos soportes para su uso: la cobertura normativa para el uso de tecnología innovadora en la gestión tributaria, y el valor de la «motivación» en la práctica tributaria.

La normativa tributaria apoya sin dudarlo el uso de tecnologías innovadoras para su gestión. Como señala Santiago Segarra [1], reflexionado sobre sobre la transformación digital de las Administraciones tributarias, junto al principio de eficacia se ha de cumplir el principio de eficiencia, recogido en el artículo 32 de la Carta Magna, cuando establece que el gasto público realizará una asignación equitativa de los recursos públicos, y su programación y ejecución responderán a los criterios de eficiencia y economía. La eficiencia conecta los medios con los objetivos, buscando conseguir la mejor relación posible entre los resultados y los medios utilizados, lo que nos hace concluir que una Administración Tributaria sólo es eficaz y eficiente cuando garantiza el cumplimiento de las obligaciones tributarias mediante los mejores servicios de información, asistencia y la disuasión de los incumplimientos, lo que exige administraciones tributarias fuertemente tecnológicas.

Esta fortaleza tecnológica solo será eficaz si la actividad tributaria se desarrolla a través de un modelo potente de colaboración social, que implica la definición previa de las condiciones, el establecimiento de mecanismos de diálogo con el colaborador, y la obtención de un beneficio mutuo entre las partes, priorizando la consecución del interés general, pensando siempre en los ciudadanos [2]. Además, refiriéndonos expresamente a la IA, este esquema general de colaboración social conecta directamente con la idea de delegación de la soberanía tecnológica, al que nos referimos anteriormente al reflexionar sobre el principio de explicabilidad, puesto que el colaborador social si puede, - y debe- entender explicaciones tecnológicas complejas que confundirían a un ciudadano común.

La Ley General Tributaria asienta estos principios en su propio articulado, detallando en el artículo 96 cómo han de utilizarse las tecnologías informáticas y telemáticas, sobre varios principios que los gestores tributarios deberíamos tener en cuenta en el momento de implementar una herramienta basada en IA:

• Obligación de promover la utilización de las técnicas y medios electrónicos, informáticos y telemáticos, -lo que incluye la IA-, necesarios para el desarrollo de su actividad y el ejercicio de sus competencias, con las limitaciones que la Constitución y las leyes establezcan.
• Cuando sea compatible, facilitar el uso de la IA también por los ciudadanos para relacionarse con la administración tributaria, para ejercer sus derechos y cumplir con sus obligaciones con las garantías y requisitos previstos en cada procedimiento.
• Garantizar la identificación de la Administración tributaria actuante y el ejercicio de su competencia. Además, cuando la Administración tributaria actúe de forma automatizada se garantizará la identificación de los órganos competentes para la programación y supervisión del sistema de información y de los órganos competentes para resolver los recursos que puedan interponerse.
• Aprobación reglamentaria (ordenanza fiscal, en el caso de la gestión tributaria municipal), previa a su uso, de las herramientas de IA que vayan a ser utilizados por la Administración tributaria para el ejercicio de sus potestades, definiendo su objetivo y características generales. 

El nivel de explicación del modelo será diferente según el impacto que tenga el uso de la IA en los derechos de los ciudadanos. Así, requerirá una explicación menor su implantación en modelos de información o asistencia al contribuyente (chatbots basados en lenguaje natural, por ejemplo), o para el análisis de resultados recaudatorios o de previsión de impactos de políticas tributarias (simulación de impactos en la recaudación por posibles cambios en la aplicación de beneficios fiscales o tipos de gravamen, por ejemplo), pero deberá cuidarse especialmente la «explicabilidad» cuando se use con el objetivo de definir modelos predictivos para detectar situaciones que en el pasado han sido causa de incumplimiento fiscal, o para la generación de modelos de clasificación y perfilado de contribuyentes a partir de sus comportamientos o características.

• Garantizar la autenticidad de los documentos emitidos por la Administración tributaria derivados de la aplicación de una herramienta de IA, así como su integridad, conservación y, en su caso, la recepción por el interesado.

La aplicación detallada del artículo 96 LGT, ajustada a la complejidad que supone la implantación de un proceso basada en IA, puede ser una primera buena guía de actuación para los empleados públicos que desean aplicarla. Y, sobre todo, es normativa vigente y directamente aplicable a la gestión tributaria, lo que ayuda a cubrir el escaso nivel general de regulación de la IA al que nos venimos refiriendo constantemente.

5.3 «Explicabilidad» y «motivación». Una sentencia del Tribunal Supremo para reflexionar

¿Quedan suficientemente motivadas las actuaciones realizadas en el marco de la gestión tributaria cuando se basan en casos similares observados en el pasado? ¿Es suficiente la racionabilidad estadística para motivar la selección de un contribuyente que será objeto de un procedimiento de inspección tributaria?.

En relación con estas preguntas planteadas es oportuna la cita a una sentencia del Tribunal Supremo reiteradamente mencionada por quienes ven problemas, casi insuperables, en la aplicación de la IA (especialmente la IA generativa) a la gestión tributaria. Nos referimos a la Sentencia de 1 de octubre de 2020, que estudió la motivación de una solicitud de la AEAT de autorización judicial para efectuar un registro en el domicilio de una empresa, basada en la comparación entre los rendimientos declarados por el contribuyente y los obtenidos en el ejercicio de la misma actividad por otros obligados.

Afirma el Tribunal en esta sentencia, que ha de ser leída en su totalidad, que: «Cuando la sospecha se funda en una fuente de ciencia tan evanescente y laxa, de origen tan arcano con base estadística o comparativa no contrastada, ni, que se sepa, publicada, deben quedar firmemente establecidos al menos como punto de partida, cuáles son los criterios que llevan a la administración a aferrarse a esa rotunda conclusión, si se tienen en cuenta que la desviación de la media puede alcanzar distintos niveles de intensidad y no suponer con tal dato aislado, presunción de fraude alguno».

Para concluir afirmando que: «No pueden servir de base para autorizar la entrada los datos o informaciones generales o indefinidos procedentes de estadísticas, cálculos o, en general, de la comparación de la situación supuesta del titular del domicilio con la de otros indeterminados contribuyentes o grupos de éstos, o con la media de sectores de actividad en todo el territorio nacional, sin especificación o segmentación detallada alguna que avale la seriedad de tales fuentes».

Dejando al margen las descalificaciones gruesas, y a mi juicio más basadas en prejuicios que en un conocimiento real de la tecnología («…ciencia tan evanescente y laxa, de origen tan arcano…»), lo interesante de esta sentencia es que pone en relación la idea de «explicabilidad» con la de «motivación», que es un elemento esencial de la práctica tributaria.

En mi opinión, la obligación de explicar el funcionamiento de un sistema de IA con finalidad tributaria se cumple cuando se motiva adecuadamente el acto administrativo dictado o la actuación de contenido tributario practicada. La exigencia de motivación está presente, y regulada, en diversos artículos de la Ley General Tributaria. La encontramos en la obligación general de resolver del artículo 103 LGT, indicando que la resolución habrá de incluir una motivación «con referencia sucinta a los hechos y fundamentos de derecho», y antes, en el artículo 102 referido a la notificación de las liquidaciones tributarias, cuando señala que la motivación ha de realizarse «con expresión de los hechos y elementos esenciales que las originen, así como de los fundamentos de derecho».

Otros ejemplos de la necesidad de motivación en la actividad tributaria los encontramos en otros artículos como el 134, practica de la comprobación de valores, el 210, instrucción del procedimiento sancionador en materia tributaria, en el 215, revisión en vía administrativa, y también en el artículo 113, referido a la solicitud de autorización judicial para la entrada en el domicilio de los obligados tributarios, que es el supuesto al que se refiere la sentencia citada.

Entendiendo y asumiendo que «está en el ADN» de las administraciones tributarias motivar todas sus actuaciones, la sentencia de 1 de octubre de 2020 no debería interpretarse como la necesidad de incluir en dicha motivación una explicación detallada del funcionamiento de la IA. Comparto plenamente, en este sentido, la opinión de Jorge Martín López [3] cuando, analizando la sentencia, señala que este procedimiento se refiere a un caso que afecta a un derecho especialmente protegido (la inviolabilidad del domicilio), muy distinto de los procedimientos tributarios generales en los que puede ser utilizada la IA, como, por ejemplo, los actos preparatorios destinados a la selección de contribuyentes con fines de comprobación posterior.

Continúa Martín López preguntándose, en una reflexión que va directamente al centro de la cuestión, si el hecho de que no pueda explicarse ni comprenderse el funcionamiento interno de un sistema basado en IA supone contravenir las exigencias de motivación de los actos tributarios (en este caso, se centra en la comprobación tributaria), añadiendo que: «….Por consiguiente, que no pueda llegar a comprenderse cómo se ha elaborado técnicamente los perfiles en los que se ha apoyado la selección de contribuyentes con fines comprobatorios no implica que los acuerdos de incoación del procedimiento estén viciados de falta de motivación».

Concluyendo su reflexión de la siguiente manera: «Resulta un tanto forzado integrar, dentro del contenido material del deber de motivación, las cuestiones estrictamente técnicas relativas a la operativa del sistema de inteligencia artificial. Al igual que sigue siendo innecesario e imposible, que el funcionario describa el proceso neuronal que le ha llevado a decantarse por adoptar una decisión y no otra". 

Lo que nos lleva a reflexionar sobre si la sociedad en general, y específicamente quienes nos movemos dentro del «ecosistema tributario» (legisladores, gestores, asesores y jueces), estamos entendiendo bien lo que supone la IA y como aplicarla.

[1] «Reflexiones sobre la transformación digital de las Administraciones tributarias». Revista TRIBUTUS número 3.

[2] Precisamente sobre estas tres ideas se construye el Lema de la ATM cuando la define como una organización «fuertemente tecnológica, conectada y centrada en las personas».

[3] «Inteligencia artificial y comprobación tributaria: transparencia y no discriminación». Página 100 y siguientes. Editorial Aranzadi.2023.

No admite discusión que, en un estado democrático, el empleo de procedimientos basados en IA debe desarrollarse garantizando los derechos fundamentales reconocidos a los ciudadanos. El debate no es este, sino uno más complejo, que obliga a pensar cómo lograr una mayor protección de estos derechos contando para ello con el uso de la IA.

Señala Innerarity que la posición de los humanos hacia la IA aparece permanentemente dividida entre quienes tienen la visión distópica, que sólo ven catástrofes en su aplicación, y una visión utópica, que resaltan los que sólo ven ventajas. En ambos casos son visiones erróneas que sitúan el poder en la tecnología y no en la forma en que los humanos hacemos uso de ella. Del análisis de ambas posiciones concluye que, en gran medida, no se está entendiendo bien lo que es la IA.

Tras analizar las similitudes y diferencias entre la inteligencia humana y la IA, señala el autor que «tal vez no valga la pena desarrollar una inteligencia artificial que siga los esquemas de inteligencia humana. Parece mucho más interesante perseguir un ecosistema que permita una correcta interacción. Esta colaboración entre humanos y máquinas es problemática porque no consiste en poner a dos tipos de agentes (hombres y máquinas) a trabajar en la misma lógica, sino en una articulación muchas veces diferente entre ambas».

Trasladada esta reflexión al objeto de este trabajo, exigir a las herramientas basadas en IA, que con toda seguridad utilizaremos en el ámbito de la gestión de los tributos, que se comporten igual que como se comporta un humano, parece un error.

Por tanto, exigir una supervisión humana que replique con esquemas y técnicas de inteligencia humana lo que ha hecho la IA, no parece ser el camino adecuado para definir un modelo correcto en el que todos los que actuamos en el «ecosistema tributario» al que antes me refería, (legisladores, gestores, asesores, jueces,…) podamos aplicar o juzgar esta tecnología con las debidas garantías.

Se puede y se debe proteger los derechos humanos usando la IA, aunque una parte de los ciudadanos no se sientan satisfechos con ello. Esto ya lo hemos visto, por ejemplo, con la administración digital, que modifica las relaciones de la ciudadanía con el Estado en cuanto a la cercanía, la accesibilidad o la confianza. Y lo hace de forma muy distinta, hasta el punto de que para un grupo de ciudadanos esta tecnología es una herramienta de ayuda, mientras que para otros es una barrera para el acceso a los servicios públicos o una intromisión en su privacidad.

La implantación de la IA, como ha ocurrido siempre con las tecnologías innovadoras, es un proceso de negociación entre el progreso tecnológico, los intereses económicos, las expectativas sociales, las exigencias legales y la configuración política [1]. Y este proceso de negociación solo concluye con la aprobación de una normativa suficientemente clara, construida sobre el reconocimiento de que los derechos humanos ni van a ser superados ni van a ser suprimidos por la IA, pero sí van a quedar condicionados. Esta regulación será la adecuada si este condicionamiento sólo se produce en términos positivos.

Un ejemplo de lo que puede aportar de positivo la IA en la gestión tributaria, si cambiamos la visión, es el uso correcto de los sistemas de recomendación, de los que todos nos beneficiamos constantemente en nuestra vida privada. Pues bien, si realmente pensamos que el contribuyente debe ser el centro de toda la gestión tributaria, lo que nos obliga a definir modelos personalizados que le ayuden al máximo en la atención de sus obligaciones, evitando incumplimientos, es evidente que el perfilado y los sistemas de recomendación pueden ser herramientas que realmente permitan adaptarse a los perfiles propios y específicos de cada uno de ellos, dando respuestas específicas a cada una de las necesidades. De esta forma, la frase que se repite constantemente y que en ocasiones puede quedar vacía, -«el ciudadano en el centro»-, puede convertirse en una realidad.

Pero para ello necesitamos entender bien la IA y el modelo sobre el que se ha de relacionar con las personas y, una vez entendida, regularla adecuadamente para permitir su desarrollo, protegiendo siempre los derechos de los contribuyentes.

[1] «Inteligencia artificial y comprobación tributaria: transparencia y no discriminación». Página 100 y siguientes. Editorial Aranzadi.2023.