Search

En el contexto del control del uso de la Inteligencia Artificial por la Administración tributaria cobra una singular importancia el «principio de explicabilidad», un principio de la ética algorítmica que exige que los procesos sean transparentes y que las decisiones puedan explicarse a las partes que se vean afectadas por ellas. Sin embargo, en nuestro país, la aplicación del principio de explicabilidad algorítmica en el ámbito tributario dista mucho de ser efectiva. Las principales dificultades de materialización de este principio en las decisiones adoptadas por la Administración tributaria pueden concretarse en 3 obstáculos principales que son objeto de un detallado análisis en este trabajo.

La Unión Europea estableció el principio de transparencia algorítmica para verificar cómo funcionan las plataformas digitales en la moderna economía de datos y adoptar medidas para evitar que las decisiones automatizadas discriminen a los consumidores. Sin embargo, los agentes de mercado también pueden ser objeto de discriminación puesto que las plataformas digitales encuentran incentivos en adelantar conductas anticompetitivas tendientes a restringir el acceso al servicio de targeting digital. Este documento de reflexión pretende formular recomendaciones regulatorias mediante la aplicación del principio de transparencia algorítmica, de tal forma que se amplíe su alcance de protección al derecho económico de la libre competencia económica.

La inteligencia artificial se halla cada vez más presente en la actuación de la Administración tributaria sobre todo a través de la utilización de sistemas basados en algoritmos de Machine Learning de apoyo a la decisión. Sobre estas decisiones se despliega el principio de explicabilidad, el cual requiere la justificación de la decisión en términos comprensibles para el obligado tributario. En este trabajo rastreamos el ordenamiento tributario (y de forma supletoria, la normativa administrativa) en busca de la base legal que sustente el derecho de los obligados tributarios a obtener dicha explicación para constatar la ausencia de una base jurídica adecuada. Este hecho, unido al bajo grado de interpretabilidad de los algoritmos de Machine Learning utilizados por la Administración tributaria, nos lleva a proponer una reforma legislativa que materialice esta debida explicación en explicaciones locales o individuales., Artificial intelligence is increasingly present in the tax administration's decisions, especially through the use of systems based on Machine Learning algorithms to support decisions. These decisions are subject to the principle of explainability, which requires the justification of the decision in understable terms to the tax-payer. In this paper we scour the tax system (and supplementary administrative regulations) in search of the legal basis that supports the tax-payers' right to obtain such an explanation, but we can only verify the absence of a proper legal basis. This fact, together with the low degree of interpretability of the Machine Learning algorithms used by the tax administration, leads us to propose a legislative reform that materialises this due explanation in local or individual explanations.

There is broad consensus that the use of AI systems by Governments must be transparent and ensure that citizens are able to understand how and why algorithmic decisions affecting them, individually or collectively, have been made. Transparency legislation can be a useful instrument for this purpose. There is a well-established doctrine issued by freedom information Authorities that the source code and algorithms (either deterministic or predictive) used by the Governments are «public information». Based on that premise, the comparative and domestic casuistic of the right of access to public information makes possible to identify some of the risks inherent in the use of AI systems by Governments: covert regulation and bugs; existence of black box decision-like; embedded biases and impairment of rights and freedoms. Notwithstanding the potential legal limits (e.g. public security, intellectual property) analysed in this paper, there is a wide consensus that the right of access does not always ensure full transparency and understanding of the algorithmic decision-making process, especially where black box models are implemented. Moreover, the idea itself of black box as an inability to understand how an algorithmic system produced an output is becoming expansive. In effect, cases where requests of access concerning the source code of deterministic algorithms is at dispute are showing to what extent neither the affected parties by an algorithmic decision nor the judge are able to understand how the system reached such decision. In addition, it has been found that there is no an exact match between the technical meaning of «algorithmic transparency» handled by the «XAI» and the legal meaning of «administrative transparency» typical of Public Law. On a lex ferenda basis, in order to achieve appropriate interpretability, explainability and justification for governmental decisions made or supported by AI systems and public scrutiny thereof, freedom of information legislatio, Existe un consenso amplio en que el uso de sistemas de IA por parte de las Administraciones públicas debe ser transparente y garantizar que los ciudadanos comprenden cómo y por qué se han adoptado las decisiones algorítmicas que les afectan individual o colectivamente. La legislación de transparencia puede y debe ser un instrumento para este propósito. Existe una doctrina bien asentada de las Autoridades de transparencia que considera que código fuente y los algoritmos (deterministas o predictivos) utilizados por la Administración constituye «información pública». Partiendo de esta premisa, la casuística comparada e interna del derecho de acceso a la información posibilita identificar algunos de los riesgos inherentes al uso de estos sistemas de IA por parte de las Administraciones: reglamentación oculta y errores; existencia de black boxes decisionales; sesgos embebidos y vulneraciones de derechos y libertades. Sin perjuicio de los eventuales límites legales que puedan concurrir (e.g. seguridad pública, propiedad intelectual e industrial), analizados en este trabajo, existe cierto consenso en que el derecho de acceso no siempre garantiza una total transparencia y comprensibilidad del proceso de toma de decisiones mediante sistemas de IA, especialmente, cuando estos utilizan modelos de black box. Es más, la noción misma de un black box como incapacidad de entender los resultados producidos por un sistema algorítmico comienza a ser expansiva, en el sentido de que el análisis de la casuística ahí donde el acceso al código fuente de algoritmos deterministas es objeto de litigio evidencia que ni los afectados por la decisión ni el juez son capaces de entender cómo el sistema llegó a tal decisión. Se constata, por último, que no existe una coincidencia exacta entre el significado técnico de la transparencia algorítmica manejado por la XAI y el significado jurídico de la transparencia administrativa propio del iuspublicismo. De lege ferenda, y a fin de garantizar una adec

There is broad consensus that the use of AI systems by Governments must be transparent and ensure that citizens are able to understand how and why algorithmic decisions affecting them, individually or collectively, have been made. Transparency legislation can be a useful instrument for this purpose. There is a well-established doctrine issued by freedom information Authorities that the source code and algorithms (either deterministic or predictive) used by the Governments are «public information». Based on that premise, the comparative and domestic casuistic of the right of access to public information makes possible to identify some of the risks inherent in the use of AI systems by Governments: covert regulation and bugs; existence of black box decision-like; embedded biases and impairment of rights and freedoms. Notwithstanding the potential legal limits (e.g. public security, intellectual property) analysed in this paper, there is a wide consensus that the right of access does not always ensure full transparency and understanding of the algorithmic decision-making process, especially where black box models are implemented. Moreover, the idea itself of black box as an inability to understand how an algorithmic system produced an output is becoming expansive. In effect, cases where requests of access concerning the source code of deterministic algorithms is at dispute are showing to what extent neither the affected parties by an algorithmic decision nor the judge are able to understand how the system reached such decision. In addition, it has been found that there is no an exact match between the technical meaning of «algorithmic transparency» handled by the «XAI» and the legal meaning of «administrative transparency» typical of Public Law. On a lex ferenda basis, in order to achieve appropriate interpretability, explainability and justification for governmental decisions made or supported by AI systems and public scrutiny thereof, freedom of information legislatio, Existe un consenso amplio en que el uso de sistemas de IA por parte de las Administraciones públicas debe ser transparente y garantizar que los ciudadanos comprenden cómo y por qué se han adoptado las decisiones algorítmicas que les afectan individual o colectivamente. La legislación de transparencia puede y debe ser un instrumento para este propósito. Existe una doctrina bien asentada de las Autoridades de transparencia que considera que código fuente y los algoritmos (deterministas o predictivos) utilizados por la Administración constituye «información pública». Partiendo de esta premisa, la casuística comparada e interna del derecho de acceso a la información posibilita identificar algunos de los riesgos inherentes al uso de estos sistemas de IA por parte de las Administraciones: reglamentación oculta y errores; existencia de black boxes decisionales; sesgos embebidos y vulneraciones de derechos y libertades. Sin perjuicio de los eventuales límites legales que puedan concurrir (e.g. seguridad pública, propiedad intelectual e industrial), analizados en este trabajo, existe cierto consenso en que el derecho de acceso no siempre garantiza una total transparencia y comprensibilidad del proceso de toma de decisiones mediante sistemas de IA, especialmente, cuando estos utilizan modelos de black box. Es más, la noción misma de un black box como incapacidad de entender los resultados producidos por un sistema algorítmico comienza a ser expansiva, en el sentido de que el análisis de la casuística ahí donde el acceso al código fuente de algoritmos deterministas es objeto de litigio evidencia que ni los afectados por la decisión ni el juez son capaces de entender cómo el sistema llegó a tal decisión. Se constata, por último, que no existe una coincidencia exacta entre el significado técnico de la transparencia algorítmica manejado por la XAI y el significado jurídico de la transparencia administrativa propio del iuspublicismo. De lege ferenda, y a fin de garantizar una adec

The public administration is currently undergoing a digital transformation. In this scenario, artificial intelligence is outlined as a tool that could change the paradigm of administrative activity. A change which, precisely due to the introduction of technological solutions, (re)poses the figure of the public employee. We assume that the current state of artificial intelligence does not appear to be mature to make a real impersonation of the public servant, but it is clear that current algorithms can collaborate with human activity. Due to the possible penetration of increasingly advanced algorithmics systems,it is necessary to analyze the algorithmic transparency that must certainly consider ethics and algorithmic auditing as parameters of good governance, En la actualidad, la Administración pública está en proceso de transformación digital. En este escenario, la inteligencia artificial se delinea como la herramienta que podría cambiar el modelo de la actividad administrativa. Un cambio que precisamente debido a la introducción de soluciones tecnológicas (re)plantea la figura del empleado público. Asumimos que el estado actual de la inteligencia artificial parece no estar madura para afrontar una suplantación auténtica del funcionario público, sin embargo, es evidente que los algoritmos actuales pueden colaborar con la actividad humana. Debido a la posible penetración de sistemas algorítmicos cada vez más avanzados, es necesario analizar la transparencia algorítmica que debe sin duda considerar la ética y la auditoría algorítmica como parámetros de buen gobierno