“Los humanos dejarán de actuar como robots (cajeros) vs auto-checkout y el trabajo será estratégico y cualquier cosa que no requiera repetición. Irónicamente, los humanos se volverán menos robóticos (la revolución industrial nos convirtió en robots) y nos volveremos más ingeniosos, reflexivos y creativos… porque tenemos que… los bots harán todo lo demás”. (Richard Norton)
Como es sabido, y bien que lo sufrimos en nuestras propias carnes todos los que tratamos de impulsar mejoras innovadoras en la Administración, todo lo nuevo (o incluso lo no tan nuevo) genera sus resistencias. Con la introducción de la Inteligencia Artificial (IA) en el ámbito de la actuación administrativa no estamos viviendo nada que no viviéramos con la informática hace tres décadas o con la administración electrónica/digital más recientemente. De hecho se puede decir que esta no es sino una nueva etapa en la travesía por el desierto de la digitalización del sector público. Lo bueno es que llevamos años lidiando con este proceso. Valga esta experiencia acumulada para desmontar mitos y prejuicios.
Sea como fuere, lo cierto es que la IA está emergiendo como una gran fuerza transformadora en el sector público, ofreciendo oportunidades para mejorar la eficiencia, la toma de decisiones y la prestación de servicios. España tiene la suerte de pertenecer a la UE, un entorno de impulso claro de la IA dentro del Mercado Único Digital, si bien con una tradición regulatoria con tendencia al control, algo que en cierto modo puede suponer un freno. Pero hablamos de una tendencia mundial, ya que a medida que la tecnología avanza, los gobiernos de todo el mundo están explorando y adoptando soluciones basadas en IA para abordar desafíos complejos y proporcionar servicios más efectivos a los ciudadanos. Pero, ¿qué es IA?
Si buscamos una definición oficial de IA, debemos quedarnos con la última propuesta de la OCDE (28 de noviembre de 2023), una vez superada la imprecisión del inciso “sistemas de software diseñados por seres humanos”, que nació prácticamente obsoleta en previsión de que dichos sistemas sean diseñados por las propias máquinas y no por personas. En definitiva; “Un sistema de IA es un sistema basado en máquinas que, para un conjunto dado de objetivos explícitos o implícitos definidos por el ser humano, infiere, a partir de la entrada que recibe, cómo generar resultados como predicciones, contenido, recomendaciones o decisiones que pueden influir en entornos físicos reales o virtuales. Los diferentes sistemas de IA varían en sus niveles de autonomía y adaptabilidad después del despliegue.” La IA utiliza algoritmos preprogramados, que, en una fase más avanzada, son incluso capaces de aprender solos, pero para ello necesita una materia prima llamada datos, unos inputs con los que trabaja y que finalmente le permiten llegar a esos resultados en forma de soluciones y conclusiones. Estamos de suerte. En las AAPP disponemos de cantidades ingentes de estos datos, e incluso podemos conseguir muchos más.
En el presente artículo expondremos sucintamente algunas aplicaciones de la IA a la mejora de los servicios públicos, sin entrar en su impacto en materia de recursos humanos, que es enorme dado que la automatización implica cambios organizativos y funcionales de calado estructural, pero que dada la extensión de la temática debemos dejar para otro momento.
1. Automatización de procesos administrativos: la consecución del principio de eficiencia.
Frente a la insufrible etapa del vuelva usted mañana, vemos que la IA tiene el potencial de revolucionar los procesos administrativos en el sector público. La automatización de tareas repetitivas y rutinarias puede liberar recursos humanos para que los empleados públicos se centren en funciones más estratégicas y creativas. No solo nos referimos a puestos administrativos, sino también a puestos directivos y de atención al público, donde habilidades blandas como el liderazgo, la empatía y las habilidades relacionales marcan la diferencia con un chatbot. El nuevo empleado público no trabajará menos, pero sí trabajará mejor, en todos los sentidos.
De forma concreta, la automatización de trámites administrativos y la optimización de flujos de trabajo mediante la implementación de soluciones basadas en IA, emerge como una estrategia clave para aumentar la eficiencia y reducir costos y plazos en el sector público. Veamos algunos ejemplos.
1.1. Actuación administrativa automatizada
No diga automatización, diga algoritmización. Se define algoritmo como un “conjunto ordenado de operaciones sistemáticas que permite hacer un cálculo y hallar la solución de un tipo de problemas”. Es un término que procede claramente del mundo de las matemáticas, y que se puede extrapolar fácilmente a la informática debido a que dichos cálculos en la actualidad son objeto de programación. Y como todo instrumento, sirve a un fin. Cualquier IA maneja unos cuantos algoritmos de forma simultánea, de manera que estos se convierten en una máquina nueva, un sistema programado que maneja datos, los filtra a través de dicha programación algorítmica, y finalmente arroja unos resultados lógicos y siempre idénticos para idénticas situaciones, por lo que en principio no sería discriminatorio, cuestión a la que más abajo nos referiremos.
Por eso nuestra opinión es que, desde la óptica administrativa, los algoritmos son trámites reglados. Esto facilita mucho el encaje de la IA en el procedimiento administrativo, frente a las teorías de que los algoritmos toman decisiones (es decir, que dictan actos administrativos discrecionales) o de que son reglamentos. El art. 41.1 de la Ley 40/2015, de 1 de octubre, de Régimen Jurídico del Sector Público, establece que “Se entiende por actuación administrativa automatizada, cualquier acto o actuación realizada íntegramente a través de medios electrónicos por una Administración Pública en el marco de un procedimiento administrativo y en la que no haya intervenido de forma directa un empleado público”. Por tanto, ¿estamos hablando de una norma o de la articulación formal del procedimiento definido precisamente en una norma? Entendemos que no estamos en la fase de regulación, sino en la de ejecución. Si un algoritmo es y sigue siendo, pese a todo, ese ·conjunto de operaciones que permite hallar la solución de un problema”, de alguna manera no deja de moverse en ese nivel científico que abarca el ámbito disciplinar de las matemáticas, la lógica y las ciencias de la computación.
Se habla mucho de la ética de los algoritmos, sobre todo “los que toman decisiones”, pero legalmente no las pueden tomar. El art. 22 del Reglamento (UE) 2016/679 del Parlamento Europeo y del Consejo, de 27 de abril de 2016, relativo a la protección de las personas físicas en lo que respecta al tratamiento de datos personales y a la libre circulación de estos datos y por el que se deroga la Directiva 95/46/CE (Reglamento general de protección de datos) -RGPD- establece que “Todo interesado tendrá derecho a no ser objeto de una decisión basada únicamente en el tratamiento automatizado, incluida la elaboración de perfiles, que produzca efectos jurídicos en él o le afecte significativamente de modo similar”.En todo caso, en realidad un algoritmo no alcanza por sí mismo cota alguna de discrecionalidad. No es más que un programa que se ejecuta solo, una herramienta. Una máquina con interruptor de desconexión, si esto deja tranquilo a alguno. Esto no obsta a las consideraciones éticas que apuntamos más adelante (abogamos por la ética by design), ni a la necesidad no solo de dejar las decisiones a los órganos administrativos compuestos por personas, que por supuesto, sino también de establecer algún mecanismo puntual de supervisión “humana”, que en algunos casos pueden ser meras auditorías protocolizadas.
Debe quedar claro que cuando abordamos este tema hablamos del presente, no del futuro. 2024. Se supone que en algún momento de la implantación del procedimiento electrónico hemos obtenido unos flujogramas a partir del trabajo de la reingeniería de procedimientos, y que en esta labor hemos catalogado todos los trámites de cada procedimiento, asignándolos a una actuación material humana (firma electrónica) o convirtiéndolos en un automatismo (sello electrónico). En resumen: el algoritmo no es el origen ni el fin; es el medio, el instrumento. Y el responsable intelectual del instrumento siempre el ser humano. Incluso en el machine y el deep learning (máquinas que aprenden e incluso se reprograman), el protagonismo de la IA es mayor, pero siguen sin intervenir en las decisiones. Para algo tenemos órganos decisorios en las AAPP. La tecnología no puede pasar del nivel instrumental y, en su caso, ejecutivo.
1.2. Actuaciones proactivas y asistidas
La normativa reciente habla de actuaciones proactivas y asistidas. En puridad, solo el primer tipo constituye una automatización de trámites propiamente dicha, mientras que el segundo se podría catalogar como una mera herramienta de redacción que funciona a partir de la inteligencia artificial generativa.
Se encuentran previstas legalmente para el ámbito exclusivo de la Administración de Justicia (del Real Decreto-ley 6/2023, de 19 de diciembre, por el que se aprueban medidas urgentes para la ejecución del Plan de Recuperación, Transformación y Resiliencia en materia de servicio público de justicia, función pública, régimen local y mecenazgo, en los siguientes términos: “Se entiende por actuaciones proactivas las actuaciones automatizadas, auto-iniciadas por los sistemas de información sin intervención humana, que aprovechan la información incorporada en un expediente o procedimiento de una Administración Pública con un fin determinado, para generar avisos o efectos directos a otros fines distintos, en el mismo o en otros expedientes, de la misma o de otra Administración Pública, en todo caso conformes con la ley” (art. 56.3.3 RD-ley 6/2023). Nos llama la atención la autolimitación a las actuaciones “de aviso” u otros efectos similares, trasladando la información que obra en un procedimiento a otro expediente de la misma u otra entidad pública. Se trata, por tanto, de una especie de automatización notificadora, o más bien de comunicación interadministrativa e interorgánica, moviéndose en el terreno de la interoperabilidad, ya que de alguna manera entrelaza expedientes. Por eso, el mismo precepto sigue diciendo: “En el marco del Comité técnico estatal de la Administración judicial electrónica se favorecerá la colaboración con otras administraciones públicas en la identificación de actuaciones que, en su caso, puedan ser proactivos, así como en la definición de los parámetros y requisitos de compatibilidad necesarios para ello”. En relación a este tipo de automatización, se prevé que los sistemas aseguren una especie de “plan de contingencia”, con posibilidad de intervención humana, el cual permita:
a) Que todas las actuaciones automatizadas y proactivas se puedan identificar como tales, trazar y justificar.
b) Que sea posible efectuar las mismas actuaciones en forma no automatizada.
c) Que sea posible deshabilitar, revertir o dejar sin efecto las actuaciones automatizadas ya producidas.
Este detalle es importante, ya que como hemos apuntado la automatización se limita legalmente, al menos de momento, a los trámites, y nunca a las decisiones. Y ello en coherencia con el citado art. 22 RGPD. Normas más conservadoras, como la que acabamos de referir, establecen el aludido “plan b humano” para auditar e incluso deshacer las actuaciones automatizadas.
Por su parte, la segunda figura también tiene su régimen jurídico en el citado RD-ley (art. 57), en la definición de las “actuaciones asistidas”, que constituyen la primera oportunidad legal de redactar documentos a partir de la IA generativa. Según la norma, se considera actuación asistida aquella para la que el sistema de información de la Administración de Justicia genera un borrador total o parcial de documento complejo basado en datos, que puede ser producido por algoritmos, y puede constituir fundamento o apoyo de una resolución judicial o procesal. Y hasta aquí, que no es poco, ya que volvemos al esquema de la supervisión/decisión humana cuando se indica que “En ningún caso el borrador documental así generado constituirá por sí una resolución judicial o procesal, sin validación de la autoridad competente. Los sistemas de la Administración de Justicia asegurarán que el borrador documental sólo se genere a voluntad del usuario y pueda ser libre y enteramente modificado por éste”.
Como es lógico, la constitución de resolución judicial o procesal requerirá siempre la validación del texto definitivo, por el juez o jueza, magistrado o magistrada, fiscal o letrado o letrada de la Administración de Justicia, en el ámbito de sus respectivas competencias y bajo su responsabilidad, así como la identificación, autenticación o firma electrónica que en cada caso prevea la ley, además de los requisitos que las leyes procesales establezcan.
En definitiva, más allá de que la norma recoja esta posibilidad para el ámbito judicial, es evidente que también se acabará utilizando en el puramente administrativo. Un debate abierto es el del lenguaje accesible. El Ministerio para la Transformación Digital y de la Función Pública tiene previsto el desarrollo de algo a lo que llaman un "gestor documental" para que los documentos jurídicos o técnicos, o simplemente en aquellos en los que se abuse de la jerga administrativa o de las oraciones sobrecargadas, sean más accesibles para el conjunto de la población. Parece que el programa alertará a los trabajadores públicos cuándo estén empleando términos demasiado técnicos o abusen de la jerga administrativa (¿acaso no es evidente cuando esto ocurre?), y si vamos por ese camino todo apunta a que este gestor se integrará con la IA generativa que redactará esos borradores de documentos complejos a los que se refiere la norma. ¿En verdad un empleado público es incapaz de redactar o expresarse directamente en lenguaje accesible? Pensemos no ya en la redacción de documentos, sino en la atención al público. El empleado público moderno debe poseer las llamadas habilidades blandas, la máxima expresión de la inteligencia humana. Si no somos capaces de aportar este valor diferencial entonces sí ganaría fuerza el discurso de la sustitución.
1.3. Documentos y datos
El archivo electrónico sigue siendo el pariente pobre de la administración electrónica. Sin embargo, la gestión de documentos y datos es fundamental en el funcionamiento del sector público. La automatización puede agilizar la entrada de datos, la clasificación de documentos y la extracción de información relevante. De hecho, automatización, interoperabilidad, firma electrónica y seguridad/confidencialidad no son sino ítems propios de esa primera fase de la administración electrónica, la de los trámites y documentos, que debería estar ya implantada. Como novedad, los sistemas de procesamiento automático del lenguaje natural (NLP) pueden interpretar documentos escritos y realizar tareas como la identificación de entidades, simplificando tareas que normalmente requerirían una cantidad significativa de tiempo humano.
Pero sin menospreciar ni un ápice la enorme importancia de la gestión documental, la verdadera clave de la moderna gestión pública son los datos. O no tan moderna. Hace tiempo que hablamos de big data, open data, protección de datos… En este caso estamos ante un viejo conocido de la Administración. En esta nueva etapa, los datos son la materia prima con la que trabajan los sistemas de IA, de forma que la calidad y cantidad de dichos datos determinan en buena medida la precisión del resultado final.
Como dijimos, la revolución de la inteligencia artificial es más bien una evolución. Centrándonos en su aplicación a los servicios públicos, esto es lo que antes llamábamos Smart City (término que, definitivamente, va perdiendo vigencia). Y es que no podemos olvidar, es más, debemos poner en valor, la época en la que algunas ciudades como Alzira sensorizaron los servicios. En efecto, los datos obtenidos de los sensores ubicados en infraestructuras y espacios públicos nos permitieron optimizar la gestión de los servicios relacionados. Un problema clásico de las ciudades como el aparcamiento, se puede paliar con la sensorización de las plazas, de forma que el usuario se dirija directamente a aquellas disponibles en lugar de perder tiempo, dinero y quizá salud dando vueltas con su vehículo. De igual forma, la progresiva implantación de sensores en otros servicios públicos, como los contenedores (para una recogida selectiva) o los autobuses (conectados con la marquesina de las paradas), permite, respectivamente, ajustar los horarios de recogida y ofrecer información útil a los pasajeros.
En IA es importante el procesamiento de datos. Se define como el conjunto de técnicas y algoritmos utilizados para analizar, limpiar, transformar y visualizar grandes volúmenes de datos con el fin de extraer información útil y tomar decisiones basadas en evidencia. La toma de decisiones informadas, documentadas y completamente objetivas debe ser la máxima de una Administración que aspira a la excelencia. Esto nos lleva a un último subconcepto, la Gobernanza de datos.
1.4. Atención al público
A pesar de que seguimos defendiendo la atención personalizada (una tarea genuinamente humana), no es menos cierto que los chatbots impulsados por IA han demostrado ser herramientas valiosas para mejorar la atención al cliente en el sector público, al menos en un primer nivel de atención, que puede filtrar un porcentaje alto de las preguntas básicas. En efecto, estos chats pueden responder preguntas frecuentes, proporcionar información básica y dirigir a los usuarios hacia los servicios pertinentes. Esto no solo mejora la eficiencia al reducir la carga de trabajo en los empleados, sino que también ofrece respuestas rápidas y precisas a los ciudadanos, con un nivel de satisfacción muy alto.
1.5. Optimización de flujos de tareas
En la Administración no solo tramitamos procedimientos. La IA puede analizar los flujos de trabajo existentes y proponer mejoras para aumentar la eficiencia, uno de los principios inspiradores de la organización y el funcionamiento de lo público. Mediante la identificación de cuellos de botella y la optimización de procesos, la automatización puede acelerar la ejecución de tareas, desde la consabida tramitación de expedientes hasta la gestión de proyectos, mejorando la productividad general. De forma concreta, la IA es particularmente útil para la automatización de todo tipo de tareas repetitivas y monótonas que consumen tiempo. Esto no solo reduce el riesgo de errores humanos, sino que también permite a los empleados públicos dedicar más tiempo a actividades que requieren creatividad, análisis crítico y toma de decisiones.
La IA también facilita la interoperabilidad. La integración de sistemas heredados y la creación de interfaces de aplicación (API) permiten una mayor automatización al conectar y coordinar diferentes sistemas y bases de datos. Esto facilita la transferencia de datos entre sistemas dispares, mejorando la coherencia y la disponibilidad de la información.
1.6. Esquema Nacional de Seguridad
Del ENI al ENS. Aunque la automatización de procesos administrativos ofrece beneficios significativos, también plantea desafíos, especialmente en términos de seguridad y ética. En este sentido, al amparo de la normativa de protección de datos, la de ciberseguridad y por supuesto el Esquema Nacional de Seguridad, resulta crucial establecer medidas de seguridad robustas para proteger la integridad de los datos y garantizar la privacidad. Una seguridad que debe hacerse compatible con la debida transparencia, sobre todo la que respecta a la toma de decisiones algorítmicas, esencial para garantizar la equidad en el trato a los ciudadanos. En relación a esto último, quien suscribe es partidario de no limitar el acceso a esta información en base al “secreto requerido en procesos de toma de decisión” (art. 14.1.k de la Ley 19/2013, de 9 de diciembre, de transparencia, acceso a la información pública y buen gobierno -LT-), inciso que sin duda no se redactó pensando en este supuesto.
2. Mejora del proceso de toma de decisiones (basadas en datos)
Tal y como hemos indicado, en nuestros proyectos Smart City hemos puesto el enfoque en la sensorización de los espacios y las infraestructuras de carácter público a fin de recabar infinidad de datos con los que poder trabajar. Esta es una nueva dimensión del servicio público inédita hasta el presente siglo, pero que nos permite mejorar en calidad y eficiencia en base a los datos que ofrece el propio servicio junto la experiencia de usuario, de la que más abajo hablamos.
Con carácter general, los algoritmos de aprendizaje automático pueden analizar grandes conjuntos de datos y proporcionar insights valiosos para respaldar la toma de decisiones informadas. Pasó la época de la gestión por ocurrencias, porque si las decisiones no vienen respaldadas por los datos van a fracasar. En el ámbito de los gobiernos, esto puede aplicarse a la formulación de políticas, la asignación de recursos y la identificación de tendencias sociales. Más allá de su aplicación concreta a los servicios públicos (recogida de basura, aparcamiento, transporte público, prevención de incendios), la IA puede ayudar a prever y abordar problemas incipientes antes de que se conviertan en crisis.
En un contexto incierto, la toma de decisiones efectiva es fundamental en la Administración, y IA ya está desempeñando un papel cada vez más importante para mejorar este proceso en el sector público. Desde la formulación de políticas hasta la asignación de recursos, la IA ofrece capacidades analíticas avanzadas que pueden proporcionar información valiosa y apoyar decisiones más informadas y documentadas. A continuación explicamos cómo la IA mejora la toma de decisiones en desde distintos enfoques.
2.1. Análisis de datos
La IA tiene la capacidad de analizar grandes cantidades de datos (big data) de manera rápida y eficiente. En el sector público, esto se traduce en la capacidad de procesar vastos conjuntos de información de interés público (que no es igual a “publicables”), como datos demográficos, económicos y de salud. Los algoritmos de aprendizaje automático pueden identificar patrones y tendencias que podrían pasar desapercibidos en análisis manuales o más superficiales, proporcionando una visión más completa para respaldar decisiones con un fundamento sólido. Además, la Administración se rige por el principio de objetividad, y no hay nada más objetivo que los datos ciertos.
2.2. Predicción, la fase evolucionada de la planificación
Los modelos predictivos basados en IA pueden anticipar eventos futuros y ayudar en la toma de decisiones proactivas. Por ejemplo, en la gestión de crisis o desastres naturales, los algoritmos pueden prever patrones climáticos o evaluar la probabilidad de ciertos eventos, permitiendo la planificación anticipada y la asignación eficiente de recursos, creando escenarios de resiliencia.
En un contexto de presupuestos muy ajustados, la IA puede ayudar a optimizar la asignación de recursos públicos. Ya sea en la distribución de fondos, la planificación urbanística o la gestión de los diferentes servicios públicos, los algoritmos pueden evaluar escenarios y sugerir las asignaciones más eficientes, maximizando el impacto de los recursos disponibles y minimizando el de los efectos nocivos de las crisis, incluso evitando la mayoría de esos efectos y en el mejor de los casos las propias crisis (prevención).
Por otra parte, los modelos analíticos de la IA pueden evaluar el impacto potencial de las políticas propuestas. Esto permite a los responsables de la toma de decisiones comprender mejor las posibles consecuencias de diferentes enfoques y ajustar estrategias incluso antes de su implementación, minimizando el riesgo. Esto es importante en situaciones donde las decisiones son particularmente complejas, como en medicina o planificación urbanística, donde la IA puede proporcionar análisis detallados y escenarios alternativos. De esta forma, las personas que toman las decisiones (autoridades y altos funcionarios), manejan escenarios bien documentados que les permiten considerar múltiples factores y evaluar las implicaciones de sus elecciones de manera más completa, y todo ello antes de comprometer recursos y de poner en peligro derechos de las personas, que en el caso de la salud pública puede ser la propia vida.
2.3. Rendición de cuentas
Los diferentes gobiernos deben legitimarse continuamente, no solo cada cuatro años, por lo que deben entender que esta objetivación extrema en la toma de decisiones mejora la confianza pública en su gestión, y más concretamente en el uso de la IA en esa toma de decisiones. Nunca hemos estado más cerca de concretar ese concepto jurídico indeterminado llamado interés general.
Mucho se habla de Gobierno Abierto, entendido como un sistema de gobierno de democracia reforzada, que se apoya en la transparencia y la rendición de cuentas como medio para procurar una mayor participación y colaboración del ciudadano y de la totalidad de actores públicos. La participación es importante, pero todo parte de la premisa de un buen ejercicio de la transparencia, y ahí es donde la verdadera rendición de cuentas, y no la publicidad política, juega un papel fundamental. Un Gobierno Abierto debe comunicar no solo lo que hace, sino los criterios para la toma de decisiones, y hacerlo de forma honesta y transparente. La Ley 8/2015, de 25 de marzo, de Transparencia de la Actividad Pública y Participación Ciudadana de Aragón, lo define como “aquel que promueve una comunicación y un diálogo de calidad con los ciudadanos y las ciudadanas con el fin de facilitar su participación y colaboración en las políticas públicas, que garantiza la información y la transparencia de su actuación para fomentar la rendición de cuentas, y que diseña sus estrategias en un marco de gobernanza multinivel” (art. 3).
3. Servicios personalizados: aplicando la customer experience a la Administración
El sector privado lleva décadas utilizando las llamadas cookies o “galletas de información”. No es la única técnica que permite recabar el comportamiento de usuario de una persona, donde nuestra propia navegación (más allá de las compras) muestra una tendencia clara que en mi caso alguien interpreta en el sentid de que estoy interesado en tecnología y deporte. Y no van desencaminados. Lo cierto es que cada persona tiene unos gustos y, por así decirlo, unas preocupaciones. La IA también puede permitir la personalización de servicios públicos, adaptándolos a las necesidades individuales de los ciudadanos. Los sistemas de recomendación basados en IA pueden ofrecer sugerencias personalizadas para servicios como educación, sanidad y otros servicios esenciales y no esenciales, mejorando la experiencia del usuario y maximizando la eficiencia de la prestación de servicios.
Estamos ante una nueva dimensión de la accesibilidad. A día de hoy, la implementación de la IA en el sector público está llevando a una transformación significativa en la manera de prestar los servicios públicos, permitiendo la creación de experiencias más personalizadas para los ciudadanos, adaptando los servicios (formato, contenido, incluso lenguaje) a las necesidades individuales de los ciudadanos. Veamos algunos ejemplos.
3.1. Educación
Este es un ejemplo muy claro. La IA puede personalizar la experiencia educativa para los estudiantes, y puede hacerlo de diferentes maneras. Los sistemas de aprendizaje automático pueden adaptar el contenido educativo según el ritmo de aprendizaje de cada estudiante, proporcionando materiales que se ajusten a su nivel de comprensión y preferencias de aprendizaje. Pensemos no solo en la enseñanza básica, sino en las escuelas de adultos. Esto no solo mejora la retención del conocimiento, sino que también fomenta un aprendizaje más efectivo.
3.2. Servicios de salud adaptados
Este es un servicio público importantísimo que marca el listón de las sociedades avanzadas, de forma que merece el comentario más amplio que realizamos más adelante. En este momento simplemente resaltaremos que, en el ámbito de la salud, la IA permite servicios de atención médica absolutamente personalizados. Los algoritmos de diagnóstico basados en aprendizaje automático pueden analizar datos médicos específicos de un paciente y proporcionar diagnósticos más precisos y tratamientos adaptados a sus necesidades individuales. Además, la IA puede facilitar la entrega de recordatorios de medicamentos personalizados y consejos de salud.
3.3. Servicios de orientación ciudadana
Pura experiencia de cliente. En base a la misma, los sistemas de recomendación basados en IA se utilizan para ofrecer sugerencias personalizadas en diversas áreas, desde servicios públicos básicos hasta actividades culturales, lúdicas y deportivas. El valor añadido es máximo. Por ejemplo, los ciudadanos pueden recibir recomendaciones personalizadas sobre oportunidades de empleo o de emprendimiento, subvenciones, programas de capacitación o beneficios sociales que se ajusten a sus necesidades y circunstancias particulares.
3.4. Personalización de servicios a partir de la experiencia de usuario
Hablamos con frecuencia de las diferentes sedes electrónicas. Con carácter general, los portales, aplicaciones y plataformas públicas impulsados por IA pueden adaptarse a las preferencias individuales de los ciudadanos. Esto incluye la personalización de interfaces de usuario (en cuanto a forma y fondo), la presentación de información relevante y la adaptación de servicios en línea para garantizar una experiencia fluida y centrada en el usuario.
Por otra parte, la IA puede simplificar la navegación de los ciudadanos a través de servicios administrativos complejos. Los chatbots y asistentes virtuales pueden guiar a los usuarios, responder preguntas específicas y proporcionar información personalizada sobre trámites, normativa, bases de oposiciones, pliegos de contratación, subvenciones, etc…
En resumen, partiendo de una Administración farragosa, genérica y poco accesible en todos los sentidos, la IA está permitiendo la presentación de servicios personalizados en el sector público, mejorando la calidad de vida de los ciudadanos y fortaleciendo la relación entre los diferentes niveles de gobierno y la ciudadanía, mejorando con ello la calidad democrática y frenando el desapego por lo público. Al adaptar los servicios a las necesidades individuales, la IA está allanando el camino hacia una Administración más accesible, receptiva, eficiente y centrada en el ciudadano.
4. La revolución del análisis predictivo en materia de seguridad ciudadana
En el ámbito de la seguridad pública, la IA puede utilizarse para el análisis predictivo y la prevención de delitos. Los modelos analíticos pueden examinar patrones de comportamiento y ayudar a anticipar áreas de riesgo. Esto permite a las fuerzas del orden tomar medidas preventivas y asignar recursos de manera más estratégica.
De una forma u otra, todas las administraciones territoriales tienen competencias en materia de seguridad pública, y así lo demuestra la propia existencia de cuerpos de policía nacionales, autonómicos y locales con diferentes competencias. La utilización de una IA capaz de realizar ese análisis predictivo que nos lleve, en el mejor de los casos, a la prevención y evitación de las conductas peligrosas para la seguridad pública, supone en sí misma una revolución en este importante ámbito de lo público. Al aprovechar algoritmos avanzados y grandes conjuntos de datos, la IA ofrece la capacidad de anticipar patrones delictivos, optimizar la asignación de recursos y mejorar la eficacia general en la prevención del delito. Veamos cómo.
4.1. Modelos predictivos
Los modelos de análisis predictivo basados en IA pueden examinar datos históricos de infracciones y delitos ya sancionados, así como otros factores relevantes para prever dónde y cuándo es más probable que ocurran futuros incidentes. Estos modelos utilizan algoritmos de aprendizaje automático para identificar correlaciones y tendencias, proporcionando a las fuerzas y cuerpos de seguridad una herramienta valiosa para la planificación proactiva.
Así, la IA permite una asignación más eficiente de los recursos policiales al prever áreas de alto riesgo. Al analizar datos en tiempo real, como informes de incidentes, condiciones meteorológicas y eventos municipales, los sistemas de análisis predictivo pueden sugerir estrategias de despliegue que maximizan la presencia policial en momentos y lugares críticos.
4.2. Identificación de patrones delictivos y prevención de delitos
Cuando los hechos ya han ocurrido solo podemos condenar y lamentar. Pero podemos prevenir delitos a partir de la identificación de patrones. Los algoritmos de IA pueden identificar patrones complejos y no evidentes para los humanos en grandes conjuntos de datos. Esto incluye correlaciones entre diferentes tipos de delitos o intentos de delito, comportamientos delictivos o cuasi delictivos recurrentes y cambios estacionales o cíclicos en la actividad delictiva. Identificar estos patrones ayuda a las fuerzas y cuerpos de seguridad a anticipar y responder proactivamente.
De forma concreta, en relación a los delitos violentos, el análisis predictivo puede resultar fundamental de cara a su prevención. Los citados modelos de análisis predictivo pueden evaluar factores de riesgo, como conflictos previos entre personas, ubicaciones históricamente problemáticas, movimientos o cambios de residencia sospechosos y otros indicadores para prever situaciones que podrían desembocar en la violencia. Esto permite la intervención temprana y la puesta en marcha de estrategias de prevención específicas.
4.3. Coordinación e interoperabilidad
La IA facilita la colaboración entre las diferentes fuerzas y cuerpos de seguridad. Los valiosos datos de los que hemos hablado deben compartirse en la medida de lo posible, con los únicos límites que establezca la ley. También deben utilizarse plataformas basadas en IA para recopilar datos de múltiples fuentes, incluidas las denuncias de los ciudadanos, y así evaluar la percepción de la seguridad en un territorio. Esta retroalimentación informa sobre las estrategias de prevención y permite una respuesta más receptiva a las preocupaciones locales, ya que las tendencias delictivas pueden cambiar de un territorio a otro (por ejemplo, en un municipio turístico con muchos chalets se pueden cometer robos en invierno). Es imprescindible que los datos sean interoperables y, teniendo en cuenta su confidencialidad o sensibilidad y las competencias que corresponden a cada cuerpo policial, que estén disponibles para todos ellos en la medida en la que sea posible.
Hablando de coordinación, a nivel municipal disponemos de la Junta Local de Seguridad, un órgano en nuestra opinión infrautilizada pero donde se pueden compartir datos e informaciones y, a partir de los mismos, elaborar estrategias. Las Juntas Locales de Seguridad son órganos colegiados para facilitar la cooperación y la coordinación, en el ámbito territorial del municipio, de las Administraciones Públicas en materia de seguridad, asegurando de forma específica la cooperación y la coordinación operativa de las Fuerzas y Cuerpos de Seguridad que intervienen en el término municipal (art. 2 del Real Decreto 1087/2010, de 3 de septiembre, por el que se aprueba el Reglamento que regula las Juntas Locales de Seguridad, EDL 2010/177291).
5. Salud Pública
En el sector de la salud, la IA puede ser un aliado incalculable. Desde el análisis de grandes conjuntos de datos para la investigación médica hasta la mejora del diagnóstico a través de la imagenología (estudio y utilización clínica de las imágenes producidas por los rayos X, el ultrasonido, la resonancia magnética, etc…), pasando por la nanomedicina, la IA puede desempeñar un papel crucial en la mejora de los servicios de atención médica en general y los tratamientos en particular, salvando vidas y mejorando enormemente la gestión de la salud pública. Destacamos los siguientes hitos.
5.1. Mayor precisión en el diagnóstico
Los algoritmos de aprendizaje automático aplicados a la interpretación de imágenes médicas, como radiografías, resonancias magnéticas y tomografías, pueden mejorar la precisión en el diagnóstico. A partir de la gran cantidad de datos y casuística disponibles, la IA puede detectar patrones y anomalías que a veces son difíciles de identificar para los profesionales de la salud, permitiendo diagnósticos más tempranos y precisos, y orientando el tratamiento.
5.2. Detección a partir de datos biométricos
Los datos biométricos son datos personales obtenidos a partir de un tratamiento técnico específico, relativos a las características físicas, fisiológicas o conductuales de una persona física que permitan o confirmen la identificación única de dicha persona, como imágenes faciales o datos dactiloscópicos. Por su parte, datos genéticos son datos personales relativos a las características genéticas heredadas o adquiridas de una persona física que proporcionen una información única sobre la fisiología o la salud de esa persona, obtenidos en particular del análisis de una muestra biológica de tal persona (RGPD).
Disponiendo de esos datos, la IA es capaz de analizar grandes cantidades de datos biomédicos con relevancia médica, como información genética, historias clínicas y resultados de pruebas de laboratorio, para identificar patrones que podrían indicar la presencia de enfermedades. Esto no solo facilita la prevención y, en su caso, la detección temprana, sino que también permite la identificación de factores de riesgo y la personalización de los planes de tratamiento.
5.3. Personalización del tratamiento
En efecto, los algoritmos de IA pueden analizar datos de pacientes para identificar respuestas a tratamientos específicos. Esto facilita la personalización de los planes de tratamiento, adaptándolos a las características individuales de cada paciente. Frente al modelo de protocolos estándar, la medicina de precisión, respaldada por la IA, abre nuevas posibilidades para terapias más efectivas y con menos efectos secundarios.
5.4. Investigación acelerada
Una parte importante de la medicina es la investigación, piedra angular de los avances en los tratamientos. La IA acelera la investigación médica al analizar grandes conjuntos de datos clínicos y genéticos. Puede identificar patrones que podrían no ser evidentes para los investigadores humanos, o al menos no de forma rápida, facilitando descubrimientos en áreas como la genómica, la epidemiología y la identificación de nuevos medicamentos.
5.5. Telemedicina
No solo hablamos de atención telemática, cuyas virtudes quizá no superan las limitaciones que plantea, sino de acceso remoto a datos médicos. En efecto, la IA facilita la telemedicina al permitir diagnósticos remotos basados en análisis de imágenes o datos de pacientes. Esto es especialmente valioso para los residentes en zonas alejadas o en situaciones donde el acceso a servicios médicos es limitado, una característica propia de la España rural. Esta nueva telemedicina respaldada por la IA mejora la accesibilidad y la eficiencia en la prestación de servicios de salud.
5.6. Espacio Europeo de Datos Sanitarios (EEDS)
Como indica la fuente https://health.ec.europa.eu/, el Espacio Europeo de Datos Sanitarios es un ecosistema específico para la salud formado por reglas, normas y prácticas comunes, infraestructuras y un marco de gobernanza cuyo objetivo es empoderar a las personas con el fin de que puedan tener un mayor control y acceso digital a sus datos sanitarios personales electrónicos, tanto a escala nacional como de la UE, así como apoyar su libre circulación, fomentando un auténtico mercado único para los sistemas de historiales médicos electrónicos, los productos sanitarios pertinentes y los sistemas de IA de alto riesgo (uso primario de los datos); y ofrecer un marco coherente, fiable y eficiente para el uso de datos sanitarios en actividades de investigación, innovación, formulación de políticas y reglamentación (uso secundario de los datos).
Como tal, el Espacio Europeo de Datos Sanitarios es un pilar clave de la sólida Unión Europea de la Salud y es el primer espacio común de datos de la UE en un ámbito específico que surge de la Estrategia Europea de Datos.
Con el fin de liberar todo el potencial de los datos sanitarios, la Comisión Europea presenta un Reglamento para crear el Espacio Europeo de Datos Sanitarios. La propuesta ayuda a las personas a tomar el control de sus propios datos sanitarios, apoya el uso de datos sanitarios para mejorar la prestación de asistencia sanitaria, la investigación, la innovación y la elaboración de políticas, y permite a la UE aprovechar plenamente el potencial que ofrece el intercambio, el uso y la reutilización seguros y protegidos de los datos sanitarios. En el Reglamento sobre el Espacio Europeo de Datos Sanitarios se desarrollan normas más específicas para tener en cuenta el carácter sensible de los datos sanitarios.
La propuesta de Reglamento europeo sobre datos sanitarios va acompañada de una Comunicación de la Comisión. Es el resultado de un proceso que incluía una evaluación de impacto y una consulta pública abierta.
La confianza es un factor esencial para el éxito del Espacio Europeo de Datos Sanitarios. El EEDS, que ofrecerá un marco fiable para el acceso y el tratamiento seguros de una amplia gama de datos sanitarios, se basa en el Reglamento general de protección de datos (RGPD), la propuesta de Ley de Gobernanza de Datos, el proyecto de Ley de Datos y la Directiva sobre redes y sistemas de información.
6. Derecho positivo y derecho natural: privacidad, no discriminación y derechos humanos
6.1. Una regulación vigilante
Según hemos visto a lo largo del artículo, el uso de la IA conlleva la recopilación masiva de datos y la toma de decisiones algorítmicas que entendemos que pueden suscitar preocupaciones sobre la equidad, la privacidad, la transparencia y la responsabilidad. Frente a esta preocupación, las distintas regiones planetarias optan por diferentes modelos, siendo sobradamente conocida la tradición hiperregulatoria de la UE, especialmente de los países “administrativistas” (modelo continental), como Francia o España.
El art. 23 de la Ley 15/2022, de 12 de julio, integral para la igualdad de trato y la no discriminación, bajo la nomenclatura “Inteligencia Artificial y mecanismos de toma de decisión automatizados”, establece cuatro ítems diferenciados pero relacionados entre sí:
1. Eliminación de posibles sesgos: “En el marco de la Estrategia Nacional de Inteligencia Artificial, de la Carta de Derechos Digitales y de las iniciativas europeas en torno a la Inteligencia Artificial, las administraciones públicas favorecerán la puesta en marcha de mecanismos para que los algoritmos involucrados en la toma de decisiones que se utilicen en las administraciones públicas tengan en cuenta criterios de minimización de sesgos, transparencia y rendición de cuentas, siempre que sea factible técnicamente. En estos mecanismos se incluirán su diseño y datos de entrenamiento, y abordarán su potencial impacto discriminatorio. Para lograr este fin, se promoverá la realización de evaluaciones de impacto que determinen el posible sesgo discriminatorio”.
2. Transparencia by design: “Las administraciones públicas, en el marco de sus competencias en el ámbito de los algoritmos involucrados en procesos de toma de decisiones, priorizarán la transparencia en el diseño y la implementación y la capacidad de interpretación de las decisiones adoptadas por los mismos”.
3. Inteligencia Artificial ética: “Las administraciones públicas y las empresas promoverán el uso de una Inteligencia Artificial ética, confiable y respetuosa con los derechos fundamentales, siguiendo especialmente las recomendaciones de la Unión Europea en este sentido”.
4. Sello de calidad. “Se promoverá un sello de calidad de los algoritmos”.
Esta tendencia vigilante y centrada en los riesgos, incluso de cierta desconfianza respecto a la IA y los algoritmos, la marca la propia Europa. El 19 de febrero de 2020, la Comisión publicó el “Libro Blanco sobre la inteligencia artificial: un enfoque europeo orientado a la excelencia y la confianza”. En este Libro Blanco se definen las opciones existentes para alcanzar el doble objetivo de promover la adopción de la IA y de abordar los riesgos vinculados a determinados usos de esta nueva tecnología. Desde 2021 conocemos la propuesta de Reglamento por el que se establecen normas armonizadas en materia de inteligencia artificial (conocido como Ley de Inteligencia Artificial o simplemente “AI Act”). El Reglamento sigue un enfoque basado en los riesgos, y así distingue entre los usos de la IA que generan un riesgo inaceptable, un riesgo alto, y un riesgo bajo o mínimo. La lista de prácticas prohibidas abarca todos los sistemas de IA cuyo uso se considera inaceptable por ser contrario a los valores de la Unión, por ejemplo, porque violan derechos fundamentales. En definitiva, la UE centra su atención regulatoria en los riesgos de la IA, especialmente en su impacto sobre la salud, la seguridad o los derechos fundamentales, evitando, asimismo, en la medida de lo posible, situaciones de discriminación o desprotección de datos.
Por otra parte, Europa también apuesta por el establecimiento de los llamados entornos de pruebas regulatorios y pruebas en el mundo real (sandbox) a fin de fomentar y garantizar que las empresas, especialmente las pymes, puedan desarrollar soluciones de IA sin soportar presiones incompatibles con el libre mercado por parte de los gigantes tecnológicos. Esta es una política al servicio del Mercado Único Digital europeo, y una buena muestra de la tan manida colaboración público privada. En este contexto, se pone en marcha en España el primer entorno controlado de pruebas para comprobar cómo se implementan los requisitos aplicables a los sistemas IA de alto riesgo de la propuesta de reglamento de la UE. La norma de referencia es el Real Decreto 817/2023, de 8 de noviembre, que establece un entorno controlado de pruebas para el ensayo del cumplimiento de la propuesta de Reglamento del Parlamento Europeo y del Consejo por el que se establecen normas armonizadas en materia de inteligencia artificial.
6.2. Transparencia, accesibilidad y “sesgo algorítmico”
Debemos entender la fase evolutiva de la transparencia: documentos, información, datos y ahora algoritmos. Se trata de abrir las entrañas del funcionamiento administrativo, que se vean y que no sintamos vergüenza. Que las personas las vean y también que las entiendan. Los algoritmos de IA, especialmente aquellos basados en aprendizaje profundo (deep learning), son percibidos a menudo como "cajas negras", lo que significa que sus decisiones pueden ser difíciles de entender. La Administración no puede cometer el error de pasar de una jerga incomprensible (lenguaje administrativo burocrático) a otra (demasiado tecnológica). La falta de transparencia y explicabilidad puede plantear preocupaciones éticas, ya que los ciudadanos y los interesados pueden no comprender completamente cómo se toman las decisiones. Un algoritmo es explicable cuando se puede interpretar y entender sin gran dificultad cómo ha obtenido sus predicciones o resultados, pero para que lo expliquemos a la ciudadanía primero es necesario que lo entendamos nosotros mismos. En este sentido, resulta fundamental establecer prácticas que permitan explicar y hacer transparentes los procesos algorítmicos, especialmente en casos críticos como la toma de las grandes decisiones políticas, las cuales, por otra parte, deberían explicarse siempre con todo lujo de detalles (rendición de cuentas).
Por otra parte, sesgo (o bias en inglés) en IA se refiere a la supuesta tendencia sistemática de los algoritmos a tomar decisiones incorrectas o injustas debido a la utilización de los datos proporcionados en su entrenamiento que podrían estar sesgados de origen, lo que puede derivar en situaciones de discriminación o en la generación de resultados inexactos o incluso injustos en ciertas situaciones. Un programa que funciona bien no comete errores, pero puede partir de premisas erróneas. Los algoritmos de IA pueden heredar sesgos presentes en los datos con los que fueron entrenados. Esto puede desembocar en la toma de decisiones discriminatorias y no equitativas. Por ejemplo, si los datos de entrenamiento tienen sesgos culturales o de género, los algoritmos pueden replicar y amplificar estas desigualdades, incluyendo las que derivan de la brecha digital. Por eso se deben aplicar mecanismos correctores y de supervisión. Es esencial reconocer y corregir activamente el sesgo algorítmico para garantizar que los sistemas de IA no contribuyan a la discriminación. Además, en el sector público, donde se manejan datos sensibles de los ciudadanos, resulta fundamental establecer medidas rigurosas para proteger la privacidad. Por eso, bajo el estricto cumplimiento de la normativa sobre protección de datos, se deben implementar prácticas de anonimización, cifrado y gestión segura de datos para evitar la divulgación no autorizada de información personal.
Un tema interesante, que en esta ocasión solo podemos abordar de soslayo, es la asignación de responsabilidades en casos de decisiones o resoluciones erróneas o sesgos algorítmicos. No hablamos de la recurribilidad de los actos administrativos, que es incuestionable, sino de determinar quién es responsable cuando un algoritmo no “toma” pero sí contribuye a que se tome una decisión incorrecta o perjudicial. Esa supervisión o última intervención humana de la que hablábamos es un arma de doble filo, y puede que no le guste a todo el mundo, pero es necesario establecer un marco de responsabilidad. Esto puede ser sencillo, cuando el propio procedimiento te indica el órgano competente, pero puede ser francamente complicado en otras ocasiones, salvo que se establezca por escrito utilizando la potestad reglamentaria y de auto organización que tienen la mayoría de entidades públicas. Lo ideal sería establecer marcos legales más amplios que definan claramente el sistema de responsabilidades, estableciendo procesos para abordar situaciones problemáticas que, con seguridad, se van a producir.
7. Conclusión
Tras las irregulares etapas de implantación informática, electrónica y telemática, la IA tiene el potencial definitivo de transformar radicalmente el sector público. Su aplicación en la automatización, toma de decisiones, personalización de servicios y otras áreas va mejorar la eficacia y la eficiencia de los servicios públicos, algunos de ellos esenciales para nuestro bienestar vital, brindando avances y beneficios muy tangibles a la ciudadanía.
En el presente artículo hemos intentado resaltar el potencial transformador de la Inteligencia Artificial (IA) en el sector público, apuntando algunas mejoras concretas y muy significativas en transparencia, objetividad, legalidad, eficacia, eficiencia y calidad en la prestación de servicios esenciales para el bienestar de la ciudadanía. La aplicación de la IA en áreas como la automatización, toma de decisiones y personalización de servicios se presenta como una oportunidad para llevar a cabo avances muy tangibles e inéditos hasta la fecha en la calidad de los servicios públicos que paga la ciudadanía a través de los impuestos.
No obstante, también subrayamos la importancia de abordar algunos desafíos críticos que acompañan a la implementación de la IA en el sector público, como los aspectos jurídicos, éticos y de privacidad. La necesidad de garantizar un despliegue responsable y equitativo de la IA, alineado con principios legalmente establecidos, se convierte en un elemento esencial para asegurar el éxito y la aceptación de esta tecnología en el ámbito público. En este sentido, destaca el cumplimiento de principios legales que rigen la organización y actuación de las administraciones públicas, como son la racionalización y agilidad de los procedimientos, la eficacia en el cumplimiento de objetivos, la economía en el uso de recursos y la eficiencia en la asignación de los mismos. La aplicación de la IA no solo busca mejorar los servicios públicos, sino cumplir con estos principios esenciales.
Por otra parte, y aunque en el presente artículo solo podemos mencionar la cuestión de soslayo, no podemos dejar de apuntar que la adaptación de las estructuras organizativas a las demandas de la era de la IA se presenta como una necesidad urgente. La creación de nuevos puestos, como los de programación y gestión de datos, debería convertirse en una prioridad. Hablamos de «puestos STEM» (Science, Technology, Engineering and Mathematics). ¿Para cuándo un prompt engineer en la Administración?... Simultáneamente proponemos una reorganización hacia estructuras más horizontales y transversales, que funciona a través de equipos multidisciplinares huyendo de la antigua departamentalización.
La automatización de procesos emerge como otra pieza clave en esta transformación, invitando a una segunda gran reingeniería de procesos con impacto directo en la redefinición de las funciones asignadas a los puestos. La legendaria lentitud de la Administración puede verse por fin superada por un sistema que aplica la automatización no solo de trámites y procedimientos, sino también del resto de procesos funcionales que componen el trabajo diario.
La IA no es el enemigo. Al contrario. El futuro pasa por la colaboración entre humanos y máquinas. Esta es la nueva inteligencia colectiva. Cuando la creatividad humana se fusione con la velocidad de procesamiento de la IA, se abrirán nuevas fronteras en la prevención de problemas a través de modelos predictivos, en la rápida y certera resolución de aquellos, y en la excelencia decisoria, impulsando la innovación de una manera inédita hasta la fecha. En última instancia decide el ser humano, por supuesto, pero la gestión basada en los datos debe desplazar de una vez a la que surge de las ocurrencias. El dato vence al relato.
En última instancia, se precisa de un liderazgo facilitador para impulsar estos cambios organizativos. Abracemos este cambio. No se trata de la revolución de las máquinas, sino la de las personas que utilizan máquinas. Existe la inteligencia artificial, no la conciencia artificial. Skynet es ciencia ficción. Los robots no quieren dominar a las personas, y mucho menos ser personas, pero parece que algunas personas sí quieren seguir siendo robots, como en la Revolución Industrial, donde los trabajadores no eran ni más ni menos que las piezas de un engranaje, dentro del cual desempeñaban un papel mecánico. La nueva Revolución Industrial, la de la IA, no solo ofrece una serie de mejoras sin precedentes en los servicios públicos, lo cual nos beneficia como ciudadanos, sino que como trabajadores nos permite ser reflexivos, estratégicos, ingeniosos, creativos, sociables y comunicativos… ¿Acaso no es esto mucho más «humano»?
Este artículo ha sido publicado en la "Revista Derecho Local", en abril de 2024.
ElDerecho.com no comparte necesariamente ni se responsabiliza de las opiniones expresadas por los autores o colaboradores de esta publicación