VALÈNCIA. El consejo de ministros del pasado 12 de marzo aprobó el anteproyecto de ley de gobernanza de la Inteligencia Artificial (IA), con un doble objetivo, adaptar la legislación española al reglamento europeo de Inteligencia Artificial, que se encuentra en vigor desde el 2/08/2024 (aunque su efectividad completa no se producirá hasta el 2027), así como también favorecer el impulso de la innovación, “combina el enfoque regulador con el impulso a la innovación”.
Sin embargo, algunos sectores económicos, contrariamente a lo afirmado, son críticos con las regulaciones de la IA, consideran que cualquiera propuesta de regulación de la inteligencia artificial va contra la innovación. Se dice que “los altos costes que supondrán el cumplimento de las medidas regulatorias del reglamento europeo podrían provocar que las empresas europeas se quedaran fuera del progreso que representa la IA” o “que la nueva Ley de Inteligencia Artificial de la Unión Europea se centra en el riesgo sin tener en cuenta los beneficios, lo que podría obstaculizar el desarrollo de nuevas tecnologías y no proteger al público”, son algunos de los eslóganes que oímos de forma reiterada. No obstante, la reciente aprobación del Reglamento Europeo sobre inteligencia artificial actúa como revulsivo para la implementación de la regulación nacional. Todos los sistemas están o estarán sometidos a la normativa europea, pero la aplicación de inteligencia artificial a la actividad administrativa debe estar sometida al Derecho que se debe establecer para el uso correcto de los sistemas de IA.
Es por ello que, salvaguardando la innovación, la cuestión que se plantea es justificar la necesidad de la regulación de la inteligencia artificial en el marco del Derecho Administrativo a nivel Estado, que tiene por objeto regular la actividad de las distintas Administraciones Públicas cuando utilizan sistemas de inteligencia artificial. El reglamento europeo de inteligencia artificial realiza una regulación basada en los riesgos que garantiza la comercialización de los sistemas de IA, todos los sistemas están o estarán sometidos a la normativa europea para poder comercializarse o distribuirse en la UE, siendo ésto previo a la solución de los problemas concretos de aplicación, conviene precisar que la aplicación de inteligencia artificial a la actividad administrativa exigirá el cumplimiento del Derecho Administrativo, tanto de sus normas generales derivadas del Estado de Derecho y de los derechos de la ciudadanía, como las que se establezcan para el uso de la inteligencia artificial. El Derecho Administrativo tiene como objeto último la defensa de la persona y de la dignidad humana y tiene la misión de evitar que los valores alcanzados con la administración convencional naufraguen con la administración digital y tecnificada.
Actualmente estamos viendo que se está produciendo una aplicación intensiva de la inteligencia artificial en diferentes sectores de la actividad de los poderes públicos y de las distintas administraciones públicas. Existe la constatación fáctica del progresivo aumento de las actuaciones administrativas automatizadas y del proceso decisorio automatizado o de la prestación de servicios públicos de las Administraciones Públicas mediante algoritmos o sistemas de inteligencia artificial a través de múltiples ejemplos que ya nos resultan cotidianos (por ejemplo los robots quirúrgicos tipo DA VINCI o la resolución automatizada de subvenciones o en la automatización de procesos de trabajo con plataformas de RPA combinadas con IA o el acceso a los servicios públicos por medio de los chat bots en diferentes webs institucionales, o más recientemente la utilización como herramienta de trabajo de ChatGPT, DALL-E o Microsoft COPILOT). No en vano, podemos constatar que en el estado actual de la tecnología el uso de estos sistemas automatizados basados en tecnologías de IA se han acelerado en los últimos años por la conjunción de tres factores fundamentales: la mayor disponibilidad y recopilación de datos, que tan importantes son para el desarrollo de un sistema de IA, el incremento de la capacidad de computación producido por el desarrollo exponencial del procesamiento de los datos y abaratamiento de su almacenamiento y la mejora de los sistemas algorítmicos.
También, hay que destacar el carácter transversal de los sistemas de IA aplicables a diferentes sectores por lo que la inteligencia artificial es uno de los motores de la llamada cuarta revolución industrial o revolución 4.0. En consecuencia, el impacto de la IA futura va a ser muy importante, afecta de forma directa al desarrollo económico y social, podemos afirmar que estamos ante un importante reto para la humanidad. En cualquier caso, deberíamos garantizar que el impacto de la Inteligencia Artificial sea positivo, beneficioso e igual para toda la sociedad que es usuaria de estos sistemas no solo para las empresas que desarrollan los sistemas.
Tras el análisis de todo el conjunto normativo actualmente aplicable a los sistemas de IA se pone de manifiesto la insuficiencia de la normativa aplicable y la necesidad de regulación de la nueva Administración digital, que utiliza estas nuevas técnicas de IA que requieren de una nueva regulación jurídica. La protección que brinda el actual ordenamiento jurídico aparece muy fragmentada y compartimentada en diversas normas, ante todos y cada uno de los riesgos que presenta la incorporación de algoritmos al proceso de toma de decisiones automatizadas de las Administraciones Públicas se debe ofrecer instrumentos para proteger a las personas y desplegar un marco que favorezca la seguridad jurídica. En consecuencia, es evidente la necesidad de un nuevo marco legal que regule la utilización de los sistemas de IA, con respeto de los limites derivados de la tutela de los derechos de los ciudadanos, tales como la no discriminación, la protección de la privacidad, la transparencia y la buena administración, junto con los límites derivados de las garantías propias del procedimiento administrativo. Además, este marco debe definir los usos específicos a los que pueden destinarse los diferentes tipos de sistemas de IA, así como las garantías necesarias para su implementación.
Primeramente, es interesante acometer el concepto de inteligencia artificial para diferenciarla de los sistemas informáticos clásicos o transparentes no predictivos, con la finalidad de entender que la normativa aplicable en uno y otro caso no puede ser la misma y, por tanto, el marco jurídico debe adaptarse a esta nueva realidad.
El reglamento de IA ha adoptado la definición de la OCDE que establece una definición concreta y delimitada a los sistemas o tecnologías propias de la IA, un sistema basado en una máquina, sin intervención humana cuya característica principal es su capacidad de inferencia. Inferir resultados en forma de predicciones, recomendaciones y decisiones. El algoritmo aplica sus propias reglas, sustituye la causalidad por la correlación. Es el propio algoritmo el que al analizar los datos y encontrar correlaciones puede llegar a incorporar novedades a partir de los datos obtenidos por el sistema. No nos encontramos ante sistemas informáticos o algoritmos determinados definidos con unas reglas por personas físicas para ejecutar automáticamente operaciones. En el código de la programación tradicional se establecen las reglas necesarias para procesar los datos de entrada y obtener unos resultados. Por el contrario, en la IA, el aprendizaje automático trata de resolver un problema en el que las reglas no son tan claras; el sistema recibe datos de entrada y los objetivos o respuestas esperadas, y su finalidad es obtener las reglas, infiere la información de salida.
Los software cerrados o determinados obedecen a un programa que traduce a lenguaje de máquina lo que establece una norma jurídica, por ejemplo, la convocatoria de una subvención. Existen unos datos de entrada: las solicitudes de las personas físicas o jurídicas que concurren a una convocatoria pública de subvención. A continuación, el algoritmo en base al baremo establecido en la convocatoria realiza una ordenación en función de la puntuación obtenida. El resultado: una lista de admitidos que cumplen los requisitos con un orden de puntuación en función de la convocatoria. Si se cumple el supuesto de hecho, se produce la aplicación de la consecuencia jurídica; y si no se cumple no se aplica la consecuencia jurídica. Existe un código fuente que se adapta a las especificaciones de la norma material. La aplicación de principio de legalidad y de transparencia son completas y evidentes, la Administración Pública actúa con sometimiento pleno a la ley y al Derecho.
Los sistemas de IA tienen una configuración diferente, la Administración en base a unos datos de entrada infiere un resultado, pero la forma de proceder la decide el propio sistema de inteligencia artificial, no viene determinada por el órgano administrativo. Existe una innovación que realiza el propio algoritmo. La característica determinante es que se trata de sistemas capaces de aprender que utilizan lo aprendido para tomar nuevas decisiones, nos encontramos ante sistemas con capacidad de innovación.
Aquí encontramos una importante diferencia. Mientras en derecho la norma se aplica cuando se produce el supuesto de hecho, en el algoritmo predictivo se aplica la consecuencia jurídica cuando se produce el indicador que correlaciona los datos y realiza las predicciones. Además, la utilización de un sistema de IA sin intervención o control humano puede llevar a resultados contradictorios e incluso desastrosos, por lo que la supervisión humana para aplicar las predicciones parece que será necesaria. Así, si se utilizan datos con algún tipo de sesgo la consecuencia puede ser que el algoritmo realice actuaciones discriminatorias, por ejemplo, si la mayoría de los datos analizados son de hombres puede llevar a discriminar a las mujeres, puede llevar a considerar que las mejores solicitudes son de hombres. En última instancia, parece necesaria la intervención humana junto con el algoritmo para tomar la decisión última, para adaptar el algoritmo al caso concreto evitando contradicciones.
En consecuencia, el contenido de las instrucciones que el órgano administrativo competente emite es diferente en uno y otro caso.
Conclusión
La aplicación de sistemas de IA con algoritmos predictivos puede ocasionar una disfunción entre la metodología técnica aplicable y la regulación administrativa actualmente vigente. Se plantea un importante problema jurídico, partiendo del supuesto de hecho de una norma, en base a unos indicadores o proxies se aplica el algoritmo, se utilizan otras circunstancias o hechos diferentes a los especificados en la norma. El propio algoritmo crea una especie de baremo, esto es el modelo informático al analizar datos y encontrar correlaciones puede llegar a incorporar novedades a partir de los datos obtenidos por el sistema. Esta posibilidad podría hacer plantearnos si realmente están innovando el ordenamiento jurídico. Su contenido ya no lo crea una norma o un órgano administrativo, el algoritmo aplica sus propias reglas.
La nueva Administración digital requiere de la regulación de estas nuevas técnicas vinculadas al uso de algoritmos y análisis de grandes cantidades de datos, el uso de la automatización de procesos (RPA), la personalización de servicios a la ciudadanía, así como la adopción de los principios de digital por defecto como opción preferida y de la administración orientada al dato.
Los limites derivados de la tutela de los derechos de la ciudadanía provenientes de la Constitución no se pueden vulnerar en ningún caso, así como los de obligado cumplimiento derivados de las leyes. El derecho a la protección de datos personales, que regula de forma expresa las actuaciones automatizadas; el derecho a la no discriminación en relación con las decisiones, uso de datos y procesos basados en sistemas de IA, el sesgo discriminatorio o la discriminación algorítmica es un problema recurrente debido fundamentalmente a la lógica de funcionamiento de los sistemas automatizados y el tratamiento que se realiza de los datos personales, que necesita de nuevas soluciones jurídicas; mención especial merece la transparencia del algoritmo que supone una garantía para el ciudadano que a través del conocimiento del algoritmo y del código fuente conoce el funcionamiento del sistema de IA o de la AAA, de cómo ha actuado la Administración, sobre todo en actos decisorios, y el derecho a una buena administración, que supone una determinada manera de administrar lo público. Por último, el derecho de audiencia, de subsanación y la motivación de los actos administrativos constituyen garantías procedimentales que son manifestaciones del concepto de una buena administración.
El continuo avance tecnológico exige a la Administración un esfuerzo de adaptación mediante la aplicación de nuevas herramientas y soluciones jurídicas, exige la configuración del nuevo derecho digital que establezca un modelo de gobernanza humana para garantizar y equilibrar la actuación conjunta de la inteligencia humana y la artificial, y desarrolle una IA fiable, igual, sostenible, ética y segura.
