Hace unas semanas escribía en estas páginas sobre cuánto cuesta el tiempo de un ciudadano y sobre las posibilidades que ofrece la inteligencia artificial para conseguir una Administración más sencilla, rápida y cercana. Mi planteamiento era bastante claro: utilizar la tecnología para eliminar tareas repetitivas y permitir que los empleados públicos dediquen más tiempo a aquello que realmente aporta valor.
Sigo pensando lo mismo. Pero después de aquel artículo, una conversación con una experta funcionaria, de esas profesionales que hacen que todo funcione mejor, me hizo darle otra vuelta al asunto.
Me planteó una cuestión que me pareció especialmente interesante. Quizá el verdadero riesgo no sea que la inteligencia artificial sustituya a los funcionarios, como tantas veces escuchamos. Puede ocurrir algo bastante más sutil: que el funcionario siga estando ahí, atendiendo al ciudadano, pero que, en la práctica, se haya convertido en el transmisor de una decisión tomada previamente por una máquina.
Y eso cambia bastante las cosas.
Porque la IA ya está entrando en el funcionamiento de las administraciones, aunque muchas veces ni siquiera seamos plenamente conscientes de ello. Se utiliza para analizar documentación, resumir expedientes, preparar textos, interpretar información o ayudar a elaborar procedimientos. Es razonable pensar que dentro de unos años su presencia será muchísimo mayor.
Pongamos un ejemplo. Imaginemos un sistema capaz de analizar miles de solicitudes de ayudas y recomendar cuáles deben concederse. Puede hacerlo en segundos, cruzando una cantidad de información que a una persona le llevaría días revisar. En principio, parece una buena noticia.
Pero imaginemos ahora que ese mismo sistema recomienda denegar una ayuda.
¿Quién cuestiona esa respuesta? ¿Sabe el empleado público por qué ha llegado a esa conclusión? ¿Conoce los datos con los que ha trabajado? ¿Puede detectar que el caso que tiene delante es una excepción que el sistema no ha sabido interpretar?
Y hay una pregunta que me parece todavía más importante: ¿se sentirá realmente legitimado para decir que la máquina se equivoca?
No es un debate menor. Menos aún cuando algunos de los propios responsables de las compañías que están desarrollando los modelos de inteligencia artificial más avanzados están reclamando estos días que reduzcamos la velocidad.
No están proponiendo apagar la inteligencia artificial ni detener la innovación. Están advirtiendo de algo bastante más razonable: las capacidades de los modelos avanzan a tal velocidad que necesitamos tiempo para desarrollar también los mecanismos que permitan evaluarlos, supervisarlos y utilizarlos con seguridad.
Si quienes están construyendo esta tecnología creen necesario hacerse estas preguntas, las administraciones públicas también deberíamos hacérnoslas.
Podemos caer en la tentación de convertir la supervisión humana en un mero requisito formal.
Supongamos que un sistema recomienda una decisión y que, al final del proceso, un funcionario pulsa un botón para validarla. Técnicamente existe una persona supervisando. Pero si esa persona desconoce cómo se ha generado la recomendación, no dispone de elementos suficientes para discutirla o acaba aceptándola porque “lo dice el sistema”, la supervisión humana existe sobre el papel, pero no en la realidad.
Y ahí creo que tenemos un reto enorme.
Durante los próximos años se tendrán que formar a miles de empleados públicos en el uso de estas herramientas. Pero no deberían aprender únicamente a utilizarlas. Han de saber desconfiar de ellas cuando sea necesario.
A preguntar. A comprobar. A contrastar. Y, llegado el caso, a llevarles la contraria.
Puede parecer una expresión poco técnica, pero me gusta precisamente por eso: debemos garantizar el derecho y la capacidad a llevarle la contraria al algoritmo.
No como una excepción que tenga que justificar continuamente, sino como parte normal de la responsabilidad profesional.
Eso implica también reconocer nuevos derechos a los ciudadanos. Si una inteligencia artificial ha tenido una intervención relevante en una decisión administrativa que me afecta, creo que tengo derecho a saberlo. Y si esa decisión me perjudica, debo poder conocer los criterios utilizados y, sobre todo, encontrar al otro lado a una persona capaz de revisarla.
Por eso València debería plantearse el uso responsable de la inteligencia artificial. No necesitamos otro documento lleno de grandes conceptos que después nadie consulta. Necesitamos unas reglas claras, concretas y comprensibles para empleados públicos y ciudadanos: cuándo puede utilizarse, para qué, qué información puede procesar, cómo se auditan estos sistemas y quién responde por sus decisiones.
Y aquí aparece una cuestión que me preocupa especialmente.
A medida que todos utilizamos los mismos modelos para preguntar, resumir, analizar y, cada vez más, decidir, existe el riesgo de ir homogeneizando nuestra manera de pensar. La respuesta más probable puede acabar convirtiéndose en la respuesta aceptada. Y lo aceptado no siempre es necesariamente lo correcto.
Una Administración pública no puede funcionar así.
Administrar también significa interpretar circunstancias, entender excepciones y asumir responsabilidades. Dos expedientes aparentemente idénticos pueden esconder realidades completamente diferentes. Detrás de una solicitud no hay solo un conjunto de datos. Hay una persona.
En mi anterior artículo defendía que la inteligencia artificial puede ayudarnos a devolver tiempo a los ciudadanos. Mantengo aquella idea, pero hoy le añadiría una condición.
No tendría demasiado sentido ahorrar tiempo en un trámite si para conseguirlo renunciamos a nuestro criterio.
La inteligencia artificial estará presente en la Administración del futuro. Probablemente mucho antes y de una forma mucho más profunda de lo que imaginamos. La cuestión, por tanto, ya no es si debemos utilizarla, sino cómo queremos relacionarnos con ella.
Yo quiero empleados públicos que dispongan de las mejores herramientas posibles. Que aprovechen todo lo que la tecnología puede ofrecerles. Pero también quiero profesionales capaces de cerrar la pantalla, mirar el expediente y decir: esto no tiene sentido.
Porque cuando una decisión pública afecta a los derechos, las oportunidades o la vida de una persona, alguien debe poder explicar por qué se tomó y asumir la responsabilidad de haberla tomado.
La inteligencia artificial puede ayudarnos a decidir mejor.
Lo que nunca deberíamos permitir es que nos acostumbre a dejar de decidir.
