MADRID (EP). El Papa León XIV ha defendido que "la Inteligencia Artificial debe ser desarmada", durante la presentación de su primera encíclica Magnifica Humanitas, publicada este lunes 25 de mayo, y ha invitado a no temerla y a tener "siempre presente la cuestión humana". Se trata de la primera vez que un papa está presente en la presentación al público de uno de sus documentos magisteriales.

"La Inteligencia Artificial exige ahora ser desarmada, liberada de las lógicas que la convierten en un instrumento de dominación, exclusión o muerte", ha subrayado el Pontífice, durante su discurso, pronunciado en el Aula del Sínodo, en el Vaticano, en el marco de un acto en el que han participado cardenales, profesores y expertos en tecnología.

Prevost ha explicado que, al igual que su predecesor León XIII comprendió que la Iglesia "no podía permanecer al margen" de la situación "de los obreros, de sus familias desarraigadas y de las nuevas formas de pobreza generadas por la rápida transformación industrial", hoy él se siente "encomendado" a hacer estas reflexiones "ante una transformación de magnitud similar, con consecuencias quizás aún más grandes".

El Pontífice ha explicado que Magnifica Humanitas nació de la escucha a científicos e ingenieros que trabajan en tecnologías, a líderes políticos y funcionarios públicos, a padres y maestros.

Asimismo, ha indicado que le han llegado "otras voces muy inquietantes sobre sistemas de armas cada vez más autónomos, prácticamente fuera de alcance humano para su control efectivo" y "relatos muy preocupantes sobre algoritmos que pueden bloquear el acceso a la atención médica, el empleo y la seguridad basándose en datos viciados por prejuicios".

Ante esta situación, ha insistido en la importancia de "desarmar" la IA. "La palabra es fuerte, lo sé, pero la elegí deliberadamente porque este momento necesita palabras capaces de llamar la atención, despertar las conciencias e indicar caminos a seguir para la humanidad", ha remarcado.

En esta línea, ha precisado que al "igual que la energía nuclear debe estar al servicio de todos y del bien común", las "decisiones sobre la tecnología nunca deben separarse de la conciencia y la responsabilidad".

En todo caso, ha dicho que "desarmar no es suficiente" y que hace falta "construir" en el sentido no solo de "reemplazar lo destruido" sino de "reparar lazos, restaurar la confianza y revivir la esperanza en el futuro".

En este sentido, se ha mostrado convencido de que "la IA puede ser un terreno de construcción de la historia desde un horizonte de comunión donde el progreso técnico aprende a servir a la vida humana" y ha pedido no tenerle miedo.

"No temamos a la Inteligencia Artificial sino mantengamos siempre presente la cuestión humana. No podemos ser negligentes con nuestros instrumentos técnicos más poderosos", ha puntualizado.

Por ello, ha defendido que "la Iglesia desea con humildad y franqueza participar en los diálogos sobre IA". "No poseemos respuestas técnicas ni pretendemos sustituir a los expertos, pero aportamos una sabiduría sobre lo humano que nuestro tiempo necesita con urgencia. Cada persona es única e irreemplazable, un sujeto libre e inteligente, con conciencia, capaz de buscar a Dios, servir a los demás y cuidar de nuestra casa común", ha defendido.

Al mismo tiempo, ha invitado "a todos los miembros de la Iglesia y de la familia humana" a "escucharse unos a otros" y a "afrontar con valentía los retos actuales y a cooperar en la construcción de una sociedad más humana y fraterna".

La encíclica Magnifica Humanitas

El Papa León XIV se muestra tajante en su primera encíclica: "Ningún sistema de cálculo, por sofisticado que sea, genera un corazón que se entrega, ni una conciencia capaz de discernir el bien".

El texto está fechado el 15 de mayo —135 anivesario de Rerum Novarum, encíclica de León XIII sobre la Revolución Industrial que fija la doctrina social de la Iglesia.

El Papa precisa que "las denominadas inteligencias artificiales" no se pueden confundir con la "inteligencia humana" pues, aunque son capaces de "imitar lenguajes" o "simular empatía", no viven "una experiencia, no poseen un cuerpo, no pasan por la alegría y el dolor, no maduran en las relaciones ni conocen desde dentro lo que significan el amor, el trabajo, la amistad y la responsabilidad".

"Tampoco tienen una conciencia moral: no juzgan el bien y el mal, no captan el sentido último de las situaciones ni asumen el peso de las consecuencias", insiste.

"No hay algoritmo que haga moralmente aceptable la guerra"

En este sentido, advierte de que "no existe algoritmo que pueda hacer que la guerra sea moralmente aceptable". "No es lícito confiar a sistemas artificiales decisiones letales", avisa mientras pide que la IA en el ámbito bélico esté sujeta a "las restricciones éticas más rigurosas y al respeto de la dignidad humana" y reclama "reglas compartidas" a nivel internacional "que frenen la carrera armamentística tecnológica".

Además, lamenta que la "evolución de los arsenales nucleares -incluida la perspectiva de usos 'tácticos'-" hace que el recurso a tales artefactos parezca una posibilidad cada vez menos remota"; advierte de "una preocupante "pérdida de la memoria histórica" que "facilita la reescritura selectiva o distorsionada del pasado" e insta a superar la "teoría de la guerra justa" y a apostar en su lugar por "el diálogo, la diplomacia y el perdón".

El Pontífice pide "un enfoque prudente y cauteloso" y advierte de que "puede ser peligrosa" cuando las personas buscan en ella una relación de cuidado o de acompañamiento porque la "imitación artificial" de consejo, empatía, amistad o amor en usuarios poco conscientes puede "inducir a engaño y dar la falsa impresión de estar en una relación".

Impacto ambiental

Además, advierte del "riesgo" que supone el "impacto ambiental" de los actuales sistemas de IA en relación al agua, el anhídrido carbónico y los recursos naturales.

Asimismo, alerta de que los sistemas de IA pueden suponer un "engaño" cuando "presentándose como neutrales y objetivos, reflejan y refuerzan estereotipos o posiciones ideológicas de quienes los han diseñado y programado". "No podemos considerar la IA como moralmente neutra", sentencia.

A su vez, avisa de que "confiarle a un algoritmo el poder de seleccionar quién es digno y quién no" significa "encomendarle la tarea de redefinir los límites de las posibilidades humanas".

Ralentización en la adopción de la IA

Para que la IA respete la dignidad humana, según el Pontífice, es esencial que las "responsabilidades estén claras", desde quienes la diseñan hasta quienes la utilizan. Además, apunta que "pedir prudencia, controles rigurosos" y "una ralentización en la adopción de la IA no significa estar en contra del progreso".

"No basta con invocar genéricamente la ética; se necesitan marcos jurídicos adecuados, vigilancia independiente, educación de los usuarios, una política que no renuncie a su tarea", propone, al tiempo que pide "valentía" para discutir un "código ético" que deba ser usado, "sometiéndolo a criterios de justicia social compartida".

Así, advierte del riesgo de que "pequeños grupos muy influyentes" puedan "orientar informaciones y consumos, condicionar procesos democráticos e incidir en las dinámicas económicas" y considera que "la propiedad de los datos no puede confiarse solo al sector privado, sino que debe reglamentarse". Reclama, por ello, "creatividad" para gestionarlos en la "lógica del compartir".

También hace un "vehemente llamamiento" a los desarrolladores de sistemas de IA a "verificar que lo que se cultiva sea realmente un bien".

Transhumanismo y posthumanismo

Igualmente, el Papa advierte del "transhumanismo y el posthumanismo" que introducen "una visión futurista de 'humanidad potenciada' o de 'hombre hibridado' con la máquina y apunta el riesgo de que "en nombre del progreso se puede pensar en 'sacrificios necesarios' y hacer pagar a los más vulnerables el precio de una presunta optimización de la especie".

Por otro lado, León XIV muestra su "preocupación" por las consecuencias de combinar la automatización, la robótica y la IA en el trabajo y advierte de que "en algunos contextos, es realista temer una reducción significativa y rápida de los puestos de trabajo" con "nuevas formas de precariedad y desigualdad, con remuneraciones muy elevadas para una minoría altamente especializada y salarios cada vez más bajos para una gran parte de la población".

Normas para la protección del empleo

La norma general, a su juicio, debe seguir siendo la protección de los puestos de trabajo y del papel insustituible de la persona. Para eso, pide "elaborar con celeridad normas y medidas de protección adecuadas", también a nivel internacional.

A su juicio, "toda introducción de automatización y de IA debería ir acompañada de medidas verificables de protección del empleo, de recualificación y de participación de los trabajadores".

Asimismo, considera necesario "superar los actuales parámetros de medición del grado de desarrollo" y propone desarrollar "nuevos parámetros y métricas complementarios al PIB".

El ahorro, fundamental frente a las finanzas

A su vez, se refiere a las finanzas que "han adquirido una importancia creciente" y defiende el ahorro que se transforma en crédito para la economía real y por ende para crear empleo" siguen siendo "fundamental".

Además, critica la "concentración" de la riqueza mundial "en pocas manos" con "intervenciones superfluas" o "sueños de superación personal" y pide "leyes justas" y redistribución incluso mediante sistemas fiscales.

También apunta que "en la era de la IA y de la robótica, ya no es posible confiar únicamente en la 'mano invisible' del mercado" y añade que "la política tiene la tarea de orientad dinámicas económico-tecnológicas hacia el bien común". "La prosperidad puede contribuir a construir y fortalecer la paz sólo si es generalizada, inclusiva y sostenible", resume.

Igualmente, pide "creatividad política a favor del empleo que sitúe en el centro a la familia y a las nuevas generaciones" y garantizar "ritmos humanos" con equilibrio entre trabajo, servicios y descanso, porque si no la familia se debilita y a los jóvenes les cuesta madurar el sentido de la responsabilidad".

La libertad frente a la recopilación masiva de datos

Por otra parte, advierte del riesgo de que "la recopilación masiva de datos y el uso de sistemas algorítmicos" acaben por "socavar la libertad y discriminar a los más vulnerables. Por ello, exige "normas claras, transparencia, vías de recurso y límites proporcionados al uso de tecnologías invasivas".

Asimismo, llama a "romper las cadenas de las nuevas esclavitudes" y denuncia que "niños trabajan en condiciones peligrosas en la trituración de los materiales de los que se obtienen las tierras raras", "cuerpos mutilados" para que "el flujo de los cálculos no se interrumpa". Como sus predecesores, el Pontífice pide "sinceramente perdón" por la esclavitud y dice que no se puede "negar el retraso con el que la Iglesia y la sociedad condenaron el flagelo" de la misma.