Un equipo de la UPV presenta un estudio sobre razonamiento ético de la IA en Estados Unidos

VALÈNCIA (EP). Un equipo del grupo de investigación GTI-IA del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) ha presentado un trabajo sobre razonamiento ético de la inteligencia artificial en la conferencia anual que organiza la Asociación para el Avance de la Inteligencia Artificial (AAAI) de EE.UU., una de las conferencias internacionales más prestigiosas en este campo.

El artículo, bajo el título 'La incertidumbre moral y el problema del fanatismo', ha sido elaborado por los investigadores de VRAIN de la UPV, José Such y Natalia Criado, y los colaboradores del King's College London (Reino Unido), Jazon Szabo y Sanjay Modgil. Y desarrolla, cómo a través de un formalismo matemático, se puede hacer razonar a la inteligencia artificial sobre diferentes puntos de vista y teorías éticas, ha indicado la universidad en un comunicado.

"Le estamos diciendo a la IA que a la hora de decidir, tenga en cuenta y agregue diversos aspectos éticos, no solo una perspectiva ética. Y de este modo, su decisión final estará más alineada con lo que un mayor número de personas considera ético, y se alejará de que ninguna de las teorías éticas domine desproporcionadamente sobre las otras, que llevaría a la IA a un comportamiento más fanático", ha explicado José Such.

En esta línea, ha añadido que una cuestión "muy importante de cara a desarrollar sistemas de inteligencia artificial que sean capaces de alinearse con lo que las personas consideramos que es un comportamiento ético".

Este artículo técnico está basado en la investigación del proyecto VAE (Value-awareness engineering). Su objetivo es, precisamente, desarrollar herramientas y tecnologías para construir sistemas inteligentes que comprendan los valores humanos y garanticen que su comportamiento está alineado con esos valores.

El proyecto está financiado por el Ministerio de Ciencia, Innovación y Universidades y la UE a través de Fondos Next Generation y tiene una duración de dos años. Su investigadora principal es Natalia Criado, en el equipo formado por Vicent Botti y José Such del grupo GTI-IA de VRAIN de la UPV.

Conferencia AAAI sobre inteligencia artificial

La conferencia AAAI sobre Inteligencia Artificial, que se ha celebrando del 20 al 27 de febrero en Vancouver (Canadá), tiene el objetivo de fomentar el intercambio científico entre profesionales, investigadores, científicos y estudiantes de este campo y sus disciplinas y reúne los trabajos más brillantes en IA a lo largo del año.

Se trata de una de las conferencias con mayor trayectoria en IA, organizada también por una de las asociaciones con mayor historia en esta tecnología. Los artículos que se presentan en este foro son muy limitados debido a las exigencias de altos estándares científicos.

Sobre Vrain

El Instituto Universitario Valenciano de Investigación en Inteligencia Artificial - Valencian Research Institute for Artificial Intelligence- (VRAIN) de la UPV está integrado por ocho grupos de investigación que cuentan con más de 30 años de experiencia en diferentes líneas de investigación en IA.

El proceso de creación de VRAIN comenzó en 2019, fruto de la unión de seis grupos investigadores. En 2020, se fusionó con el Centro de Investigación en Métodos de Producción de Software PROS y en 2021 se constituyó finalmente como Instituto Universitario de Investigación con la aprobación de la Generalitat Valenciana.

En la actualidad, cuenta con 178 investigadores divididos en nueve áreas de investigación. Estas nueve áreas sobre las que gira su actividad investigadora hacen que sus desarrollos se apliquen a un gran número de sectores estratégicos como salud, movilidad, ciencias de la tierra, ciudades inteligentes, educación, redes sociales, agricultura, industria, privacidad/seguridad, robots autónomos, servicios y energía, y sostenibilidad ambiental entre otros.

Estas actividades han sido financiadas por más de 135 proyectos obtenidos mediante financiación competitiva, principalmente de la Unión Europea, pero también del Plan Nacional de Investigación, el Plan Valenciano de Investigación y Proyectos de Transferencia de Tecnología.