Ineco y la UPV lanzan un Observatorio para promover el uso responsable de la IA

VALÈNCIA (EFE). Ineco, ingeniería y consultoría de referencia en movilidad y transformación digital, y la Universitat Politècnica de València (UPV) lanzan un Observatorio para analizar, debatir y brindar orientación en el desarrollo y uso responsable de la inteligencia artificial (IA) y promover un enfoque humano y ético en su implementación.

El Observatorio de Inteligencia Artificial y Diversidad, especializado en las implicaciones éticas de la inteligencia artificial y su relación con la sociedad, estará dorigido por Nuria Lloret, referencia internacional en materia de diversidad y catedrática de la UPV.

Según informan ambas entidades este miércoles, la nueva herramienta prestará especial atención a identificar patrones y desigualdades relativos a la movilidad y la diversidad, concienciar y sensibilizar sobre posibles barreras, así como incorporar reflexiones hacia una movilidad inclusiva.

El Observatorio se desarrolla bajo la premisa de que la IA no solo debe ser una herramienta eficiente, sino también una fuerza positiva que beneficie a toda la humanidad, reduciendo los riesgos que puedan derivarse de su uso.

Actuará como un centro de estudio y análisis, reuniendo a expertos en ética, tecnología, economía, derecho, sociología y otras disciplinas relevantes para explorar las complejas interacciones entre la IA y la sociedad.

Sesgo algorítmico, privacidad y protección de datos, responsabilidad corporativa, ética en la toma de decisiones autónomas, interacción humano-IA, desarrollo de IA y gobernanza y regulación, y ética en la investigación son los aspectos sobre los que se articulará el estudio del proyecto.

La constitución de este Observatorio y Think Tank se ha formalizado este mediodía con la firma de un convenio de colaboración, entre el presidente de Inrvo, Sergio Vázquez, el rector de la UPV, José Capilla, y Nuria Lloret.

Vázquez ha asegurado que "este convenio no solo es muestra del valor que para Ineco tiene el conocimiento que aportan las universidades públicas españolas, sino también de nuestro compromiso con el desarrollo de una tecnología con alma".

Capilla ha defendido que la inteligencia artificial "es algo que ha llegado y nos va a facilitar la vida" y por tanto, "no hay que tenerle ningún temor, lo que tenemos que hacer es incorporarla".

"Pero sabemos que los modelos generativos tienen sus sesgos y que hay que solucionar esos problemas. En ese sentido, bienvenido sea un Observatorio como el que hoy presentamos, que va a velar por la calidad del uso de la IA evitando problemas de discriminación y favoreciendo la igualdad y la diversidad", ha asegurado.

Por su parte, Nuria Lloret ha indicado que, si bien el avance y la expansión de la IA han revolucionado la sociedad en múltiples aspectos, desde la automatización de tareas hasta la toma de decisiones en áreas cruciales como la medicina, la educación, las finanzas o la ciberseguridad, "este progreso tecnológico también plantea desafíos éticos y sociales que deben abordarse de manera exhaustiva" y por ello, nace el Observatorio.

El Observatorio en Inteligencia Artificial y Diversidad cuenta con la Asociación de Mujeres Empresarias y Profesionales (EVAP), Woman in AI y la Fundación Diversidad como entidades colaboradoras especializadas en diversidad, así como la red de mujeres mINerva y la red de diversidad IRIS, ambas nacidas en Ineco.

Estas entidades testearán las herramientas de IA en una primera fase "sin conocimiento" y, posteriormente, realizarán una formación para desarrollar la segunda parte del testeo.

Los datos recopilados serán analizados para realizar comparativas de uso "con y sin conocimiento en materia de inteligencia artificial".