VALÈNCIA (EP). El investigador del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (Vrain) de la Universitat Politècnica de València (UPV) y miembro de la Unidad Mixta de Investigación de la Escuela Valenciana de Posgrado y Red de Investigación en Inteligencia Artificial (ValgrAI), José Hernández-Orallo, ha sido seleccionado para formar parte del comité científico que asesorará a la Oficina de Inteligencia Artificial, creada por la Comisión Europea, entre 60 expertos internacionales.
Entre sus funciones, el comité asesorará en la aplicación de la Ley de IA Europea y la evaluación de los impactos y riesgos de los modelos de IA de propósito general (IAPG). Tendrá la labor de alertar a la Oficina de IA sobre los riesgos sistémicos, asesorar sobre las metodologías de clasificación y evaluación de los modelos de IA de propósito general, así como apoyar las actividades de vigilancia del despliegue de la IA en la Unión Europea.
Este órgano complementa al foro consultivo, que proporciona a la Comisión y al Consejo de IA aportaciones más amplias de las partes interesadas procedentes de la industria, la sociedad civil y el mundo académico, detalla la Politècnica.
En la selección de estos expertos se ha tenido en cuenta el equilibrio geográfico y de paridad de género. Hernández-Orallo ha sido seleccionado junto a dos expertos más por parte de España: Javier Del Ser y Asunción Gómez-Pérez. Serán nombrados para formar parte del panel por un mandato de 24 meses, renovable, a título personal.
El investigador de la UPV explica que el panel se centrará fundamentalmente en la IA de propósito general con riesgos sistémicos, "aquella que, por sus altas capacidades, alcance o novedad, pueda suponer un riesgo sistémico; es decir, una amenaza que puede afectar a sociedades o economías globales o a gran escala".
El panel tendrá una función de asesoramiento mediante grupos de trabajo a corto, medio y largo plazo, pero también de vigilancia constante con la posibilidad de comunicar alertas a la Oficina Europea de la IA sobre el riesgo de nuevos modelos o fenómenos preocupantes por el uso masivo de los mismos.
"Intentaré aportar rigor científico en la evaluación de capacidades y propensiones de la IA, basculando el trabajo del panel más hacia la anticipación de los riesgos de los sistemas frontera y de la superinteligencia futura, para complementar el trabajo de información y mitigación", añade el investigador de Vrain.
Hernández-Orallo es catedrático de la UPV, impulsor del AI Evaluation Program de la Fundación ValgrAI y en la actualidad director de investigación del Leverhulme Centre for the Future of Intelligence de la Universidad de Cambridge (Reino Unido). Su actividad académica y de investigación abarca diversos ámbitos de la IA (el aprendizaje automático, la ciencia de datos y la medición de la inteligencia) y se centra en un análisis más profundo de las capacidades, la generalidad, el progreso, el impacto y los riesgos de la IA. Desde 2017 ha liderado la agenda científica de la evaluación de la IA a través de nuevos paradigmas de medición y marcos evaluativos publicados en Nature, Science y las principales conferencias técnicas sobre IA. Además, es el fundador de aievaluation.substack.com y ai-evaluation.org.
