- -
UPV
 

Inteligencia artificial y privacidad

La UPV lidera un grupo de investigación internacional que ha identificado los cuatro grandes retos para que la IA respete la privacidad de los usuarios

[ 26/06/2025 ]

El investigador del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) y catedrático de la Universitat Politècnica de València (UPV), José Such, lidera un grupo de investigación internacional con 16 expertos del mundo académico, la industria y la administración de diferentes países y universidades de EE. UU., Reino Unido y Alemania, entre otros, que ha identificado los cuatro grandes retos para que la inteligencia artificial respete la privacidad de los usuarios.

El primero de los cuatro retos identificados, que marcarán la hoja de ruta de la investigación en esta materia a nivel mundial durante los próximos años, es el de la privacidad inclusiva: es necesario estudiar y reforzar la privacidad de las poblaciones de riesgo -bien sea discriminación por sexo, edad, orientación sexual, origen étnico, discapacidad, condiciones de salud, religión, circunstancias personales o factores socioculturales- de forma responsable y ética.

Apoyo a la toma de decisiones reversibles

En segundo lugar, diseñar y desarrollar un mejor apoyo y comunicación para la toma de decisiones (reversibles) y comunicaciones relacionadas con la privacidad. En tercer lugar, aquellas cuestiones que tienen que ver con la privacidad y la inteligencia artificial para capacitar a los usuarios en la gestión de su privacidad dentro de los sistemas de IA, y promover un funcionamiento transparente y explicable.

Y, en cuarto lugar, aquella que tiene que ver con la privacidad multiusuario, cuando la privacidad de las personas se ve afectada por la información compartida por otros, y en la que es necesario proporcionar las herramientas adecuadas para apoyar a los usuarios.

Las conclusiones de este equipo se han desarrollado en el artículo colaborativo “Grandes retos de la privacidad centrada en el ser humano? y se han publicado en la revista IEEE Security & Privacy.

Tal y como explica el investigador de VRAIN de la UPV, José Such, “este artículo ofrece un punto de partida para quienes, en el mundo académico, la industria o la administración pública, estén interesados en impulsar la agenda de la privacidad centrada en el ser humano y orientar la investigación y la práctica centradas en el ser humano, para abordar los problemas de privacidad de las tecnologías modernas”.

Además, el investigador del Instituto VRAIN de la UPV ha sido invitado como destacado experto en esta materia al seminario internacional Future of Human-Centered Privacy que se celebra esta semana en la ciudad alemana de Dagstuhl.

Noticias destacadas


Mekreo, el éxito de un proyecto de vida Mekreo, el éxito de un proyecto de vida
Eliminar residuos plásticos agrícolas es el objetivo, desde hace dos décadas, de Elena Moreno y Miguel García, los dos egresados UPV ganadores del Climate Launchpad Spain 2025
EmoWELL EmoWELL
Un equipo de la UPV y la UV crea un videojuego que ayuda a mejorar la gestión emocional en jóvenes universitarios
Profeta en su tierra Profeta en su tierra
Dones de Ciència rinde tributo en Benifaraig a Amparo Chiralt
Myko, ¿el futuro de la construcción sostenible? Myko, ¿el futuro de la construcción sostenible?
Dos estudiantes de la UPV, apoyados por IDEAS, ganan la 5ª edición del imaginPlanet Challenge y alcanzan la final europea del Climate Launchpad
Referente en la I+D+I con sello UPV Referente en la I+D+I con sello UPV
El Instituto ai2 de la UPV cumple 25 años de investigación con más de 1000 proyectos de I+D+i a sus espaldas, 37 patentes y 4 spin-off
Combustibles más eficientes Combustibles más eficientes
El Instituto de Tecnología Química (CSIC-UPV) publica en la revista 'ACS Catalysis' el desarrollo de nuevos catalizadores para reutilizar el dióxido de carbono, sustancia clave en el calentamiento global



EMAS upv