Proyecto PRI4GENAI
Un equipo del Instituto VRAIN trabaja para proteger la privacidad de las personas en aplicaciones de IA generativa
[ 21/11/2024 ]
Un equipo del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) está trabajando en el desarrollo de asistentes para proteger la privacidad de las personas usuarias de aplicaciones de inteligencia artificial (IA) generativa. Lo hace en el marco del proyecto PRI4GENAI. Este proyecto propondrá también intervenciones educativas enfocadas fundamentalmente para niños, niñas y adolescentes con el objetivo de concienciarles sobre los riesgos de privacidad en este tipo de aplicaciones de inteligencia artificial.
El proyecto Privacy Risks in GenAI for Children, Teens and Adults (PRI4GENAI) está colaborando con la Cátedra de Infancia y Adolescencia de la UPV. Antes de realizar esta propuesta, está llevando a cabo un exhaustivo estudio sobre cómo las personas usuarias perciben los riesgos de privacidad en IA generativa y qué normas de privacidad consideran que se deben seguir al utilizar esta.
¿Cómo son quienes crean deepfakes?
En este sentido, se están marcando diferentes hitos dentro del proyecto para recoger datos sobre, por ejemplo, qué perfiles de personas crean deepfakes, qué motivación tienen para crearlas, y con qué objetivo se crean, entre otras investigaciones.
A partir de toda esta información, el equipo del proyecto llevará a cabo una serie de acciones educativas con colegios, y trabajará en el desarrollo de los nuevos asistentes de privacidad.
La Inteligencia Artificial (IA) generativa “se ha vuelto muy popular en los últimos años. Este uso genera preocupación por los posibles riesgos para la privacidad, incluido el intercambio de datos personales o confidenciales y uso indebido de la información personal generada, entre otros”, explica el investigador de VRAIN y catedrático de la UPV, José Such, quien, junto a Elena del Val, también investigadora del VRAIN y profesora titular de la UPV, son los investigadores principales del proyecto.
Hasta ahora, añade Elena del Val “la investigación sobre la privacidad en IA generativa se ha centrado en la perspectiva del modelo, por ejemplo riesgos de memorización y extracción de modelos de IA generativa. Sin embargo, no existe una investigación exhaustiva sobre la privacidad en IA generativa desde el punto de vista de los usuarios finales de las aplicaciones que utilizan este tipo de IA”.
Con la evidencia científica que se genere, el proyecto planteará intervenciones sociotécnicas que asistan a los usuarios a la hora de preservar y gestionar su privacidad cuando usan IA generativa.
El proyecto PRI4GENAI, del Ministerio de Ciencia, Innovación y Universidades, comenzó el pasado mes de septiembre y finalizará en septiembre de 2027.
Luis Zurano Conches / Área de comunicación UPV (ACOM)
Noticias destacadas
Formula Student 2025
El FSUPV Team brilla en Montmeló con 4 victorias y el subcampeonato absoluto de una competición con 60 equipos de 14 países
Diagnóstico: urge mejorar los Cercanías
Un estudio de la UPV reclama mejoras en los trenes de Cercanías para evitar que la comunidad universitaria dependa del vehículo privado para llegar al campus
Así vivían los mayas
Un estudio de la UPV y la Tulane University permite detectar edificios mayas abovedados bajo la selva y revela nuevas hipótesis sobre la organización de esta antigua civilización
José Capmany, premio Frontiers of Science 2025
Por el artículo "Programmable photonic circuits" publicado en la revista Nature
Cómo construir viviendas sociales más baratas, sostenibles y de forma más rápida
Investigadores desarrollan una herramienta para ayudar a gobiernos y profesionales del sector de la construcción a edificar viviendas sociales de forma más eficiente, económica y respetuosa con el medio ambiente
