Proyecto HAIFEL
El Instituto VRAIN trabaja en el desarrollo de una inteligencia artificial que integre los valores de las personas en la toma de decisiones
[ 02/12/2024 ]
Un equipo del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) trabaja en la investigación de una inteligencia artificial (IA) que se adapte a las personas y sus valores, sus preferencias a la hora de tomar decisiones y que sea ética y explicable, es decir que explique por qué ha tomado esa decisión.
El proyecto HAIFEL (Human-centred Artificial Intelligence for Everyday Life) es un proyecto PROMETEO, financiado por la Generalitat Valenciana, que está liderado por el investigador de VRAIN y catedrático de la UPV, José Such, y la investigadora de VRAIN y catedrática de la UPV, Eva Onaindía, ambos investigadores principales del proyecto.
“La inteligencia artificial (IA) está cada vez más integrada en nuestra vida cotidiana, desde asistentes de IA hasta recomendaciones con sistemas de apoyo en la toma de decisiones, inteligentes y autónomos. Por lo que es fundamental que estos sistemas basados en IA se adapten a nosotros, las personas, nuestros valores y preferencias, para que podamos sacar el máximo partido de la IA y minimizar los riesgos asociados a su uso”, explica el investigador de VRAIN, José Such.
Y añade que para ello, la IA “debe comportarse éticamente y respetar nuestra intimidad y razonar, aprender y adaptarse a nuestras preferencias y valores, además de explicar lo que hace y por qué de una manera en la que las personas lo podamos entender y actuar en consecuencia, independientemente de los conocimientos que tengamos en inteligencia artificial”.
La investigadora Eva Onaindía añade que “para abordar el diseño de sistemas de soporte a la decisión adaptados a las preferencias y valores humanos, es necesario explorar y combinar técnicas de IA capaces de simular la inteligencia y el comportamiento humano, que permitan emular el proceso de pensamiento humano. Solo de ese modo, se podrá construir un sistema de inteligencia artificial que las personas perciban alineado con valores humanos y principios éticos".
Noticias destacadas
Un Grammy Latino... con sello UPV
"La música nos enseña a escuchar y a convivir", afirma Rafael Serrallet, doctor en Música por la UPV galardonado en Las Vegas como autor del Mejor Álbum Instrumental de 2025
¡Dibuja la Ciencia en Navidad 2025 ya tiene ganadores!
Un año más, el concurso ha estado lleno de imaginación, color y mucha I+D con sello UPV. En total, se han presentado 248 dibujos.
El Beihang Valencia Polytechnic Institute (BVPI) avanza con paso firme
El rector José E. Capilla y el presidente de la BUAA, Yunpeng Wang, firman cuatro acuerdos para crear nuevos laboratorios conjuntos de I+D, en el marco de la visita institucional que una delegación de la BUAA ha realizado esta semana a la UPV
Highly Cited Researchers 2025
Avelino Corma, Juan Bisquert y Luis Guanter, la élite científica internacional con sello de la Universitat Politècnica de València
Detección precoz del cáncer con IA explicable
El Instituto VRAIN de la UPV participa en un proyecto para cambiar la forma en que Europa aborda el cribado del cáncer, gracias al poder colectivo de los datos compartidos
Jornada Cátedras de Empresa
La UPV se posiciona como primera universidad española en número de convenios de cátedras activos
