Proyecto HAIFEL
El Instituto VRAIN trabaja en el desarrollo de una inteligencia artificial que integre los valores de las personas en la toma de decisiones
[ 02/12/2024 ]
Un equipo del Instituto Universitario Valenciano de Investigación en Inteligencia Artificial (VRAIN) de la Universitat Politècnica de València (UPV) trabaja en la investigación de una inteligencia artificial (IA) que se adapte a las personas y sus valores, sus preferencias a la hora de tomar decisiones y que sea ética y explicable, es decir que explique por qué ha tomado esa decisión.
El proyecto HAIFEL (Human-centred Artificial Intelligence for Everyday Life) es un proyecto PROMETEO, financiado por la Generalitat Valenciana, que está liderado por el investigador de VRAIN y catedrático de la UPV, José Such, y la investigadora de VRAIN y catedrática de la UPV, Eva Onaindía, ambos investigadores principales del proyecto.
“La inteligencia artificial (IA) está cada vez más integrada en nuestra vida cotidiana, desde asistentes de IA hasta recomendaciones con sistemas de apoyo en la toma de decisiones, inteligentes y autónomos. Por lo que es fundamental que estos sistemas basados en IA se adapten a nosotros, las personas, nuestros valores y preferencias, para que podamos sacar el máximo partido de la IA y minimizar los riesgos asociados a su uso”, explica el investigador de VRAIN, José Such.
Y añade que para ello, la IA “debe comportarse éticamente y respetar nuestra intimidad y razonar, aprender y adaptarse a nuestras preferencias y valores, además de explicar lo que hace y por qué de una manera en la que las personas lo podamos entender y actuar en consecuencia, independientemente de los conocimientos que tengamos en inteligencia artificial”.
La investigadora Eva Onaindía añade que “para abordar el diseño de sistemas de soporte a la decisión adaptados a las preferencias y valores humanos, es necesario explorar y combinar técnicas de IA capaces de simular la inteligencia y el comportamiento humano, que permitan emular el proceso de pensamiento humano. Solo de ese modo, se podrá construir un sistema de inteligencia artificial que las personas perciban alineado con valores humanos y principios éticos".
Noticias destacadas
Magistrales 2026
El campus de Gandia acogió el acto con el que la UPV reconoce al profesorado de secundaria más valorado por sus estudiantes
Dones de ciència homenajea a la investigadora y divulgadora científica Conchi Lillo
El mural está situado en el IES Enric Valor de Picanya y es obra de la artista Udane Juaristi "Udatxo"
El CUPRA del futuro
10 estudiantes del Car Design Master de la UPV diseñan para la marca el todoterreno de altas prestaciones de 2040
El sueño de Nariman y Roba avanza en la UPV
Las estudiantes palestinas inician sus estudios de Ingeniería Informática con Nariman logrando un brillante 12,7 de nota de acceso
After the Storm
La UPV organiza un concurso internacional para estudiantes universitarios con el objeto de desarrollar estrategias paisajísticas sistémicas para un futuro más resiliente en la cuenca del barranco del Poyo
