•  I
• a · A  I
• Accessibilitat  I
• Mapa web  I
• Cercar  I
• Directori

• ::  Sign in :: 

Un equip de la Universitat Politècnica de València, pertanyent a l'Institut Universitari Valencià de Recerca en Intel·ligència Artificial (VRAIN), està desenvolupant un guardià personal virtual amb tècniques d'intel·ligència artificial (IA) per a detectar comportaments maliciosos i pràctiques manipuladores en entorns de realitats socials híbrides, com és el metavers.

Aquest desenvolupament, que s'emmarca en el projecte guardIA, s'ha dut a terme amb tècniques d'IA i models computacionals del Grup de Recerca de Tecnologia Informàtica i Intel·ligència Artificial de VRAIN, amb Vicent Botti com a investigador principal. L’objectiu és garantir una interacció social més segura i sofisticada en els futurs espais socials de realitat híbrida aprofitant les capacitats de la intel·ligència artificial (IA).

Aquest guardià personal virtual sorgeix en resposta a l'augment de l'ús dels mitjans socials i la tecnologia en què les persones poden interaccionar en entorns virtuals immersius amb una relació sense precedents. I per detectar intencions o continguts poc fiables o maliciosos.

I és que, si bé avui ja hi ha interaccions intencionades amb els sistemes de recomanació i publicitat, basats en el comportament en línia, els agents que controlen les interaccions i els fluxos d'informació en les futures realitats socials híbrides tindran encara més avantatges per a explotar les debilitats de les persones que es troben en aquests entorns.

Sensibilització i conscienciació

Aquest guardià personal virtual interaccionarà amb l'usuari final i el sensibilitzarà i conscienciarà sobre possibles intents maliciosos i pràctiques manipuladores que en mitigaran els efectes.

El projecte guardIA consta, en una primera fase de desenvolupament, d'un exemple teòric i tecnològic que anticipa com les xarxes socials híbrides redefiniran les relacions socials, i quines seran les noves formes d'interacció social que sorgiran en els entorns virtuals, i identificaran les de més risc.

En segon lloc, el desenvolupament d'un assistent personalitzat de codi obert, basat en tècniques d'IA, que participarà en una interacció sofisticada amb l'usuari final, el sensibilitzarà i ajudarà a reconèixer possibles intents maliciosos i patrons de manipulació perquè se'n reduïsquen els efectes.

I, en tercer lloc, un procés de comprensió d'aquesta eina a nivell públic que també podrà ser aplicable a diversos camps.

Tal com destaquen els experts, en els propers 10-15 anys hi haurà noves eines a les xarxes socials del futur a disposició dels que vulguen manipular els usuaris amb fins polítics, comercials o de qualsevol altre tipus. No solament se centraran en l'essència d'un missatge sinó en la forma. Per exemple, els bots amb IA configurats amb edat, gènere i veu similars al de les persones per a desencadenar emocions i influir-ne en l’estat d'ànim i la seua capacitat de decisió. O imatges de persones en què es confia per a poder enganyar.

En aquest sentit, el director de VRAIN i investigador principal de guardIA, Vicent Botti, explica que “aquest projecte pretén contribuir a una interacció social més segura a les xarxes socials híbrides i facilitar el procés d'acceptació i adaptació dels usuaris a aquest nou entorn sociotecnològic. Per això, s'ha prestat una gran atenció a les estratègies de disseny i la participació activa dels usuaris a l'ecodisseny d’aquest, mitjançant estudis de validació i activitats de prova específiques per augmentar la confiança cap a aquest desenvolupament”.

L'objectiu d'aquest projecte, afegeix Vicent Botti, “coincideix amb la visió de VRAIN de mostrar una IA fiable i centrada en els seus beneficis per a les persones i la societat i per a abordar un problema que, encara que encara no existeix, sorgirà en el futur més proper en un termini de 10 a 15 anys”.

Context tecnològic

El desenvolupament d'aquest guardià virtual ha estat dissenyat tenint en compte l'incipient enlairament de camps com són la realitat virtual, realitat augmentada i realitat ampliada, que permetran la interacció lliure dins d'aquest, així com la tecnologia multisensorial, que permet el reconeixement de les emocions dels usuaris de manera fàcil, assequible i en temps real.

GuardIA busca, entre altres, resoldre problemes com ara la desinformació i la manipulació, que són fenòmens creixents que adoptaran noves formes amb els ràpids avenços tecnològics, fins i tot fins a arribar a un punt en què les imatges reals no puguen ser diferenciades de les falses. O el creixement dels assistents personals que, encara que actualment estan limitats a fer poques tasques, s'espera que en uns anys mostren un comportament intel·ligent com a veritables companys humans.

GuardIA és un projecte Prometeu finançat per la Conselleria dŽInnovació, Universitats, Ciència i Societat Digital de la Generalitat Valenciana per a grups d'investigació d'excel·lència, amb una durada de quatre anys que actualment es troba en el primer any de desenvolupament.