La IA agentiva pot augmentar riscos de privacitat o millorar-la

Els agents autònoms poden millorar la privacitat en actuar amb assistents personals que ajuden a navegar per polítiques complexes

[ 24/04/2026 ]

Experts internacionals de l'àmbit de la regulació, seguretat i investigació sobre privacitat han destacat la doble vessant de la intel·ligència artificial agentiva. D'una banda, els agents autònoms poden augmentar els riscos de la privacitat, amb el foment de l'excés d'intercanvi d'informació, i actuar sense que l'usuari en siga plenament conscient en difuminar els límits legals, com el consentiment marc del RGPD. I d'altra banda, pot convertir-se en una eina que millore la privacitat en actuar amb assistents personals que ajuden els usuaris a navegar per polítiques complexes de privacitat i a gestionar permisos.

Aquestes han sigut algunes de les conclusions més destacades de la taula de debat “Seguretat i privacitat en la IA” celebrada en el marc del taller SPRINT sobre seguretat i privacitat en intel·ligència artificial que se centra en els reptes relacionats amb la seguretat i privacitat de la intel·ligència artificial, especialment en els sistemes d'IA generativa i IA agentiva, tant des d'una perspectiva de sistemes com centrada en les persones.

El taller ha sigut organitzat pel Laboratori de Seguretat, Ètica i Privacitat de la IA Centrada en l'Ésser Humà (HASP) d'INGENIO (CSIC-UPV) i l'Institut Universitari Valencià d'Investigació en Intel·ligència Artificial (VRAIN) de la Universitat Politècnica de València (UPV) en el marc del projecte “SPRINT: Seguretat i Privacitat en Sistemes amb Intel·ligència Artificial” (C063/23), part del conveni entre INCIBE i la Universitat Politècnica de València inclòs en els Projectes Estratègics a Espanya, en el marc del Pla de Recuperació, Transformació i Resiliència, amb el finançament dels fons Next Generation-EU .

La taula de debat ha comptat amb el catedràtic d'Informàtica de la Universitat Rovira i Virgili de Tarragona, Josep Domingo-Ferrer, la catedràtica d'informàtica de la Universitat Karstad i de la Universitat Tecnològica de Chalmers (Suècia), Simone Fischer-Hübner, l'adjunt del director d'Innovació i Tecnologia de l'Agència Espanyola de Protecció de Dades, Daniel Mercader Rodríguez, i la professora associada del King¿s College de Londres, Ruba Abu-Salma. I ha sigut moderada per la investigadora postdoctoral en VRAIN de la UPV, Rongjun Dt..¿

Privacitat en les dades d'interacció, més que en els d'entrenament

Un altre dels aspectes destacats d'aquest debat s'ha centrat en com els riscos per a la privacitat de la IA ja no es refereixen principalment a les dades d'entrenament, sinó a les d'interacció. Encara que les investigacions suggereixen que els models d'aprenentatge automàtics moderns i ben dissenyats tenen en compte aquestes característiques i són relativament robustos contra els atacs tradicionals a la privacitat durant el seu entrenament, els sistemes d'IA generativa introdueixen una nova capa de risc ja que processen contínuament i poden aprendre de les dades introduïdes pels usuaris en temps real.

Contribuents actius de dades sensibles durant el seu ús

En aquest sentit, el panorama actual de les amenaces es transforma de manera substancial, ja que els usuaris ja no són mers subjectes que proporcionen dades, sinó que es converteixen en contribuents actius de dades sensibles durant el seu ús. I no arriben a entendre del tot com aquestes dades poden reutilitzar-se, conservar-se o influir en sistemes futurs.

Aquesta taula de debat va abordar quatre temàtiques principals. D’una banda, es van analitzar els riscos per a la seguretat i la privacitat en la IA generativa. D’altra banda, es van tractar els possibles riscos agreujats amb l'auge de la IA agentiva. A més de les parts implicades i on recau la responsabilitat. I, finalment, les orientacions futures per a la seguretat i la privacitat des del disseny.

Adopció informada i recolzada per noves directrius

En aquest sentit, quant a les parts implicades i on recau la responsabilitat en matèria de seguretat, els experts van destacar que, des d'una perspectiva reguladora, l'auge dels agents d'IA planteja reptes immediats. Així, autoritats com l'Agència Espanyola de Protecció de dades ja observa que les empreses estan adoptant aquest tipus de tecnologies sense arribar a comprendre plenament els riscos associats. En aquest sentit, les actuacions s'encaminen a garantir una adopció informada i recolzada per noves directrius, com els recents llibres blancs d'implementació segura.

Una altra de les conclusions d'aquest debat en la qual van coincidir els experts és assenyalar que la privacitat en la IA ja no és una característica de disseny puntual, sinó un procés continu. I van assenyalar que, com que els sistemes d'IA evolucionen a través d'interaccions i actualitzacions contínues, una protecció eficaç de la privacitat requereix auditories constants, supervisió i conscienciació dels usuaris, en lloc de comprovacions de compliment estàtiques.

Projectes estratègics d'INCIBE

INCIBE té com a missió particular l'impuls de les capacitats en ciberseguretat de la societat i l'economia en general a través d'un programa que persegueix la promoció i generació del coneixement i la transferència d’aquest al sector productiu, especialment establint sinergies entre els àmbits socials i econòmics de la ciberseguretat. Per a desenvolupar aquest propòsit es va llançar en el 2018 el programa d'ajudes per a l'excel·lència dels equips d'investigació avançada en ciberseguretat. En el 2022, en concret el passat 5 de desembre, per a donar continuïtat a aquesta estratègia es va publicar la invitació pública per a la col·laboració en la promoció de Projectes Estratègics de Ciberseguretat a Espanya.

Aquestes iniciatives s'engloben dins del Programa Global d'Innovació en Seguretat, recollit en el Pla de Recuperació, Transformació i Resiliència (PRTR) a través del Component 15. Inversió 7 Ciberseguretat: Enfortiment de les capacitats de ciutadans, pimes i professionals i impuls del sector.

Els projectes estratègics són una manera d'aportar solucions concretes a alguns dels majors reptes científics i tecnològics de la nostra societat i economia. Estan destinats a impulsar l'aplicació dels resultats de la investigació i la innovació, combinant noves formes de governança i col·laboració, així com involucrant la ciutadania i el teixit productiu i social.

Notícies destacades


ARWU 2026 ARWU 2026
El rànquing de Shanghai destaca un any més la UPV com la millor politècnica d'Espanya
Magistrals 2026 Magistrals 2026
El campus de Gandia va acollir l'acte amb el qual la UPV reconeix al professorat de secundària més valorat pels seus estudiants
Dones de Ciència homenatja la investigadora i divulgadora científica Conchi Lillo Dones de Ciència homenatja la investigadora i divulgadora científica Conchi Lillo
El mural està situat en l'IES Enric Valor de Picanya i és obra de l'artista Udane Juaristi "Udatxo"
El CUPRA del futur El CUPRA del futur
10 estudiants del Màster en Car Design de la UPV dissenyen per a la marca el tot terreny d'altes prestacions del 2040
El somni de Nariman i Roba avança a la UPV El somni de Nariman i Roba avança a la UPV
Les estudiants palestines inicien els estudis d'Enginyeria Informàtica i Nariman aconsegueix una nota d'accés brillant, un 12,7
After the Storm After the Storm
La UPV organitza un concurs internacional per a estudiants universitaris a fi de desenvolupar estratègies paisatgístiques sistèmiques per a un futur més resilient en la conca del barranc de Poio


Contacta amb nosaltres

Envia'ns un suggeriment, una queixa o una felicitació. Consulta'ns directament els teus dubtes. Evita desplaçaments i esperes