Perquè la desinformació no es viralitze

Investigadors de la Universitat Politècnica de València (UPV) han desenvolupat un nou sistema d’alerta primerenca que permet identificar, en les primeres fases d’una crisi, quins continguts potencialment falsos o enganyosos presenten a més un major risc de fer-se virals. El mètode, denominat Disinformation Diffusion Virality Risk Index (DDVRI), està pensat per a ajudar a prioritzar quins missatges haurien de ser revisats abans per equips de verificació i comunicació.

El treball l’han desenvolupat J. Ernesto Solanes, Juan José Climent-Ferrer, Flavio Moriniello, Ana Martí-Testón, Adolfo Muñoz i Luis Gracia, tots del grup Hume de l’Institut de Disseny i Fabricació de la UPV. “No n’hi ha prou amb determinar si una informació pot ser falsa; també cal saber si té possibilitats de difondre’s àmpliament i convertir-se en un problema rellevant. I això és el que el nostre treball permet conèixer”, apunta Juan José Climent Ferrer.

El DDVRI analitza només dades disponibles en les primeres fases de circulació del missatge, entre les quals hi ha el contingut, les característiques de la font, la velocitat de difusió i l’estructura de propagació. El sistema genera després una classificació que permet concentrar els recursos de verificació en els continguts amb més risc.

Tres vegades més casos de risc entre les primeres alertes

L’equip de la UPV ha avaluat la metodologia amb dues bases de dades obertes. La primera, PHEME, reuneix converses i rumors de Twitter associats a esdeveniments d’actualitat; la segona, CoAID, inclou notícies i afirmacions tant falses com verdaderes relacionades amb la COVID-19, i dades sobre la interacció d’aquestes notícies i afirmacions en les xarxes socials.

En l’experiment amb PHEME, el sistema va fer servir les primeres sis hores d’activitat per a estimar quins continguts aconseguirien una difusió elevada en un horitzó de 72 hores. Entre els 50 missatges situats en les primeres posicions de cada esdeveniment, la presència de continguts que combinaven risc factual i alta difusió va ser aproximadament tres vegades superior a la prevalença mitjana d’aquests casos en el conjunt analitzat.
Els resultats amb CoAID van confirmar també la utilitat de l’eina per a concentrar en les primeres posicions els continguts de major risc. En una de les configuracions del model, el 27 % dels 50 primers missatges seleccionats corresponia a casos que combinaven desinformació i alta amplificació.

Una eina per a prioritzar, no per a censurar

L’equip de l’IDF planteja el DDVRI com a suport a equips de verificació, institucions i serveis de comunicació que treballen amb una capacitat de revisió limitada. Les alertes orienten quins continguts cal examinar primer; la comprovació de la veracitat d’aquests continguts i qualsevol decisió posterior corresponen als equips humans.

“El sistema no està plantejat per a decidir automàticament quins continguts s’han d’eliminar d’una xarxa social. El nostre objectiu és fer que el sistema funcione diguem-ne com una eina de triatge i priorització, per a ajudar equips humans de verificació, institucions o serveis de comunicació a decidir on cal concentrar primer una capacitat de revisió que sol ser limitada”, explica Juan José Climent Ferrer.

El treball ha rebut finançament del programa Digital Europe de la Unió Europea, a través del projecte AI-SECRETT, del Govern d’Espanya i de la Generalitat Valenciana.

Referència

Solanes, J. E.; Climent-Ferrer, J. J.; Moriniello, F.; Martí-Testón, A.; Muñoz, A.; Gracia, L. Explainable Early-Warning of High-Amplification Crisis-Related Disinformation in Social Media Streams. Electronics, 2026, 15, 3586. DOI: 10.3390/electronics15163586.