- -
UPV
 

MISMIS-FAKEnHATE

Intel·ligència artificial per a detectar desinformació i missatges d'odi en els mitjans socials de comunicació

[ 10/12/2019 ]

Un equip investigador de la Universitat Politècnica de València (UPV) ha desenvolupat un sistema d'intel·ligència artificial que permet detectar desinformació i missatges d'odi, tant explícits com implícits, en els mitjans socials de comunicació.

En fase de prototip, el sistema ha sigut utilitzat ja per a localitzar atacs en les xarxes a dones i immigrants, a més de desinformació, aplicant amb aquesta finalitat tècniques d'aprenentatge profund (deep learning).

És el primer resultat de MISMIS-FAKEnHATE, un projecte liderat pel centre Pattern Recognition and Human Language Technology (PRHLT-UPV), i finançat pel Ministeri de Ciència, Innovació i Universitats. En aquest, participa també personal expert de la Universitat Nacional d'Educació a Distància (UNED) i la Universitat de Barcelona (UB), i col·labora, com a entitat promotora observadora, la Policia Local de València.

Tendència a compartir la informació que concorda amb les nostres creences..., sense comprovar-ne la veracitat

Tal com explica Paolo Rosso, del PRHLT-UPV, avui dia, en molts casos, la ciutadania acaba rebent en els mitjans socials de comunicació només la informació que concorda amb les seues creences i punts de vista, amb el consegüent risc d'aïllament intel·lectual (bombolla d'informació).

"Un efecte pervers de situacions així és que, quan la informació corrobora les nostres creences, tendim a compartir-la sense comprovar-ne la veracitat, la qual cosa facilita la propagació de desinformació, les anomenades fake news", apunta Rosso.

A més, el relatiu anonimat dels mitjans socials afavoreix la propagació d'un llenguatge agressiu, de missatges d'odi i exclusió, que fomenten la separació en comunitats cada vegada més polaritzades en les seues opinions. "Es tendeix a una escassa argumentació en els continguts, que sovint es limiten a uns pocs insults", afig Anastasia Giachanou, investigadora també del PRHLT de la UPV.

Identificació de la desinformació des d'una perspectiva multimodal

Partint d'aquesta anàlisi, el primer dels prototips desenvolupat per la UPV, la UNED i la UB permet identificar la desinformació a partir d'una anàlisi automàtica, tant del llenguatge utilitzat com de les emocions que subjauen a aquest text. Amb aquesta finalitat, és capaç de destriar emocions bàsiques com la por, la ira o la sorpresa, entre altres. De moment, ho fa fonamentalment sobre informació escrita, si bé comença a treballar també amb imatges.

En aquest sentit, Giachanou -que desenvolupa la investigació en el PRHLT de la UPV gràcies a una beca de la Fundació Nacional per a la Ciència de Suïssa (SNSF n'és la sigla en anglès)- indica que l'objectiu és "identificar la desinformació des d'una perspectiva multimodal, combinant la informació textual amb la visual a través de tècniques basades en l'aprenentatge profund. A més, es durà a terme una anàlisi multilingüe quan la informació siga en llenguatges diferents". El sistema, així mateix, ajudarà també a perfilar si l'autoria d'una notícia falsa és un bot o una persona.

Missatges d'odi i conspiracions

D'altra banda, el nou prototip detecta també un llenguatge agressiu i missatges d'odi en els mitjans socials de comunicació. Per a monitorar-los, l'equip de la UPV, la UNED i la UB proposa un enfocament terminològic, extraient termes i patrons lingüístics d'odi a partir de conjunts de dades analitzades anteriorment, i el monitoratge sistemàtic en cas que aquests siguen emprats en noves converses virtuals.

Com a pròxim repte, el grup investigador treballa en la classificació dels patrons i trets de la personalitat que s'amaguen darrere dels haters (literalment: odiadors/enemics/seguidors hostils, que són persones que difamen, menyspreen o ataquen, de manera continuada, alguna cosa o algú) de les xarxes socials.

Més informació

Notícies destacades


Mekreo, l'èxit d'un projecte de vida Mekreo, l'èxit d'un projecte de vida
Eliminar residus plàstics agrícoles és l'objectiu, des de fa dues dècades, d'Elena Moreno i Miguel García, els dos llicenciats UPV guanyadors del Climate Launchpad Spain 2025
EmoWELL EmoWELL
Un equip de la UPV i la UV crea un videojoc que ajuda a millorar la gestió emocional en gent jove universitària
Profeta a la seua terra Profeta a la seua terra
Dones de Ciència rendeix tribut a Benifaraig a la investigadora Amparo Chiralt
Myko, el futur de la construcció sostenible? Myko, el futur de la construcció sostenible?
Dos estudiants de la UPV, secundats per IDEES, guanyen la 5a edició de l'imaginPlanet Challenge i aconsegueixen la final europea del Climate Launchpad
Referent en l'R+D+I amb segell UPV Referent en l'R+D+I amb segell UPV
L'Institut ai2 de la UPV compleix 25 anys d'investigació amb més de 1000 projectes d'R+D+I a càrrec seu, 37 patents i 4 spin-off
Combustibles més eficients Combustibles més eficients
L'Institut de Tecnologia Química (CSIC-UPV) publica en la revista 'ACS Catalysis' el desenvolupament de nous catalitzadors per a reutilitzar el diòxid de carboni, substància clau en el calfament global



EMAS upv