Contra el sexisme en mems i vídeos de TikTok

Un equip d'investigadors del grup PRHLT de la Universitat Politècnica de València (UPV) ha desenvolupat un nou sistema d'intel·ligència artificial que ajuda a detectar continguts i missatges sexistes en mems i vídeos de TikTok. El sistema combina l'anàlisi del contingut dels vídeos amb dades sobre l'activitat cerebral, el moviment dels ulls i el ritme cardíac dels espectadors.

“Moltes vegades, tant en els mems com en els vídeos de TikTok, hi ha continguts en què el sexisme apareix camuflat mitjançant l'humor, la ironia, els estereotips o comentaris aparentment inofensius. A més, per a interpretar correctament un vídeo és necessari tenir en compte simultàniament el llenguatge, els textos que apareixen en pantalla, les imatges, els gestos i el context. El nostre sistema ajuda a detectar i denunciar aquests continguts sexistes de forma més eficaç que els sistemes utilitzats actualment”, apunta Iván Arcos, investigador del PRHLT.

Què ocorre quan veiem contingut sexista?

Per a desenvolupar el sistema, els investigadors van analitzar uns quatre mil mems i uns dos mil cinc-cents vídeos de TikTok en espanyol i anglès, procedents dels conjunts de dades d’EXIST, una competició internacional sobre detecció de sexisme en xarxes socials. “Treballem amb deu persones en l'estudi amb vídeos i, amb setze, en el de mems, les quals van visualitzar aquests continguts mentre s’enregistraven les seues respostes mitjançant seguiment ocular, electroencefalografia (EEG) i mesurament del ritme cardíac”, explica Paolo Rosso, catedràtic del Departament de Sistemes Informàtics i Computació i membre de ValgrAI (Valencian Graduate School and Research Network of Artificial Intelligence).

I, tal com arreplega l'estudi, les reaccions davant continguts sexistes i no sexistes van ser molt diferents. Els vídeos sexistes van generar, entre altres efectes, majors temps de reacció i un increment de les fixacions de la mirada, a més de diferències en determinats patrons d'activitat cerebral. En concret, el nombre mitjà de fixacions de la mirada va augmentar en els vídeos en els quals mostren o jutgen situacions sexistes.

Els moviments ràpids dels ulls d'un punt a un altre (moviments sacàdics) i els parpellejos van seguir la mateixa tendència, i el ritme cardíac va mostrar fluctuacions majors davant els vídeos sexistes. En el cas dels mems es va observar un patró similar.

“La resposta també variava segons el tipus de sexisme. L'estudi distingeix, per exemple, entre sexisme directe i continguts que mostren o jutgen situacions sexistes, la interpretació correcta de les quals exigeix comprendre millor la intenció i el context del missatge”, explica Iván Arcos.

Segons els investigadors, aquestes diferències en la mirada reflecteixen una major càrrega cognitiva: com més difícil és interpretar un contingut, més es deté i es desplaça la mirada, perquè l'espectador explora la pantalla a la recerca de pistes (el text, els gestos, el context) abans de decidir què significa. Per això l'efecte és màxim en els vídeos que mostren o jutgen situacions sexistes, en els quals no n'hi ha prou de reconèixer el que apareix en pantalla, sinó que a més cal deduir quina és la postura de qui el publica.

“L’ EEG enregistra l'activitat elèctrica del cervell a través de 16 elèctrodes, o canals, col·locats sobre el cap, i permet distingir entre ones cerebrals lentes i ràpides. Quan els subjectes veien un vídeo sexista, les ones lentes (delta, theta i alfa) perdien intensitat en els canals de la zona central i parietal, és a dir, en la part alta i posterior del cap. Pot semblar contradictori, però és un senyal que el cervell està prestant més atenció: aquestes ones, sobretot les alfa, són més intenses quan el cervell està relaxat i es redueixen quan es concentra”, explica Iván Arcos.

En canvi, en els vídeos que mostren o jutgen situacions sexistes, a diferencia dels de sexisme directe, van augmentar les ones ràpides (beta i gamma) en els canals de la part frontal i del costat dret del cap. “Aquestes ones s'associen a un raonament més elaborat. El sexisme directe n'hi ha prou de reconèixer-lo, però en aquests vídeos el cervell ha d'analitzar el context per a entendre què vol dir qui els publica”, afig Arcos.

Per la seua part, els vídeos de violència sexual van reduir la intensitat de les ones cerebrals en tots els canals en els quals es van detectar diferències, sobretot en el costat dret del cap. Com ocorria amb els vídeos sexistes en general, aquesta reducció indica una major implicació del cervell, en aquest cas davant un contingut emocionalment molt desagradable. A més, que es concentre en el costat dret coincideix amb estudis previs que mostren que els dos hemisferis no processen les emocions de la mateixa forma.

Per identificar continguts sexistes i actuar-hi

A partir d'aquestes diferències, l'equip de la UPV va desenvolupar el model d'intel·ligència artificial, combinant els senyals fisiològics amb la informació textual i visual extreta dels vídeos. El treball s'acaba de presentar en el XLII Congrés Internacional de la Societat Espanyola de Processament del Llenguatge Natural. “Davant del sistema basat únicament en text i imatges, la incorporació de les respostes fisiològiques va millorar vora un 4% la detecció de si un vídeo era sexista o no; i de més d'un un 6% la diferenciació entre sexisme directe i valoratiu, així com la classificació de les diferents categories de sexisme. Les millores majors es donen precisament en els casos més difícils, quan cal interpretar la intenció del missatge o distingir les categories més ambigües, com la cosificació o la desigualtat ideològica. En el cas dels mems, la millora va aconseguir el 26,3% en la categoria més difícil d'identificar, la misogínia i violència no sexual. Així, en detectar millor el sexisme, inclòs el més implícit o camuflat, la nostra eina podria ajudar les plataformes a identificar aquests continguts i actuar-hi ”, conclou Paolo Rosso.

Referència

Arcos I., Rosso P., Gomis E. Human-“Centered Multimodal Fusion for Sexism Detection in Memes with Eye-Tracking, Heart Rate, and EEG Signals”. In: Proc. Language Resources and Evaluation Conference (LREC), pàg. 9830-9840 (2026)

Arcos, I.; Rosso, P. “Human-*Centered Multimodal Fusion for Sexism Detection in TikTok Vídeos with Eye-*Tracking, Heart Rate, and EEG Signals”. Processament del Llenguatge Natural, 77, 357-369 (2026).