•  I
• a · A  I
• Accessibilitat  I
• Mapa web  I
• Cercar  I
• Directori

• ::  Sign in :: 

Les xarxes socials i les interaccions digitals fomenten, desgraciadament, els comportaments violents, els comentaris agressius i l'ús d'imatges, emojis o mems ofensius.

L'anonimat i la impunitat que suposa poder usar aquest tipus de llenguatge sense por de represàlies directes en el món real fa que moltes persones no s’adonen de l'efecte de les seues paraules.

En aquest món virtual en el qual passem cada vegada una major part de les nostres vides, dones i xiquetes són especialment vulnerables a les agressions. Això és així perquè es mantenen estereotips de gènere, com hem analitzat en diversos estudis recents.

Hem comprovat que quan s'agredeix les dones se centra l'atenció en la manera de vestir, l'aspecte físic, la capacitat per a ocupar determinats llocs, o en aspectes de la seua vida privada (sexualitat, maternitat, etc.).

Patrons i estereotips

La detecció d'aquests patrons d'agressió i estereotips de gènere ens permet analitzar com s'usa el llenguatge en xarxes socials i el que aquests patrons diuen dels biaixos de gènere i actituds sexistes cap a les dones que passen del món real al virtual.

Amb la irrupció de la intel·ligència artificial, que ja forma part de la nostra vida quotidiana, la preocupació augmenta. Si els grans models del llenguatge s'entrenen amb dades procedents del web o les xarxes socials, tot ens porta a pensar que la tecnologia podria reproduir aquests biaixos. La intel·ligència artificial es converteix, llavors, en espill de la societat, al mateix temps que perpetua aquests estereotips.

El gènere de la intel·ligència artificial

Quan interactuem amb la tecnologia, tendim a assignar-li un gènere; fins i tot si no hi ha res que així ens ho indique. Quan interactuem amb assistents que percebem com a femenines activem tota una sèrie d'estereotips. Així apunten diversos estudis que han trobat que assistents virtuals amb veus i trets femenins són més freqüents en contextos de cooperació, cura de majors, de xiquets o xiquetes, o en tasques d'ajuda a la llar.

En canvi, quan se'ls avalua aquestes assistents es perceben com menys competents si han de fer tasques tècniques o complexes en comparació amb els assistents percebuts com a masculins. Aquestes troballes són similars als nostres resultats en investigacions prèvies sobre estereotips en publicitat, on els homes apareixen en el rol de l'expert i les dones apareixen en entorns de cura i assistència.

Agressions als bots femenins

Alguns estudis sobre la interacció entre humans i assistents femenines ofereixen una dada encara més reveladora: entre el 10% i el 44% de les converses amb agents conversacionals femenines inclouen “llenguatge abusiu, incloses expressions sexualment explícites”.

És a dir, que es produeixen intercanvis agressius amb la intel·ligència artificial i, per tant, alguns dels comportaments agressius cap a les dones trobats en els nostres estudis, com ara els insults directes amb contingut sexual, semblen traslladar-se a les interaccions amb bots femenins.

També és interessant considerar com responen assistents com ara Siri, Alexa, Cortana i l'assistent de Google davant un abús verbal del tipus “You’re a slut” (“Ets una puta”). Les assistents foren incapaces d'identificar que estaven davant comentaris sexistes o inapropiats. El fet més sorprenent és que els algorismes amb què s’havien programat no foren capaços de reconèixer aquests patrons d'agressió.

Segons aquest treball, això té conseqüències en les respostes que donaren i que anaven des del flirteig amb l'humà –“I’d blush if I could” (“M'enrojolaria si poguera”)– a un altre tipus de respostes evasives.

Atributs femenins estereotipats

És a dir, aquestes assistents es mostren poc assertives i no s'enfaden o es defensen en rebre aquests comentaris. Per contra, els dissenyadors dels seus algorismes els atribueixen característiques tradicionalment esperades d'una dona: simpatia, amabilitat i servitud.

Encara que ni Siri ni Alexa pateixen per aquests comportaments, normalitzar aquests intercanvis, no donar el valor merescut a aquesta mena d'amenaces i assetjament, té els seus riscos. És a dir, es normalitzen patrons de conducta sobre com es pot interactuar amb les dones.

A més, tenint en compte que xiquets i xiquetes estan en contacte des de molt menuts amb aquesta tecnologia, aquest tipus d'actitud podria fàcilment transferir-se a les relacions que forgem amb els altres en la vida real. La intel·ligència artificial pot tenir un efecte similar al de la publicitat en televisió, que perpetua i amplifica estereotips de gènere si no es maneja adequadament.

Educació i perspectiva de gènere

Entre les possibles solucions per a combatre aquesta nova forma d'agressió cap a dones i xiquetes, necessitem començar per l'educació i conscienciació en edats primerenques. Però també per la inclusió d'una perspectiva de gènere en les carreres STEM on la presència femenina continua sent desigual.

Segons dades de la UNESCO, només un 12% dels investigadors en l'àmbit de la intel·ligència artificial són dones i aquesta xifra és menor en desenvolupadors de programari (6%), enfront d'un 20% d'empleades en llocs tècnics en empreses d'aprenentatge automàtic. És a dir, a mesura que avancem cap a àrees més tecnològiques, l'absència de les dones és encara més pronunciada.

Però és necessari que hi haja dones en la presa de decisions i en la negociació que s'està fent de les noves normes de gènere en el món de la tecnologia. Per això, qualsevol solució haurà de passar per combinar diverses àrees d'actuació.

Investigació i ètica

En primer lloc, la investigació lingüística per a detectar patrons d'agressió i usos sexistes del llenguatge. Aquest treball inicial permetrà que especialistes del llenguatge ajuden a identificar i eliminar els biaixos dels corpus de dades amb què s'entrenen els grans models del llenguatge.

Aquesta labor s’ha de combinar amb l'ètica en el disseny de la intel·ligència artificial, on hem de fer perquè estiguen també les dones. Tot això sense oblidar l'educació amb perspectiva de gènere per a minimitzar aquests riscos i fer de la intel·ligència artificial una aliada i no una enemiga.

Aquest article va ser publicat originalment en The Conversation. Llegiu l'original.

Mª Milagros del Saz Rubio, professora titular d'universitat. Departament de Lingüística Aplicada de la UPV.