AICEC-ADICAE analitza com els sistemes algorítmics influeixen en les decisions de consum i poden afectar els drets de les dones.
En l’actual ecosistema digital, els algoritmes determinen gran part de la nostra experiència com a persones consumidores. Decideixen quins productes veiem primer, quines ofertes rebem i fins i tot quin preu se’ns mostra. Allò que sovint percebem com a processos automàtics i neutres pot, en realitat, reproduir desigualtats socials preexistents, incloses les de gènere.
Amb l’objectiu d’aprofundir en aquesta realitat, AICEC-ADICAE organitza el taller “Algoritmes, consum i gènere: impacte en els drets de les dones”, que tindrà lloc el dijous 5 de març a les 17h, en format online.
Dels cercadors als “arquitectes” de decisions
Un algoritme és, tècnicament, un conjunt d’instruccions dissenyades per resoldre un problema o prendre una decisió. En l’entorn digital, aquests sistemes processen grans volums de dades per establir patrons i prediccions. Han deixat de ser simples eines de cerca per convertir-se en veritables arquitectes de les decisions de consum.
Mitjançant filtres de visibilitat, determinen quins productes apareixen en primer lloc i quins queden relegats. A través de la publicitat predictiva, poden anticipar necessitats abans que la persona usuària en sigui conscient. I amb els sistemes de preus dinàmics, ajusten el cost d’un producte en funció del perfil digital, l’historial de navegació o fins i tot el dispositiu utilitzat.
Aquest poder de decisió sovint opera en un marc d’opacitat. La creença que els algoritmes són objectius pel fet de ser matemàtics és errònia: aprenen a partir de dades històriques que poden contenir biaixos i desigualtats.
El consum com a rastre de dades
En l’àmbit del consum, els algoritmes funcionen com a motors de segmentació que processen les “engrunes digitals” que deixem: compres anteriors, cerques, temps de permanència en continguts o ubicació. A partir d’aquesta informació construeixen perfils que determinen quins productes, serveis o preus veu cada persona.
En aquesta economia de l’atenció, l’objectiu no és únicament facilitar una compra, sinó retenir l’usuari el màxim temps possible. La identitat digital que es construeix a partir de les nostres dades pot acabar condicionant les oportunitats i les decisions que tenim a l’abast.
Impactes diferenciats sobre les dones
El taller posarà especial atenció en l’impacte específic que aquests sistemes poden tenir sobre les dones. Un dels exemples és l’anomenada “taxa rosa algorítmica”, que pot traduir-se en la priorització de productes més cars o estèticament diferenciats quan el sistema identifica un perfil femení.
També s’han documentat casos en què determinats anuncis de llocs de treball d’alta remuneració s’han mostrat majoritàriament a homes, fet que contribueix a perpetuar la bretxa salarial des del mateix accés a la informació.
Els algoritmes poden, a més, reforçar estereotips de gènere mitjançant un bucle de retroalimentació: si assumeixen que les dones estan més interessades en continguts vinculats a la cura o a l’estètica, incrementaran l’exposició a aquests àmbits, limitant la diversitat de continguts i opcions. En el cas de les xarxes socials, els sistemes de recomanació poden potenciar estàndards de bellesa irreals amb conseqüències en l’autoestima i en determinats patrons de consum.
A això s’hi afegeix el biaix de dades en sectors com la salut o les assegurances, on els models sovint prenen el cos masculí com a referència estàndard, generant possibles recomanacions inadequades per a les dones.
Una qüestió de drets
Els biaixos algorítmics no són només una qüestió tecnològica: poden afectar drets fonamentals com el dret a la igualtat i a la no-discriminació, així com el dret a la informació i a la transparència. Si les persones consumidores desconeixen els criteris que determinen les decisions automatitzades, la seva capacitat de prendre decisions lliures i informades es veu limitada.
L’associació vol oferir eines per comprendre aquests mecanismes, promoure l’alfabetització digital i fomentar una actitud crítica davant la tecnologia. Entre les propostes que es plantejaran hi ha la necessitat d’auditories algorítmiques amb perspectiva de gènere i el reforç de les garanties en l’entorn digital.
En un context de digitalització creixent, garantir que la tecnologia estigui al servei de la igualtat i dels drets de les persones consumidores és un repte col·lectiu ineludible.