La intel·ligència artificial avança a un ritme que pot arribar a marejar. De vegades ens fascina i, d’altres, ens deixa una sensació d’inquietud. Gairebé cada dia apareix una nova aplicació capaç d’automatitzar tasques, redactar un correu complex en pocs segons o generar una imatge gairebé idèntica a la realitat. Però aquest boom tecnològic no arriba sense costos: també està encenent alarmes arreu del món.
Des d’AICEC-ADICAE tenim una posició clara: el progrés tecnològic no serveix de res si passa per sobre dels drets de les persones, de la seva privacitat o de la seva dignitat. La tecnologia ha d’estar al servei de la inclusió i de la protecció de les persones consumidores, no de la vigilància excessiva, la manipulació o l’exclusió.
El Vaticà posa el focus en el “desarmament algorítmic”
Que la intel·ligència artificial pot escapar al control democràtic ja no és només una preocupació d’experts informàtics o d’activistes pels drets civils. El debat ha arribat als espais institucionals més influents del món.
Recentment, el papa Lleó XIV ha abordat aquesta qüestió en l’encíclica Magnifica Humanitas, on planteja la necessitat de “desarmar” la intel·ligència artificial. La idea és clara: no podem permetre que la lògica de la competència tecnològica, econòmica o militar converteixi els algoritmes en instruments de domini, exclusió o guerra.
El pontífex alerta sobre un risc fonamental: delegar decisions essencials en sistemes automatitzats sense control humà real. Decisions sobre la pau, la guerra, l’economia, l’accés a serveis o fins i tot el valor d’una persona no poden quedar en mans d’un algoritme opac. Si substituïm l’empatia, la responsabilitat i el sentit comú per línies de codi, correm el risc de deshumanitzar decisions que haurien de continuar tenint sempre una supervisió humana.
La realitat quotidiana: on ens afecta la IA?
Quan es parla de “desarmament” pot semblar que el problema queda lluny. Però la realitat és que la intel·ligència artificial ja forma part de la nostra vida quotidiana i pot afectar directament els drets de les persones consumidores.
Un dels exemples més evidents són els deepfakes: vídeos, imatges o àudios falsos que imiten amb gran realisme la veu o el rostre d’una persona. Aquestes eines poden utilitzar-se per manipular l’opinió pública, difondre desinformació, suplantar identitats, estafar persones vulnerables o danyar greument la reputació d’algú.
També ens preocupen els algoritmes amb biaixos. Són sistemes que poden influir en processos de selecció laboral, en la concessió d’un préstec, en l’accés a una assegurança o en la tramitació d’una ajuda pública. Si aquests sistemes s’han entrenat amb dades que ja incorporaven discriminacions socials, econòmiques o de gènere, el resultat pot ser la repetició automàtica d’injustícies.
Un altre risc és la pèrdua de privacitat. Les grans plataformes digitals acumulen dades sobre cada clic, cada cerca, cada imatge compartida i cada interacció en línia. Aquesta informació permet construir perfils molt detallats de les persones consumidores, anticipar comportaments de compra i dirigir missatges comercials o polítics de manera cada vegada més personalitzada.
Guia ràpida d’autodefensa digital
Davant d’aquest escenari, el pitjor que podem fer és resignar-nos. La seguretat digital i la presa de decisions informada són eines bàsiques per protegir els nostres drets en l’entorn digital.
Des d’AICEC-ADICAE proposem tres pautes senzilles per començar a protegir-nos millor davant els riscos associats a la intel·ligència artificial.
1. Activa el mode desconfiat: no t’ho creguis tot
Que una imatge, un vídeo o una notícia aparegui en una pantalla no vol dir que sigui certa. Si reps un contingut massa escandalós, un vídeo estrany d’una persona pública o una imatge que no acaba de quadrar, atura’t abans de compartir-la.
Contrasta la informació amb mitjans fiables, revisa la font i pregunta’t qui pot beneficiar-se de la seva difusió. Tallar la cadena d’un engany és una manera directa de reduir el poder de la desinformació generada o amplificada amb intel·ligència artificial.
2. Tanca l’aixeta de les teves dades
La intel·ligència artificial s’alimenta de dades: fotografies, textos, ubicacions, preferències, contactes i hàbits de navegació. Per això, és important no regalar informació personal sense pensar-hi.
Revisa periòdicament la configuració de privacitat de les xarxes socials, evita aplicacions o jocs que demanen permisos excessius i desconfia de serveis que sol·liciten accés a galeries d’imatges, contactes o ubicació sense una justificació clara.
La teva informació té valor. Protegir-la és protegir també els teus drets com a persona consumidora.
3. Exigeix lleis i controls reals
La intel·ligència artificial no pot continuar desenvolupant-se com si fos un territori sense normes. Calen regulacions clares, mecanismes de supervisió, transparència algorítmica i responsabilitat per part de les empreses que dissenyen i utilitzen aquests sistemes.
Des d’AICEC-ADICAE defensem que les persones consumidores tenen dret a saber quan una decisió que les afecta ha estat presa o condicionada per un algoritme. També reivindiquem que, en decisions importants, la darrera paraula l’ha de tenir sempre una persona, no una màquina.
Les empreses han d’explicar com funcionen els seus sistemes, quines dades utilitzen i quines garanties ofereixen per evitar discriminacions, errors o pràctiques comercials injustes.
La tecnologia ha d’estar al servei de les persones
La intel·ligència artificial pot ser una aliada si s’utilitza per millorar serveis, facilitar l’accés a la informació, detectar fraus o reforçar la protecció de les persones consumidores. Però també pot convertir-se en una amenaça si s’utilitza per manipular, vigilar, discriminar o aprofitar-se de la vulnerabilitat de les persones.
Per això, des d’AICEC-ADICAE reivindiquem una tecnologia transparent, responsable i sotmesa a control democràtic. El futur digital no pot construir-se a costa de la privacitat, la dignitat ni la protecció dels interessos de les persones consumidores.
Recorda que a AICEC-ADICAE som al teu costat. El nostre objectiu és protegir les persones consumidores davant abusos, estafes i manca de transparència del mercat actual, també en aquest nou entorn digital.
Si creus que els teus drets han estat vulnerats per males pràctiques tecnològiques, fraus basats en intel·ligència artificial o decisions automatitzades opaques, informa’t, reclama i contacta amb AICEC-ADICAE. Defensar els drets digitals també és defensar els drets de consum.