La intel·ligència artificial generativa continua avançant a una velocitat vertiginosa. Cada setmana apareixen noves aplicacions, nous assistents virtuals i noves promeses d’eficiència. Però mentre governs, empreses i ciutadans debaten sobre les oportunitats que ofereix aquesta tecnologia, també creix una pregunta incòmoda: sobre quines bases s’ha construït tot aquest ecosistema?

Aquesta mateixa setmana, l’organització Amnesty International ha publicat un informe que sacseja alguns dels fonaments del debat actual. El document, titulat Unlawful by Design: Exposing the Human Rights Costs of Generative AI, sosté que molts dels sistemes d’intel·ligència artificial generativa més populars s’alimenten de fluxos massius de dades obtingudes mitjançant pràctiques que vulneren el dret a la privadesa.

La contundència de la tesi és notable. Segons l’organització, el problema no seria un error puntual ni una desviació corregible, sinó una característica estructural del model actual de desenvolupament de la IA generativa. En altres paraules, la invasió de la privadesa estaria incorporada al sistema des del mateix moment del seu disseny.

L’extracció massiva de dades com a combustible del sistema

L’informe centra bona part de la seva crítica en l’anomenat web scraping, és a dir, els processos automatitzats que recopilen enormes quantitats d’informació disponible a internet per entrenar models d’intel·ligència artificial. Aquestes extraccions poden incloure textos, fotografies, comentaris, publicacions a xarxes socials i tota mena de rastres digitals generats per milions de persones.

El debat no és nou. Fa temps que creadors, mitjans de comunicació, editors, artistes i investigadors qüestionen l’ús de continguts protegits per drets d’autor per entrenar models d’IA. El que aporta ara Amnistia Internacional és una mirada diferent: la dels drets humans.

Segons l’organització, el problema va més enllà de la propietat intel·lectual. La qüestió central és que aquestes pràctiques impliquen la recopilació massiva de dades personals sense un consentiment realment informat. L’informe considera que aquest model d’extracció de dades és incompatible amb els estàndards internacionals de protecció de la privadesa.

La conseqüència és una afirmació especialment contundent: els sistemes generatius construïts sobre aquests processos serien, segons Amnistia, “il·legals per disseny”.

Més enllà de la privadesa

L’informe no limita les seves preocupacions a la recollida de dades. També alerta sobre altres riscos associats als grans models generatius. Entre aquests riscos hi apareixen la reproducció de discriminacions contra col·lectius històricament marginats, la possibilitat de reforçar desigualtats socials existents, la manipulació de comportaments i la generació de continguts que poden afectar la llibertat d’expressió o fins i tot la llibertat de pensament.

Es tracta d’un enfocament que connecta amb una preocupació creixent dins l’àmbit acadèmic i regulador: la idea que els sistemes d’IA no són simples eines neutres, sinó tecnologies capaces de condicionar comportaments, influir en decisions i reproduir biaixos presents a la societat. De fet, diversos estudis i organismes internacionals fa anys que adverteixen que els sistemes algorítmics poden amplificar discriminacions relacionades amb l’origen social, la raça, el gènere o la situació econòmica dels ciutadans.

Un debat que també afecta els mitjans de comunicació

Tot això té una derivada especialment interessant per al món del periodisme. Els mitjans han esdevingut una de les principals fonts de dades utilitzades pels grans models lingüístics. Articles, reportatges, entrevistes i continguts produïts durant dècades formen part de les enormes bases documentals que alimenten els sistemes generatius actuals.

En aquest context, la discussió ja no és només econòmica o empresarial. També és una qüestió de transparència i de drets. Qui decideix quines dades es poden utilitzar? Amb quins criteris? Qui controla els processos d’entrenament? I sobretot: quin paper tindran els productors d’informació de qualitat en un ecosistema on les màquines poden generar continguts a partir de materials elaborats per tercers?

La pregunta és especialment rellevant per als mitjans locals i de proximitat, que sovint disposen de recursos limitats però produeixen informació única i de gran valor per a les seves comunitats.

Regular abans que sigui massa tard

Una de les principals conclusions de l’informe és la necessitat d’una intervenció reguladora molt més decidida. Amnistia Internacional reclama que els governs actuïn davant les pràctiques més perjudicials associades a la IA generativa i estableixin mecanismes que garanteixin el respecte als drets humans des de la fase de disseny de les tecnologies.

Aquest posicionament arriba en un moment en què molts països intenten trobar l’equilibri entre fomentar la innovació i evitar abusos. La qüestió és complexa. Ningú sembla disposat a renunciar als avantatges potencials de la intel·ligència artificial, però cada vegada hi ha més consens sobre la necessitat de definir límits clars.

La paradoxa és evident: una tecnologia creada per ampliar capacitats humanes podria acabar erosionant alguns dels drets fonamentals que pretenen protegir les societats democràtiques.

Una advertència que no es pot ignorar

És probable que les conclusions d’Amnistia Internacional generin controvèrsia. Les grans empreses tecnològiques difícilment acceptaran sense matisos una diagnosi tan severa. Però el valor de l’informe rau precisament en la seva capacitat per introduir preguntes que sovint queden amagades darrere l’entusiasme tecnològic.

Durant els darrers anys, el debat sobre la intel·ligència artificial s’ha centrat principalment en les seves possibilitats. Potser ha arribat el moment de parlar també dels seus costos, per quan la qüestió ja no és només què poden fer aquestes eines, sinó com s’han construït. I si el preu de la innovació és la recopilació massiva de dades personals sense garanties suficients, aleshores el debat deixa de ser tecnològic per convertir-se en una qüestió profundament democràtica.- Estanis Alcover i Martí / EL BLOC DE L’ESTANIS – Comunicació 360º (Il·lustració: Amnistia Internacional)