A la introducció del segon article d’aquesta sèrie avançava el plantejament de dues preguntes per mirar de posar ordre a tot el que comporta la irrupció de la IA generativa, dels models de llenguatge i dels xatbots a les nostres vides. La primera d’elles era: “penso que l’hem d’incorporar?”. Després d’haver desgranat la qüestió al llarg de quatre escrits, no hi ha marge per a les mitges tintes: la resposta és un rotund «no». Com ja he mirat d’evidenciar, rere les promeses miraculoses s’hi amaga una maquinària construïda sobre pràctiques predadores que aprofundeixen en el «capitalisme de vigilància». És un entramat opac, els resultats més palpables del qual els trobem en una esfera militar que ara pot matar millor i embrutant-se menys les mans. A més, l’expansió de la IA exigeix pagar uns costos ambientals exorbitants per mantenir uns centres de dades que contribuiran a la sobreexplotació hídrica i el dèficit energètic ja estructurals de casa nostra. En la dimensió socioeconòmica i educativa, la factura no és menys desoladora: s’impulsen noves i perjudicials «feines absurdes» mentre assistim a la «merdificació» generalitzada dels serveis. Tot plegat, perpetuant l’explotació a través d’un «treball fantasma» sota condicions neocolonials al Sud Global. A les aules, el panorama es tradueix en l’erosió de l’aprenentatge per delegar-lo a un simulacre performatiu, obrint la porta, de retruc, a una nova escletxa de desigualtat entre qui pot pagar la llicència de l’algorisme i qui no. Constatat aquest insostenible balanç de danys (alguns dels quals encara potencials i, per tant, evitables), és el moment d’entomar la segona pregunta que havia deixat en suspens: “malgrat tot això, la incorporarem?”.

Plantejar-nos a hores d’ara si incorporarem la IA a les nostres vides és una pregunta que arriba amb retard: la realitat és que, si bé la tecnologia encara està com aquell qui diu en fase experimental, ja ho hem fet massivament. I sota les condicions i restriccions dictades per les corporacions tecnològiques. Aquesta claudicació col·lectiva no respon a una anàlisi racional on els avantatges hagin superat els evidents problemes, sinó que és resultat d’una barreja de pragmatisme i pura vagància intel·lectual per part d’una societat que renuncia, voluntàriament, a la creativitat i a l’esforç. La tragèdia rau en el fet que l’adopció acrítica d’aquests algorismes atorga un avantatge competitiu immediat a qui els utilitza, desencadenant allò que en sociologia es coneix com l’efecte Mateu: qui primer s’apropia de l’eina acumula més recursos i privilegis, mentre empeny cap als marges qui no pot o no vol seguir el ritme. És precisament la por a aquest desplaçament i a la irrellevància la que la indústria instrumentalitza per desplegar el seu missatge coercitiu (sovint amb la connivència acrítica d’administracions i institucions): o adoptes el nostre producte o et condemnes a l’obsolescència per sempre.

Davant d’aquest ultimàtum tan cru llançat per la indústria i l’angoixa que genera en alguns col·lectius, les institucions públiques i les veus expertes solen interposar dues condicions molt comunes per mirar de salvaguardar el benestar social: exigir-ne un ús «responsable i ètic», i limitar l’eina a tasques de «descàrrega cognitiva» (com quan fem servir una calculadora per estalviar-nos rutines mecàniques).

Pel que fa a la primera condició, la d’una IA ètica i responsable, temo que es tracta d’un oxímoron (ja saben, aquella simpàtica figura retòrica que consisteix a aparellar dos termes que es contradiuen frontalment, com ara “intel·ligència militar” o “creixement sostenible”). És impossible desvincular un suposat ús ètic d’una maquinària fonamentada en el robatori massiu de dades, l’opacitat, l’explotació laboral i l’espoli de recursos naturals. Convidar a fer-la servir a la feina o a les aules sota aquesta condició és una operació de blanquejament de pràctiques abusives i, alhora, més que un dilema, crea una gran perversió: atorga una llicència moral tant a qui n’impulsa l’ús (“ja hem dit a la plantilla que s’ha de fer servir amb responsabilitat”) com a la persona treballadora (“tinc instruccions de fer-la servir”).

Pel que fa a la segona condició, un cop normalitzat el seu ús, la IA generativa ens aboca a lliscar, quasi de manera inadvertida, cap a allò que la comunitat investigadora denomina «rendició cognitiva» més que no pas cap a la pretesa “descàrrega”. És a dir, ens empeny cap a l’abdicació de la nostra capacitat de raonar, donant per bona la resposta de la màquina sense escrutini analític. No és cap hipòtesi pessimista. Un recent estudi de la Universitat de Pennsilvània (EUA) va demostrar que més d’un 73% de les persones participants acceptaven els resultats erronis generats per la IA, fins i tot quan ja sospitaven prèviament que la màquina es podia equivocar. Tendim a delegar el pensament per estalviar-nos l’esforç de verificar.

La conclusió d’aquesta sèrie bé podria ser aquesta: no només es constata que l’actual model d’IA és un despropòsit, sinó que els dos únics guarda-raïls que ens havíem autoimposat han quedat completament desbordats i no serveixen per a res. Eren unes barreres de contenció basades, amb excessiva ingenuïtat, en el simple sentit comú, en comptes de fonamentar-se en regulacions fermes que els governs es neguen a aprovar. Vist el panorama, qualsevol diria que no ens queda més remei que seguir passant per l’adreçador d’aquesta claudicació col·lectiva. Doncs bé, potser no. Just ara, en el moment més àlgid d’aquesta febre, quan la tecnologia s’ha infiltrat a tots els racons del nostre dia a dia i les cotitzacions del sector a la borsa estan disparades, s’aprecia un inesperat bri d’esperança. I arriba, per paradoxal que sembli, precisament d’aquelles aules i d’aquell mateix estudiantat a qui, en escrits anteriors, havia presentat com a l’ingenu exponent de la rendició cognitiva.

Als campus nord-americans ja s’ha assistit a esbroncades monumentals per part de l’estudiantat cap a gurus tecnològics convidats a cantar les lloances de la IA en cerimònies de graduació. Més enllà de l’anècdota, les estadístiques ens mostren que l’optimisme envers aquesta tecnologia està caient en picat, de forma especialment acusada entre la població jove i, de manera particular, entre les dones (què ho deu fer?). Un recent informe de la Universitat de Brown (EUA) apuntava que, tot i que un 56% de l’estudiantat de grau i un 67% del de postgrau reconeixen utilitzar eines d’IA generativa setmanalment o diàriament, una àmplia majoria expressa grans temors sobre l’impacte d’aquest ús en el seu aprenentatge i, sobretot, por de patir conseqüències negatives per a la seva pròpia capacitat cognitiva. A les aules, a peu de canó, jo mateix hi palpo aquesta paradoxa. La relació que hi tenen és de pura conveniència i oportunisme, però està amarada d’una malfiança latent i cert sentiment de culpabilitat (com demostren l’ocultació o maquillatge d’evidències d’ús que esmentava a l’últim article). N’abusen com a drecera per pragmatisme o pressió de l’entorn, sí, però gairebé a contracor, sent conscients que és una eina que precaritza tant el seu futur intel·lectual i laboral com la integritat del sistema.

De fet, en aquests anys experimentals de desplegament de la IA, he notat un suport explícit creixent a establir límits severs o fins i tot prohibicions a aquestes eines en l’entorn acadèmic, fins i tot per part d’aquelles persones que en fan un ús intens. Aquesta resistència no té res de ludisme, ni va en contra de la innovació tecnològica en si. És lucidesa i va en contra del model imposat. Són persones que s’adonen de les profundes injustícies i dels greuges comparatius que suposa aquest model, i es neguen a avalar-lo. Vull veure-hi, en això, un èxit del nostre sistema educatiu, sovint tan criticat. Demostren, encara que no sempre sàpiguen articular-ho bé, un sentit crític i una autoresponsabilitat molt superiors als d’aquelles elits institucionals i governamentals que, abduïdes pel relat del solucionisme tecnològic, ens n’imposen l’ús sense entendre’n les costures ni els impactes. Ens faríem un favor si tinguéssim la humilitat d’escoltar el jovent, perquè, en les trinxeres de la rendició cognitiva, les persones expertes són elles.

Al final del cinquè lliurament d’aquesta sèrie em preguntava si no podríem trobar maneres més profitoses d’invertir els limitats recursos de l’educació pública que no pas en llicències i esforços de formació en IA. La millor inversió social que podem fer com a país és dedicar aquests recursos a fer costat a aquesta emergent dissidència, fomentant la resistència ètica i protegint un espai educatiu on raonar, equivocar-se i pensar per un mateix continuï sent un exercici humà. Al cap i a la fi, si aconseguim dotar les noves generacions d’aquests principis, la seva capacitat crítica no es limitarà al terreny de l’algorisme, sinó que desbordarà per amarar qualsevol àmbit vital i laboral. Assentarà les bases per prendre decisions fonamentades en criteris d’equitat i orientades cap al bé comú, que ens guiïn en la urgent transició cap a la sostenibilitat que tenim pendent.