Traductor de Ciceró
Joan Manuel del Pozo, professor emèrit de la UdG, filòsof, traductor de Ciceró, amb una extensa producció acadèmica en filosofia antiga i en filosofia social i política. Conseller d’Educació i Universitats (2006), actual president del Consell de l’Educació de Catalunya. Doctor honoris causa per la UPC per la seva trajectòria acadèmica, política i humana i per les seves aportacions al debat sobre Humanitats i Tecnologia i Intel·ligència Artificial. Des del compromís constant amb la reflexió ètica i el progrés social, del Pozo ens ofereix, a partir de l’entrevista, la seva visió dels grans reptes en temps d’IA i de la carta encíclica de Lleó XIV, Magnifica Humanitas, recentment publicada amb gran ressò i impacte mediàtic i social.
Titular de fa uns dies: «Els premis Gaudí posen límits a la intel·ligència artificial», el sorprèn?
És lògic, és lògic. La IA afecta totes les arts. Un cas de fa pocs anys. Un fotògraf bo que, expressament, va presentar a un concurs important una peça que havia elaborat només amb intel·ligència artificial. La va presentar i va guanyar. I després va dir, no recullo el premi perquè no és per a mi, és per a la màquina. Va fer quedar en ridícul l’organització, perquè estava premiant com a artística una obra que no es podia considerar com a tal. Perquè hi hagi autoria hi ha d’haver experiència personal de l’autor. Si no hi ha experiència, no hi ha art. Hi ha reproducció de formes, imitació de formes, combinatòria de formes. Perquè hi hagi art, hi ha d’haver aportació de l’experiència, la percepció, la imaginació, els sentiments personals… Això és el que defineix el valor estètic.
La IA té una capacitat productiva molt semblant a la humana en totes les arts. I amb aquest molt semblant ens ho juguem tot, perquè es pot falsificar fàcilment una producció artística fent que, havent estat produïda per una intel·ligència artificial, sembli natural. Si no és humana no és artística.
Fins on arribarà la IA?
Jo crec que ningú no ho sap. La intel·ligència artificial avança en la imitació de l’humà, en tot el que sigui possible, però continua havent-hi una majoria de persones del món de la mateixa intel·ligència artificial, del món científic, intel·lectual o artístic que consideren irrepetibles de forma artificial determinats constituents de la producció humana. El nucli del valor d’una producció humana és la humanitat de l’experiència viscuda. Som éssers experiencials complexos.
Hi ha factors intel·lectuals fàcilment reproduïbles per la intel·ligència artificial, perquè són formals, lògics i en certa manera matemàtics. Però la IA ho té molt difícil en la reproducció d’aspectes perceptius, imaginatius o contextuals, especialment socials, que constitueixen la condició humana. Des d’Aristòtil sabem que l’ésser humà és, essencialment, social. Els zoon politikons, l’animal de la ciutat, l’animal polític, l’animal social. No hi ha humanització si no hi ha socialització. La gran diferència és que la intel·ligència natural està «encarnada», barrejada amb la carn, amb un sistema nerviós, amb capacitat intel·lectual, imaginativa, de decisió… amb tot això tan complicat que en diem conducta humana. Per contra, l’explotació possible de les dades per part de les màquines és infinitament superior. Els humans som imperfectes en el record. La màquina no perd memòria, nosaltres sí.
Ens roben les dades i ens roben la democràcia, com afirma Shoshana Zuboff? És la IA una amenaça per als valors democràtics?
Efectivament, Zuboff, en el seu llibre La era del capitalismo de la vigilancia, es refereix als fundadors de Google com els nous conqueridors, amb una posició equivalent als conqueridors dels segles XVI, XVII o XVIII, apropiant-se territoris, declarant el dret a explotar les seves riqueses o a esclavitzar els seus habitants. Els oligarques tecnològics fan exactament el mateix amb les dades de les persones; amb un desvergonyiment absolut, consideren que les dades són seves, que hi tenen tots els drets i que ningú no els pot reclamar cap despesa.
Un risc addicional menys visible, però no menys greu, és el del control social que la recopilació massiva de dades i els altres sistemes d’algoritmes fa possible. Per exemple, el control de les poblacions a efectes electorals, amb campanyes electorals específiques que utilitzen dades de les persones per enviar de manera sistemàtica i molt ben construïda, per descomptat, missatges que orientin el vot. No des de la lluita típica d’un partit contra l’altre sinó des de la destrucció de confiances i la manipulació. La democràcia està sent atacada. Estem davant d’una forma de poder que no accepta equilibrar-se amb cap altre poder i l’essència de la democràcia és l’equilibri de poders. Tot això fa mal al conjunt de la població mundial, tots estem sotmesos a l’explotació de dades, i a la manipulació possible a través de la IA. Qui ha de respondre? Tothom. Perquè tots estem afectats. Aquesta és la monstruositat de la cosa. Passem pel tub tots i estem en mans de molt pocs.
Qui sí que ha respost és el papa Lleó XIV en la recentment publicada encíclica Magnifica Humanitas.
I tant, i ho fa d’una manera, jo diria, valenta. Diu que les dades haurien de ser propietat pública, que no les podem deixar en mans privades, i menys en mans d’uns pocs. «La propietat de les dades no es pot confiar només al sector privat, sinó que s’ha de reglamentar». No es poden deixar en poques mans, perquè són un poder extraordinari i, com a tal, necessita ser compartit i regulat. Les noves formes de propietat, patents, algoritmes, plataformes digitals o dades, s’han d’incloure entre els béns universals.
«Perquè hi hagi autoria hi ha d’haver experiència personal de l’autor. Si no hi ha experiència, no hi ha art.»
Per altra banda, diu també que la intervenció de la IA no es pot considerar moralment neutra. Més enllà de l’ús, en la construcció de la màquina hi ha posicions morals, que no es fan explícites, però hi són. La construcció de la màquina la fan persones que tenen interessos, que tenen ambicions, simpaties i antipaties. Aquests biaixos, evidentment, es traslladen a l’estructura de la màquina. L’aportació del papa és molt rellevant perquè és una persona de poder. Està bé que s’hagi expressat i que ho hagi fet en una línia que podem considerar democràtica.
Lleó XIV, agustinià i matemàtic.
Deixant de banda la part estrictament religiosa, l’encíclica és d’una qualitat democràtica i intel·lectual indiscutible. En tant que matemàtic se li suposa, és evident, una qualitat intel·lectual alta, un cervell ben moblat, i en tant que agustinià reflecteix el vincle amb el pensament d’un pare de l’Església que va tenir una experiència vital intensíssima, com ho explica ell mateix a les seves confessions, però d’una formació clàssica extraordinària, ciceronià i platonià. El papa Lleó XIV té una constitució humana, diguem-ne, interessant. Amb l’encíclica ha donat una mostra de la seva talla.
Poder, responsabilitat, poder responsable.
L’encíclica m’ha sorprès favorablement, perquè el papa té un poder autoritari, dels més grans que es poden tenir, sobre mil milions de persones al món, que consideren que és, ni més ni menys, el representant de Déu a la Terra. És un home amb poder que ha fet un acte de responsabilitat de poder. Ha obert una conversa entre poders responsables demanant tenir en compte la dignitat de les persones, la veritat, la llibertat, els valors morals. Perquè, si no, estem destruint la humanitat.
«Nacions Unides com a institució i la Declaració de Drets Humans com a guia de mínims del bé comú, estan en risc i necessiten un replantejament.»
Per això li diu Magnifica Humanitas, en el sentit que la humanitat és magnífica, digna d’admiració. Tot i que per a ell ètica i religió van lligades –per a mi no, però històricament hi han anat– l’ètica ha de ser construïda entre tots, democràticament; no hi pot haver un únic dictat ètic. Hem de construir entre tots posicions ètiques que permetin dissenyar allò que correspon a la noció clau de la dignitat humana.
La humanitat és un procés cap a la racionalitat, molt imperfecte, en construcció, amb límits i defectes. Sabem on anem? Aquesta construcció té plànol? Resposta: no. Perquè la vida humana sigui possible com a humanitat que es vol a si mateixa digna, hi ha d’haver un projecte. Les finalitats són el plànol, els valors que busquem. L’ètica és l’arquitectura de la Humanitat.
La Declaració de Drets Humans, amb les seves limitacions i imperfeccions, orienta el projecte i podria ser considerada una ètica universal, d’acord amb Hans Küng. El papa defensa el desenvolupament humà integral com un dret a preservar de les amenaces que puguin comprometre les condicions de vida dignes. Nacions Unides com a institució i la Declaració de Drets Humans com a guia de mínims del bé comú, estan en risc i necessiten un replantejament. Trump ha fet entrar en crisi el que ja estava tocat i ataca de forma desvergonyida l’ONU, negant el suport de la que havia estat fins ara la nació líder de la democràcia a l’OMS o a la UNESCO.

El filòsof i polític Joan Manuel del Pozo a Barcelona. Fotografia de Jose A. Santos Cardosa
Ètica: Ama et quod vis fac
És interessant que un americà com el papa digui als abusadors americans que segons què no es pot fer. Els oligarques tecnològics de Silicon Valley i el seu gran amic a la Casa Blanca juguen brut i de forma ben descarada. És el que alguns anomenen tecnofeixisme i el feixisme no és res més que l’explotació d’una autoritat sense control sobre poblacions confuses. Què passa quan hi ha dos equips en joc i un juga brut? Què ha de fer l’altre? La situació és èticament interessant. No ha de jugar brut, ha d’ensenyar a jugar net i ha de reclamar a l’àrbitre, tant com calgui, les faltes que es cometen i, a través dels processos institucionalment organitzats, aconseguir la modificació de les regles del joc perquè determinades jugades tinguin el càstig que mereixen o, simplement, no es puguin fer. És un procés de gran dificultat, però al mateix temps de tal interès i de tal rellevància per satisfer necessitats essencials, per preservar l’educació, la democràcia, que no podem badar ni tenir por.
«La veritat absoluta no és d’aquest món, però sí que ho és la veracitat possible. Es tracta de reduir al mínim la capacitat d’enganyar. És possible fer aproximacions a la veritat.»
A l’encíclica, el papa diu: «No tinguem por d’embrutar-nos les mans en l’obra del nostre temps». No s’ha de tenir por ni, per excessiva prudència, cometre l’error de, per no cometre cap error, deixar que la magnitud del desastre ens envaeixi, és a dir, que ens destrueixi. Aquest és un plantejament molt alineat amb l’ètica agustiniana, resumida en Ama et quod vis fac, «Estima i fes el que vulguis». És una posició humanament molt rica, fes un acte d’amor combatent aquesta enorme dificultat, fins i tot assumint que et pots equivocar en el camí. En l’esperit de l’encíclica, si ho fas estimant, no et preocupis.
L’aportació de Lleó XIV és molt rellevant, comparable a l’encíclica social de Lleó XIII, Rerum Novarum, valorada històricament com una presa de posició favorable als drets dels treballadors i a una nova societat industrial respectuosa que evités l’explotació i l’esclavitud. Magnifica Humanitas, en un registre molt diferent, posa el focus en quelcom molt més subtil, però essencial, com la manipulació i l’esclavitud de la ment i dels sistemes democràtics.
La veritat com a bé comú, condició essencial per a la democràcia
Els sofistes van ser els primers a aplicar tècniques de manipulació. Sòcrates i Plató els criticaven perquè falsificaven una condició essencial per a la democràcia – de la qual també parla Lleó XIV i que és el que més m’ha agradat de l’encíclica–, la màxima veritat possible per part del màxim nombre de persones possible. La veritat absoluta no és d’aquest món, però sí que ho és la veracitat possible. Es tracta de reduir al mínim la capacitat d’enganyar. És possible fer aproximacions a la veritat.
La veracitat és la condició humana disposada a voler saber la veritat de les coses i voler comunicar tota la que tu creus saber, sense la intenció d’enganyar. Aquesta sí que és possible.
A l’encíclica, el papa defensa la veritat com a bé comú, una perspectiva nova i interessant. Destaca també la condició interrelacional de la veritat. Un tot sol és difícil que la trobi. Pot haver-hi casualitat o inspiració, però diverses persones buscant la veritat conjuntament és més probable que la trobin. I si ho fan bé, que en trobin encara més. Plató ja ens deia que la possible veritat només neix de la trobada i la discussió constant.
Les noves tècniques de la IA i de l’enginyeria de dades són especialment combatives en la falsificació de la veritat, la creació de marcs mentals o la instal·lació de biaixos en tota mena de manipulacions que són més efectives com més invisibles són. Cal equipar les persones amb eines que els permetin ser menys manipulables.
«Les màquines i la IA ens fan guerrers, els uns contra els altres. Desarmar també significa treure l’agressivitat de les expressions lingüístiques entre uns i altres.»
Una altra expressió que m’agrada molt de l’encíclica és «desarmar les paraules». Té doble significat. Per una banda, netejar el llenguatge, fer-lo net, precís i eficaç. El llenguatge està carregat de significats vàlids i menys vàlids, i alguns, francament, rebutjables. Per l’altra, allunyar-lo del poder de les armes. Com que el llenguatge tendeix cada vegada més, per la manipulació de les màquines, a confrontar-nos i a fer-nos agressors els uns dels altres, tendeix a posar en estat de guerra els humans. Les màquines i la IA ens fan guerrers, els uns contra els altres. Desarmar també significa treure l’agressivitat de les expressions lingüístiques entre uns i altres. Es parla, fins i tot, de guerres culturals, com la capacitat, a través de les paraules, de confrontar i fer que la gent d’un sector cultural o ètnic cregui que és millor que els altres. La paraula fa basarda. Si hi ha una cosa poc guerrera és la cultura.
En el seu discurs d’investidura com a doctor honoris causa per la UPC, planteja tres preguntes que coincideixen molt amb les preocupacions de Lleó XIV. La primera és si la IA serveix a la dignitat.
La intel·ligència natural serveix primer a la dignitat, que és el nucli de tots els valors. Tots els valors humans s’hi resumeixen i, de fet, Kant és el gran defensor de la idea de dignitat en la modernitat. Des de la raó humana es reconeixen les condicions que necessitem per viure junts amb dignitat i respecte. El respecte és el correlat de la dignitat. Una primera noció de dignitat la dona el cristianisme quan estableix la igualtat dels humans a partir de la tesi que tots som fills de Déu. És la igual dignitat de l’article 1 dels drets humans moderns. Serveix la IA a la dignitat? N’hi ha dubtes, perquè sabem que la violació de la intimitat és flagrant. Només amb aquesta ja destrueix la dignitat.
La segona pregunta: la IA, serveix a la democràcia?
La veritat és un element essencial per a la democràcia. Hannah Arendt, a qui el papa també cita, diu que els súbdits ideals no són tant aquells ideològicament convençuts, ni comunistes ni nazis, «com les persones per a qui ja no existeix la distinció entre el fet i la ficció». La distinció entre el que és verdader i el que és fals. Quan hi ha confusió, s’obre la porta a la manipulació infinita. Com defensa la filòsofa brasilera Márcia Tiburi, el que fa primer el feixisme és destruir el llenguatge. Perquè, destruint el llenguatge, entres en confusió i en la confusió, la manipulació és fàcil.
I la tercera: la IA, serveix a l’educació?
Estem a les beceroles d’una nova manera d’entendre l’educació, no per canviar ni discutir els valors essencials de l’educació, però sí reconeixent que hi ha un canvi de paradigma educatiu. La bona notícia és que hi ha moltíssima gent al món que hi està treballant. La mala notícia és que tothom reconeix que no sabem quan poden acabar aquests treballs. El model educatiu d’ara es veu desbordat per les possibilitats del progrés tecnològic i l’ús de les màquines i la IA.
«Quan hi ha confusió, s’obre la porta a la manipulació infinita. Com defensa la filòsofa brasilera Márcia Tiburi, el que fa primer el feixisme és destruir el llenguatge.»
Desbordat per a bé i per a mal. Per a mal, perquè permet fer trampes, posa en risc la capacitat crítica i l’autonomia de les persones. Per a bé, perquè si aconseguim educar-nos i educar en l’elaboració dels treballs acadèmics primer i científics després, si aconseguim crear habilitats metodològiques de l’ús de la intel·ligència artificial, els progressos seran extraordinaris.
També pot ser un bon moment per recuperar el valor de la docència. A la Universitat, hauríem d’aconseguir que el millor aparador del treball científic d’un professor fos la seva aula. Que el millor reconeixement del valor científic d’un professor fos la mirada admirativa dels seus estudiants quan l’escolten, aportant el millor del seu coneixement científic i fent que els estudiants diguin que val la pena. És la finalitat última de la seva feina.
Hi ha esperança?
L’esperança és que un poder important com el papa ha fet un advertiment, que està molt bé, i pot beneficiar tothom. Hi ha persones i empreses dedicades a la intel·ligència artificial amb un alt sentit ètic i amb una posició democràtica indiscutible. A part del món pròpiament de la intel·ligència artificial, el món educatiu, el món intel·lectual, el món artístic, estan amb els ulls molt oberts per temor al trencament dels seus valors. És tanta la gent, tan preparada per altra banda, i són tants els valors en risc i l’interès que crec que trobarem maneres per superar la possible destrucció.
Canvi de paradigma educatiu, suma d’inseguretats, malestar docent.
En el sistema educatiu, la meva impressió és que, efectivament, el canvi social cap a aquesta època hipertecnològica és un dels factors que altera la normalitat coneguda fins fa poc, però que no és el principal. Hi ha inseguretat en l’assimilació de la tecnologia nova, però no només això.
És un problema que plou sobre altres problemes, més clàssics i tradicionals i que fan referència a la complexitat real de les escoles, amb un component plural, divers, que tots considerem per principi bo, però que operativament genera inseguretat.
A la inseguretat de la tecnologia invasiva hi sumem la inseguretat d’una diversitat per a la qual no tenim prou metodologia ni mitjans per tractar-la. I una tercera inseguretat, la dels actors del sistema en si mateixos i en relació amb els altres. M’explico. Hi ha una certa inseguretat sobre el paper real de cada docent que no se sap si s’ha de limitar a transmetre més coneixements o ha d’estimar molt la mainada o ha d’estar sobretot per als dos o tres que tenen necessitats especials o ha d’intentar satisfer els pares posant notes molt altes.
Hi ha inseguretat sobre la naturalesa mateixa de la feina, de la funció docent. I encara n’hi sumaria una altra. La inseguretat de les famílies per col·laborar amb el centre educatiu. Perquè s’ha instal·lat aquella idea de la transferència de responsabilitat educadora, que eduquin els professionals. Aquesta és una actitud bastant generalitzada que, evidentment, perjudica el sistema i que incrementa la inseguretat dels mateixos docents que voldrien tenir més col·laboració de les famílies, com és natural. Encara hi podríem sumar la inseguretat respecte a la governança.
Per tant, si sumem totes aquestes inseguretats tenim un panorama de malestar. El meu diagnòstic seria que en el món educatiu s’hi produeix una sensació d’inseguretat més gran que la mitjana social. Un dels últims llibres de Martha Nussbaum té per títol La monarquía del miedo. La seva tesi és que s’ha instal·lat la por a la vida social i, evidentment, la por és una condició òptima perquè actuïn els manipuladors. La por és germana de la confusió, de la incertesa. En l’educació, que és una part sensible de la vida social, es multiplica l’efecte d’inseguretat.
Després del diagnòstic d’inseguretat en el medi educatiu, hauria de venir el pronòstic o teràpia. El pronòstic és, crec, que tothom voldria superar la inseguretat i recuperar benestar. Té una clau difícil d’activar, però que, si s’activa, pot donar molt rendiment: la generació de confiança de tothom amb tothom, i com més de la base surti, millor; un cop més, la interdependència. El papa Francesc, citat per Lleó XIV, afirma: «ningú no se salva sol».






























































































