IA-cràcia

Fa gairebé una dècada, quatre eminències científiques van publicar una carta al Huffington Post. S’hi advertia del risc al qual s’enfrontava la humanitat amb el desenvolupament d’una IA sense condicionants ètics. Va ser el 19 d’abril de 2014 i els signants eren Stephen Hawking, Stuart Russell, Max Tegmark i Frank Wilczek. El primer va anar encara més lluny. Va dir que si l’ésser humà investigava sobre la IA sense normes, cometria l’error més gran de la seva història. Aquests advertiments van provocar una trobada d’experts, que va tenir lloc a Puerto Rico el gener de 2015. Es va proposar una moratòria que n’avalués els avanços futurs per decidir si calia impulsar un tractat internacional que prohibís aplicacions que fossin perilloses per a la humanitat. El juliol de 2015 es va organitzar una Conferència Internacional a Buenos Aires que va concloure amb un manifest que sol·licitava la prohibició de sistemes d’IA en l’àmbit militar. El van subscriure 3.000 investigadors que van denunciar que el seu ús bèl·lic reactivaria les guerres, perquè els avanços en armes autònomes eren tan importants com en el passat ho havien estat la pólvora, l’avió o la bomba atòmica.

Aquests esforços d’alertar sobre els riscos explícits d’una IA sense ètica, ni límits o regulació, es van oblidar ràpidament, tot i que es van confirmar amb l’ús indiscriminat d’armes autònomes guiades per IA durant la guerra entre Armènia i l’Azerbaidjan per l’Alt Karabakh la tardor de 2020. Aquestes armes s’utilitzen ara a Ucraïna i fan que la guerra que s’hi lliura s’assembli a la nostra Guerra Civil. Recordem que a Espanya l’ús de l’aviació sobre objectius civils va anticipar la importància tràgica que va tenir després en la Segona Guerra Mundial. Això converteix Ucraïna en un laboratori on la Xina, d’una banda, i els Estats Units, de l’altra, verifiquen la robustesa de les aplicacions militars dels seus sistemes d’IA. Sobretot si, com sembla, el pròxim assalt bèl·lic del combat que disputaran la Xina i els Estats Units per l’hegemonia mundial tindrà lloc a Taiwan o al mar de la Xina, o a Israel i els territoris ocupats de Cisjordània i Gaza.

La importància que té l’exemple de les anomenades LAWS (Lethal Autonomous Weapon Systems) no és marginal en aquesta reflexió que proposo sobre el risc d’aplicar sistemes d’IA que ens condueixin a una autèntica IA-cràcia. Ho faig perquè reflecteix plàsticament com la IA aplicada a la guerra, en no estar sotmesa a regles que incorporin els principis del dret humanitari bèl·lic, per exemple, n’acaba maximitzant els efectes destructius i letals. Maximització que, a més, fixa la robustesa en el reforçament il·limitat de les capacitats letals que projecta sobre l’enemic, cosa que és lògica si parlem del disseny d’una IA que maneja biaixos que anul·len la dignitat humana en considerar-la irrellevant si el combatent és un simple blanc o objectiu i no un soldat amb drets associats a aquesta dignitat que l’acompanya sempre com a ésser humà. També quan fa la guerra.

En aquest sentit, les LAWS són la conseqüència natural d’un disseny de sistemes d’IA que neutralitzen i purguen qualsevol consideració humanitària que redueixi la superioritat militar que proporciona combatre amb màquines i no amb éssers humans. Sobretot si els biaixos algorítmics de les LAWS busquen erradicar de manera explícita la fal·libilitat humana en el combat, especialment la propensió a errar que es deriva dels dubtes morals que sorgeixen de l’ús de la força en el combat. Aquesta circumstància pot comportar que el combatent prefereixi ferir a matar, abaixar l’arma davant d’un sentiment inesperat de pietat, o discriminar entre objectius civils i militars. Decisions humanes que, si es produeixen, minoren l’impacte mortífer de la guerra, però que un killer robot no es plantejaria mai perquè no té condicionants ètics ni morals de cap mena.

Maximitzar sense interferències humanes

Aquesta arquitectura algorítmica de la IA aplicada a la guerra es projecta sobre el conjunt de les aplicacions civils i pacífiques. En totes, se subordina la innovació algorítmica que escala les capacitats de la IA a desenvolupaments estrictament utilitaris, mai humanistes. Els objectius són sempre els mateixos amb independència del vertical al qual s’aplica la IA: maximitzar el que se’n vol fer sense interferències humanes que generin incertesa i restin capacitat automàtica de resposta en temps real. On ens pot conduir aquesta evolució de la IA és la resposta que s’ha de plantejar la humanitat, sobretot en vista dels debats que veiem que acompanyen el treball de la comunitat científica que es dedica a investigar-hi. Uns debats que es repeteixen en els últims anys, però que encara no han tingut conseqüències pràctiques, ni tan sols, com acabem de veure, en l’àmbit de les LAWS.

Què ha passat, per tant, perquè el debat sobre la IA que hem vist que es va produir el 2014 s’hagi tornat a plantejar fa uns mesos amb tantíssima difusió i èxit mediàtics? Per què es denuncia el mateix i se sol·licita una altra vegada una pausa en el seu desenvolupament? Què ha passat des de llavors, a part que la IA comença a produir efectes més mortífers gràcies a l’augment de la seva autonomia, tal com es veu a Ucraïna?

La conclusió és que després de mig segle investigant sobre com replicar les capacitats del cervell humà en un cervell artificial i superar les limitacions del primer, aquest objectiu comença a ser possible en la pràctica. Això s’està aconseguint gràcies a un esforç transdisciplinari que n’ha modificat evolutivament el disseny. De fet, les connexions de la IA amb la neurociència i el desenvolupament de sistemes d’aprenentatge profund comencen a fer viable aconseguir una IA general o forta, això és, una IA que pugui pensar de manera semblant a com ho fa un ésser humà, però sense els seus condicionants morals. Aquesta circumstància no ha tingut més conseqüències mentre prevalia una recerca que afavoria sistemes d’IA lineals que impulsaven una racionalitat logicoanalítica basada en l’aprenentatge automàtic. Això ha fet possible que l’automatització de les nostres societats s’hagi basat en aquests sistemes.

Tensions ètiques

Fins al punt que, avui dia, la mobilitat, la salut, l’empresa, la seguretat, la logística o els sistemes financers, entre altres àmbits en els quals es produeixen tota mena d’interaccions humanes i maquinals, s’han automatitzat mitjançant sistemes d’IA que han millorat les nostres vides i les han fet més fàcils. En tots, el biaix principal ha estat, com vèiem més amunt en parlar de les LAWS, una funcionalitat utilitària que imita el cervell humà per complementar-lo mitjançant una racionalitat lògica més perfecta i eficient en el seu automatisme. Així va ser des del principi de la IA, després de la Segona Guerra Mundial, però les tensions ètiques han començat a sorgir recentment, quan la recerca ha migrat i escalat en capacitats creatives que ens acosten a la imitació d’un cervell humà complet.

En això ha estat fonamental el transvasament de coneixements de la neurociència a la IA. Aquesta circumstància ha possibilitat l’ús de xarxes neuronals que tracten de reproduir la complexitat emocional del cervell humà, la qual cosa ha tingut lloc sense debat social ni polític. Un fenomen de neutralització de la reflexió democràtica inquietant perquè estem entrant en els llindars de poder replicar artificialment la psique humana en màquines que es poden conduir guiades exclusivament per biaixos de funcionalitat utilitària. Per això ha provocat una certa alarma social veure com aplicacions senzilles d’IA com ChatGPT o DALL-E han permès fer visible per primera vegada que el desenvolupament de la IA pot hegemonitzar espais creatius i imaginatius que consideràvem exclusius dels éssers humans i en els quals podria, fins i tot, superar-nos.

Si fos així, és raonable pensar si no estem fent passos cap a una civilització basada en màquines que, a més, s’acabin convertint en la mesura de totes les coses. Això no ha suscitat problemes fins ara, però en el futur podria causar-los si aconseguim una IA forta. Aquí cal recordar que la nostra civilització moderna va néixer de dues premisses. La primera, cartesiana, en afirmar que l’existència es basa en el pensament. La segona, kantiana, en proclamar que l’autonomia moral sorgeix de pensar per si mateix. Si les sumem totes dues, sorgeix el dilema més radical al qual ens conduirà el progrés de la IA si, cap al 2050, aconseguim una IA forta que pugui substituir generalitzadament els éssers humans en les seves capacitats intel·lectuals, cosa que tindria lloc sense una transició gradual que controlés i corregís els danys socials que produiria aquesta substitució humana per les màquines.

La prevalença de la dignitat humana

Què passaria si el govern humà del món fos desplaçat per un govern maquinal en ser fidels a la funcionalitat utilitària que esmentàvem més amunt? No vull ser alarmista, però el risc és aquí. No sé si justifica la moratòria sol·licitada, però en qualsevol cas sí que és just que s’obri un debat social i polític sobre aquest tema. Paralitzar la recerca en IA em sembla excessiu, sobretot quan ens proporciona tots els avantatges que palpem diàriament. Això no és incompatible amb el fet que les societats democràtiques abordin una reflexió profunda sobre la necessitat d’introduir regles ètiques que afavoreixin una IA amigable, com diria Eliezer Yudkowsky, o una IA benèfica, d’acord amb les tesis manejades per Stuart Russell. És a dir, una IA que respecti la prevalença de la dignitat humana en el desenvolupament de la recerca que, per entendre’ns, està dotant les màquines del futur amb un cervell sintètic més potent que l’humà. O una IA l’únic propòsit de la qual sigui maximitzar la realització de les preferències humanes.

Mentrestant ens endinsem en una transició crítica cap a una civilització basada en sistemes d’IA que són cada vegada més sofisticats i per als quals no tenim prevista una alternativa que garanteixi la pau social i el benestar equitatiu de la humanitat. Aquesta, a més, s’automatitza de manera accelerada sota un teló de fons que agreuja els riscos que hem assenyalat: la lluita a mort per l’hegemonia que lliuren els Estats Units i la Xina al voltant de l’avanç de la IA i les seves aplicacions. Unes, de naturalesa civil i que estan orientades cap al control social sense drets digitals i la prosperitat sense límits d’equitat. Unes altres, de naturalesa militar, centrades a ser cada vegada més mortíferes i destructives, i també més interconnectades en les seves funcions mitjançant un control centralitzat entorn de l’objectiu de vèncer l’enemic al preu que sigui.

És difícil saber avui dia què en sortirà de tot això, encara que potser podem anar arribant a una conclusió que sembla cada vegada més inevitable de veure-la més o menys realitzada: que el nostre futur serà governat per una IA-cràcia. La qüestió és saber si serà democràtica o autocràtica, sobretot perquè els nord-americans evolucionen cap a una democràcia en estat d’excepció permanent i els xinesos cap a una autocràcia plataformitzada. Si la guerra d’Ucraïna no arrasa els ideals europeus, el desenvolupament d’una Demos-IA-cràcia hauria de ser el propòsit de l’Europa que surti de les eleccions del 2024. Tant de bo que sigui així perquè només dins de les seves fronteres es podrà abordar una meditació sobre la tècnica que impliqui una confrontació decisiva sobre si mateixa que busqui ser plenament humana i no plenament inhumana.