Creativitat, intel·ligència artificial i governança humanista

Text publicat originalment a la revista Política & Prosa.

No hi ha evidència que una màquina pugui arribar a tenir subjectivitat i, per tant, creativitat o criteri moral. Però que la societat es faci aquesta pregunta, en el millor dels casos, es pot interpretar com una oportunitat per reflexionar sobre la pràctica habitual d’atribuir facultats pròpies de l’ésser humà a les eines d’intel·ligència artificial (IA) i sobre els efectes dels relats apocalíptics del hype en la governança de la tecnologia. La pregunta és senyal de confusió, i el caos és enemic del govern, per la qual cosa pot anar bé recórrer a la millor eina de què disposa l’ésser humà per aclarir malentesos: la paraula.

La democratització de la IA generativa que va desencadenar el llançament de ChatGPT el novembre de 2022 ha arribat acompanyada d’un enorme bombo publicitari entorn de les capacitats reals d’aquests sistemes, fins al punt que tecnòlegs de prestigi afins a les grans corporacions arriben a afirmar que les màquines han desenvolupat consciència i que, a més, aquesta consciència respon a unes intencions malignes de dominar la humanitat i posar-hi fi. La novetat és que la influència econòmica i social dels que promouen aquestes narratives, fins ara pròpies de la ciència-ficció, ha aconseguit que ocupin els titulars dels mitjans de comunicació més prestigiosos, probablement en detriment d’altres problemes reals i actuals, com les asimetries de poder que la IA contribueix a mantenir, l’explotació dels treballadors, la vigilància a través de l’extractivisme de les dades personals, la discriminació racial i de classe o els efectes nocius en el medi ambient, com han descrit en tantes ocasions investigadors, periodistes i altres activistes.

La recerca en IA té dos objectius principals: un és tecnològic i comporta emprar la computació per fer coses útils, mentre que l’altre és científic, i implica ajudar a entendre i resoldre qüestions sobre els humans i altres éssers vius. Per això, la IA ha tingut una influència important en les ciències de la vida, i probablement els usos del llenguatge d’aquesta disciplina tecnològica estan influïts al seu torn per la biologia.

No obstant això, que s’acabin designant les tasques maquinals de la mateixa manera que s’anomena l’activitat humana és problemàtic, perquè parteixen d’errors categorials i difonen idees esbiaixades sobre les capacitats reals de les tecnologies exponencials. Això, al seu torn, complica un dels grans reptes de la societat contemporània: retrobar el nostre lloc en el món enfront de la revolució tecnològica de la IA que, a més, hem de governar.

Antropoformització

Cal començar per qüestionar el concepte mateix d’intel·ligència aplicat a les màquines que, encunyat el 1956 per l’investigador en IA John McCarthy, va substituir l’anterior «simulació computada» (una curiositat: «intel·ligència artificial», el terme que hem usat fins avui, ha reeixit per l’èxit periodístic que ha comportat per a les parts interessades la nova fórmula). Gran part de la resta de les paraules i construccions habituals en aquestes disciplines estan en aquesta línia antropoformitzadora. Sovint són idèntiques a les que es podrien usar per descriure atributs, capacitats i processos propis de la ment humana com «motivació», «aprenentatge», «xarxes neuronals», «arquitectures cognitives», «producció d’intel·ligència» o «comprensió». Els titulars reprodueixen aquesta tendència i atribueixen a la màquina «raonament», «reflexió», «imaginació», «intuïció» o «creativitat».

La recerca en IA té dos objectius principals: un és tecnològic i comporta emprar la computació per fer coses útils.

A tot això, se li suma que la humanitat encara està molt lluny de saber com funciona el cervell i quins són els processos que condueixen a la consciència i a la subjectivitat, de manera que aquests usos lingüístics podrien fins i tot erosionar la confiança i la determinació necessàries que exigeixen els reptes contemporanis. I potser, units a l’enlluernament generalitzat per la rapidesa, l’eficiència i la productivitat maquinals, podrien contribuir a menysprear aquelles característiques genuïnament humanes que hem de preservar i abanderar, perquè impulsen la veritable creativitat com ara sentir, percebre, tenir motivacions i emocions, dormir, aprendre o recordar. Tenir gana, set, desig sexual, envejar, voler, intuir, raonar o somiar.

Humanitzar la màquina podria contribuir també a perdre de vista que darrere d’aquests sistemes hi ha persones i organitzacions que s’han de responsabilitzar dels efectes dels seus usos, o contribuir a la por, de la qual alguns s’aprofiten per obtenir visibilitat assegurant que les persones només som dades, que les nostres emocions són computables o que les màquines provocaran l’extinció de la humanitat. L’antropoformització podria col·laborar també a perdre de vista la importància del tracte humà, especialment en aquells sectors que impliquen cura i empatia cap a les persones, com les residències de gent gran o en l’atenció psicològica o l’educació.

El que fa la màquina és crear? La humanitat observa amb sorpresa la predicció estadística de les noves eines. La IA generativa es denomina així (generativa) perquè, a diferència d’altres aplicacions de caràcter classificatori, genera contingut nou, tot i que aquests sistemes creen a partir de dades preexistents. Això implica que les produccions que duen a terme sorgeixen d’un contingut ja creat originalment per éssers humans i a partir de les instruccions que un ésser humà ha introduït, sense oblidar que es tracta de sistemes el disseny dels quals també és concebut per persones.

El producte de la IA generativa és, doncs, una il·lusió de creació, una imitació, però de cap manera una reproducció de l’activitat creativa humana.

Si ens remetem al diccionari de l’Institut d’Estudis Catalans, crear significa «fer de no res». El relat cientifista i reduccionista (que considera que el cervell és com un ordinador, però inferior perquè és més lent en els processos computables) defensa que l’ésser humà també usa contingut preexistent per crear i, per tant, no el veu més capaç que una màquina. Però aquestes narratives no tenen en compte que l’originalitat de la creació emergeix de la singularitat de cada ésser del qual sorgeixen les idees, de la seva unicitat.

Relats apocalíptics

Sens dubte és admirable que la ciència computacional hagi estat capaç d’obtenir aquests resultats espectaculars de l’anàlisi estadística de text, però la IA generativa no crea, sinó que, estrictament, regurgita, mitjançant processos computacionals maximitzadors de la productivitat i programats per suprimir al màxim la fricció, les dades amb les quals ha estat entrenada: en el cas de les eines més conegudes, tota la informació de la web –incloent-hi els continguts subjectes a drets d’autor– que les empreses que lideren aquestes innovacions han obtingut de manera qüestionable des d’un punt de vista ètic i fins i tot legal. Les mateixes que promouen els relats apocalíptics alhora que, de gira per Europa, es dediquen al lobbisme per suavitzar les regulacions que puguin afectar el seu negoci.

El procés de creació humà no és productiu, sinó ineficient i no lineal. Això no implica que el producte generat en part (o fins i tot totalment) amb una eina d’IA pugui ser considerat art. De fet, ja s’han subhastat peces produïdes amb l’ajuda d’aquestes eines i s’han generat imatges que han ocupat portades de mitjans de comunicació. Hi ha moltíssimes creacions humanes i molt poques són considerades art, i només el temps podrà dir si el mercat de l’art adoptarà les produccions fetes amb IA. L’eina obre a més noves possibilitats creatives a través del prompting, l’habilitat humana que consisteix a donar instruccions de text perquè la IA produeixi imatges, música o textos buscats o sorprenents. I les seves característiques tampoc no impedeixen el desenvolupament d’eines generatives respectuoses amb els drets d’autor. De fet, ja hi ha casos d’IA entrenades amb dades d’ús lliure.

Però aquestes capacitats pràctiques no justifiquen la tendència a atribuir qualitats humanes o fins i tot sobrehumanes a la màquina pel fet que sigui més eficient, o perquè el sistema x ha superat exàmens o altres tipus de proves destinades a éssers humans. «És com dir que un cotxe corre més que una persona. Per descomptat que ho fa, però després no diem que és més bon corredor», afirma el tecnòleg Jaron Lanier davant d’aquestes comparacions reduccionistes del que és humà. L’art, la il·lustració, la composició musical o la literatura són pràctiques humanes, activitats cooperatives que no són equiparables als resultats que generen. Una pràctica és molt més que els seus resultats, afirmen els investigadors Ariel Guersenzvaig i Ramon Sangüesa.

En la creativitat humana, la subjectivitat té un paper fonamental, perquè crear està guiat per la motivació i la recompensa. Per a la filòsofa Hannah Arendt, el fer, el domini de la creació i la creativitat, és allò a què ens dediquem per construir i mantenir la durabilitat del món humà i implica imaginar i fer. Per a l’individu és una de les vies més profundes i elevades de realització, i li permet participar en la vida social, cosa que és essencial per al seu benestar psicològic. El filòsof argentí Dardo Scavino afirma que existeix humanitat perquè alguns deixen de reproduir com a autòmats les instruccions en vigor i en proposen de noves. Les prediccions sobre la base del passat estan limitades perquè no tenen en compte la capacitat humana de desafiar el que és impossible i decebre el que és esperable, en paraules del filòsof Daniel Innerarity.

La creativitat artística

Per a Arendt, l’expressió més pura del fet d’obrar és la creativitat artística. L’obra d’art, escriu, neix del pensament, i aquest al seu torn està relacionat amb el sentiment i «transforma el seu desànim mut i inarticulat».

La creació humana neix de la subjectivitat, de la consciència, i aquesta de la capacitat de ser un agent, i per ser un agent cal tenir corporalitat amb tot allò que implica: percebre estímuls favorables, sentir-ne altres de molestos, disposar d’objectius, tenir pors o necessitats. Només en aquestes condicions, segons la fenomenologia, es poden percebre sensacions com el dolor o la melancolia, o el que és el mateix, es pot disposar de qualia, el concepte tècnic amb què en filosofia es descriuen les sensacions pròpies de la consciència. El producte de la IA generativa és, doncs, una il·lusió de creació, una imitació, però de cap manera una reproducció de l’activitat creativa humana.

Arendt va advertir a mitjan segle passat sobre la transcendència política del desenvolupament tecnològic i va apuntar el repte comunicatiu que implica: «La dificultat rau en el fet que les “veritats” del món científic modern, si bé es poden demostrar amb fórmules matemàtiques i comprovar tecnològicament, ja no es presten a l’expressió normal del discurs i del pensament». El llenguatge tecnològic –va escriure– no ha d’impedir que siguem capaços d’«entendre, això és, de pensar i parlar sobre les coses que, malgrat tot, podem fer». Per aconseguir-ho no hi ha cap altra alternativa que considerar la màquina com el que és: una creació de l’ésser humà, que funciona al seu servei i sota la seva responsabilitat, i, per descomptat, mancada de veritable creativitat, voluntat i motivacions pròpies, que promou el relat gairebé sempre esbiaixat de qui es beneficiarà d’una eventual regulació a mida.

Usar bé el llenguatge

Per governar la IA comencem usant bé el llenguatge, perquè la tecnologia al servei de la cultura ultracapitalista que adora l’acumulació i l’individualisme ha demostrat sobradament el seu fracàs a l’hora de multiplicar les oportunitats i tenir cura del medi ambient. En aquests moments crucials hem d’aspirar a una innovació tecnològica orientada al bé comú que ens condueixi a un nou concepte de progrés que promogui la cura del nostre hàbitat natural, la igualtat i la dignitat humana.

Teresa Berndtsson / Better Images of AI / Letter Word Text Taxonomy / CC-BY 4.0