◯🪞Humanita Destruens

Ler em português

• Introducció — L’encíclica que va més enllà de la IA

La publicació de Magnifica Humanitas, la nova encíclica del Papa Lleó XIV, ha estat presentada públicament com una reflexió moral sobre els riscos i desafiaments derivats de la irrupció de la intel·ligència artificial en la societat contemporània. A primera vista, el document sembla inscriure’s dins una línia relativament previsible: advertiments sobre la deshumanització tecnològica, preocupacions ètiques sobre el futur del treball, alertes davant la concentració de poder digital i una crida a preservar la dignitat humana davant eines cada vegada més capaces i autònomes. El relat aparent és clar: la tecnologia avança a una velocitat superior a la capacitat humana d’assimilació i, davant d’aquest escenari, cal establir límits morals que evitin possibles derives destructives.

Tanmateix, limitar la lectura de Magnifica Humanitas a una simple reflexió sobre intel·ligència artificial seria una simplificació excessiva. Les grans encícliques de la història de l’Església rarament han estat només textos doctrinals; han estat, sobretot, finestres obertes a les pors profundes de cada civilització en moments de transformació històrica. Quan Roma parla, especialment en períodes d’incertesa estructural, acostuma a fer-ho menys sobre la tecnologia concreta del moment que sobre allò que aquesta tecnologia revela respecte a la naturalesa humana, al poder i a l’ordre de la civilització.

Això ja havia succeït amb la impremta, amb la Reforma, amb la Revolució Industrial o amb el sorgiment dels grans moviments ideològics moderns. En cadascun d’aquests moments, l’Església va percebre no només l’aparició d’una nova eina, sinó la possibilitat que l’ordre mental, moral i polític existent quedés profundament alterat. Les tecnologies disruptives no generen únicament noves capacitats; obliguen les civilitzacions a mirar-se al mirall i a confrontar preguntes que fins aquell moment podien romandre amagades sota les estructures establertes.

La intel·ligència artificial representa probablement un dels punts culminants d’aquest procés històric. Per primera vegada, la humanitat no es limita a crear eines que amplien la seva força física o la seva capacitat de comunicació; està desenvolupant sistemes capaços d’intervenir directament sobre els processos cognitius, la generació de coneixement, la presa de decisions, la interpretació de la realitat i, potencialment, sobre la mateixa definició del que significa ser humà.

És precisament aquí on Magnifica Humanitas revela la seva dimensió més profunda. Sota el llenguatge moral i les apel·lacions a l’ètica emergeix una inquietud molt més radical: la sospita que la intel·ligència humana, quan es veu amplificada exponencialment per tecnologies capaces d’escapar a qualsevol límit tradicional, pot acabar derivant cap a dinàmiques potencialment destructives per a la mateixa civilització que les ha creades.

I és en aquest punt on l’encíclica deixa de parlar només d’intel·ligència artificial per començar a parlar, implícitament, de l’Homo Sapiens mateix.

Durant segles, les grans tradicions religioses havien expressat aquesta intuïció mitjançant conceptes espirituals o morals: pecat, corrupció, temptació, orgull, caiguda o desviació. Però a Magnifica Humanitas sembla produir-se una translació conceptual significativa. El problema ja no és només el mal ús individual de la llibertat humana; el problema és la possibilitat que la mateixa civilització tecnològica es converteixi en l’expressió sistèmica d’una intel·ligència sense autolimitació, sense consciència profunda dels seus propis límits i sense capacitat real de controlar les conseqüències del seu propi poder.

Aquesta és, probablement, la gran qüestió oculta que travessa tota l’encíclica. I és també el motiu pel qual la lectura de Magnifica Humanitas no pot quedar reduïda a un debat tècnic sobre regulació de la IA. El que realment apareix en el rerefons del document és una pregunta molt més incòmoda i profunda: què passa quan una espècie capaç d’una intel·ligència extraordinària desenvolupa eines que amplifiquen exponencialment la seva capacitat de transformació sense haver resolt encara les seves pròpies pulsions de dominació, control, acceleració i destrucció?

Potser, per primera vegada de manera tan explícita, una gran estructura moral i espiritual de la civilització occidental sembla admetre implícitament que el principal risc del futur no és la tecnologia en si mateixa, sinó la part destructiva latent que el mateix Homo Sapiens pot projectar a través d’ella.

I potser és precisament aquí on comença realment el debat que aquesta encíclica obre davant el món.

• De la impremta a la IA: quan Roma detecta un risc per a la civilització

La història de l’Església catòlica és també, en bona mesura, la història de la seva relació amb el coneixement, amb la transmissió de la informació i amb els mecanismes que defineixen qui té autoritat per interpretar la realitat. Molt abans que existissin els algoritmes, les xarxes socials o la intel·ligència artificial, Roma ja havia entès una veritat fonamental: qui controla els canals a través dels quals circula el coneixement, influeix inevitablement sobre la consciència col·lectiva, sobre l’ordre moral i sobre les estructures de poder.

Per aquest motiu, cada vegada que una tecnologia ha amenaçat de transformar radicalment la forma en què els humans accedeixen al coneixement o construeixen el relat del món, l’Església ha reaccionat. No sempre de la mateixa manera, ni amb la mateixa intensitat, però sí amb una constant històrica clara: Roma detecta ràpidament quan una innovació tecnològica no és només una eina, sinó una potencial alteració de l’equilibri històric existent.

La irrupció de la impremta a l’Europa del segle XV constitueix probablement un dels exemples més reveladors d’aquest mecanisme. La possibilitat de reproduir textos massivament va alterar de manera irreversible la velocitat de circulació de les idees, el control del coneixement i la relació entre autoritat i interpretació. Allò que durant segles havia estat relativament lent, limitat i jerarquitzat començava sobtadament a escapar del control dels centres tradicionals de poder espiritual i intel·lectual.

És en aquest context que apareixen documents com Inter multiplices nostrae sollicitudinis curas d’Innocenci VIII i, posteriorment, Inter sollicitudines de Lleó X. Ambdues butlles no poden entendre’s simplement com a mecanismes de censura en el sentit superficial del terme. Eren, sobretot, reaccions davant la percepció que una nova tecnologia podia alterar profundament la forma en què els humans pensaven, interpretaven el món i qüestionaven l’autoritat establerta.

La impremta no representava només un avenç tècnic. Representava la ruptura del monopoli sobre la interpretació del coneixement. Fins aquell moment, l’autoritat religiosa, política i intel·lectual mantenia una capacitat relativament estable per controlar el flux de les idees. Però amb la multiplicació exponencial dels textos, apareixia una realitat nova: el coneixement podia començar a circular fora dels canals tradicionals de validació moral i institucional.

Roma va entendre ràpidament que el problema no era únicament el contingut concret d’alguns llibres, sinó la transformació estructural del sistema de transmissió del coneixement. Perquè quan una tecnologia altera la manera com els humans accedeixen a la informació, inevitablement acaba alterant també la consciència col·lectiva, la construcció de la veritat i la legitimitat de l’autoritat existent.

La Reforma protestant demostraria posteriorment fins a quin punt aquella percepció no era exagerada. La impremta no només havia accelerat la difusió d’idees; havia transformat completament l’arquitectura mental i política d’Europa.

Cinc segles més tard, la intel·ligència artificial apareix davant el Vaticà com una nova ruptura d’escala històrica. Però amb una diferència fonamental: mentre la impremta multiplicava el coneixement humà, la IA amenaça potencialment de participar activament en la seva generació, interpretació i jerarquització. Ja no es tracta només de transmetre informació més ràpidament. Es tracta de sistemes capaços de produir llenguatge, influir sobre decisions, modelar percepcions, construir narratives i intervenir directament sobre processos cognitius humans.

La impremta alterava el flux del coneixement. La IA pot arribar a alterar el mateix procés mitjançant el qual els humans construeixen la seva percepció de la realitat. I això explica per què Magnifica Humanitas no és una simple advertència tecnològica, sinó la reacció d’una estructura mil·lenària davant el que percep com un possible punt d’inflexió històric.

Roma sembla detectar que la IA no és només una eina poderosa. És una tecnologia potencialment capaç de desplaçar progressivament funcions que fins ara havien estat considerades profundament humanes: el discerniment, la interpretació, la decisió, la creació simbòlica i la construcció del relat.

Per aquest motiu, la intel·ligència artificial desperta una inquietud qualitativament diferent a altres revolucions tecnològiques recents. El que sembla estar en joc és la mateixa arquitectura del pensament humà i la capacitat de les societats de conservar algun tipus de control conscient sobre les eines que elles mateixes creen.

La diferència és que, mentre al segle XV el perill percebut era la fragmentació de l’autoritat doctrinal, al segle XXI el risc sembla molt més profund: la possibilitat que la mateixa intel·ligència humana, amplificada exponencialment per sistemes artificials, perdi progressivament la capacitat d’autolimitar-se i acabi alterant la pròpia naturalesa de la civilització que ha construït.

És aquí on la IA deixa de ser només tecnologia.

I es converteix en un possible punt de bifurcació històrica per a la mateixa condició humana.

• La gran pregunta oculta: què està intentant protegir realment el Vaticà?

Arribats a aquest punt, la pregunta fonamental ja no és què diu explícitament Magnifica Humanitas, sinó què revela implícitament sobre la percepció profunda que el Vaticà té del moment històric actual. Perquè rere les advertències sobre la intel·ligència artificial i rere les apel·lacions a l’ètica emergeix una qüestió molt més delicada: què està intentant protegir realment Roma?

La resposta immediata seria afirmar que l’Església intenta protegir la humanitat dels excessos de la tecnologia. Però aquesta explicació és insuficient. La tecnologia, per si sola, no té voluntat ni objectius propis. La IA és una creació humana, una extensió exponencial de capacitats desenvolupades pel mateix Homo Sapiens.

Per això, si la IA és percebuda com un risc, la pregunta inevitable és una altra: risc provocat per què? Per la màquina? O per allò que l’ésser humà podria arribar a fer a través d’ella?

Quan el Vaticà parla de preservar la dignitat humana, d’evitar la deshumanització o de posar límits morals al desenvolupament tecnològic, està formulant implícitament una sospita molt concreta: que l’Homo Sapiens, dotat sobtadament d’eines capaces d’amplificar enormement el seu poder, podria utilitzar-les de forma destructiva no només contra altres humans, sinó contra les bases mateixes de la civilització.

Aquesta idea representa un canvi profund respecte a molts dels relats optimistes que han dominat la modernitat occidental durant els darrers dos segles. Durant molt de temps, el progrés tecnològic ha estat associat gairebé automàticament a la idea d’evolució moral i avanç civilitzador. Però Magnifica Humanitas sembla qüestionar silenciosament aquesta premissa.

El document deixa entreveure que l’acumulació de poder tecnològic no garanteix en absolut una evolució equivalent de la consciència humana. Al contrari: com més poder adquireix una espècie sense haver resolt les seves pulsions de dominació, control o destrucció, més perilloses poden arribar a ser les eines que crea.

És aquí on apareix gradualment la necessitat d’introduir una idea que fins ara havia romàs difusa sota múltiples formes culturals i filosòfiques: la possibilitat que dins el mateix Homo Sapiens existeixi una deriva potencialment destructiva que no constitueix una excepció accidental, sinó una part latent de la seva pròpia naturalesa.

Homo Destruens no apareix així com una espècie separada ni com una anomalia externa. És la capacitat destructiva que emergeix quan la intel·ligència humana es desacobla progressivament dels límits, de la responsabilitat i de la consciència profunda de les conseqüències del seu propi poder.

El segle XXI introdueix, però, un element radicalment nou: la capacitat tecnològica de convertir aquestes pulsions en forces d’escala global. La IA no crea Homo Destruens. El que fa és multiplicar exponencialment la seva capacitat d’actuar sobre la informació, sobre la percepció, sobre la política, sobre l’economia i sobre la mateixa definició futura del que significa continuar essent humans.

Aquest és el punt en què la lectura de Magnifica Humanitas canvia completament. L’encíclica deixa de ser només una advertència sobre intel·ligència artificial i es converteix en una admissió molt més profunda: el principal risc del futur no és la tecnologia en si mateixa, sinó allò que el mateix Homo Sapiens podria arribar a projectar a través d’ella.

• Homo Sapiens i Homo Destruens

Una de les grans il·lusions de la modernitat ha estat assumir que el progrés tècnic i científic comportaria inevitablement una evolució equivalent de la consciència humana. Especialment després de la Il·lustració, una part important del pensament occidental va consolidar la idea que l’acumulació de coneixement conduiria gradualment a societats més racionals, més lliures i moralment més avançades. La història, però, ha estat molt menys lineal del que aquest relat suggeria.

El mateix ésser humà capaç de desenvolupar medicina avançada, explorar l’espai o crear obres d’art extraordinàries és també capaç de genocidis industrials, guerres d’escala planetària, destrucció mediambiental massiva i mecanismes cada vegada més sofisticats de manipulació i dominació. La història de la civilització no és únicament la història del progrés humà; és també la història de la seva capacitat creixent de destrucció.

Aquesta dualitat acompanya l’Homo Sapiens des dels seus orígens. La mateixa intel·ligència que permet crear també permet dominar. La mateixa creativitat que genera coneixement pot generar armes. La mateixa capacitat simbòlica que construeix civilitzacions pot construir relats de fanatisme, propaganda o control. El problema no és l’existència d’una anomalia externa al Sapiens. El problema és que la potencialitat creadora i la potencialitat destructiva emergeixen del mateix nucli cognitiu.

És precisament aquí on el concepte d’Homo Destruens adquireix sentit.

Homo Destruens no és una espècie diferent de l’Homo Sapiens. No és una mutació separada ni una desviació excepcional atribuïble només a individus concrets o a moments històrics particulars. És una possibilitat latent dins el mateix ésser humà. És la deriva que apareix quan la capacitat de transformar el món creix més ràpidament que la capacitat de comprendre les conseqüències d’aquesta transformació.

Durant mil·lennis, aquesta tensió va romandre parcialment limitada per les pròpies restriccions materials de la civilització. La capacitat destructiva dels humans existia, però els seus efectes tenien un abast relativament acotat. Fins i tot els grans imperis de l’antiguitat estaven condicionats per les distàncies, per la lentitud de les comunicacions i per les limitacions energètiques i tecnològiques del seu temps.

La modernitat industrial va alterar profundament aquest equilibri. La Revolució Industrial, les guerres mundials, la bomba atòmica, els sistemes financers globals i posteriorment la digitalització van demostrar fins a quin punt la intel·ligència humana podia multiplicar exponencialment tant la seva capacitat creativa com la seva capacitat destructiva.

El segle XXI introdueix, però, una diferència qualitativament nova. Per primera vegada, l’Homo Sapiens està desenvolupant eines capaces d’intervenir no només sobre el món físic, sinó també sobre els mateixos processos cognitius, perceptius i decisoris de la humanitat. La intel·ligència artificial no és simplement una eina industrial més potent. És una tecnologia potencialment capaç d’amplificar la influència, la manipulació de la informació, la construcció de narratives, la vigilància i fins i tot la redefinició progressiva de la relació entre humans i coneixement.

És aquí on la IA es converteix en un accelerador potencial d’Homo Destruens.

No perquè la màquina sigui maligna en si mateixa, sinó perquè amplia exponencialment la capacitat d’acció d’una espècie que encara no ha resolt les seves pròpies pulsions de dominació, control i expansió il·limitada. La IA no crea aquesta ombra; simplement li proporciona una escala i una velocitat sense precedents històrics.

Aquest és probablement el punt més inquietant del moment actual. La civilització tecnològica contemporània ha aconseguit desenvolupar eines d’una sofisticació extraordinària sense que existeixi cap evidència clara que la maduresa moral, política o psicològica de l’espècie hagi evolucionat al mateix ritme. L’Homo Sapiens continua arrossegant tribalismes, lluites pel poder, fascinació pel control i enormes dificultats per autolimitar-se quan disposa de noves capacitats.

Aquesta és la contradicció central del nostre temps. La mateixa espècie que ha estat capaç de crear eines capaces de transformar radicalment la realitat global continua essent profundament vulnerable a les seves pròpies dinàmiques internes de dominació i destrucció.

I és precisament aquesta contradicció la que sembla començar a emergir, encara que sigui indirectament, darrere de Magnifica Humanitas. Quan el Vaticà alerta sobre la necessitat de posar límits morals a la intel·ligència artificial, el que està fent implícitament és reconèixer que el problema central no és la màquina, sinó la possibilitat que l’Homo Sapiens tecnificat faci emergir, a una escala desconeguda fins ara, la seva dimensió Homo Destruens.

• L’encíclica com a admissió implícita d’Homo Destruens

Fins aquest punt, Magnifica Humanitas encara podria interpretar-se com una encíclica prudent davant els riscos derivats de la intel·ligència artificial. Però una lectura més profunda revela una qüestió molt més significativa: el Vaticà no està reaccionant únicament davant una tecnologia emergent, sinó davant allò que aquesta tecnologia podria arribar a revelar sobre el mateix Sapiens.

Aquest és el gir central de l’encíclica.

Quan Roma reclama límits globals, supervisió moral, regulació internacional i mecanismes capaços de controlar determinats desenvolupaments tecnològics, està assumint implícitament una idea fonamental: que el Sapiens, deixat únicament a la seva pròpia dinàmica expansiva, podria no ser capaç d’autolimitar-se davant eines d’un poder sense precedents.

Aquesta constatació és profundament reveladora.

Perquè implica que el Vaticà no percep la intel·ligència humana com una força espontàniament equilibrada o inherentment orientada cap al bé col·lectiu. El document deixa entreveure una desconfiança estructural davant la possibilitat que el mateix Sapiens utilitzi les seves noves capacitats tecnològiques de manera potencialment destructiva per a la llibertat, per a la dignitat humana i fins i tot per a la mateixa naturalesa humana.

I és precisament aquí on emergeix la gran admissió implícita de Magnifica Humanitas.

L’encíclica no utilitza el concepte Homo Destruens. Evidentment no ho farà. Però tota la seva arquitectura moral i argumental apunta cap a la mateixa intuïció: existeix una potencialitat destructiva latent dins el mateix Sapiens que pot aflorar quan el poder tecnològic creix més ràpidament que la consciència i la responsabilitat.

Això explica per què la IA apareix a l’encíclica no només com una innovació, sinó com una frontera que obliga a redefinir els límits, l’autoritat, el control i la mateixa idea de protecció de la humanitat.

Perquè reclamar supervisió moral global implica acceptar que el criteri humà espontani podria resultar insuficient davant les noves capacitats tecnològiques. Reclamar regulació internacional implica assumir que el Sapiens podria acabar traspassant límits percebuts com a perillosos per a la seva pròpia continuïtat històrica.

I aquí apareix la gran paradoxa del document.

En intentar protegir la humanitat dels possibles excessos derivats de la IA, el Vaticà acaba reconeixent implícitament que el principal risc no és la màquina, sinó la possibilitat que el mateix Sapiens projecti sobre ella les seves pròpies pulsions de dominació, control i expansió il·limitada.

És a dir: Magnifica Humanitas funciona, en el fons, com una admissió indirecta de l’existència d’Homo Destruens.

La IA actua així com el gran desllorigador històric que força les grans estructures morals de la civilització a confrontar una pregunta fins ara sovint evitada: què passa quan una espècie capaç d’una intel·ligència extraordinària desenvolupa eines que multipliquen exponencialment el seu poder abans d’haver resolt les seves pròpies contradiccions internes?

• El pas següent: qui decidirà què és Homo Destruens?

Un cop acceptada implícitament l’existència d’una deriva potencialment destructiva dins el mateix Sapiens, apareix inevitablement la gran pregunta que Magnifica Humanitas deixa oberta i que constitueix, probablement, el punt més delicat de tot el debat: qui decidirà què és Homo Destruens?

Aquest és el veritable terreny de tensió que s’amaga rere l’encíclica.

Perquè identificar un risc és només el primer pas. El següent és infinitament més complex: establir qui té legitimitat per definir el límit, el risc acceptable, l’ús legítim de la tecnologia, la desviació, la protecció de la humanitat i, en última instància, què pot considerar-se una amenaça per al futur de la civilització.

Aquí és on el debat deixa definitivament de ser tecnològic i es converteix en una qüestió de poder moral, polític i històric.

La història humana demostra que qualsevol estructura que assumeix la funció de protegir una societat acaba adquirint també la capacitat de definir què és considerat acceptable i què no. Això ha estat cert per als imperis, per als estats, per a les religions, per a les ideologies i, molt probablement, també ho serà per a les futures estructures tecnocràtiques.

Per aquest motiu, el gran interrogant que emergeix rere Magnifica Humanitas no és simplement si calen límits, sinó qui els definirà i sota quina autoritat.

Perquè una vegada una civilització accepta que existeix un risc associat a la pròpia intel·ligència humana, apareix inevitablement la temptació de construir estructures capaces de vigilar, regular i corregir aquesta possible deriva. I és precisament aquí on el debat entra en una zona extraordinàriament delicada.

Qui decidirà què constitueix una expressió legítima del progrés humà i què constitueix una manifestació d’Homo Destruens? Qui establirà la frontera entre llibertat i irresponsabilitat? Entre innovació i desviació? Entre protecció i tutela?

Aquestes preguntes són molt més profundes del que aparentment podria semblar. Perquè qui controli la definició del risc controlarà també, en gran mesura, la direcció futura de la civilització.

I és aquí on Magnifica Humanitas mostra una segona capa implícita encara més significativa.

El Vaticà no només detecta la possibilitat d’Homo Destruens. També suggereix, encara que sigui indirectament, que la humanitat necessita algun tipus d’autoritat capaç de mediar davant aquesta potencialitat destructiva. La mateixa idea de “supervisió moral global” implica que el desenvolupament tecnològic no pot quedar completament abandonat a la lliure dinàmica dels estats, dels mercats, de les corporacions o de la competència geopolítica.

Roma està insinuant que el futur tecnològic necessita una forma superior de legitimació moral.

I aquest punt és enormement rellevant.

Perquè històricament, cada vegada que apareixen grans crisis o transformacions estructurals, les civilitzacions tendeixen a buscar figures, institucions o mecanismes capaços d’actuar com a mediadors davant el caos potencial. El problema és que tota autoritat mediadora tendeix també, inevitablement, a acumular capacitat de definició sobre allò que és acceptable, allò que és perillós i allò que ha de ser limitat “pel bé comú”.

Aquí apareix la gran paradoxa del segle XXI.

La mateixa humanitat que podria necessitar límits davant tecnologies capaces de transformar radicalment la condició humana corre també el risc que aquests límits acabin convertint-se en nous mecanismes de tutela cognitiva, moral o política.

Perquè una vegada s’accepta que determinades idees, tecnologies o línies de desenvolupament poden ser “massa perilloses” per quedar completament lliures, la pregunta decisiva ja no és tecnològica.

És: qui tindrà el poder de decidir-ho?

I és precisament en aquest punt on la tensió entre Homo Sapiens i Homo Destruens deixa de ser únicament una qüestió filosòfica per convertir-se en una batalla potencial sobre l’autoritat, la llibertat i el control del futur humà.

• El risc del segle XXI

La gran transformació que travessa el segle XXI no pot entendre’s únicament com una revolució tecnològica. Aquesta és, probablement, una de les grans confusions del nostre temps. Reduir el debat actual a una qüestió d’innovació, digitalització o intel·ligència artificial significa observar només la superfície d’un procés molt més profund.

El que està començant a alterar-se no és només la forma en què treballem o ens comuniquem. El que es troba en plena transformació és la relació mateixa entre coneixement i veritat, entre consciència i percepció, entre llibertat i predicció, entre individu i poder. Per primera vegada a la història, una civilització està desenvolupant sistemes capaços d’intervenir massivament sobre els processos humans d’interpretació de la realitat, sobre la presa de decisions, sobre la gestió de l’atenció col·lectiva i fins i tot sobre la construcció de les narratives que defineixen què és acceptable pensar o creure.

Per aquest motiu, el problema del segle XXI ja no és exclusivament tecnològic. La tecnologia és només la superfície visible d’una transformació molt més profunda que afecta directament la dimensió cognitiva de la civilització humana. Qui sigui capaç de modular el flux d’informació, les emocions col·lectives, les prioritats cognitives i els mecanismes de validació de la realitat adquirirà una forma de poder qualitativament diferent de qualsevol altra coneguda anteriorment.

Tanmateix, la qüestió no és només cognitiva. També és profundament moral. La civilització contemporània ha desenvolupat una capacitat tecnològica immensament superior a la de qualsevol període històric precedent, però no existeix cap evidència clara que aquesta expansió de poder hagi anat acompanyada d’una evolució equivalent de la responsabilitat, de la consciència dels límits o de la maduresa col·lectiva.

Aquesta contradicció situa el debat en una dimensió encara més profunda, relacionada directament amb el model de civilització que la humanitat està construint. Durant segles, el progrés va ser percebut gairebé sempre com una expansió positiva de les possibilitats humanes. Però el segle XXI introdueix una pregunta molt més incòmoda: pot una civilització continuar incrementant indefinidament el seu poder tecnològic sense acabar erosionant els fonaments humans, psicològics i culturals que sostenen la seva pròpia estabilitat?

És aquí on emergeix la dimensió antropològica del problema. La qüestió central ja no és només què poden fer les màquines, sinó què passarà amb el mateix Sapiens quan delegui progressivament parts creixents del seu criteri, externalitzi la memòria, substitueixi l’experiència directa per entorns algorítmics i perdi gradualment la capacitat de distingir entre realitat viscuda i realitat construïda tecnològicament.

És precisament en aquest context on apareix un dels riscos més delicats i menys debatuts del nostre temps: la possible construcció de nous mecanismes globals de tutela justificats “pel bé de la humanitat”. Aquest procés no necessàriament adoptaria la forma d’una dictadura visible o d’un sistema autoritari clàssic. Podria emergir de manera molt més subtil, gradual i aparentment racional.

Si una civilització arriba a la conclusió que determinades tecnologies, determinades línies de recerca o determinades formes d’autonomia humana poden posar en risc l’estabilitat global, la temptació de construir estructures permanents de supervisió, filtratge, regulació i limitació preventiva podria començar a aparèixer com una necessitat legítima.

I és precisament aquí on el debat sobre Homo Destruens adquireix tota la seva profunditat.

La por davant les possibles derives destructives del Sapiens tecnificat podria acabar generant nous mecanismes globals orientats no només a protegir la humanitat, sinó també a decidir què és acceptable desenvolupar, què és legítim pensar i quins límits no poden ser traspassats.

La civilització podria intentar protegir-se d’Homo Destruens corrent el risc de construir estructures capaces de limitar progressivament la llibertat, l’autonomia i la capacitat de decisió del mateix Sapiens.

Potser aquesta és la gran paradoxa que comença a emergir silenciosament rere documents com Magnifica Humanitas: que la lluita contra les potencials derives destructives de la intel·ligència humana podria acabar redefinint també els límits mateixos de la llibertat humana.

• Epíleg — El mirall d’Homo Destruens

Durant dècades, la civilització contemporània ha viscut sota la convicció gairebé automàtica que tota expansió del coneixement i de la capacitat tecnològica representava inevitablement un avanç positiu per a la humanitat. El progrés s’havia convertit en una mena de dogma modern. Més informació, més computació, més connectivitat i més capacitat de transformació eren presentats gairebé sempre com a sinònims d’evolució.

Però sota aquest relat optimista hi romania una pregunta que la modernitat preferia evitar: què passa quan una espècie augmenta exponencialment el seu poder sense augmentar proporcionalment la seva consciència dels límits?

Potser aquesta és la gran qüestió que comença a emergir rere Magnifica Humanitas.

La intel·ligència artificial no ha creat Homo Destruens. Aquesta és probablement una de les idees més importants i alhora més incòmodes de tot aquest debat. Homo Destruens no apareix amb els algoritmes ni amb la computació avançada. Ha acompanyat el Sapiens des dels seus orígens. És present en les guerres, en les destruccions massives, en els imperis, en les manipulacions i en la fascinació permanent pel poder.

El que fa la IA és una altra cosa molt més profunda i inquietant: amplificar exponencialment la capacitat d’acció d’aquesta potencialitat latent. Per primera vegada, el Sapiens disposa d’eines capaces d’intervenir simultàniament sobre la informació, sobre la percepció, sobre la cognició i sobre la construcció mateixa de la realitat social.

La qüestió ja no és només quina tecnologia som capaços de crear. La qüestió és què podria arribar a fer una espècie profundament contradictòria quan aquestes eines quedin plenament integrades dins les estructures de poder, de mercat, de guerra i de governança global.

Potser és precisament això el que explica la inquietud profunda que travessa Magnifica Humanitas. L’encíclica sembla escrita per una estructura mil·lenària que, observant el ritme accelerat del segle XXI, comença a percebre que la civilització està entrant en una zona desconeguda on el problema ja no és únicament moral, tecnològic o polític. El problema és antropològic.

El problema és el mateix Sapiens davant la magnitud creixent del seu propi poder.

I és aquí on el mirall d’Homo Destruens apareix amb tota la seva força.

Perquè el segle XXI podria ser recordat no tant com el moment en què la humanitat va crear una intel·ligència artificial avançada, sinó com el moment en què la civilització va veure’s obligada a confrontar directament la seva pròpia ombra.

La IA no ha inventat aquesta ombra. Només ha eliminat moltes de les excuses que permetien ignorar-la.

Potser per això Magnifica Humanitas resulta tan significativa. No perquè ofereixi totes les respostes ni perquè el Vaticà tingui la capacitat real de controlar el futur tecnològic de la humanitat.

La seva importància rau en una altra cosa molt més profunda: en el fet que una de les estructures morals i espirituals més antigues de la civilització occidental sembla començar a acceptar implícitament que el principal risc del futur no prové d’una màquina, sinó del mateix Sapiens quan perd la capacitat d’autolimitar-se davant el seu propi poder.

Potser aquesta és la gran admissió silenciosa de Magnifica Humanitas.

I potser també és la primera vegada que el Vaticà, encara que no ho digui amb aquestes paraules, sembla començar a mirar directament al mirall d’Homo Destruens.

Si vols entendre què és realment Homo Destruens, aquí pots llegir Destruens – El mirall dels sapiens: la intel·ligència que destrueix.