◯🪞Humanita Destruens

Llegir en català

• Introdução — A encíclica que vai além da IA

A publicação de Magnifica Humanitas, a nova encíclica do Papa Leão XIV, foi apresentada publicamente como uma reflexão moral sobre os riscos e desafios derivados da irrupção da inteligência artificial na sociedade contemporânea. À primeira vista, o documento parece inserir-se dentro de uma linha relativamente previsível: advertências sobre a desumanização tecnológica, preocupações éticas sobre o futuro do trabalho, alertas diante da concentração de poder digital e um chamado para preservar a dignidade humana diante de ferramentas cada vez mais capazes e autônomas. O relato aparente é claro: a tecnologia avança em uma velocidade superior à capacidade humana de assimilação e, diante desse cenário, é necessário estabelecer limites morais que evitem possíveis derivações destrutivas.

No entanto, limitar a leitura de Magnifica Humanitas a uma simples reflexão sobre inteligência artificial seria uma simplificação excessiva. As grandes encíclicas da história da Igreja raramente foram apenas textos doutrinários; foram, sobretudo, janelas abertas para os medos profundos de cada civilização em momentos de transformação histórica. Quando Roma fala, especialmente em períodos de incerteza estrutural, costuma fazê-lo menos sobre a tecnologia concreta do momento do que sobre aquilo que essa tecnologia revela a respeito da natureza humana, do poder e da ordem da civilização.

Isso já havia acontecido com a imprensa, com a Reforma, com a Revolução Industrial ou com o surgimento dos grandes movimentos ideológicos modernos. Em cada um desses momentos, a Igreja percebeu não apenas o aparecimento de uma nova ferramenta, mas também a possibilidade de que a ordem mental, moral e política existente fosse profundamente alterada. As tecnologias disruptivas não geram unicamente novas capacidades; obrigam as civilizações a olhar-se no espelho e a confrontar perguntas que até então podiam permanecer escondidas sob as estruturas estabelecidas.

A inteligência artificial representa provavelmente um dos pontos culminantes desse processo histórico. Pela primeira vez, a humanidade não se limita a criar ferramentas que ampliam sua força física ou sua capacidade de comunicação; está desenvolvendo sistemas capazes de intervir diretamente sobre os processos cognitivos, a geração de conhecimento, a tomada de decisões, a interpretação da realidade e, potencialmente, sobre a própria definição do que significa ser humano.

É precisamente aqui que Magnifica Humanitas revela sua dimensão mais profunda. Sob a linguagem moral e os apelos à ética emerge uma inquietação muito mais radical: a suspeita de que a inteligência humana, quando se vê amplificada exponencialmente por tecnologias capazes de escapar de qualquer limite tradicional, pode acabar derivando para dinâmicas potencialmente destrutivas para a própria civilização que as criou.

E é nesse ponto que a encíclica deixa de falar apenas de inteligência artificial para começar a falar, implicitamente, do próprio Homo Sapiens.

Durante séculos, as grandes tradições religiosas haviam expressado essa intuição por meio de conceitos espirituais ou morais: pecado, corrupção, tentação, orgulho, queda ou desvio. Mas em Magnifica Humanitas parece ocorrer uma translação conceitual significativa. O problema já não é apenas o mau uso individual da liberdade humana; o problema é a possibilidade de que a própria civilização tecnológica se converta na expressão sistêmica de uma inteligência sem autolimitação, sem consciência profunda de seus próprios limites e sem capacidade real de controlar as consequências de seu próprio poder.

Essa é, provavelmente, a grande questão oculta que atravessa toda a encíclica. E é também o motivo pelo qual a leitura de Magnifica Humanitas não pode ficar reduzida a um debate técnico sobre regulação da IA. O que realmente aparece no pano de fundo do documento é uma pergunta muito mais incômoda e profunda: o que acontece quando uma espécie capaz de uma inteligência extraordinária desenvolve ferramentas que amplificam exponencialmente sua capacidade de transformação sem ter resolvido ainda seus próprios impulsos de dominação, controle, aceleração e destruição?

Talvez, pela primeira vez de maneira tão explícita, uma grande estrutura moral e espiritual da civilização ocidental parece admitir implicitamente que o principal risco do futuro não é a tecnologia em si mesma, mas a parte destrutiva latente que o próprio Homo Sapiens pode projetar através dela.

E talvez seja precisamente aqui que começa realmente o debate que esta encíclica abre diante do mundo.

• Da imprensa à IA: quando Roma detecta um risco para a civilização

A história da Igreja Católica é também, em grande medida, a história de sua relação com o conhecimento, com a transmissão da informação e com os mecanismos que definem quem possui autoridade para interpretar a realidade. Muito antes de existirem algoritmos, redes sociais ou inteligência artificial, Roma já havia compreendido uma verdade fundamental: quem controla os canais através dos quais circula o conhecimento influencia inevitavelmente a consciência coletiva, a ordem moral e as estruturas de poder.

Por esse motivo, cada vez que uma tecnologia ameaçou transformar radicalmente a forma como os humanos acessam o conhecimento ou constroem o relato do mundo, a Igreja reagiu. Nem sempre da mesma maneira, nem com a mesma intensidade, mas sim com uma constante histórica clara: Roma detecta rapidamente quando uma inovação tecnológica não é apenas uma ferramenta, mas uma potencial alteração do equilíbrio histórico existente.

A irrupção da imprensa na Europa do século XV constitui provavelmente um dos exemplos mais reveladores desse mecanismo. A possibilidade de reproduzir textos massivamente alterou de maneira irreversível a velocidade de circulação das ideias, o controle do conhecimento e a relação entre autoridade e interpretação. Aquilo que durante séculos havia sido relativamente lento, limitado e hierarquizado começava subitamente a escapar do controle dos centros tradicionais de poder espiritual e intelectual.

É nesse contexto que aparecem documentos como Inter multiplices nostrae sollicitudinis curas de Inocêncio VIII e, posteriormente, Inter sollicitudines de Leão X. Ambas as bulas não podem ser entendidas simplesmente como mecanismos de censura no sentido superficial do termo. Eram, sobretudo, reações diante da percepção de que uma nova tecnologia podia alterar profundamente a forma como os humanos pensavam, interpretavam o mundo e questionavam a autoridade estabelecida.

A imprensa não representava apenas um avanço técnico. Representava a ruptura do monopólio sobre a interpretação do conhecimento. Até aquele momento, a autoridade religiosa, política e intelectual mantinha uma capacidade relativamente estável de controlar o fluxo das ideias. Mas com a multiplicação exponencial dos textos, surgia uma nova realidade: o conhecimento podia começar a circular fora dos canais tradicionais de validação moral e institucional.

Roma compreendeu rapidamente que o problema não era unicamente o conteúdo concreto de alguns livros, mas a transformação estrutural do sistema de transmissão do conhecimento. Porque quando uma tecnologia altera a maneira como os humanos acessam a informação, inevitavelmente acaba alterando também a consciência coletiva, a construção da verdade e a legitimidade da autoridade existente.

A Reforma protestante demonstraria posteriormente até que ponto aquela percepção não era exagerada. A imprensa não apenas havia acelerado a difusão de ideias; havia transformado completamente a arquitetura mental e política da Europa.

Cinco séculos mais tarde, a inteligência artificial aparece diante do Vaticano como uma nova ruptura de escala histórica. Mas com uma diferença fundamental: enquanto a imprensa multiplicava o conhecimento humano, a IA ameaça potencialmente participar ativamente de sua geração, interpretação e hierarquização. Já não se trata apenas de transmitir informação mais rapidamente. Trata-se de sistemas capazes de produzir linguagem, influenciar decisões, modelar percepções, construir narrativas e intervir diretamente sobre processos cognitivos humanos.

A imprensa alterava o fluxo do conhecimento. A IA pode chegar a alterar o próprio processo através do qual os humanos constroem sua percepção da realidade. E isso explica por que Magnifica Humanitas não é uma simples advertência tecnológica, mas a reação de uma estrutura milenar diante daquilo que percebe como um possível ponto de inflexão histórico.

Roma parece detectar que a IA não é apenas uma ferramenta poderosa. É uma tecnologia potencialmente capaz de deslocar progressivamente funções que até agora haviam sido consideradas profundamente humanas: o discernimento, a interpretação, a decisão, a criação simbólica e a construção do relato.

Por esse motivo, a inteligência artificial desperta uma inquietação qualitativamente diferente de outras revoluções tecnológicas recentes. O que parece estar em jogo é a própria arquitetura do pensamento humano e a capacidade das sociedades de conservar algum tipo de controle consciente sobre as ferramentas que elas mesmas criam.

A diferença é que, enquanto no século XV o perigo percebido era a fragmentação da autoridade doutrinária, no século XXI o risco parece muito mais profundo: a possibilidade de que a própria inteligência humana, amplificada exponencialmente por sistemas artificiais, perca progressivamente a capacidade de autolimitar-se e acabe alterando a própria natureza da civilização que construiu.

É aqui que a IA deixa de ser apenas tecnologia e se converte em um possível ponto de bifurcação histórica para a própria condição humana.

• A grande pergunta oculta: o que o Vaticano está realmente tentando proteger?

Chegados a este ponto, a pergunta fundamental já não é o que Magnifica Humanitas diz explicitamente, mas o que revela implicitamente sobre a percepção profunda que o Vaticano possui do momento histórico atual. Porque por trás das advertências sobre a inteligência artificial e dos apelos à ética emerge uma questão muito mais delicada: o que Roma está realmente tentando proteger?

A resposta imediata seria afirmar que a Igreja tenta proteger a humanidade dos excessos da tecnologia. Mas essa explicação é insuficiente. A tecnologia, por si só, não possui vontade nem objetivos próprios. A IA é uma criação humana, uma extensão exponencial de capacidades desenvolvidas pelo próprio Homo Sapiens.

Por isso, se a IA é percebida como um risco, a pergunta inevitável é outra: risco provocado por quem? Pela máquina? Ou por aquilo que o ser humano poderia chegar a fazer através dela?

Quando o Vaticano fala em preservar a dignidade humana, evitar a desumanização ou impor limites morais ao desenvolvimento tecnológico, está formulando implicitamente uma suspeita muito concreta: que o Homo Sapiens, subitamente dotado de ferramentas capazes de amplificar enormemente seu poder, poderia utilizá-las de forma destrutiva não apenas contra outros humanos, mas contra as próprias bases da civilização.

Essa ideia representa uma mudança profunda em relação a muitos dos relatos otimistas que dominaram a modernidade ocidental durante os últimos dois séculos. Durante muito tempo, o progresso tecnológico foi associado quase automaticamente à ideia de evolução moral e avanço civilizacional. Mas Magnifica Humanitas parece questionar silenciosamente essa premissa.

O documento deixa entrever que a acumulação de poder tecnológico não garante, de forma alguma, uma evolução equivalente da consciência humana. Pelo contrário: quanto mais poder adquire uma espécie sem ter resolvido seus impulsos de dominação, controle ou destruição, mais perigosas podem tornar-se as ferramentas que cria.

É aqui que surge gradualmente a necessidade de introduzir uma ideia que até agora havia permanecido difusa sob múltiplas formas culturais e filosóficas: a possibilidade de que dentro do próprio Homo Sapiens exista uma deriva potencialmente destrutiva que não constitui uma exceção acidental, mas uma parte latente de sua própria natureza.

Homo Destruens não aparece assim como uma espécie separada nem como uma anomalia externa. É a capacidade destrutiva que emerge quando a inteligência humana se desacopla progressivamente dos limites, da responsabilidade e da consciência profunda das consequências de seu próprio poder.

O século XXI introduz, porém, um elemento radicalmente novo: a capacidade tecnológica de converter esses impulsos em forças de escala global. A IA não cria Homo Destruens. O que ela faz é multiplicar exponencialmente sua capacidade de atuar sobre a informação, sobre a percepção, sobre a política, sobre a economia e sobre a própria definição futura do que significa continuar sendo humano.

Esse é o ponto em que a leitura de Magnifica Humanitas muda completamente. A encíclica deixa de ser apenas uma advertência sobre inteligência artificial e se converte em uma admissão muito mais profunda: o principal risco do futuro não é a tecnologia em si mesma, mas aquilo que o próprio Homo Sapiens poderia chegar a projetar através dela.

• Homo Sapiens e Homo Destruens

Uma das grandes ilusões da modernidade foi assumir que o progresso técnico e científico implicaria inevitavelmente uma evolução equivalente da consciência humana. Especialmente após o Iluminismo, uma parte importante do pensamento ocidental consolidou a ideia de que a acumulação de conhecimento conduziria gradualmente a sociedades mais racionais, mais livres e moralmente mais avançadas. A história, porém, foi muito menos linear do que esse relato sugeria.

O mesmo ser humano capaz de desenvolver medicina avançada, explorar o espaço ou criar obras de arte extraordinárias é também capaz de genocídios industriais, guerras de escala planetária, destruição ambiental massiva e mecanismos cada vez mais sofisticados de manipulação e dominação. A história da civilização não é unicamente a história do progresso humano; é também a história de sua crescente capacidade de destruição.

Essa dualidade acompanha o Homo Sapiens desde suas origens. A mesma inteligência que permite criar também permite dominar. A mesma criatividade que gera conhecimento pode gerar armas. A mesma capacidade simbólica que constrói civilizações pode construir relatos de fanatismo, propaganda ou controle. O problema não é a existência de uma anomalia externa ao Sapiens. O problema é que a potencialidade criadora e a potencialidade destrutiva emergem do mesmo núcleo cognitivo.

É precisamente aqui que o conceito de Homo Destruens adquire sentido.

Homo Destruens não é uma espécie diferente do Homo Sapiens. Não é uma mutação separada nem um desvio excepcional atribuível apenas a indivíduos concretos ou a momentos históricos particulares. É uma possibilidade latente dentro do próprio ser humano. É a deriva que aparece quando a capacidade de transformar o mundo cresce mais rapidamente do que a capacidade de compreender as consequências dessa transformação.

Durante milênios, essa tensão permaneceu parcialmente limitada pelas próprias restrições materiais da civilização. A capacidade destrutiva dos humanos existia, mas seus efeitos tinham um alcance relativamente limitado. Até mesmo os grandes impérios da Antiguidade estavam condicionados pelas distâncias, pela lentidão das comunicações e pelas limitações energéticas e tecnológicas de seu tempo.

A modernidade industrial alterou profundamente esse equilíbrio. A Revolução Industrial, as guerras mundiais, a bomba atômica, os sistemas financeiros globais e posteriormente a digitalização demonstraram até que ponto a inteligência humana podia multiplicar exponencialmente tanto sua capacidade criativa quanto sua capacidade destrutiva.

O século XXI introduz, porém, uma diferença qualitativamente nova. Pela primeira vez, o Homo Sapiens está desenvolvendo ferramentas capazes de intervir não apenas sobre o mundo físico, mas também sobre os próprios processos cognitivos, perceptivos e decisórios da humanidade. A inteligência artificial não é simplesmente uma ferramenta industrial mais poderosa. É uma tecnologia potencialmente capaz de amplificar a influência, a manipulação da informação, a construção de narrativas, a vigilância e até mesmo a redefinição progressiva da relação entre humanos e conhecimento.

É aqui que a IA se converte em um acelerador potencial de Homo Destruens.

Não porque a máquina seja maligna em si mesma, mas porque amplia exponencialmente a capacidade de ação de uma espécie que ainda não resolveu seus próprios impulsos de dominação, controle e expansão ilimitada. A IA não cria essa sombra; simplesmente lhe proporciona uma escala e uma velocidade sem precedentes históricos.

Esse é provavelmente o ponto mais inquietante do momento atual. A civilização tecnológica contemporânea conseguiu desenvolver ferramentas de uma sofisticação extraordinária sem que exista qualquer evidência clara de que a maturidade moral, política ou psicológica da espécie tenha evoluído no mesmo ritmo. O Homo Sapiens continua arrastando tribalismos, disputas pelo poder, fascinação pelo controle e enormes dificuldades para autolimitar-se quando dispõe de novas capacidades.

Essa é a contradição central do nosso tempo. A mesma espécie que foi capaz de criar ferramentas capazes de transformar radicalmente a realidade global continua profundamente vulnerável às suas próprias dinâmicas internas de dominação e destruição.

E é precisamente essa contradição que parece começar a emergir, ainda que indiretamente, por trás de Magnifica Humanitas. Quando o Vaticano alerta sobre a necessidade de impor limites morais à inteligência artificial, o que está fazendo implicitamente é reconhecer que o problema central não é a máquina, mas a possibilidade de que o Homo Sapiens tecnificado faça emergir, em uma escala desconhecida até agora, sua dimensão Homo Destruens.

• A encíclica como admissão implícita de Homo Destruens

Até este ponto, Magnifica Humanitas ainda poderia ser interpretada como uma encíclica prudente diante dos riscos derivados da inteligência artificial. Mas uma leitura mais profunda revela uma questão muito mais significativa: o Vaticano não está reagindo unicamente diante de uma tecnologia emergente, mas diante daquilo que essa tecnologia poderia chegar a revelar sobre o próprio Sapiens.

Esta é a virada central da encíclica.

Quando Roma reivindica limites globais, supervisão moral, regulação internacional e mecanismos capazes de controlar determinados desenvolvimentos tecnológicos, está assumindo implicitamente uma ideia fundamental: que o Sapiens, deixado unicamente à sua própria dinâmica expansiva, poderia não ser capaz de autolimitar-se diante de ferramentas de um poder sem precedentes.

Essa constatação é profundamente reveladora.

Porque implica que o Vaticano não percebe a inteligência humana como uma força espontaneamente equilibrada ou inerentemente orientada para o bem coletivo. O documento deixa entrever uma desconfiança estrutural diante da possibilidade de que o próprio Sapiens utilize suas novas capacidades tecnológicas de maneira potencialmente destrutiva para a liberdade, para a dignidade humana e até mesmo para a própria natureza humana.

E é precisamente aqui que emerge a grande admissão implícita de Magnifica Humanitas.

A encíclica não utiliza o conceito Homo Destruens. Evidentemente não o fará. Mas toda a sua arquitetura moral e argumentativa aponta para a mesma intuição: existe uma potencialidade destrutiva latente dentro do próprio Sapiens que pode aflorar quando o poder tecnológico cresce mais rapidamente do que a consciência e a responsabilidade.

Isso explica por que a IA aparece na encíclica não apenas como uma inovação, mas como uma fronteira que obriga a redefinir os limites, a autoridade, o controle e a própria ideia de proteção da humanidade.

Porque reivindicar supervisão moral global implica aceitar que o critério humano espontâneo poderia revelar-se insuficiente diante das novas capacidades tecnológicas. Reivindicar regulação internacional implica assumir que o Sapiens poderia acabar ultrapassando limites percebidos como perigosos para sua própria continuidade histórica.

E aqui aparece o grande paradoxo do documento.

Ao tentar proteger a humanidade dos possíveis excessos derivados da IA, o Vaticano acaba reconhecendo implicitamente que o principal risco não é a máquina, mas a possibilidade de que o próprio Sapiens projete sobre ela seus próprios impulsos de dominação, controle e expansão ilimitada.

Ou seja: Magnifica Humanitas funciona, no fundo, como uma admissão indireta da existência de Homo Destruens.

A IA atua assim como o grande desencadeador histórico que força as grandes estruturas morais da civilização a confrontar uma pergunta até agora frequentemente evitada: o que acontece quando uma espécie capaz de uma inteligência extraordinária desenvolve ferramentas que multiplicam exponencialmente seu poder antes de ter resolvido suas próprias contradições internas?

• O passo seguinte: quem decidirá o que é Homo Destruens?

Uma vez aceita implicitamente a existência de uma deriva potencialmente destrutiva dentro do próprio Sapiens, surge inevitavelmente a grande pergunta que Magnifica Humanitas deixa em aberto e que constitui, provavelmente, o ponto mais delicado de todo o debate: quem decidirá o que é Homo Destruens?

Este é o verdadeiro terreno de tensão que se esconde por trás da encíclica.

Porque identificar um risco é apenas o primeiro passo. O seguinte é infinitamente mais complexo: estabelecer quem possui legitimidade para definir o limite, o risco aceitável, o uso legítimo da tecnologia, o desvio, a proteção da humanidade e, em última instância, o que pode ser considerado uma ameaça para o futuro da civilização.

É aqui que o debate deixa definitivamente de ser tecnológico e se converte em uma questão de poder moral, político e histórico.

A história humana demonstra que qualquer estrutura que assume a função de proteger uma sociedade acaba adquirindo também a capacidade de definir o que é considerado aceitável e o que não é. Isso foi verdade para os impérios, para os Estados, para as religiões, para as ideologias e, muito provavelmente, também será para as futuras estruturas tecnocráticas.

Por esse motivo, a grande interrogação que emerge por trás de Magnifica Humanitas não é simplesmente se são necessários limites, mas quem os definirá e sob qual autoridade.

Porque uma vez que uma civilização aceita que existe um risco associado à própria inteligência humana, surge inevitavelmente a tentação de construir estruturas capazes de vigiar, regular e corrigir essa possível deriva. E é precisamente aqui que o debate entra em uma zona extraordinariamente delicada.

Quem decidirá o que constitui uma expressão legítima do progresso humano e o que constitui uma manifestação de Homo Destruens? Quem estabelecerá a fronteira entre liberdade e irresponsabilidade? Entre inovação e desvio? Entre proteção e tutela?

Essas perguntas são muito mais profundas do que aparentemente poderia parecer. Porque quem controlar a definição do risco controlará também, em grande medida, a direção futura da civilização.

E é aqui que Magnifica Humanitas mostra uma segunda camada implícita ainda mais significativa.

O Vaticano não apenas detecta a possibilidade de Homo Destruens. Também sugere, ainda que indiretamente, que a humanidade necessita algum tipo de autoridade capaz de mediar diante dessa potencialidade destrutiva. A própria ideia de “supervisão moral global” implica que o desenvolvimento tecnológico não pode ficar completamente abandonado à livre dinâmica dos Estados, dos mercados, das corporações ou da competição geopolítica.

Roma está insinuando que o futuro tecnológico necessita de uma forma superior de legitimação moral.

E esse ponto é enormemente relevante.

Porque historicamente, cada vez que surgem grandes crises ou transformações estruturais, as civilizações tendem a buscar figuras, instituições ou mecanismos capazes de atuar como mediadores diante do caos potencial. O problema é que toda autoridade mediadora tende também, inevitavelmente, a acumular capacidade de definição sobre aquilo que é aceitável, aquilo que é perigoso e aquilo que deve ser limitado “pelo bem comum”.

Aqui aparece o grande paradoxo do século XXI.

A mesma humanidade que poderia necessitar de limites diante de tecnologias capazes de transformar radicalmente a condição humana corre também o risco de que esses limites acabem convertendo-se em novos mecanismos de tutela cognitiva, moral ou política.

Porque uma vez que se aceita que determinadas ideias, tecnologias ou linhas de desenvolvimento podem ser “perigosas demais” para permanecer completamente livres, a pergunta decisiva já não é tecnológica.

É: quem terá o poder de decidir isso?

E é precisamente neste ponto que a tensão entre Homo Sapiens e Homo Destruens deixa de ser unicamente uma questão filosófica para converter-se em uma batalha potencial sobre a autoridade, a liberdade e o controle do futuro humano.

• O risco do século XXI

A grande transformação que atravessa o século XXI não pode ser compreendida unicamente como uma revolução tecnológica. Esta é, provavelmente, uma das grandes confusões do nosso tempo. Reduzir o debate atual a uma questão de inovação, digitalização ou inteligência artificial significa observar apenas a superfície de um processo muito mais profundo.

O que está começando a alterar-se não é apenas a forma como trabalhamos ou nos comunicamos. O que se encontra em plena transformação é a própria relação entre conhecimento e verdade, entre consciência e percepção, entre liberdade e predição, entre indivíduo e poder. Pela primeira vez na história, uma civilização está desenvolvendo sistemas capazes de intervir massivamente sobre os processos humanos de interpretação da realidade, sobre a tomada de decisões, sobre a gestão da atenção coletiva e até mesmo sobre a construção das narrativas que definem o que é aceitável pensar ou acreditar.

Por esse motivo, o problema do século XXI já não é exclusivamente tecnológico. A tecnologia é apenas a superfície visível de uma transformação muito mais profunda que afeta diretamente a dimensão cognitiva da civilização humana. Quem for capaz de modular o fluxo de informação, as emoções coletivas, as prioridades cognitivas e os mecanismos de validação da realidade adquirirá uma forma de poder qualitativamente diferente de qualquer outra conhecida anteriormente.

No entanto, a questão não é apenas cognitiva. Também é profundamente moral. A civilização contemporânea desenvolveu uma capacidade tecnológica imensamente superior à de qualquer período histórico precedente, mas não existe qualquer evidência clara de que essa expansão de poder tenha sido acompanhada de uma evolução equivalente da responsabilidade, da consciência dos limites ou da maturidade coletiva.

Essa contradição situa o debate em uma dimensão ainda mais profunda, relacionada diretamente ao modelo de civilização que a humanidade está construindo. Durante séculos, o progresso foi percebido quase sempre como uma expansão positiva das possibilidades humanas. Mas o século XXI introduz uma pergunta muito mais incômoda: pode uma civilização continuar incrementando indefinidamente seu poder tecnológico sem acabar erodindo os fundamentos humanos, psicológicos e culturais que sustentam sua própria estabilidade?

É aqui que emerge a dimensão antropológica do problema. A questão central já não é apenas o que as máquinas podem fazer, mas o que acontecerá com o próprio Sapiens quando delegar progressivamente partes crescentes de seu critério, externalizar a memória, substituir a experiência direta por ambientes algorítmicos e perder gradualmente a capacidade de distinguir entre realidade vivida e realidade construída tecnologicamente.

É precisamente neste contexto que aparece um dos riscos mais delicados e menos debatidos do nosso tempo: a possível construção de novos mecanismos globais de tutela justificados “pelo bem da humanidade”. Esse processo não necessariamente adotaria a forma de uma ditadura visível ou de um sistema autoritário clássico. Poderia emergir de maneira muito mais sutil, gradual e aparentemente racional.

Se uma civilização chegar à conclusão de que determinadas tecnologias, determinadas linhas de pesquisa ou determinadas formas de autonomia humana podem colocar em risco a estabilidade global, a tentação de construir estruturas permanentes de supervisão, filtragem, regulação e limitação preventiva poderia começar a aparecer como uma necessidade legítima.

E é precisamente aqui que o debate sobre Homo Destruens adquire toda a sua profundidade.

O medo diante das possíveis derivações destrutivas do Sapiens tecnificado poderia acabar gerando novos mecanismos globais orientados não apenas a proteger a humanidade, mas também a decidir o que é aceitável desenvolver, o que é legítimo pensar e quais limites não podem ser ultrapassados.

A civilização poderia tentar proteger-se de Homo Destruens correndo o risco de construir estruturas capazes de limitar progressivamente a liberdade, a autonomia e a capacidade de decisão do próprio Sapiens.

Talvez este seja o grande paradoxo que começa a emergir silenciosamente por trás de documentos como Magnifica Humanitas: que a luta contra as potenciais derivações destrutivas da inteligência humana poderia acabar redefinindo também os próprios limites da liberdade humana.

• Epílogo — O espelho de Homo Destruens

Durante décadas, a civilização contemporânea viveu sob a convicção quase automática de que toda expansão do conhecimento e da capacidade tecnológica representava inevitavelmente um avanço positivo para a humanidade. O progresso havia se convertido em uma espécie de dogma moderno. Mais informação, mais computação, mais conectividade e mais capacidade de transformação eram apresentados quase sempre como sinônimos de evolução.

Mas sob esse relato otimista permanecia uma pergunta que a modernidade preferia evitar: o que acontece quando uma espécie aumenta exponencialmente seu poder sem aumentar proporcionalmente sua consciência dos limites?

Talvez esta seja a grande questão que começa a emergir por trás de Magnifica Humanitas.

A inteligência artificial não criou Homo Destruens. Esta é provavelmente uma das ideias mais importantes e ao mesmo tempo mais incômodas de todo este debate. Homo Destruens não aparece com os algoritmos nem com a computação avançada. Acompanhou o Sapiens desde suas origens. Está presente nas guerras, nas destruições massivas, nos impérios, nas manipulações e na fascinação permanente pelo poder.

O que a IA faz é outra coisa muito mais profunda e inquietante: amplificar exponencialmente a capacidade de ação dessa potencialidade latente. Pela primeira vez, o Sapiens dispõe de ferramentas capazes de intervir simultaneamente sobre a informação, sobre a percepção, sobre a cognição e sobre a própria construção da realidade social.

A questão já não é apenas qual tecnologia somos capazes de criar. A questão é o que poderia chegar a fazer uma espécie profundamente contraditória quando essas ferramentas estiverem plenamente integradas dentro das estruturas de poder, de mercado, de guerra e de governança global.

Talvez seja precisamente isso que explique a profunda inquietação que atravessa Magnifica Humanitas. A encíclica parece escrita por uma estrutura milenar que, observando o ritmo acelerado do século XXI, começa a perceber que a civilização está entrando em uma zona desconhecida onde o problema já não é unicamente moral, tecnológico ou político. O problema é antropológico.

O problema é o próprio Sapiens diante da magnitude crescente de seu próprio poder.

E é aqui que o espelho de Homo Destruens aparece com toda a sua força.

Porque o século XXI poderia ser recordado não tanto como o momento em que a humanidade criou uma inteligência artificial avançada, mas como o momento em que a civilização viu-se obrigada a confrontar diretamente sua própria sombra.

A IA não inventou essa sombra.

Apenas eliminou muitas das desculpas que permitiam ignorá-la.

Talvez por isso Magnifica Humanitas resulte tão significativa. Não porque ofereça todas as respostas nem porque o Vaticano tenha a capacidade real de controlar o futuro tecnológico da humanidade.

Sua importância reside em outra coisa muito mais profunda: no fato de que uma das estruturas morais e espirituais mais antigas da civilização ocidental parece começar a aceitar implicitamente que o principal risco do futuro não provém de uma máquina, mas do próprio Sapiens quando perde a capacidade de autolimitar-se diante de seu próprio poder.

Talvez esta seja a grande admissão silenciosa de Magnifica Humanitas.

E talvez também seja a primeira vez que o Vaticano, ainda que não o diga com estas palavras, parece começar a olhar diretamente para o espelho de Homo Destruens.

Se quiser entender o que é realmente Homo Destruens, aqui você pode ler Destruens – O espelho dos sapiens: a inteligência que destrói.