O avanço da IA e os limites da humanidade

O empresário Elon Musk declarou recentemente que, em até cinco anos, a inteligência artificial ultrapassará a capacidade humana. Por enquanto, prevalece a impressão de que dominamos a tecnologia e de que ela só pode fazer aquilo que o homem programa, pautando-se por relações lógicas, matemáticas e físicas. Trata-se, afinal, de um sistema projetado para processar, com extrema rapidez, soluções que a mente humana tem dificuldade de alcançar.
O dado que mais impressiona — e que justifica a observação de Musk — é o ritmo vertiginoso dessa evolução. Não nos referimos apenas ao aumento do poder computacional, mas a uma mudança qualitativa: quando a computação deixa de ser mera ferramenta de cálculo para se tornar um agente decisório autônomo, a discussão ultrapassa a engenharia e alcança a dimensão ético-existencial.
Essa aceleração não se restringe apenas ao aumento do poder de processamento computacional, mas indica uma mudança qualitativa na própria forma como a tecnologia interfere na realidade. Quando a computação deixa de ser uma mera ferramenta de cálculo para se tornar um agente decisório autônomo, a discussão ultrapassa a engenharia e alcança a dimensão ético-existencial do próprio ser humano.  
Em sua encíclica “Magnifica humanitas”, o Papa Leão XIV já apontou a importância e os riscos da transformação social pela tecnologia. Ele demonstrou que esses sistemas evoluem continuamente. A inteligência artificial é mais rápida no trabalho, não faz greves nem gera encargos sociais. Seus alertas éticos mostram que corremos riscos gravíssimos se não houver cautela, pois a substituição da mão de obra humana pela eficiência produtiva da máquina pode gerar impactos sociais irreparáveis. Configura-se, assim, um dilema em que o lucro econômico imediato e a eficiência algorítmica atropelam a dignidade do trabalho e a coesão social.
 No momento em que alcançarmos integrações também de natureza química — na mesma velocidade em que hoje ocorrem as de natureza digital —, haverá ainda mais motivos para preocupação. Afinal, a aceleração com que a inteligência artificial ganha terreno, conquista novos campos e consolida estruturas é impressionante.
Trata-se do ponto em que a tecnologia deixa de interagir apenas com circuitos de silício para se conectar diretamente com a biologia e com os processos neuroquímicos do cérebro humano. Ao atingirmos integrações de natureza química – na mesma velocidade em que hoje ocorrem as de ordem digital —, essa fronteira híbrida, embora promissora para a medicina e a biotecnologia, abrirá precedentes inéditos sobre o controle do comportamento e a manipulação da própria consciência. É por essa razão que os alertas sobre a velocidade com que a inteligência artificial ganha terreno e consolida estruturas se tornam tão urgentes.
Vale a pena recordar que o escritor e filósofo Umberto Eco, no final do século passado — quando a inteligência artificial consistia apenas em computadores mais rápidos na solução de determinados problemas —, já dizia que essa celeridade tornaria o homem descartável no futuro.
A discussão, portanto, ultrapassa os limites da tecnologia: o problema não está apenas no que as máquinas serão capazes de fazer, mas no que deixaremos de exigir do ser humano. Se a eficiência e a rapidez passarem a ser critérios suficientes para determinar o valor de uma atividade, corremos o risco de medir o homem pelos mesmos parâmetros que utilizamos para avaliar uma máquina.
O trabalho, entretanto, não representa apenas uma forma de produzir riqueza. Ele também participa da construção da identidade, da autonomia e do sentimento de pertencimento do indivíduo à sociedade. A substituição crescente do trabalho humano pela tecnologia, portanto, pode produzir consequências que vão muito além da economia: poderá atingir a própria percepção que o homem tem de sua utilidade e de seu lugar no mundo.
Por outro lado, em suas diretrizes éticas, o Papa Leão XIV, em sua encíclica,  alerta que corremos riscos gravíssimos de ordem social se não houver cautela. Afinal, a substituição da mão de obra humana pela eficiência produtiva da inteligência artificial pode gerar grandes e irreparáveis impactos na vida humana.
Essa transformação alcança também atividades intelectuais que sempre dependeram do discernimento humano. No Direito, por exemplo, a inteligência artificial já pode realizar, em segundos, pesquisas e cruzamentos de informações que exigiriam horas de trabalho. Mas a decisão jurídica não se resume à localização da norma ou do precedente mais adequado. Interpretar, ponderar valores, avaliar circunstâncias concretas e assumir a responsabilidade pelas consequências de uma decisão são atividades que não podem ser reduzidas à velocidade de processamento de uma máquina. Quanto maior for a capacidade da inteligência artificial, portanto, maior será a necessidade de preservar a responsabilidade humana sobre aquilo que não pode ser decidido apenas pela eficiência.
Precisamos decidir quais limites jurídicos, econômicos e éticos serão impostos à inteligência artificial antes que a capacidade tecnológica determine, por si mesma, o nosso papel na sociedade. A previsão de Elon Musk – vinda de quem enriqueceu ao explorar o avanço tecnológico — deve servir como um alarme definitivo. Se não nos prepararmos  para impor balizas à automação, arriscamo-nos a caminhar para cenários de profunda desumanização, onde a ficção retratada em produções como no filme “O Exterminador do Futuro” deixará de ser um aviso distante para se tornar a nossa realidade.
Ives Gandra da Silva Martins é professor emérito das universidades Mackenzie, Unip, Unifieo, UniFMU, do Ciee/O Estado de S. Paulo, das Escolas de Comando e Estado-Maior do Exército (Eceme), Superior de Guerra (ESG) e da Magistratura do Tribunal Regional Federal da 1ª Região (TRF-1), professor honorário das Universidades Austral (Argentina), San Martin de Porres (Peru) e Vasili Goldis (Romênia), doutor honoris causa das Universidades de Craiova (Romênia) e das PUCs PR e RS, catedrático da Universidade do Minho (Portugal), presidente do Conselho Superior de Direito da Fecomercio-SP, ex-presidente da Academia Paulis ta de Letras (APL) e do Instituto dos Advogados de São Paulo (Iasp).

ARNALDO LUIS THEODOSIO PAZETTI. Coronel PM, advogado e escritor.

A entrevista

“Agora, olhe para aquela câmera ali.”, apontando para o centro do estúdio, disse-me o apresentador do talk show de maior audiência do mundo. E completou: “Em uma frase, o que gostaria de dizer aos bilhões de pessoas que estão nos vendo nesse momento?”. Não precisei pensar no que diria, afinal, é algo que, com muita frequência, repito para me lembrar do que verdadeiramente importa, assim como, após grandes conquistas,  generais romanos eram alertados com “Memento mori” (“Lembra-te de que morrerás”). “A vida passa muito rápido”, pronunciei na hora. Em razão de meu histórico profissional, esperavam dicas sobre como atentar adequadamente para a própria segurança ou algo do tipo. Não era possível ver a feição das pessoas, porém, por ter fugido do tema da entrevista, quase pude sentir certa frustração em muitas delas. Sei que havia inúmeras frases capazes de causar maior impacto. Quem sabe se tivesse utilizado alguma figura de linguagem? Não me arrependi do que havia dito. Coisas importantes não são exatamente assim – como aquela frase dita na entrevista –, simples? Antes que esgote o espaço destinado a essa crônica, preciso revelar que ouvi tal frase quando me despedia de meu tio Walter na comemoração de seu aniversário de 80 anos. Aqui, parênteses: sempre achei meu tio genial. E gênios não são assim, capazes de retratar barcos com apenas 2 ou 3 pinceladas? A frase simples revelava-me algo incontestável, embora confesse que, à época, não tive a dimensão de todas as implicações daquelas palavras. Vi-me com a oportunidade de propalar a frase na esperança de que jovens pudessem despertar para seu conteúdo, muito antes de se depararem com o que chamo de andropausa (ou menopausa) do espírito, esse “declínio hormonal da alma” que se presta a trazer serenidade, decantar o que é bom e belo, acelerar a cura de mágoas e filtrar melhor as escolhas. E se lembrássemos da brevidade da vida a cada instante, a cada discussão acalorada, a cada problema superdimensionado, desde a juventude? Ajuda-nos a consciência de que a vida é célere. Já havia me despedido ao final da entrevista. E, como alguém empolgado que, num karaokê, por ainda estar com o microfone ligado nas mãos quando a música acaba, canta mais um pouquinho, aproveitei para dizer: “Dê importância só ao que importa.”. Acordei. Pós-fim: essa é a 150ª crônica que publico, satisfação que compartilho com quem se dispõe a decifrá-la, o caro leitor.