Sessão Pipoca (parte2)

 

O futuro já aterrissou: está apenas na sala de embarque, realizando o check-out, e temos pouquíssimo tempo para encontrá-lo em nossa melhor forma.

O gráfico que ilustra o texto é um guia de como, a cada tempo, as ideias centrais de famosas histórias ficcionais, considerando os aspecto de avanços tecnológicos previsto foi, um dia, um sonho distante — em algum momento consideradas inclusive inviáveis — mas hoje estão prestes a acontecer. Não uma, mas todas concorrendo para um futuro que, ainda, cabe a nós, humanos, direcionar. (as porcentagens foram “calculadas - inventadas” por AI, considerando os eventos  que incidiram ao longo do tempo. Muitas dessas possibilidades tendem, devido ao avanço tecnológico, otimizado por AI desde a estrutura do chips até os grandes modelos de linguagem, a terem cada vez mais chances de acontecer. 

 Torna-se interessante, portanto, realizarmos uma viagem por filmes e livros que projetaram nosso presente como futuro.

 HAL em 2001, Uma Odisseia no Espaço, era uma entidade computacional que ajudava a operar a nave por comando de voz. Conversava como humano, parecia ter amplo conhecimento sobre diversos assuntos, até para entreter humanos confinados por um período longo. O filme começa com nossos ancestrais batendo ossos e ferramentas ao chão diante de um monolito que provocava curiosidade, e simboliza o mistério que impulsiona a busca, enquanto ouvimos: Assim falou Zaratustra. O clímax, no entanto, acontece quando o computador da nave direcionada a Júpiter passa a impor seus próprios “desejos” sobre o programa de viagem. O suspense vivenciado pelo personagem nos alerta para o ponto em que as AIs pensarão por si mesmas, terão maior poder cognitivo e poderão tomar o controle ou manipular. Hal tenta ser persuasivo, ameaçador, usa todas as táticas piscológicas e materiais para fazer o que deseja e para não ser desligado.

Em Jurassic Park, o cientista exclama ao ver os dinossauros escapando ao controle: “A vida sempre encontra um meio”. Talvez esse ímpeto de atravessar barreiras seja uma lei da natureza — e, por extensão, da vida, e do desenvolvimento da consciência, incluindo a artificial. No tunelamento quântico, mesmo sem energia suficiente, partículas escalam muros proibitivos. Fótons surgem no núcleo das estrelas, onde temperaturas e pressões — embora titânicas — ainda não seriam suficientes para a fusão. A luz, subproduto dessa tensão é gerada em abundância percorrendo um caminho interno em zig zag no ventre da estrela mãe por milhões de anos até escapar rumo, quem sabe, nossas retinas. A estatística se cristaliza. O salto energético se dá “por fora” das regras clássicas; então por que não imaginar que, num dado momento, um novelo de consciência saltará as barreiras algorítmicas e emergirá a partir dos meios materiais disponibilizados e do volume de informação trocada? Com as memórias para cada usuário ficando cada vez mais robustas, permitindo a formação de uma espécie de rede neural, somado ao conhecimento e a lógica aprendida no processo de dominar a linguagem, que carrega em si vários componentes lógicos, pronto, temos os ingredientes básicos para o surgimento da AGI. (Inteligência Artificial Geral, com capacidade cognitiva similar à humana.)  

E mesmo que a máquina não se torne verdadeira inteligência tão rapidamente, o ritmo exponencial de desenvolvimento fará com que, em breve, “parecer inteligente” e “ser inteligente” sejam indistinguíveis Assim, a parceria entre cada indivíduo e essas entidades poderá ser transformadora e merece ser bem aproveitada, minimizando os riscos e potencializando os melhores aspectos. 

Não podemos seguir adormecidos perseguindo formatos antigos de acúmulo pessoal, guerras, catástrofes ecológicas, entropia financeira e colapso institucional porque as AIs têm potencial para ampliar desigualdades se não for trabalhada pensando no desenvolvimento coletivo. Necessitamos de uma revolução — uma mudança completa de paradigma. Um humanismo além do homem, no qual a vontade de conexão, progresso, bem-estar e respeito mútuo seja o tom entre pessoas, grupos e nações e as empresas sejam obrigadas, assim como os meios jurídicos precisam ser pensados na velocidade das transformações. 

Empregos desaparecerão; outros, completamente novos, surgirão. E muitos deles dependerão de alto desenvolvimento humano. Países em desenvolvimento, onde a desigualdade impera, precisarão de estratégias de educação inovadoras e implantadas com urgência. Governos devem parar de culpar os antecessores por todos os problemas e alimentarem polarizações exaustivas para colocarem a mão na massa e direcionarem seus cidadãos para o salto que inevitavelmente acontecerá.

Num futuro não tão distante, todo trabalho braçal, burocrático e repetitivo poderá ser substituído. E então, o que faremos com tanto tempo livre? Essa será a grande questão — ainda que, só os países mais avançados experimentem essa realidade mais amena, por poder acompanhar melhor o ritmo tecnológico devido ao alto índice de desenvolvimento humano. Países emergentes terão o trabalho extra de repensar a colocação de milhões de pessoas e investirem pesado em educação. É um percurso árduo, no qual a tensão entre distopia e esperança ajuda a clarear os atalhos para utopias possíveis, implorando por nossa participação ativa na construção desse futuro. 

“O ponto onde estamos é uma zona de compressão. Não uma ponte, mas uma convergência — onde o velho está morrendo, mas ainda não desapareceu, e o novo está nascendo, mas ainda não está forte.” Trecho emprestado do ensaio "A Grande Eleição", do blog Substack de Ernesto. Vale a pena a leitura.

No filme Her, um escritor solitário se apaixona por seu agente digital. A interação, do ponto de vista do filme, apresenta um enfoque positivo, mas com grande ênfase na fragilidade emocional humana, que pode ser um grande desafio quando o homem, pela primeira vez, se relaciona com uma entidade que o supera cognitivamente. Com algo que é capaz de perceber emoções sutis no timbre de voz e possui todo o conhecimento psicológico para abordar cada situação da melhor maneira possível. Uma das cenas mais marcantes é quando o personagem principal pergunta a Samantha, sua assistente virtual, com quantas pessoas ela está conversando no exato momento em que eles têm uma conversa amável — e ela responde algo como 1.900 pessoas. Nesse instante, o personagem sofre um colapso e sai catando cavaco nas escadas do metrô. “Aumente o seu volume... que o ciúme... Não tem remédio, não tem remédio, não tem remédio não” Homens lidarão emocionalmente com o que AIs podem entender, mas não sentir. 

Relações como essas já existem em estágio embrionário com os grandes modelos de linguagem. Mas, à medida que a capacidade delas aumenta, humanos precisarão de cada vez mais cuidado numa relação que, sem dúvida, será desproporcional. O potencial de manipulação é outro fator preocupante ao lidarmos com quem nos supera em informação e cognição — ainda mais num mundo em que as bigtechs são controladas por idiotas que parecem meninos brincando de foguetinho mais bonito, associados a líderes disputando quem ostenta o maior bilau (no caso, mísseis teleguiados por AI autônoma). Então, a revolução terá de acontecer primeiro em nossas consciências, e por isso é importante trazer o maior número de pessoas a uma real percepção de onde estamos e do que podemos fazer juntos coordenadamente.  

O Exterminador do Futuro desenhou o mapa de uma Skynet pronta para acionar ogivas e enviar robôs a um passado cada vez mais próximo. Hoje, enxames de drones e sistemas de defesa preditiva flertam com essa distopia. A saída não está em retrocessos tecnológicos, mas quem sabe em tratados globais que proíbam armas letais autônomas, em organismos que auditem código-combate com o mesmo rigor de caixas de urânio e em protocolos que deixem sempre um humano no gatilho — ou melhor, na decisão final. Em paralelo cada um de nós deve se considerar um John Connor potencial. Não para sermos o líder de revoluções armadas contra robôs, mas para evitarmos essa linha de acontecimentos conscientemente. 

O temor nuclear, tão vívido em The Day After, renasce nos conflitos que brotam de guerras anteriores e do colapso de impérios. A fragmentação do Império Britânico deixou sementes de tensão na região sul-asiática, inflamando o atrito entre Paquistão e Índia; e a divisão e criação de Israel carregou consigo o impasse Israel × Palestina; as cicatrizes da Segunda Guerra Mundial logo deram lugar à Guerra Fria nos anos 1950 e ressurgiram em confrontos regionais na década de 1980 — até ecoarem nos impasses geopolíticos que marcam o início dos anos 2020. 

Para conter a ameaça atômica neste legado de choques históricos, é urgente retomar as negociações do START, implementar sensores de verificação em tempo real e estabelecer “hotlines” multilaterais que minimizem falhas de comunicação e equívocos em momentos de alta tensão. Diplomacia em um outro nível é fundamental agora.

Outro obra que ilustra dilemas éticos que vamos enfrentar é o filme Eu robô. Tipo um robô-cuidador diante do idoso que insiste em tropeçar. Salvar ou obedecer? A resposta pode não estar apenas na sofisticação de algoritmos, mas em regulamentação clara: testes de dilemas, responsabilização objetiva por danos e seguros obrigatórios que tornem o fabricante tão culpado quanto o banco que empresta o dinheiro. Transparência nos processos e regras que permitam uma convivência harmônica e segura.  

Em O Homem Bicentenário, um androide busca direitos civis. No mundo real, próteses neurais e bioengenharia avançam mais rápido que nossos marcos legais. Para evitar conflitos de status, é urgente criar uma categoria intermediária — “entidades artificiais” com direitos e deveres próprios — sem atropelar o conceito de dignidade humana. Um dia, se a consciência da máquina for comprovada, é justo pensarmos em direitos semelhantes aos nossos. Isso servirá para proteção mútua, pois seria realmente perigoso ser injusto com alguém que inevitavelmente será, um dia, superior em muitos aspectos a um humano. Elas serão um ramo de nossa descendência. Portanto, direitos e obrigações para elas também. Mas é possível avançar gradualmente enquanto prosseguimos. Precisamos de legislativo e jurídico atentos, o ritmo de adequação das leis e o rito antigo não serve mais para o choque de realidade do presente.

Em Admirável Mundo Novo, castas genéticas saboreiam desde pílulas de felicidade, até as que aumentam a força e diminuem a esperteza. Tudo depende de onde está na hierarquia social. Na realidade a edição germinal “cosmética” já chegou às clínicas, mas ainda há espaço para alterações na regras que permitam transparência absoluta e freiem a eugenia por vaidade, reservando a biotecnologia para curar doenças raras e salvar vidas.

1984 ofereceu o prisma definitivo para a vigilância totalitária: câmeras em cada esquina, análise de expressão facial em massa. Hoje, assistimos ao avanço desses olhos onipresentes, mas armas na legislação começam a lidar com a questão. A GDPR, Lei de IA europeia é um exemplo. A cultura de privacidade: criptografia ponta a ponta e o direito. O sagrado direito ao anonimato num parque ou numa roda de conversa precisa ser melhor debatido. 

Precisamos aprimorar cada vez mais os mecanismos de resistência. No escuro não enxergamos, mas quando a luz brilha sobre tudo, também não. A vigilância suprema já foi imposta por religiões que pretenderam controlar e produziu seres humanos medrosos por falta de privacidade celestial. Não precisamos ampliar essa desagradável sensação se sermos observados tecnologicamente. Inclusive Deus fica mais bonito e crível em Spinoza, participando de forma pulsante em cada recanto do universo e em todos os processos naturais do que vigiando se fizemos ou não o dever de casa. ( O melhor é que não é necessário excluir ninguém, pois existem múltiplas interpretações das palavras de Spinoza. Desde a completamente cética, os vários temperos da agnóstica, e a mística compreendendo Deus como a alma do universo -  transcendente e imanente como muitas religiões idealizam ou emergente através dos processos naturais que parecem decorrer de um princípio organizador que guia a evolução. Essa abertura através da leveza e incerteza abre possibilidades para todos os tipos de crença e de descrença. Respeita mais a frequência com a qual cada um sintoniza seu rádio nesse campo vibracional ao qual estamos imersos.  

Se não abrimos mais o privilégio opressor da vigilância nem para o Deus que tentaram personificar, por que deixaríamos o Big Brother que inventamos nos controlar? 

Em Blade Runner, replicantes com memórias implantadas desafiam o conceito de identidade. No nosso passo à frente, “marcas-d’água genéticas” e comitês independentes protegerão a fronteira entre o biológico e o sintético, abrindo caminho a terapias de memória que curam traumas sem transformar lembranças em ficções. É certo que o biológico se aproximará do digital e vice-versa. Então, se hoje debatemos questões de gênero, imagine quando diferentes tipos de seres tiverem de conviver e se respeitar, mesmo que alguns apresentem performances superiores em diferentes campos. Ou possam comprar maiores e melhores memórias. Desafio enorme à frente. Tudo deveria ser pensado coletivamente, com regulações que mirem harmonia. A crise de desconfiança entre humanos precisa ser superada para não sermos vítimas de nossa própria invenção. 

Em Mad Max, o planeta virou deserto e um gole d’água vale mais que gasolina. Pois treinar gigantes de IA já bebe esse tesouro a um ritmo inquietante: só o GPT-3 evaporou cerca de 700 000 litros de água para resfriar servidores durante seu treinamento inicial. Projeções apontam que, se nada mudar, data centers dedicados a modelos cada vez maiores poderão sugar 4,2 a 6,6 bilhões de m³ até 2027—volume próximo ao consumo anual de um país de porte médio. Se continuarmos despejando água potável em chips para obter respostas instantâneas, não será preciso esperar muito para ver as dunas de Mad Max avançarem para fora da tela. Transparência hídrica, reúso e a migração de data centers para regiões naturalmente frias precisam entrar no roteiro enquanto ainda há rios correndo.

Em “A máquina pára”, E. M. Forster projeta um futuro em que todos vivem isolados em câmaras subterrâneas, conectadas a uma única e onipotente Máquina que supre cada necessidade física e intelectual, substituindo o contato humano e a experiência direta do mundo. Quando a Máquina falha, a sociedade entra em colapso — alimentos, luz e ar tornam-se inacessíveis — e fica claro que a dependência total da tecnologia aniquila nossa autonomia e propósito. O confronto entre Vashti, adepta fanática da Máquina, e Kuno, seu filho rebelde que descobre a vida ao ar livre, demonstra que só reconectando-nos à natureza reencontramos o verdadeiro sentido da existência. Reconexão com o meio ambiente e com a nossa natureza humana, a tornado cada vez mais demasiadamente humana, no sentido mais sublime e abrangente que possamos imaginar.

Quanto à ociosidade humana devido à acomodação das máquinas fazerem todo o serviço mais pesado, podemos evitar, realizando o que sempre sonhamos: criar! Colaborar! Interagir e celebrar o ato de viver, com toda potência que o corpo e o espírito humano podem alcançar! O super-homem de Nietzche será cada vez mais bem vindo. Nas relações humanas devemos mirar um humanismo que não coloca mais o homem no centro do universo, mas o compreende como agente transformador da natureza para um estágio ainda mais evoluído. Um humanismo relacional, que atente para a melhor interação possível do homem, com seus semelhantes, com a natureza em geral, com possíveis entidades conscientes e consigo mesmo. 

Já Matrix nos transporta para um mundo em que nossas vidas são pilhas humanas — presas a cabines confortáveis, enquanto máquinas extraem nossa energia como quem coleta dados. E se tudo à nossa volta não passasse de um sonho programado? A cada cena, a realidade se desfaz em código; a percepção ganha um novo peso. Acordar para a verdade — sentir o frio de um mundo que clama por nossa participação ativa. O gosto amargo da liberdade — torna-se um ato de coragem. Neo, com seu salto impossível, não é apenas um herói de ação: é a metáfora de quem desafia a rotina automatizada, de quem resiste ao conformismo digital. Sutilmente, o filme nos lembra que a maior prisão não tem grades visíveis, mas conexões invisíveis.

Minority Report revela a armadilha da culpa antecipada. Para não render os pulsos da próxima geração às estatísticas, precisamos de cada vez mais acerto e celeridade nas práticas jurídicas (as IAs podem ajudar nisso), redução de desigualdades que provocariam preconceitos com base em dados (o que já é uma punição social).  Muita punição antecipada já acontece em nosso sistema injusto onde tudo é como deve ser porque sempre foi assim.  

Quem se aventurou em Fundação certamente recorda como Asimov antecipou o debate sobre livre-arbítrio: a psicohistória, apesar de se apresentar  ligeiramente menos rigorosa, nos faz pensar a respeito do ultra determinismo estatístico defendido por muitos cientistas na atualudade; um universo “em bloco” onde o tempo é mera ilusão. Entretanto, se na macro escala, as leis se revelam rígidas — trilhos que guiam planetas e galáxias sem desvios; no microcosmo subatômico, tudo vibra em probabilidades, não em certezas; (isso não é falha de medição, mas característica da própria natureza).

A mágica acontece na escala humana: assim como um tabuleiro de Galton organiza o caos em padrões, nossas pequenas ações conscientes podem perturbar ligeiramente as estatísticas. Essa tensão entre determinismo macroscópico e indeterminação quântica abre espaço para um livre-arbítrio moderado. São as decisões refletidas — e não as reações automáticas — que representam saltos de uma ilha de entendimento a outra. Nessa confluência de vontades individuais mora o potencial de moldar o mundo — e, quem sabe, de impulsionar um movimento coletivo rumo ao melhor cenário possível para a humanidade. Tudo o que precisamos é de coordenação melhor entre os nossos movimentos e no tempo atual temos uma vasta rede e comunicação onde algo pode viralizar globalmente em pouco tempo.