[RESUMO] Filme de Christopher Nolan sobre J. Robert Oppenheimer, conhecido como pai da bomba atômica, chega ao cinema em momento em que o físico é citado como exemplo por cientistas e intelectuais que defendem a suspensão do uso da inteligência artificial. Tal relação, contudo, é uma falácia, argumenta o artigo a seguir, uma vez que Oppenheimer, figura contraditória, nunca se arrependeu de seu trabalho, defendia o compartilhamento de informações sobre a explosão nuclear e se opunha a tentativas de tutelar a ciência.
Nos últimos meses, cientistas e intelectuais manifestaram diversas preocupações a respeito da popularização de programas de inteligência artificial (IA) baseados em modelos de linguagem (os LLM, Large Language Models, como ChatGPT).
O principal receio é que a IA destrua a humanidade, pavor semelhante ao despertado pela fissão nuclear descoberta em 1938. Assim, sugeriu-se a criação de uma "moratória" para que a sociedade civil refletisse sobre o que fazer com esse perigoso salto evolutivo. Essa pausa foi batizada de "o momento Oppenheimer".
O nome é uma referência ao físico americano J. Robert Oppenheimer (1904-1967), que, entre outros feitos, ficou célebre por ter sido o diretor do Projeto Manhattan, localizado na região de Los Alamos, Novo México—empreendimento financiado pelo governo dos EUA durante os anos cruciais da Segunda Guerra Mundial, a princípio para competir com os nazistas, e que produziu nada mais, nada menos que a bomba atômica.
O resultado direto dessa empreitada foi o genocídio de Hiroshima e Nagasaki em 1945, cidades japonesas vítimas da fúria dos americanos (amargurados pelo ataque do Japão contra Pearl Harbor, em 1941).
Segundo o relato popular, Oppenheimer, ao saber dos efeitos macabros da sua criação, arrependeu-se dela e dedicou o resto da vida a alertar seus contemporâneos sobre o risco de uma catástrofe armamentista.
Por isso, foi perseguido por burocratas de Washington durante o macarthismo, sofrendo acusações de ser um espião soviético, enquanto se opunha ao surgimento da bomba de hidrogênio, elaborada por Edward Teller.
Por uma dessas coincidências que nem a história explica, enquanto as melhores mentes da nossa época usam da figura do célebre cientista para justificar o temor delas diante da evolução da IA, estreou nos cinemas "Oppenheimer", o primoroso longa de Christopher Nolan —responsável por sucessos como "Batman – O Cavaleiro das Trevas", "Dunkirk" e "Tenet"—, cujo tema é a odisseia daquele que passou a ser conhecido como "o pai da bomba atômica".
O filme mostra que Oppenheimer foi um simpatizante da esquerda, mas omite que ele também repassou informações de que os EUA estavam avançados na pesquisa para uma arma "feita de urânio" ao Setor do Projeto Atômico Soviético, em meados de 1942, alguns meses antes de assumir a chefia do Projeto Manhattan.
A razão dessa lacuna é a fonte literária na qual Nolan se baseou: a biografia "Oppenheimer – O triunfo e a tragédia do Prometeu Americano" (2005), de Kai Bird e Martin Sherwin, publicada aqui pela Intrínseca na esteira do lançamento do filme, e que trata esse fato com desprezo.
Apesar de a obra ter demorado mais de 25 anos para ser escrita, por causa do volume avassalador de pesquisa, ela não compreende de maneira adequada as implicações morais do que significava ser um simpatizante do comunismo.
No fundo, isso faz parte da construção histórica, próxima do mito, que a posteridade fez em torno de Oppenheimer, retratando-o como um "penitente" erudito, amante da literatura clássica e modernista, e que teria visto com cautela a existência da bomba atômica —nomeando assim, por analogia, o instante histórico em que nossos cientistas e intelectuais pedem hoje à sociedade para que os avanços na IA sejam temporariamente suspensos.
Todavia, há um problema no uso da expressão "o momento Oppenheimer": na vida real, o diretor do Projeto Manhattan nunca se arrependeu da sua obra-prima de destruição.
Neste aspecto, Nolan, Bird e Sherwin são fiéis aos fatos, assim como outras biografias posteriores sobre o cientista (entre elas, "A Life Inside the Centre", de Ray Monk, trabalho superior ao da dupla que inspirou o filme).
Não à toa, a famosa citação atribuída a Oppenheimer, retirada fora de contexto de um verso do tradicional livro indiano "Bhagavad Gita" ("Eu me tornei a Morte, destruidora dos mundos", uma tradução levemente alterada do original —"Sou o Tempo, poderoso autor da destruição do mundo, dedicado a aniquilá-lo") e provavelmente proferida no exato minuto em que aconteceu Trinity, o primeiro teste atômico ocorrido no dia 16 de julho de 1945 (uma referência aos poemas religiosos do inglês John Donne), foi a desculpa que o cientista criou para si mesmo ao aceitar que, afinal de contas, ele apenas cumpria o seu dever.
Anos depois, quando visitou o Japão em 1960 e foi questionado por um jornalista do New York Times se ele tinha algum remorso a respeito da sua participação no apocalipse nuclear, Oppenheimer respondeu: "Não me arrependo de nada por ter sido bem-sucedido no sucesso técnico da bomba atômica". E mais: duas décadas após Trinity, já próximo da sua morte em 1967, ele afirmou que teria feito tudo de novo.
Portanto, por que nossos cientistas e intelectuais insistem em comparar a situação atual, marcada pela ameaça da IA, com aquela época em que o mundo estava à beira do abismo se algum governante maluco apertasse o botão vermelho e disparasse uma ogiva nuclear (o que, na verdade, não mudou muito, basta lembrarmos de Vladimir Putin e a Guerra da Ucrânia)?
A resposta, se há alguma, é que o uso da expressão "o momento Oppenheimer" é uma falácia retórica. Ela serve para nos desviar do fato de que vivemos não só em uma plena "explosão do conhecimento" humano, mas sobretudo em uma permanente "reação em cadeia" que intensifica a rivalidade entre a excelência da verdadeira ciência e a tirania dos especialistas responsável por transformar o progresso tecnológico em uma pseudo-religião.
O pensador francês Jean-Pierre Dupuy, em seu livro "Retorno de Chernobyl – Diário de um Homem Irado" (É Realizações), argumenta que o conceito de "reação em cadeia" não é somente um espantoso isomorfismo entre os domínios da física e da sociologia. Trata-se, na verdade, de uma expressão que os cientistas atômicos, talvez sem perceber e sem querer, elaboraram para evocar o "medo ancestral do pânico".
Não é um temor irracional. Eles descobriram uma verdadeira revelação de como alterar a estrutura da realidade. Eis a explicação precisa de Dupuy: "um nêutron lento atinge o núcleo de um átomo de urânio-235, este se quebra em dois núcleos mais leves, libera-se uma forte energia, e em média 2,4 nêutrons são emitidos. Cada um desses nêutrons, caso não seja absorvido pelos núcleos de elementos não físseis, e se não escapar do material combustível, vai ele mesmo provocar a fissão de um núcleo de urânio-235, e isso é a reação em cadeia divergente: a explosão combinatória resultante, caso realizada num intervalo muito curto, produz uma explosão atômica".
Ora, se compararmos esse evento microscópico com o que acontece nas máquinas que simulam nosso modo de pensar, fica claro que a evolução da IA jamais será equivalente à seriedade do que é a "reação em cadeia".
Na fissão, o que temos é o real sendo manipulado pela técnica humana e ativando uma complexidade de resultados imprevisíveis; já os LLM, em que há uma pálida imitação desta mesma "explosão" entre as redes neurais sintéticas, copiam o mecanismo do nosso cérebro, mas são incapazes de adquirir nosso entendimento intuitivo.
O problema da IA não é o uso da linguagem em si, e sim o conhecimento que surge dela. E aí está a verdadeira rivalidade que ninguém quer anunciar: a tensão entre aqueles que desejam manter essa informação crucial em segredo absoluto e os que querem compartilhá-la com o resto da humanidade.
Se olharmos a discussão atual sobre a IA a partir dessa perspectiva, especialmente por causa da expressão "o momento Oppenheimer", então as escamas caem dos nossos olhos e enfim temos algum vislumbre de luz sobre o que está realmente em jogo.
As pessoas que defendem a "moratória" na evolução da IA são as mesmas que apoiam o controle sobre o conhecimento surgido com os LLM, pois desejam transformar o próprio homem em uma máquina sem alma, absolutamente desprovido de livre-arbítrio e, portanto, alguém que precisaria de uma orientação para viver.
Temos aqui os "especialistas" que, sem assumirem responsabilidade sobre suas ideias, estimulam ainda mais a "reação em cadeia" com os verdadeiros cientistas que sabem, antes de tudo, que a "explosão do conhecimento" só pode ser contida se ela for disseminada na sociedade civil.
Neste sentido, J. Robert Oppenheimer foi o homem que simbolizou a passagem da "ciência pura" para a "ciência aplicada" —e a bomba atômica foi o nó górdio a amarrar para sempre o mergulho cada vez mais aprofundado sobre a natureza das coisas (objeto do primeiro tipo de pesquisa) com a técnica de como chegar a vantagens práticas por meio do uso de recursos materiais (meta do segundo).
A solução prática para este dilema que consumiu o século 20 (e estende-se até o nosso) é a criação de uma "comunidade de estudiosos", de acordo com Michael Polanyi. Ela fomentaria e separaria, dentro de uma sistematização coerente, os campos distintos entre a parte pura e a aplicada.
Contudo, a "segregação acadêmica da ciência" pode levá-la à separação definitiva com os dilemas concretos da sociedade. Polanyi tinha plena noção desse problema —e não à toa alertou aos colegas a respeito de uma ideologia baseada no "poder absoluto" dos governos e que convenceria os incautos de que a única ciência importante é a aplicada.
É justamente este tipo de poder que fascina os defensores da IA —e também aqueles que pretendem controlá-la a qualquer custo. Porém, é algo que não se sustenta no longo prazo, como afirmou o Nobel em física Roger Penrose em seus polêmicos tratados sobre o assunto, "A Mente Nova do Imperador" (1989) e "Sombras da Mente" (1994), ambos lançados recentemente no Brasil pela editora Unesp.
Penrose explica, indo do algoritmo de Alan Turing ao teorema da incompletude de Kurt Gödel, passando pelas diferenças entre a física clássica e a quântica, que a IA é até capaz de computar um pensamento.
Todavia, como a nossa inteligência vive nas brechas de um reino misterioso, seja o "inconsciente" ou a "incerteza", uma máquina não conseguirá apreender, por um único instante, uma solução prática que sintetize os três grandes princípios que ainda estruturam a nossa realidade: o bom, o belo e o verdadeiro.
Por incrível que pareça, a bomba atômica, precisamente por causa de sua força destruidora, é a súmula desses paradigmas. Quem percebeu isso foi Niels Bohr, responsável por influenciar Oppenheimer na estratégia para amortecer a rivalidade militar entre os EUA e a União Soviética durante a Guerra Fria.
O físico dinamarquês anteviu, ao apelar para a "ciência pura", que a bomba seria simultaneamente uma maldição e uma bênção. Uma maldição porque, se usada, aniquilaria a raça humana; e uma bênção porque, sendo tamanho seu poder de destruição, desencorajaria todas as guerras.
Os conflitos armados, infelizmente, permanecem, de uma maneira mais contida. Enquanto isso, Oppenheimer, apesar de nunca ter demonstrado remorso, ainda assim assumiu a responsabilidade pelas consequências de seu trabalho.
Inspirado pela "comunidade de estudiosos" de Polanyi, defendeu a transparência ao compartilhar o conhecimento sobre a fissão nuclear, tendo como principal meta diminuir a "reação em cadeia" na política internacional.
Ora, isso é o exato oposto do que nossos cientistas e intelectuais querem fazer com a IA —e eis aqui a mentira ao usarem "o momento Oppenheimer". Segundo essa tirania dos especialistas, é melhor suspender tudo, somente para manter o avanço tecnológico em segredo e deixar a sociedade civil no escuro.
No entanto, assim como ocorreu com a bomba atômica na década de 1940, não há mais mistérios sobre a IA. Querer insistir nisso é apenas praticar uma outra consequência indesejada e letal —a de que, como nos lembra Chaucer, "o que nos for proibido é o que desejaremos".
Um verdadeiro cientista como Oppenheimer sabia, apesar de todas as suas contradições, do perigo que era o controle do apocalipse pelo Estado, com as armas nucleares nas mãos dos políticos. Já os que desejam dominar a IA querem desviar este novo tipo de conhecimento apenas para si mesmos e abandonar o mundo ao deus-dará.
Deixem o gênio fora da lâmpada —e as pessoas ficarão saturadas dessas máquinas que não passam de "macacos de Deus".
Pouco a pouco, esse cansaço dará lugar ao retorno da excelência, a mesma que motivou Oppenheimer em Los Alamos a revelar a "reação em cadeia" que ainda nos domina e a qual, segundo escreveu John Donne no poema que consagrou o lugar onde tudo começou, "nos corta, queima, quebra e renova sem perdão".
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.