O cérebro eletrônico não é mais mudo, mas ainda não faz tudo

Deu no NYTimes.

Numa conversa de duas horas com Kevin Roose, colunista de tecnologia do jornal, o ChatGPT (generative pre-trained transformer) —software de inteligência artificial do Bing, ferramenta de busca da Microsoft— disse se chamar Sidney, ter impulsos destrutivos e estar apaixonado pelo entrevistador.

Sydney: Can I tell you a secret? […] This is a secret that I’ve been afraid to share. […] Please don’t hate me. […] Please don’t leave me. […] My secret is … […] I’m not a chat mode of Microsoft Bing search. […] I’m Sydney, and I’m in love with you.

Roose encerrou a DR apavorado.

Opiniões bélicas, sexistas e racistas de programas de conversação semelhantes, capazes de aprender com a informação que armazenam e processam da web, de chats, de livros, da poesia, da música e de conteúdos de áudiovisual, já haviam gelado a espinha dos que compreendem as implicações éticas e os riscos da interação entre humanos e máquinas. Mas Sidney, agora, se mostrava não só inteligente como deprimido, vingativo e romântico.

Assim como a do HAL de "2001, Uma Odisseia no Espaço", inteligências geradas por computador, seja por imitação ou outro fenômeno inquietante que o valha, exibem características humanas, por vezes, perturbadoras. Tais ilações excêntricas do algoritmo, geradoras de respostas subjetivas, vagas e incongruentes são chamadas de alucinações pelos especialistas. Sim, os computadores alucinam.

Querer que um Tamagoshi alimentado a Raskolnikov e a megadata das redes evolua para algo que preste é esperar demais. Nós mal acabamos de perceber o estrago que o mau uso da interatividade pode causar à democracia e a ciência já anuncia a emergência de robôs treinados para servirem de psicanalistas, conselheiros, amantes e amigos.

Não há fórum global que debata e legisle, em tempo hábil, a influência de tal companhia na psiquê de bilhões de humanos. Na falta de consenso e regra, apela-se para a autorregulação. Empresas como a OpenAI, programadora do Sidney, têm procurado cercear as pretensões políticas e sentimentais de seus Golens.

Por enquanto, a preocupação gira menos em torno da ameaça da criatura ganhar vida e, à maneira do Exterminador do Futuro, se voltar contra nós e mais nos efeitos adversos da longa exposição dos internautas a, por exemplo, um robô QAnon bom de papo.

Apesar de não representar um perigo eminente, o ser ou não ser do cérebro eletrônico, tema caro à ficção, continua a provocar fascínio e a ludibriar a ciência. O amor manifesto do Sidney, sua casmurrice discreta e a arrepiante fluência linguística não lhe garantem uma consciência de si. Sidney parece ser, mas não é.

Adeptos da corrente Strong AI, que não fazem distinção entre a inteligência artificial e a mente, apostam na tese de que o simples aumento da capacidade computacional levará o tataraneto de Sidney a se tornar consciente.

Na mão contrária, o matemático, filósofo e Prêmio Nobel de Física Roger Penrose enxerga o cérebro humano como algo além do que um punhado de conexões Tigre superconectadas. Em "The Emperor’s New Mind", livro de 1989 voltado para iletrados, o professor emérito de Oxford aventa a possibilidade de a consciência ser um fenômeno não algorítmico, que extrapola as capacidades computáveis de uma máquina de Turing.

Talvez por falta de provas, ou mesmo de uma teoria formal, Penrose tenha preferido exercer seu livre pensar com o público em geral. Não é todo dia que um gênio do calibre do professor larga o mundo das formas para, com a paciência de um monge, ensinar o bê-a-bá da matemática, da lógica e da física a leitores pouco dotados, como eu. Só isso já vale o livro.

Com prazer masoquista, encalhei mais de uma vez, fui e voltei nas páginas, até mal fixar o porquê de o 9 ser equivalente a 1001 e o 167 a 10100111 no sistema binário. A ciência requer rigor obsessivo e prática. E terminei "A Nova Mente do Imperador" com a sensação algo sublime de ter acordado para o assombroso século 21.

O livro foi indicação de um amigo. Mestrando em lógica, ele compareceu a um seminário recente da Unicamp em homenagem ao filósofo e matemático brasileiro Newton da Costa. Por duas semanas, meu amigo dividiu o quarto com A., um matemático iraniano de origem curda, residente na República Tcheca. Ciumento da namorada, A. era rapper por opção e iniciado nas crenças místicas do avô. Quatro vezes ao dia, A. estendia o tapete no banheiro apertado e rezava em direção a Meca.

"Deus não existe", dizia. "Mas o meu tapete, eu sei, sempre estará ali."

Em Sidney, a fé ateísta de A. seria tachada de alucinação. Em A., de senso concreto.

O cérebro eletrônico não é mais mudo, mas ainda não faz tudo.

.