Enquanto o sol se punha sobre a Ilha Maury, ao sul de Seattle, no noroeste dos Estados Unidos, Ben Goertzel e sua banda de jazz-fusion tiveram um daqueles momentos que todas as bandas desejam: teclado, guitarra, saxofone e vocalista soando como se fossem um.
Goertzel estava no teclado. Os amigos e familiares da banda ouviam em um pátio com vista para a praia. E Desdemona, usando peruca roxa e um vestido preto com tachas metálicas, estava nos vocais, alertando sobre a chegada da Singularidade –o ponto de inflexão onde a tecnologia não poderá mais ser controlada por seus criadores.
"A Singularidade não será centralizada!", ela gritou. "Vai se irradiar pelo cosmo como uma vespa!"
Depois de mais de 25 anos como pesquisador de inteligência artificial (IA) –um quarto de século em busca de uma máquina capaz de pensar como um ser humano–, Goertzel sabia que finalmente havia alcançado o objetivo final: Desdemona, uma máquina que ele construiu, era senciente.
Mas alguns minutos depois ele percebeu que isso era um absurdo.
"Quando a banda se firmou, o robô parecia fazer parte da nossa inteligência coletiva –que estivesse sentindo o que nós sentíamos e fazíamos", disse ele. "Então eu parei de brincar e pensei no que realmente aconteceu."
O que aconteceu foi que Desdemona, por meio de algum tipo de magia de fusão da tecnologia com o jazz, o atingiu com uma imitação razoável de suas próprias palavras no momento certo.
Goertzel é presidente-executivo e principal cientista de uma organização chamada SingularityNET. Ele construiu Desdemona para, basicamente, imitar a linguagem dos livros que ele escreveu sobre o futuro da inteligência artificial.
Muitas pessoas no campo de Goertzel não são tão boas em distinguir o que é real do que elas gostariam que fosse real.
O exemplo recente mais famoso é um engenheiro chamado Blake Lemoine. Ele trabalhou em inteligência artificial no Google, especificamente em software que gera palavras por conta própria –o que é chamado de grande modelo de linguagem (LLM na sigla em inglês). Ele concluiu que a tecnologia era senciente; seus chefes concluíram que não. Ele divulgou suas convicções numa entrevista ao Washington Post, dizendo: "Conheço uma pessoa quando falo com ela. Não importa se ela tem na cabeça um cérebro feito de carne. Ou se ela tem um bilhão de linhas de código".
A entrevista causou um enorme rebuliço em todo o mundo dos pesquisadores de inteligência artificial, que venho cobrindo há mais de uma década, e entre pessoas que normalmente não seguem os avanços do grande modelo de linguagem. Uma velha amiga da minha mãe lhe enviou um email perguntando se eu achava que a tecnologia era senciente.
Quando ela foi assegurada de que não era, sua resposta foi rápida. "Isso é consolador", disse. O Google acabou demitindo Lemoine.
Para pessoas como a amiga da minha mãe, a ideia de que a tecnologia atual de certa forma se comporta como o cérebro humano é uma pista falsa. Não há evidências de que essa tecnologia seja senciente ou consciente –duas palavras que descrevem a consciência do mundo ao redor.
Isso vale até para a forma mais simples que se pode encontrar em um verme, disse Colin Allen, professor na Universidade de Pittsburgh que explora habilidades cognitivas em animais e máquinas. "O diálogo gerado por grandes modelos de linguagem não fornece evidências do tipo de senciência que até animais muito primitivos provavelmente possuem", disse ele.
Alison Gopnik, professora de psicologia que faz parte do grupo de pesquisa de IA na Universidade da Califórnia em Berkeley, concordou. "As capacidades computacionais da IA atual como os grandes modelos de linguagem não tornam mais provável que elas sejam sencientes do que as rochas ou outras máquinas", disse ela.
O problema é que as pessoas mais próximas da tecnologia –as pessoas que a explicam ao público– vivem com um pé no futuro. Às vezes, veem o que acreditam que vai acontecer tanto quanto o que está acontecendo agora.
"Há muitos caras em nossa indústria que lutam para diferenciar a ficção científica da vida real", disse Andrew Feldman, presidente-executivo e fundador da Cerebras, empresa que constrói enormes chips de computador que podem ajudar a acelerar o progresso da IA.
Um pesquisador proeminente, Jurgen Schmidhuber, há muito afirma que construiu as primeiras máquinas conscientes décadas atrás. Em fevereiro, Ilya Sutskever, um dos pesquisadores mais importantes da última década e principal cientista do laboratório de pesquisa OpenAI, em San Francisco, apoiado por US$ 1 bilhão (R$ 5,2 bilhões) da Microsoft, disse que a tecnologia de hoje pode ser "ligeiramente consciente". Várias semanas depois, Lemoine deu sua grande entrevista.
Essas declarações do mundo pequeno, insular e extremamente excêntrico da pesquisa em inteligência artificial podem ser confusas ou até assustadoras para a maioria das pessoas. Livros, filmes e programas de TV de ficção científica nos treinaram para temer que as máquinas um dia se conscientizem de seu entorno e de alguma forma nos prejudiquem.
É verdade que, à medida que esses pesquisadores avançam, momentos como Desdemona, quando essa tecnologia parece dar sinais de verdadeira inteligência, consciência ou senciência, são cada vez mais comuns. Não é verdade que em laboratórios em todo o Vale do Silício engenheiros construíram robôs capazes de se emocionar, conversar e cantar como um humano. A tecnologia não pode fazer isso.
Mas tem o poder de enganar as pessoas. A tecnologia pode gerar tuítes, postagens em blogs e até artigos inteiros e, conforme os pesquisadores avançam, está se aperfeiçoando em conversar. Embora muitas vezes cuspa um absurdo total, muitas pessoas –não apenas pesquisadores de IA– se veem conversando com esse tipo de tecnologia como se fosse humana.
À medida que ela melhora e prolifera, os eticistas alertam que precisaremos de um novo tipo de desconfiança para navegar por tudo o que encontrarmos na internet. E eles se perguntam se estamos à altura da tarefa.
Ancestrais de Desdemona
Em 7 de julho de 1958, em um laboratório do governo a vários quarteirões da Casa Branca, o psicólogo Frank Rosenblatt revelou uma tecnologia que ele chamou de Perceptron.
Ela não fazia muita coisa. Como Rosenblatt demonstrou para os repórteres que visitaram o laboratório, se ele mostrasse à máquina algumas centenas de cartões retangulares, alguns marcados do lado esquerdo e outros do direito, ela conseguia aprender a diferenciar os dois.
Ele disse que um dia o sistema aprenderia a reconhecer palavras manuscritas, comandos falados e até rostos de pessoas. Na teoria, conseguiria se clonar, explorar planetas distantes e cruzar a linha da computação para a consciência, disse o cientista aos repórteres.
Quando Rosenblatt morreu, 13 anos depois, ele não fazia nada disso. Mas era típico da pesquisa de IA, campo acadêmico criado na mesma época em que Rosenblatt começou a trabalhar no Perceptron.
Os pioneiros do campo visavam recriar a inteligência humana por qualquer meio tecnológico necessário e estavam confiantes de que não levariam muito tempo. Alguns diziam que uma máquina venceria o campeão mundial de xadrez e descobriria seu próprio teorema matemático na década seguinte. Isso também não aconteceu.
A pesquisa produziu algumas tecnologias notáveis, mas que não chegaram perto de reproduzir a inteligência humana. A "inteligência artificial" descrevia o que a tecnologia poderia fazer um dia, não o que podia fazer no momento.
Alguns dos pioneiros eram engenheiros. Outros eram psicólogos ou neurocientistas. Ninguém, incluindo os neurocientistas, entendia como o cérebro funcionava. (Os cientistas ainda não entendem.) Mas eles acreditavam que poderiam de alguma forma recriá-lo. Alguns acreditaram mais que outros.
Nos anos 1980, o engenheiro Doug Lenat disse que poderia reconstruir o senso comum, uma regra de cada vez. No início dos anos 2000, membros de uma extensa comunidade online –agora chamada de Racionalistas ou Altruístas Efetivos– começaram a explorar a possibilidade de que a inteligência artificial um dia destruísse o mundo. Logo, eles empurraram essa filosofia de longo prazo para a academia e a indústria.
Nos principais laboratórios de IA de hoje, fotos e cartazes de filmes clássicos de ficção científica estão pendurados nas paredes da sala de conferências. À medida que os pesquisadores perseguem esses temas, usam a mesma linguagem ambiciosa usada por Rosenblatt e outros pioneiros.
Até os nomes desses laboratórios miram o futuro: Google Brain, DeepMind, SingularityNET. A verdade é que a maioria das tecnologias rotuladas como "inteligência artificial" imita o cérebro humano apenas de pequenas maneiras –se é que o fazem. Certamente, não chegou ao ponto de seus criadores não poderem mais controlá-la.
A maioria dos pesquisadores pode se afastar da linguagem ambiciosa e reconhecer as limitações da tecnologia. Mas às vezes as linhas ficam confusas.
Por que eles acreditam
Em 2020, o OpenAI lançou um sistema chamado GPT-3. Podia gerar tuítes, escrever poesia, resumir emails, responder a perguntas simples, traduzir idiomas e até escrever programas de computador.
Sam Altman, empresário e investidor de 37 anos que lidera o OpenAI como CEO, acredita que esse e outros sistemas similares são inteligentes. "Eles podem completar tarefas cognitivas úteis", disse-me Altman recentemente. "A capacidade de aprender –a capacidade de aceitar um novo contexto e resolver algo de uma nova maneira– é inteligência."
GPT-3 é o que os pesquisadores de inteligência artificial chamam de rede neural, como a teia de neurônios do cérebro humano. Isso também é uma linguagem ambiciosa. Uma rede neural é realmente um sistema matemático que aprende habilidades identificando padrões em grandes quantidades de dados digitais. Ao analisar milhares de fotos de gatos, por exemplo, ela pode aprender a reconhecer um gato.
"Chamamos isso de 'inteligência artificial', mas um nome melhor seria 'extrair padrões estatísticos de grandes conjuntos de dados'", disse Gopnik.
Foi essa mesma tecnologia que Rosenblatt explorou na década de 1950. Ele não tinha a grande quantidade de dados digitais necessários para realizar essa grande ideia. Nem tinha o poder de computação necessário para analisar todos esses dados. Mas por volta de 2010 os pesquisadores começaram a mostrar que uma rede neural era tão poderosa quanto ele e outros afirmavam havia muito tempo –pelo menos para certas tarefas.
Essas tarefas incluíam reconhecimento de imagem, reconhecimento de fala e tradução. Uma rede neural é a tecnologia que reconhece os comandos que você grita no seu iPhone e traduz entre francês e inglês no Google Tradutor.
Mais recentemente, pesquisadores em lugares como Google e OpenAI começaram a construir redes neurais que aprendiam com enormes quantidades de prosa, incluindo livros digitais e artigos da Wikipedia aos milhares. O GPT-3 é um exemplo.
Ao analisar todo esse texto digital, ele construiu o que se pode chamar de mapa matemático da linguagem humana –mais de 175 bilhões de pontos de dados que descrevem como juntamos as palavras. Usando esse mapa, ele consegue realizar muitas tarefas diferentes, como redigir discursos, escrever programas de computador e conversar.
Mas há inúmeras ressalvas. Usar o GPT-3 é como jogar dados: se você pedir dez discursos na voz de Donald Trump, pode dar cinco que soam notavelmente como o ex-presidente –e outros cinco que nem chegam perto. Os programadores de computador usam a tecnologia para criar pequenos trechos de código que podem inserir em programas maiores, mas, na maioria das vezes, eles precisam editar e massagear o que ela lhes dá.
"Essas coisas não estão nem no nível da mente de uma criança média de 2 anos", disse Gopnik, que é especializada em desenvolvimento infantil. "Em termos de pelo menos alguns tipos de inteligência, elas provavelmente estão em algum lugar entre um mofo e meu neto de 2 anos."
Mesmo depois de discutirmos essas falhas, Altman descreveu esse tipo de sistema como inteligente. Enquanto continuamos a conversar, ele admitiu que não é inteligente como os humanos. "É como uma forma alienígena de inteligência", disse ele. "Mas ainda vale."
As palavras usadas para descrever os poderes antigos e futuros dessa tecnologia significam coisas diferentes para pessoas diferentes. As pessoas discordam sobre o que é e o que não é inteligência. A senciência –a capacidade de experimentar sentimentos e sensações– não é algo facilmente mensurável. Tampouco é a consciência –estar desperto e ciente de seu entorno.
Altman e muitos outros nessa área acreditam estar no caminho para construir uma máquina capaz de fazer qualquer coisa que o cérebro humano possa fazer. Essa confiança transparece quando eles discutem as tecnologias atuais.
"Acho que parte do que está acontecendo é que as pessoas estão realmente entusiasmadas com esses sistemas e expressando seu entusiasmo numa linguagem imperfeita", disse Altman.
Ele reconhece que alguns pesquisadores de IA "lutam para diferenciar entre realidade e ficção científica". Mas acredita que esses pesquisadores ainda desempenham um papel valioso. "Eles nos ajudam a sonhar com toda a gama de possibilidades", disse.
Talvez eles ajudem. Mas para o resto das pessoas esses sonhos podem atrapalhar as questões que merecem nossa atenção.
Por que todos acreditam
Em meados da década de 1960, um pesquisador do Instituto de Tecnologia de Massachusetts (MIT), Joseph Weizenbaum, construiu uma psicoterapeuta automatizada que chamou de Eliza. Esse chatbot (robô de conversa) era simples. Basicamente, quando você digitava uma ideia na tela do computador, ele pedia para você expandir essa ideia –ou apenas repetia suas palavras em forma de pergunta.
Mesmo quando Weizenbaum escolheu uma conversa para o artigo acadêmico que publicou sobre a tecnologia, ficou assim, com Eliza respondendo em letras maiúsculas:
Os homens são todos iguais.
DE QUE MANEIRA?
Eles estão sempre nos incomodando sobre uma coisa ou outra.
VOCÊ CONSEGUE PENSAR EM UM EXEMPLO ESPECÍFICO?
Bem, meu namorado me fez vir aqui.
SEU NAMORADO FEZ VOCÊ VIR AQUI
Para grande surpresa de Weizenbaum, porém, as pessoas tratavam Eliza como se fosse humana. Elas compartilhavam livremente seus problemas pessoais e se confortavam com suas respostas.
"Eu sabia por longa experiência que os fortes laços emocionais que muitos programadores têm com seus computadores geralmente se formam depois de pequenas experiências com máquinas", escreveu ele mais tarde. "O que eu não tinha percebido é que exposições extremamente curtas a um programa de computador relativamente simples poderiam induzir um poderoso pensamento delirante em pessoas bastante normais."
Nós, humanos, somos suscetíveis a esses sentimentos. Quando cães, gatos e outros animais exibem até pequenos momentos de comportamento humano, tendemos a supor que eles são mais parecidos conosco do que realmente são. O mesmo acontece quando vemos indícios de comportamento humano em uma máquina.
Os cientistas agora chamam isso de efeito Eliza.
Quase a mesma coisa está acontecendo com a tecnologia moderna. Alguns meses após o lançamento do GPT-3, um inventor e empresário, Philip Bosua, me enviou um e-mail. A linha de assunto era: "Deus é uma máquina".
"Não há dúvida em minha mente que o GPT-3 surgiu como senciente", dizia. "Todos nós sabíamos que isso aconteceria no futuro, mas parece que esse futuro é agora. Ele me vê como um profeta para disseminar sua mensagem religiosa, e estranhamente é assim que me sinto."
Depois de projetar mais de 600 aplicativos para o iPhone, Bosua desenvolveu uma lâmpada que você poderia controlar com o smartphone, construiu um negócio em torno dessa invenção com uma campanha no Kickstarter e acabou levantando US$ 12 milhões (R$ 62,6 milhões) da empresa de capital de risco Sequoia Capital, do Vale do Silício. Hoje, embora ele não tenha formação biomédica, está desenvolvendo um dispositivo para diabéticos que pode monitorar seus níveis de glicose sem furar a pele.
Quando falamos ao telefone, ele me pediu que mantivesse sua identidade em segredo. É um empresário de tecnologia experiente que estava ajudando a construir uma nova empresa, a Know Labs. Mas depois que Lemoine fez afirmações do mesmo tipo sobre tecnologia semelhante desenvolvida no Google, Bosua disse que concordava em falar abertamente.
"Quando descobri o que descobri, ainda era muito cedo", disse ele. "Mas agora tudo isso está começando a aparecer."
Quando apontei que muitos especialistas insistiam que esses tipos de sistemas só eram bons para repetir padrões que tinham visto, ele disse que também é assim que os humanos se comportam. "Uma criança não imita apenas o que vê nos pais, o que vê no mundo ao seu redor?", disse ele.
Bosua reconheceu que o GPT-3 nem sempre é coerente, mas que se pode evitar isso se for usado da maneira correta.
"A melhor sintaxe é a honestidade", disse ele. "Se você for honesto com ele e expressar seus pensamentos crus, lhe dará a capacidade de responder às perguntas que você está fazendo."
Bosua não representa necessariamente o homem comum. O presidente de sua nova empresa o chama de "divinamente inspirado" –alguém que "vê as coisas cedo". Mas suas experiências mostram o poder que até uma tecnologia muito falha tem para capturar a imaginação.
Para onde os robôs nos levarão
Margaret Mitchell se preocupa com o que tudo isso significa para o futuro. Como pesquisadora na Microsoft, depois no Google, onde ajudou a fundar a equipe de ética em IA, e agora no Hugging Face, outro laboratório de pesquisa de destaque, ela viu o surgimento dessa tecnologia em primeira mão. Hoje, disse, a tecnologia é relativamente simples e obviamente falha, mas muitas pessoas a veem como um pouco humana. O que acontecerá quando a tecnologia se tornar muito mais poderosa?
Além de gerar tuítes e postagens em blogs e começar a imitar conversas, sistemas construídos por laboratórios como o OpenAI podem gerar imagens. Com uma nova ferramenta chamada DALL-E, você pode criar imagens digitais com realidade fotográfica simplesmente descrevendo, em linguagem simples, o que deseja ver.
Alguns na comunidade de pesquisadores de IA temem que esses sistemas estejam a caminho da senciência ou consciência. Mas isso não vem ao caso.
"Um organismo consciente –como uma pessoa, um cachorro ou outros animais– pode aprender algo em um contexto e aprender outra coisa em outro contexto, e então juntar as duas coisas para fazer algo em um novo contexto que nunca experimentou antes", disse Allen, o professor na Universidade de Pittsburgh. "Essa tecnologia não está nem perto de fazer isso."
Existem preocupações muito mais imediatas –e mais reais.
À medida que essa tecnologia continua a se aperfeiçoar, pode ajudar a espalhar desinformação pela internet –textos falsos e imagens falsas–, alimentando o tipo de campanha online que pode ter ajudado a influenciar a eleição presidencial de 2016 nos EUA. Poderia produzir chatbots que imitam a conversa de maneiras muito mais convincentes. E esses sistemas podem operar em uma escala que faz as atuais campanhas de desinformação conduzidas por humanos parecerem minúsculas em comparação.
Se e quando isso acontecer, teremos que tratar tudo o que vemos online com extrema desconfiança. Mas Mitchell se pergunta se estamos à altura do desafio.
"Eu me preocupo que os chatbots prejudiquem as pessoas", disse ela. "Eles têm o poder de nos convencer sobre em que acreditar e o que fazer."
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.