Imagine que eu te dissesse em 1970 que iam inventar uma ferramenta assombrosa.
Essa ferramenta permitiria que qualquer pessoa com acesso –e a maior parte da humanidade teria acesso— se comunicasse rapidamente com qualquer outra pessoa. Ela armazenaria quase o conjunto todo do conhecimento humano até aquele ponto, e esse cabedal seria pesquisável, classificável e portátil.
Textos seriam traduzidos instantaneamente de uma língua para outra, notícias de todo o mundo estariam disponíveis imediatamente em todo o mundo, e um cientista não levaria mais tempo para baixar um artigo científico publicado numa revista há 15 anos do que para consultar um artigo da edição mais recente.
O que você teria previsto que esse salto de informação, colaboração e comunicação faria pela humanidade? Quão mais rápido nossas economias iriam crescer?
Agora imagine que eu lhe dissesse que iam inventar uma ferramenta sinistra (e, talvez, ao dizê-lo, soltasse uma risadinha assustadora). Quando as pessoas a usassem, seu tempo de atenção se degradaria, porque ela faria o foco de atenção mudar constantemente, enfraquecendo a concentração e a contemplação.
Essa ferramenta mostraria às pessoas aquilo que elas mais queriam ver –e isso muitas vezes seria o que há de mais ameaçador no mundo, desde as piores ideias de seus adversários políticos até as injustiças profundas de sua sociedade. Essa ferramenta caberia no bolso das pessoas, ficaria iluminada em suas mesinhas de cabeceira e nunca silenciaria realmente. Nunca haveria um momento em que as pessoas pudessem ficar livres da sensação de que a pilha de mensagens, avisos e tarefas precisava ser checada.
Que efeito você teria imaginado que esse artefato de distração, divisão e fratura cognitiva teria sobre a humanidade?
Pensar na internet nesses termos ajuda a elucidar um mistério econômico. A verdade constrangedora é que o crescimento da produtividade –ou seja, o aumento da capacidade de produção com o mesmo número de pessoas, fábricas e terra— foi muito maior durante boa parte do século 20 do que é agora.
Hoje, nosso índice de aumento da produtividade é em média 50% do que era nos anos 1950 e 1960. Isso significa rendas estagnadas, economias que crescem lentamente e uma cultura política mais voltada a disputar o que temos do que a distribuir as riquezas e maravilhas que conquistamos. O que deu errado?
Podemos pensar em dois modos pelos quais a internet poderia ter acelerado o crescimento da produtividade. O primeiro é óbvio: continuar fazendo o que já fazíamos, mas mais fácil e rapidamente. E isso aconteceu. Vimos um aumento nítido no crescimento da produtividade mais ou menos entre 1995 e 2005, quando as empresas digitalizaram suas operações. Mas o segundo modo é mais importante: ao conectar a humanidade com ela mesma e com quase seu cabedal inteiro de informação, a internet poderia ter nos deixado coletivamente mais inteligentes e capazes.
Não penso que essa promessa tenha se mostrado falsa, exatamente. Mesmo ao escrever este artigo, ela se cumpriu para mim: a rapidez com que pude encontrar informação, vasculhar pesquisas e contatar especialistas foi maravilhosa. Mesmo assim, duvido que eu tenha escrito este artigo em menos tempo do que eu teria levado em 1970. Em um ambiente digital projetado para distrair minha atenção, me agitar e me entreter, boa parte de minha mente estava ocupada com o esforço constante necessário para continuar atento a uma linha de pensamento. E eu não sou o único nessa situação.
Gloria Mark, professora de ciência da informação na Universidade da Califórnia em Irvine e autora de "Attention Span", começou em 2004 a pesquisar o modo como as pessoas usam os computadores.
A média de tempo que as pessoas passavam diante de uma tela única era de 2,5 minutos. "Fiquei espantada", ela me disse. "Foi pior do que eu pensei que seria." Mas aquilo foi apenas o começo. Em 2021, Mark e seus colegas constataram que a média de tempo que as pessoas passam se dedicando a uma única tarefa era de 75 segundos. Hoje isso já caiu para cerca de 47 segundos.
Isso equivale a um banho de ácido para a cognição humana. O "multitasking" (desempenhar várias tarefas ao mesmo tempo) é um mito. Conseguimos nos concentrar sobre uma coisa de cada vez. "É como se tivéssemos um quadro branco interno na mente", disse Mark. "Se estou trabalhando sobre uma tarefa, tenho toda a informação que necessito naquele quadro branco mental. Então passo para meu email. Preciso mentalmente limpar esse quadro branco e escrever nele toda a informação que necessito para cuidar dos emails. E, como ocorre com um quadro branco real, pode sobrar algum resíduo na mente. Podemos estar pensando em alguma coisa de três tarefas atrás."
O custo não se manifesta apenas no nosso desempenho. Em um experimento, Mark e seus colegas mediram a pressão arterial, a frequência cardíaca e as substâncias químicas presentes no sangue de algumas pessoas. A mudança constante de alvo de atenção nos deixa estressados e irritáveis. Não preciso de experimentos para comprovar que isso ocorre –vivo isso no meu cotidiano, e você provavelmente também—, mas foi deprimente ouvir a confirmação.
E isso me conduz à inteligência artificial. Estou falando dos sistemas que estamos vendo agora: grandes modelos de linguagem como o GPT-4 da OpenAI e o Bard do Google. O que esses sistemas fazem, na maior parte, é resumir a informação que lhes foi mostrada e criar conteúdos que se assemelham a ela. Reconheço que essa descrição pode parecer um pouco desdenhosa, mas não deveria: isso é uma parte grande do que os humanos também fazemos.
Já estão dizendo que a IA está aumentando a produtividade de codificadores, funcionários de atendimento ao consumidor e escritores. Pelo menos um executivo-chefe pretende acrescentar o uso de ChatGPT às avaliações de desempenho de seus funcionários. Mas eu encaro esse hype inicial com ceticismo. Isso é medir os benefícios potenciais da IA sem levar em conta os custos que ela provavelmente carrega –o mesmo erro que cometemos com a internet.
Receio que estejamos seguindo na direção errada de pelo menos três maneiras.
Uma delas é que esses sistemas vão nos distrair e entreter mais do que nos ajudar a ter foco. Hoje, os grandes modelos de linguagem tendem a se confundir: peça a eles que respondam uma pergunta complexa, e você receberá uma resposta convincente, erudita, em que os fatos-chave e citações muitas vezes são inventados. Desconfio que isso vai atrasar sua adoção ampla em indústrias importantes muito mais do que está sendo admitido, mais ou menos do mesmo modo como os carros autônomos estão sendo difíceis de lançar no mercado, porque precisam ser absolutamente confiáveis, não só razoáveis.
Uma pergunta a fazer em relação aos grandes modelos de linguagem, portanto, é: em que áreas a confiabilidade não tem importância? É nessas áreas que eles serão adotados mais rapidamente. Um exemplo da mídia é revelador. O site de tecnologia CNET começou a usar esses modelos para redigir artigos, com revisão humana. Mas o processo não deu certo. Dos 77 artigos gerados por IA, descobriu-se que 41 continham erros que os editores não flagraram. A CNET, envergonhada, suspendeu o programa.
O BuzzFeed, que recentemente fechou sua divisão de notícias, está usando IA para gerar quizzes e guias de viagem. Muitos dos resultados têm sido fracos, mas isso não tem importância real. Um quiz do BuzzFeed não precisa ser confiável.
A presidente da BuzzFeed, Marcela Martin, resumiu minha ressalva seguinte quando disse a investidores: "Em vez de gerar dez ideias em um minuto, a IA pode gerar centenas de ideias num segundo". Ela disse isso sugerindo que era algo positivo, mas é mesmo? Imagine isso multiplicado na economia. Alguém, em algum lugar, terá que processar toda essa informação. Que efeito isso terá sobre a produtividade?
Uma lição da era digital é que mais nem sempre significa melhor. Mais emails, mais relatórios, mais tuítes, mais vídeos, mais artigos noticiosos, mais galerias de slides e mais chamadas pelo Zoom não parecem ter resultado em mais ótimas ideias. "Podemos produzir mais informação", disse Mark. "Mas isso quer dizer que há mais informação para processarmos. É nossa capacidade de processar que é o gargalo."
O email e os sistemas de chat como o Slack oferecem analogias úteis aqui. Ambos são amplamente utilizados em muitos setores da economia. Ambos foram promovidos inicialmente como coisas que poderiam elevar a produtividade, permitindo mais comunicação em menos tempo. E, como bem sabe qualquer pessoa que os usa, os ganhos de produtividade, embora sejam reais, são mais do que contrabalançados pelo custo de ficarmos soterrados sob um volume muitíssimo maior de comunicações, boa parte das quais descartáveis e pura bobagem.
O que um grande modelo de linguagem possui de tão especial é que ele pode produzir um documento de praticamente qualquer tamanho, em praticamente qualquer estilo, com um mínimo de esforço do usuário.
Poucos chegaram a pensar nos custos que isso vai impor àqueles que terão de responder a todos esses textos novos. Um de meus exemplos favoritos disso vem da revista The Economist, que imaginou comunidades que protestam contra empreendimentos imobiliários –mas pode ser qualquer outro grupo representativo de um interesse qualquer— usando o GPT-4 para rapidamente gerar uma queixa em mil páginas contra uma nova obra de construção planejada. Alguém, é claro, terá que responder à queixa. Será que isso vai realmente nos ajudar a construir mais unidades habitacionais em menos tempo?
Minha terceira preocupação está ligada àquela utilização de IA: mesmo que aqueles resumos e rascunhos sejam muito bons, alguma coisa se perde com a terceirização. Parte de meu trabalho é ler documentos de cem páginas da Suprema Corte e compor rascunhos de colunas. Eu pouparia tempo se confiasse esse trabalho à IA. Mas o aumento de eficiência se daria às custas de novas ideias e insights mais profundos.
A obsessão de nossa sociedade com a rapidez e a eficiência nos deu um modelo de cognição humana falho que eu encaro como a teoria "Matrix" do conhecimento. Muitos de nós desejaríamos poder usar a pequena tomada de "Matrix" para descarregar o conhecimento contido em um livro em nossas cabeças (ou, para usar o exemplo do filme, um mestre de kung fu).
Ganharíamos o conhecimento instantaneamente. Mas isso excluiria muito do que acontece de fato quando passamos nove horas lendo uma biografia. O que tem importância é o tempo que passamos com o livro, traçando conexões com o que já sabemos e tendo pensamentos que de outro modo não teríamos.
Claro que essas preocupações não são novas. Sócrates questionava o uso da escrita (ironicamente, tendo suas palavras sido registradas por Platão). "Se os homens a aprenderem, isso implantará o esquecimento em sua alma; eles deixarão de exercitar a memória porque dependerão do que está escrito, chamando as coisas à sua memória não mais de dentro de si, mas por meio de marcas externas", argumentava. O que a humanidade ganhou em troca aqui valeu a pena –sou escritor, afinal—, mas foi uma troca. Os seres humanos realmente perdemos faculdades de memória que já tivemos.
Para que a inteligência artificial cumpra o que promete, é preciso que ela aprofunde a inteligência humana. E isso quer dizer que os seres humanos precisam construir IA, além dos fluxos de trabalho e ambientes de escritório em volta dela, de maneiras que não nos sobrecarreguem, amesquinhem ou desviem nossa atenção. Fomos reprovados nesse teste com a internet. Não sejamos reprovados com a IA.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.