[RESUMO] O americano Max Fisher transforma anos de investigação jornalística sobre empresas do Vale do Silício em um robusto livro-reportagem que conta como as big techs passaram de grande descoberta a grande problema. Nesta entrevista, ele diz que a extrema direita se beneficia da lógica dos algoritmos e discute os limites dos controles nacionais e da moderação interna à promoção de conteúdos condenáveis. Fisher também vê exagero na reação à nova inteligência artificial, que não deverá levar à extinção humana
Enquanto trabalhava como jornalista para publicações como The New York Times e The Atlantic, Max Fisher pôde escarafunchar documentos, ouvir fontes anônimas e entrevistar bambambãs da tecnologia para delinear aos poucos uma história de medo e delírio no Vale do Silício.
Num investimento de anos agora sedimentado no robusto livro "A Máquina do Caos", ele explica com didática exemplar como empresas de mídia social, antes voltadas a conectar amigos de faculdade e distribuir vídeos engraçados de animais, se impregnaram de ingredientes viciantes e potencialmente corrosivos surgidos em fóruns como 4chan e se tornaram assunto incontornável no debate sobre o futuro da democracia no mundo.
Nesta entrevista, ele discute por que a extrema direita é beneficiária natural dos algoritmos dessas plataformas, como os legisladores devem encarar sua regulação e porque as reações escandalizadas à inteligência artificial têm cheiro de jogada de marketing.
Parece que estamos num momento em que se cimentou uma percepção de que as redes sociais podem ter efeito deletério sobre seus usuários. Houve um ponto de virada nesse sentido?
Quando eu comecei a trabalhar nas histórias que compõem o livro, era controverso sugerir que as redes sociais não só continham desinformação e discurso de ódio, mas de fato podiam mudar a maneira como as pessoas pensavam, em uma escala suficiente até para distorcer a política.
Mas histórias que encontrei no Brasil, por exemplo, eram especialmente fortes —você via conspirações que haviam começado nas redes sociais chegarem até o topo da política. Isso tornou as coisas inegáveis e gerou uma forte reação pública contra empresas que antes eram respeitadas.
Por que a extrema direita é tão eficaz em usar redes sociais a seu favor e a esquerda é tão ineficaz?
A resposta curta é que não temos certeza, mas isso realmente é detectado em diversos estudos em diversos países. Em todos eles, o sistema de todas as grandes plataformas promove a extrema direita muito mais do que qualquer outra coisa. É algo inerente a como essas plataformas operam.
Não acho que seja um esforço deliberado no Vale do Silício, mas ao desenhar sistemas que buscam o que mais engaja a atenção das pessoas, o mais efetivo é o ódio, o nós versus eles, as conspirações paranoicas. É o pensamento que diz que o meu grupo está sendo ameaçado por outro grupo assustador que precisamos enfrentar. E isso se alinha a políticas de extrema direita.
Durante a última eleição no Brasil, a esquerda discutiu muito como melhorar a comunicação nas redes de maneira a ser tão boa nesse campo quanto a direita. Pelo que você está dizendo, é uma causa perdida.
É verdade. No começo, parecia que a extrema direita era muito boa em usar as redes sociais. Mas quanto mais aprendemos, mais vemos que não é o caso.
Bolsonaro e seu grupo usam a mesma tática nas redes há muito tempo, desde 2013. No começo, não tinham muito sucesso. Lá para 2016, o Facebook, o YouTube e o Twitter mudaram seu funcionamento e tornaram seu algoritmo mais sofisticado, cumprindo um papel bem mais direto na maneira como você experimentava essas redes. Imediatamente, o público dos bolsonaristas ficou muito maior.
E isso foi antes de pesquisas mostrarem o aumento de popularidade de Bolsonaro entre os brasileiros. Essa mudança nas plataformas os empurrou para cima.
Claro, havia outros aspectos da política brasileira em curso, mas Bolsonaro e políticos similares foram, em grande parte, beneficiários passivos.
É curioso que você argumente que os donos das plataformas não promovem essa vertente política deliberadamente.
É interessante entrar nessas empresas e conversar com as pessoas que desenham esses sistemas. São sempre pessoas de esquerda —não muito, mas tendendo à esquerda.
Eles realmente não gostam de Donald Trump, de Bolsonaro, mas a maioria deles são incapazes de admitir para si mesmos que a maneira como arquitetaram seus sistemas favorece a direita. E não é porque são burros, mas porque todo seu incentivo financeiro e cultural diz que, quanto mais gente usa redes sociais, melhor é para o mundo.
Eles realmente acreditam que devem construir o sistema de um jeito que incentive as pessoas a ficar ali pelo máximo de tempo. E, claro, há muita gente cínica que só quer ganhar dinheiro. Dá para entender. É muito dinheiro.
Parece que essas empresas ganharam tamanha proporção que se tornaram grandes demais para serem confrontadas por governos. Joe Biden já disse não ser muito fã de Mark Zuckerberg, mas fico pensando o que ele pode fazer a essa altura.
É difícil para governos como o brasileiro, porque a vantagem de governos fora dos Estados Unidos sobre essas empresas é limitada. Veja a União Europeia, que é um mercado enorme e poderoso. Eles estão fartos das empresas de tecnologia, impuseram multas gigantescas e ameaçaram com regulação severa. E isso não mudou muito as plataformas.
Para o bem ou para o mal, a pressão significativa só pode vir do governo americano. No passado, eu era mais pessimista quanto à possibilidade de regular companhias de tecnologia. Hoje sou menos. Antes os congressistas não entendiam como as plataformas operavam, agora boa parte deles têm uma visão sofisticada sobre o que exatamente torna esses sistemas perigosos.
O nosso sistema político está hoje num momento complicado, mas agora em Washington há ímpeto real para uma regulamentação poderosa e direcionada de forma precisa às empresas de mídia social.
Há um caso na Suprema Corte que, se os juízes decidirem favoravelmente, considerará essas empresas responsáveis pelo dano no mundo real de qualquer coisa que seus sistemas tenham promovido. É uma maneira nova de encarar a questão, potencialmente efetiva para mudar de fato os incentivos das empresas.
No debate sobre esse tipo de regulamentação, um grande tema é como conter a desinformação ao mesmo tempo que se permite a liberdade de expressão. Qual seu ponto de vista?
Houve uma mudança na maneira de pensar esse assunto. Nós costumávamos enxergar como um problema de moderação, ou seja, as plataformas têm que ser responsáveis por encontrar a desinformação e removê-la. Não é mais assim que estudiosos pensam, porque é impossível moderar tudo e a melhora na moderação não fez muito efeito.
Agora vemos isso como um problema de promoção. O perigo das redes é promover artificialmente o alcance de desinformação e conteúdo danoso. A mudança precisa se voltar a impedir essa promoção.
As empresas odeiam essa abordagem. Preferem falar de moderação, porque podem dizer que o governo só precisa oferecer a eles novas regras, contratam mais moderadores e continuam a construir plataformas que produzem quantidades enormes de desinformação. Essa mudança os assusta porque vai ao coração de seu modelo de negócios.
Tivemos recentemente a carta de intelectuais e empresários pedindo a suspensão do desenvolvimento de inteligência artificial. Como isso se relaciona aos temas que discute no livro?
Às vezes o hype em torno da inteligência artificial fica grande demais. No livro eu falo da invenção do "machine learning" [aprendizado por máquinas], algo que antes chamávamos de inteligência artificial. Hoje chamamos de inteligência artificial os programas de linguagem.
Quando o "deep learning" foi inventado, há 15 anos, também houve reação similar. As coisas que se faziam ali pareciam muito impressionantes, e as pessoas surtaram. "Vão conquistar a humanidade, a Skynet veio nos buscar."
Mas o que surgiu da era do "deep learning" foram coisas como a reprodução automática do Spotify, o tradutor do Google e as plataformas de mídia social. A próxima era de inteligência artificial também vai ser assim. A aplicação dessa tecnologia vai beneficiar o interesse comercial das corporações do Vale do Silício, que vão tornar seus produtos mais eficientes. Pode ser uma coisa ruim ou boa, mas não vai levar à extinção humana.
Você diria então que a carta aberta é uma reação exagerada?
Ou isso ou uma jogada publicitária. Um jeito de ler essa carta é que a inteligência artificial é uma tecnologia tão poderosa, tão assombrosa que você não vai acreditar. Todo esse pânico vindo do Vale do Silício me cheira a uma tentativa de aumentar o hype.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.