Estes são tempos de incerteza para o Vale do Silício. As empresas de tecnologia estão demitindo funcionários que contrataram na pandemia. O Twitter, sob o comando de Elon Musk, afastou os anunciantes. A Apple, autoproclamada defensora da privacidade, quer reduzir o alcance do Google. É possível imaginar que o faroeste digital se tornará mais civilizado.
No entanto, para os críticos das big techs, há pouco alívio. Shoshana Zuboff, professora emérita da Escola de Administração de Harvard, publicou "A era do capitalismo de vigilância" em 2019 –uma explosão sobre como as empresas de tecnologia ganharam bilhões de dólares sugando dados privados. "Pensávamos estar pesquisando no Google, mas era o Google que estava nos pesquisando", resumiu ela.
Hoje, Zuboff está frustrada porque os esforços para limitar as empresas de tecnologia são tão fragmentados. "Temos estudiosos, pesquisadores, defensores fantásticos que se concentram na privacidade, outros estão focados na desinformação, outros na relação com a democracia", disse ela, quando nos encontramos em Londres. Essa "balcanização" reduz a capacidade de identificar a "fonte real do dano": os dados das pessoas são tratados como um recurso sem custo, assim como foram as florestas e outras partes da natureza em séculos passados.
Zuboff cita dados de que, nos Estados Unidos, que não têm uma lei federal sobre privacidade, as pessoas têm sua localização exposta 747 vezes por dia. Na União Europeia, que ela diz ter a "melhor regulamentação", são 376. "É melhor, mas não é nem de longe melhor o suficiente."
Mark Zuckerberg uma vez prometeu que um modelo preditivo diria a você, ao chegar a uma cidade estranha, a que bar devia ir, e um barman já teria preparado sua bebida favorita. Esse sonho desvaneceu apenas com base na praticidade, não no princípio.
Em um artigo publicado em novembro, Zuboff argumentou que a Apple e o Google tinham superado as autoridades de saúde europeias na tecnologia de rastreamento da Covid. "É possível ter capitalismo de vigilância e é possível ter democracia. Não é possível ter os dois", escreveu ela. A Apple criou a ilusão de agir como Robin Hood, quando apenas a supervisão democrática poderia proteger os direitos individuais.
Ela vê suas ações contra o Google simplesmente como uma "expansão" do capitalismo de vigilância. As promessas de Tim Cook de proteger a privacidade podem ser revogadas a qualquer momento: "Os usuários não têm voz".
A vigilância tecnológica é importante, argumenta Zuboff, porque nos rouba a "intimidade que sustenta a vida". Os indivíduos também não podem realisticamente optar por manter sua privacidade. Precisamos é de um direito ao santuário.
No ano passado, Bruxelas aprovou a Lei de Serviços Digitais e a Lei de Mercados Digitais, sua legislação de tecnologia mais abrangente até o momento. O Parlamento do Reino Unido está atualmente debatendo o projeto de lei de segurança online. Zuboff quer que eles sejam trampolins.
Normalmente, em entrevistas, o jornalista faz perguntas e o entrevistado as responde. Uma entrevista com Zuboff é diferente. Você faz perguntas e, na maioria das vezes, ela responde com os princípios básicos –suas explicações passo a passo de como o capitalismo de vigilância se consolidou neste século.
Zuboff é especial sobre como suas ideias são descritas, sobre como as coisas são montadas, sobre que caneta ela usa. Ela pondera cada detalhe. "Você se distrai se eu ficar em pé? Vou me sentar. Eu costumo andar e falar", diz, quando começamos.
Essa mentalidade particular é, na terminologia tecnológica, um recurso, não um defeito. Ela permite que Zuboff tenha uma visão de longo prazo. Em 1988, ela publicou "In the Age of the Smart Machine" [Na era da máquina inteligente], que afirmava que os computadores modificariam as empresas de uma forma que as tecnologias anteriores não haviam feito. Mais tarde, ela dirigiu o Odyssey, programa educacional da Escola de Administração de Harvard para ajudar pessoas de sucesso a decidir como passar a parte futura de suas vidas.
Sua obra sobre o capitalismo de vigilância foi sua própria florada na carreira tardia. Foi publicada quando ela tinha 67 anos, depois que um raio incendiou a casa de sua família no Maine e após a morte inesperada de seu marido e coautor, o empresário Jim Maxmin.
Zuboff afirma que as empresas de tecnologia sabiam que o público nunca aprovaria as coletas de dados. "Desde o início elas foram entendidas como coisas que tinham que ser secretas, tinham que ser camufladas dos usuários, para não provocar resistência." Ela cita um recente executivo do Google dizendo: "Não vai assustar as pessoas saber o quanto estamos prestando atenção?"
Hoje, as empresas de tecnologia "estão ficando muito mais relutantes em patentear suas descobertas, porque não querem que o público saiba exatamente o que estão fazendo. Na maioria dos casos, eles não estão mais disponibilizando seus dados pessoais aos pesquisadores".
Assim, Zuboff vê a necessidade de uma expedição de pesca regulatória. As leis de tecnologia da União Europeia criarão "novos quadros de pessoas com novas combinações de habilidades que irão para dentro das corporações. A missão delas será ‘levantar o capô’ para entender o que realmente está acontecendo. Um dos grandes problemas que temos é que a maioria das informações que saem das empresas são intencionalmente projetadas para ser enganosas. A distorção de informações é uma forma de arte retórica genuinamente praticada por essas empresas".
Zuboff raramente usa respostas curtas ou terminologia simples. No entanto, ela é direta sobre a moderação de conteúdo –as tentativas das empresas de remover conteúdo nocivo– que ela descreve como "areia movediça... uma proposta totalmente perdedora, destinada na verdade a nos manter ocupados o maior tempo possível, para que elas possam continuar se safando com o que realmente estão fazendo".
Ela é mais positiva sobre o design adequado à idade, em que as plataformas são projetadas para minimizar os danos às crianças e coletar menos dados delas. O Reino Unido foi pioneiro no design adequado à idade, mas após o Brexit perderá o "poder mais musculoso" de Bruxelas contra o capitalismo de vigilância, diz Zuboff. Ela também vê "um movimento para enfraquecer e desnaturalizar o regime de proteção de dados existente com um projeto de lei de proteção de dados que favorece as grandes empresas de tecnologia e perpetua a ideia errônea de que a democracia deve sair do caminho".
O problema para os defensores da privacidade é que sua causa parece oferecer muito poucas vantagens e muitos inconvenientes. Para a maioria dos cidadãos europeus, o maior impacto da legislação de privacidade é perturbar os pop-ups de cookies. A regulamentação parece impraticável: o Reino Unido e a França queriam estabelecer limites de idade para sites pornográficos, mas até agora não conseguiram encontrar maneiras eficazes de fazê-lo.
Da mesma forma, Zuboff critica a Apple e o Google por assumirem o controle do rastreamento da Covid, mas e se o sistema deles simplesmente funcionasse melhor do que os sistemas centralizados preferidos pelas autoridades de saúde europeias? Ela ri da sugestão. Mas admite que a regulamentação é prejudicada "porque não podemos entrar [nas empresas de tecnologia] para saber o que realmente está acontecendo. Estamos regulamentando com viseiras, não entendemos bem o nosso adversário".
Zuboff insiste que seu ataque não é contra a tecnologia em si, mas contra a lógica econômica que a sustenta –"roubo". Ela oferece a possibilidade de usarmos dados e previsões para o bem comum. O contra-argumento é que existem compensações básicas. Os serviços de tecnologia, seja para prever respostas de texto ou as rotas de direção mais rápidas, só podem funcionar acumulando dados e reduzindo nossa privacidade.
Pergunto o que ela acha da posse do Twitter por Musk. "Temos políticos, legisladores, autoridades eleitas, assim como todos os cidadãos, concentrados em um homem e perguntando: 'O que ele fará?' Nossa estabilidade política, nossa capacidade de saber o que é verdadeiro e o que é falso, nossa saúde e, até certo ponto, nossa sanidade, são desafiados diariamente, dependendo das decisões que Musk tomar. Considero isso fundamentalmente intolerável... Esses espaços não podem existir apenas sob controle corporativo... Entramos há duas décadas na era digital, mas nunca, como democracias, avaliamos o significado dessas tecnologias."
Musk colocou Donald Trump de volta no Twitter. A suspensão do Facebook do ex-presidente dos Estados Unidos terminará "nas próximas semanas", disse sua empresa controladora. Zuboff está horrorizada. "Não deve ser uma decisão que caiba a indivíduos como Musk, Zuckerberg ou qualquer outro." As implicações para a democracia são muito grandes. "Em uma civilização da informação, nossos espaços de informação devem existir sob o direito público e ser regidos por instituições democráticas. Com sorte e determinação, olharemos para os dias dos oligarcas da informação como Musk e Zuckerberg como os primeiros erros primitivos de uma nova civilização."
Ela compara os gigantes da tecnologia do Ocidente ao estado de vigilância da China. "Este é um mundo em que a privacidade foi extinta. A privacidade hoje é uma categoria zumbi. Nenhum de nós tem privacidade, mesmo como a víamos no ano 2000."
Seu senso de distopia é visceral. "Alguém acaba de inventar um tipo de tinta que você pode colocar no rosto para confundir o reconhecimento facial. Os jovens do Reddit estão muito animados com isso. É terrível, Henry!"
A abolição do capitalismo de vigilância requer novas leis que permitam às sociedades decidir "o que se torna dados, em primeiro lugar, o que compartilhamos, com quem e com que finalidade".
Em vez disso, a tecnologia avança, principalmente na forma de inteligência artificial. "O ChatGPT nos abalou. Ele chocou as pessoas, forçando-nos a reconhecer o quão longe a IA chegou, praticamente sem lei e governança democrática para moldar ou restringir seu desenvolvimento e aplicação." O desenvolvimento da IA contou com o roubo de dados humanos, afirma. Ela aponta esperançosamente para a Lei de IA proposta pela UE –"a primeira lei a afirmar a governança democrática sobre a aplicação da IA". Mas é difícil não sentir que, mesmo quando o Vale do Silício tropeça, ainda está um passo à frente.
Tradução de Luiz Roberto M. Gonçalves
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.