Até recentemente, o maior sucesso de Hoan Ton That havia sido um app que permitia que as pessoas colocassem os cabelos alaranjados típicos de Donald Trump em suas fotos.
Mas ele em seguida fez algo de momentoso: inventou um instrumento que pode pôr fim a capacidade de qualquer pessoa de caminhar pelas ruas anonimamente, e o ofereceu a centenas de agências policiais.
Sua minúscula empresa, Clerview AI, desenvolveu um app revolucionário de reconhecimento facial. Você tira uma foto de uma pessoa, a sobe para a rede e vê fotos públicas da mesma pessoa e links para os sites em que tenham aparecido.
O sistema, cuja espinha dorsal é um banco de mais de três bilhões de imagens que a companhia afirma ter recolhido no Facebook, YouTube, Venmo e milhões de outros sites, vai muito além de qualquer coisa já criada pelo governo dos Estados Unidos ou pelos gigantes do Vale do Silício.
Representantes de agências policiais federais e estaduais americanas disseram que, embora tenham conhecimento limitado sobre como funciona o Clearview e quem está por trás dele, empregaram o app para ajudar a resolver casos de furtos em lojas, roubo de identidade, fraude com cartões de crédito, homicídio e exploração sexual de crianças.
Até agora, o uso de tecnologia capaz de identificar a todos com base em seus rostos era visto como tabu por representar uma erosão radical da privacidade.
Mas sem escrutínio público, mais de 600 agências policiais começaram a usar o Clearview no ano passado, de acordo com a companhia, que se recusou a apresentar uma lista de clientes.
O código de computador que embasa o app, analisado pelo The New York Times, inclui linguagem de programação que permite acoplá-lo a óculos de realidade aumentada; os usuários teriam potencialmente a capacidade de identificar todas as pessoas que vissem.
A Clearview também licenciou o app para outras companhias, para fins de segurança.
“As possibilidades de transformar esse sistema em arma são infinitas”, disse Eric Goldman, codiretor do High Tech Law Institute da Universidade de Santa Clara. “Imagine um agente policial renegado que deseje perseguir potenciais parceiros amorosos, ou um governo estrangeiro que use isso para obter segredos sobre pessoas a fim de chantageá-las ou colocá-las na prisão”.
A Clearview se protegeu ao operar em segredo, e evitar debates sobre sua tecnologia inovadora.
Quando comecei a estudar a companhia, em novembro, seu site era uma página simples que mostrava um endereço não existente em Manhattan como sede.
O único empregado da companhia que encontrei no LinkedIn, um gerente de vendas chamado “John Good”, era na verdade Ton That, usando um nome falso. Por um mês, pessoas afiliadas à companhia se recusaram a responder aos meus emails e telefonemas.
Enquanto a empresa evitava contato comigo, ao mesmo tempo me vigiava. A meu pedido, policiais subiram minha foto para o app da Clearview.
Logo receberam telefonemas de representantes da companhia perguntando se estavam falando com a imprensa –o que indica que a Clearview tem a capacidade, e nesse caso o interesse– de monitorar as pessoas que a polícia está procurando.
A tecnologia de reconhecimento facial sempre foi controversa.
O app da Clearview oferece riscos adicionais porque agências de polícia estão subindo fotos sigilosas para os servidores de uma empresa cuja capacidade de proteger esses dados não foi testada.
A companhia por fim começou a responder minhas perguntas, afirmando que seu silêncio anterior era característico de uma startup em começo de trajetória e operando sob sigilo.
Ton That reconheceu ter desenvolvido um protótipo para uso com óculos de realidade aumentada, mas disse que a companhia não tinha planos para lançá-lo, e disse que minha foto havia acionado alarmes porque o app “identifica comportamentos de busca potencialmente anômalos” a fim de impedir seus usuários de conduzir o que a empresa caracteriza como “buscas indevidas”.
Além de Ton That, a Clearview foi fundada por Richard Schwartz, que foi assessor de Rudolph Giuliani quando esse foi prefeito de Nova York, e conta com investimentos de Peter Thiel, um investidor de capital para empreendimentos associado ao Facebook e à Palantir.
Outro investidor inicial é uma pequena companhia chamada Kirenaga Partners. Seu fundador, David Scalzo, minimizou as preocupações sobre a Clearview, afirmando que o potencial de que ela abra a internet a buscas faciais é menos importante que sua operação como instrumento de combate ao crime.
“Ceguei à conclusão de que, porque o volume de informações não para de aumentar, nunca haverá privacidade”, disse Scalzo. “As leis precisam determinar o que é legal, mas não se pode banir a tecnologia”.
Viciado em inteligência artificial
Ton That, 31, cresceu bem longe do Vale do Silício, na Austrália, seu país natal. Em 2007, ele abandonou a universidade e se mudou para San Francisco. O iPhone tinha acabado de chegar ao mercado, e o objetivo dele era entrar cedo naquilo que antecipava viria a se tornar um mercado vibrante de apps de mídia social.
Em 2015, ele lançou o app Trump Hair, que acrescentava o topete característico de Trump às fotos das pessoas, e criou um app de compartilhamento de fotos. Os dois fracassaram.
Ton That se mudou para Nova York em 2016. Começou a ler trabalhos acadêmicos sobre inteligência artificial, reconhecimento de imagem e aprendizado por máquina.
Schwartz e Ton That se conheceram em 2016 em um evento literário no Manhattan Institute, uma organização de pesquisa de tendências conservadoras. Schwartz, 61, acumulou uma lista impressionante de contatos enquanto trabalhava para Giuliani na década de 1990.
Ele e Ton That logo decidiram começar um negócio no ramo de reconhecimento facial. O segundo criaria o app, e Schwartz se encarregaria de usar seus contatos para criar interesse comercial.
Os serviços de polícia têm acesso a instrumentos de reconhecimento facial há quase 20 anos, mas estavam limitados, historicamente, a realizar buscas em imagens de propriedade do governo, como fotos de fichas policiais ou de licenças de motorista.
Ton That queria ir além disso. Em 2016, ele começou pela contratação de um par de engenheiros. Um ajudou a projetar um programa capaz de recolher automaticamente imagens de rostos na internet, por exemplo em sites de emprego e redes sociais.
Representantes das companhias das quais imagens foram obtidas dizem que suas regras de uso proíbem a coleta de imagens.
Outro engenheiro foi contratado para aperfeiçoar um algoritmo de reconhecimento facial derivado de estudos acadêmicos.
O resultado: um sistema que usa o que Ton That descreveu como “uma rede neural de última geração” para converter todas as imagens em fórmulas matemáticas, ou vetores, com base na geometria facial –por exemplo, a distância entre os olhos da pessoa.
A Clearview criou um vasto diretório que reúne todas as fotos com vetores semelhantes em “vizinhanças”.
Quando um usuário sobe a foto de um rosto para o sistema da Clearview, essa foto é convertida em vetores e todas as fotos armazenadas na vizinhança daquele conjunto de vetores são exibidas ao usuário –acompanhadas por links para os sites de que essas imagens vieram.
A Clearview continua minúscula, tendo arrecado US$ 7 milhões (aproximadamente R$ 29,3 milhões) de investidores, de acordo com o Pitchbook, um site que acompanha o investimento em startups. A companhia se recusou a confirmar a quantia.
Sucesso viral junto à polícia
Em fevereiro, a polícia estadual de Indiana começou a experimentar o sistema da Clearview. Investigadores resolveram um caso em 20 minutos, usando o app.
Dois homens haviam entrado em uma briga em um parque, que terminou com deles levando um tiro no estômago. Um transeunte registrou o incidente em vídeo em seu celular, e por isso a polícia tinha uma imagem do rosto do atirador para subir para o Clearview.
Surgiu um resultado imediatamente. O homem aparecia em um vídeo que alguém havia postado na mídia social, e o nome dele constava da legenda.
“Ele não tinha licença de motorista e nunca tinha sido preso como adulto, e por isso não constava dos bancos de dados do governo”, disse Chuck Cohen, na época capitão de polícia em Indiana.
O homem foi detido e acusado. Cohen afirma que ele provavelmente não teria sido identificado sem a capacidade de buscar imagens de seu rosto na mídia social.
A polícia estadual de Indiana se tornou o primeiro cliente pago da Clearview, de acordo com a companhia. (A polícia se recusou a comentar, se limitando a informar que havia testado o app da Clearview.)
A técnica de venda mais efetiva da empresa é a de oferecer testes gratuitos do app por 30 dias aos policiais. Ton That enfim conseguiu seu sucesso viral.
Organizações federais de policiamento e segurança, como o Serviço Federal de Investigações (FBI) e o Departamento de Segurança Interna, estão testando o sistema, assim como as autoridades de segurança do Canadá, de acordo com a companhia e representantes de governos.
Ton That disse que o app nem sempre faz o serviço. A maioria das fotos no banco de dados da Clearview são tiradas de frente. Boa parte do material que a polícia sobe para o app é registrado por câmeras de vigilância montadas no teto ou no alto das paredes.
Apesar disso, a companhia afirmou, seu app encontra resultados 75% do tempo.
Um motivo para que o Clearview esteja crescendo é que seu serviço é único. Isso acontece porque o Facebook e outros sites de mídia social proíbem que fotos de seus usuários sejam recolhidas. O Clearview está violando as regras de uso desses sites.
Alguns policiais disseram não saber que as fotos que subiram para o app estavam sendo armazenadas nos servidores da Clearview. A empresa tenta atenuar as preocupações com uma seção de perguntas e respostas encaminhada aos potenciais clientes, segundo a qual os empregados do serviço de assistência da empresa ao cliente não verão as fotos subidas pela polícia.
A Clearview também contratou Paul Clement, procurador geral dos Estados Unidos no governo do presidente George W. Bush, para acalmar as preocupações quanto à legalidade do app.
Em um memorando enviado em agosto e encaminhado pela Clearview a potenciais clientes, entre os quais a polícia de Atlanta e a polícia do condado de Pinellas, na Flórida, Clement afirmou que as agências policiais “não estão violando a constituição federal ou as leis estaduais de privacidade e biometria relevantes, ao usar o Clearview para seu propósito explícito”.
Clement, hoje sócio no escritório de advocacia Kirkland & Ellis, escreveu que as autoridades não precisam informar aos réus que eles foram identificados por meio do Clearview, desde que esta não seja a única razão para a obtenção de um mandado de prisão contra eles. Clement não respondeu a múltiplos pedidos de comentário.
O memorando parece ter funcionado. A polícia de Atlanta e a do condado de Pinellas logo começaram a usar o Clearview.
Woodrow Hartzog, professor de direito e ciência da computação na Universidade Northeastern, em Boston, vê o Clearview como a mais recente prova de que é preciso banir o reconhecimento facial nos Estados Unidos.
“Nós confiamos nos esforços da indústria para se autopoliciar e não adotar uma tecnologia assim arriscada, mas as barragens estão se rompendo porque há dinheiro demais em jogo”, disse Hartzog.
“Não antevejo um futuro no qual possamos colher os benefícios da tecnologia de reconhecimento facial sem o abuso paralisante de vigilância que viria em sua companhia. A única forma de impedir que isso aconteça é proibir o uso”.
The New York Times, tradução de Paulo Migliacci
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.