O que as tecnologias de reconhecimento facial significam para nossa privacidade?

Alguns artistas estenderam os limites técnicos da fotografia a fim de explorar essas respostas visualmente

Jordan Teicher
Nova York | The New York Times

No segundo trimestre de 2016, a mídia social estava agitada por causa de um novo app, o FindFace, que permitia que usuários encontrassem perfis na plataforma de mídia social russa VKontakte simplesmente subindo uma foto da pessoa. Quando o fotógrafo russo Egor Tsvetkov ouviu falar a respeito, decidiu conduzir uma experiência.

Fotografou pessoas desconhecidas nos metrôs de Moscou e São Petersburgo e submeteu as imagens ao app. Em poucos segundos, havia identificado os perfis de muitas delas. Para sua série “Seu Rosto é Big Data”, Tsvetkov postou as fotos tiradas no metrô ao lado de imagens obtidas dos perfis das pessoas no VKontakte.

Umas das imagens da série do fotógrafo Egor Tsvetkov, que fotografou pessoas desconhecidas nos metrôs de Moscou e São Petersburgo e submeteu as imagens ao aplicativo FindFace
Umas das imagens da série 'Your Face Is Big Data', de Egor Tsvetkov, que fotografou pessoas desconhecidas nos metrôs de Moscou e São Petersburgo e submeteu as imagens ao aplicativo FindFace - Divulgação

“O trabalho poderia ser definido como projeto fotográfico”, ele disse, “mas para mim ele existe no campo do ativismo de mídia”.

Ao documentar a súbita transformação de um indivíduo, do anonimato à identificação, Tsvetkov desejava que seus dípticos demonstrassem o poder e a acessibilidade dos modernos sistemas de reconhecimento facial —e a ameaça que eles representam para a privacidade. 

Mas o projeto dele não visualizou um importante ponto intermediário na transição —a saber, o processo pelo qual os sistemas de reconhecimento facial analisam os traços dos indivíduos para identificá-los. A omissão se deve principalmente a limitações técnicas: os sistemas de reconhecimento facial são aplicativos de software e operam de modo invisível.

Por trás das cenas, porém, eles vêm desempenhando papel cada vez mais importante na vida cotidiana. Pesquisadores da escola de direito da Universidade de Georgetown estimaram em 2016 que metade dos adultos americanos têm imagens arquivadas nos bancos de reconhecimento facial de agências policiais e de Justiça.

Lojas usam esses bancos de dados para identificar ladrões de produtos. O Facebook os usa para sugerir os nomes de pessoas que constam de fotos subidas para a rede. A Apple os usa para permitir que os donos do iPhone X desbloqueiem seus aparelhos, e as montadoras de automóveis estão começando a usá-los para permitir que um proprietário destranque seu veículo.

De que maneira um sistema de reconhecimento facial determina o que torna um rosto distinto, e como essa determinação poderia afetar a maneira pela qual poderosas instituições privadas e públicas veem as pessoas?

Alguns fotógrafos estenderam os limites técnicos da fotografia a fim de explorar essas respostas visualmente. Os resultados deles podem ser vistos como representativos de uma nova forma de retrato fotográfico, que combina matemática e estética para superar a distância que separa a visão humana e a da máquina.

“Se você está em uma loja de departamentos e ela está usando reconhecimento facial, uma imagem de seu rosto está sendo gravada, mas essa imagem na prática consiste de um monte de uns e zeros, usados por um algoritmo”, disse Trevor Paglen, artista conceitual ganhador de uma bolsa da Fundação MacArthur em 2017. “Em ponto algum desse loop a imagem é uma forma nativa que um ser humano possa ver.”

Mas Paglen diz que as pessoas merecem o direito de visualizar a maneira pela qual os sistemas de reconhecimento facial compreendem a face humana, especialmente à medida que eles se tornam mais presentes. Pode-se argumentar que esses sistemas estão se tornando a maneira mais importante de identificar pessoas.

“O passaporte, o crachá de trabalhador, a carteira de habilitação são relíquias da era analógica, ferramentas que o pessoal de segurança encarregado de supervisionar passivamente as transações invisíveis, passivas, entre pessoas e máquinas usa como último recurso”, escreveu John Jacob no catálogo de “Trevor Paglen: Sites Unseen”, uma exposição do trabalho de Paglen no Museu Smithsonian de Arte Americana, encerrada em 6 de janeiro.

Na série “Tudo Começou Como Uma Experiência Militar”, Paglen revisita um momento seminal no desenvolvimento das técnicas de reconhecimento facial. Os dez retratos de funcionários do governo que formam a peça foram extraídos de um banco de dados compilado pelo Feret, o programa de reconhecimento facial da Darpa (Agência de Projetos Avançados de Pesquisa de Defesa) americana.

Originalmente registradas na década de 1990, as fotos foram usadas para desenvolver os primeiros algoritmos de reconhecimento facial, entre os quais muitos dos que abriram caminho para os sistemas comerciais atuais. Como artista residente na Universidade Stanford em 2017, Paglen trabalhou com pesquisadores e estudantes a fim de identificar e reproduzir os pontos chaves —a localização de traços faciais essenciais— que os algoritmos de reconhecimento facial medem para distinguir uma pessoa de outra.

“O processo é mais parecido com o de registrar impressões digitais do que com o de pintar um retrato”, disse Paglen.

Mais ou menos na mesma época, Paglen usou o método eigenface de reconhecimento facial para retratar figuras radicais da política, arte e ciência em uma série chamada “Nem os Mortos Estão Seguros”. Por meio desse método, um sistema subtrai da face de alguém os traços que a imagem tenha em comum com outras faces no mesmo banco de dados, e a diferença é armazenada como uma espécie de código de barras pessoal.

Usando esse código de barras, o sistema pode facilmente reconhecer o rosto do mesmo indivíduo em outras imagens. Já um ser humano veria apenas imagens borradas, fantasmagóricas, como as que Paglen criou para que aqueles códigos de barras tivessem semelhança no máximo modesta com a pessoa retratada.

“O que estamos vendo não é a imagem fotorrealista de um rosto”, ele disse. “Vemos uma imagem que representa a mais provável distribuição estatística dos valores dos pixels na imagem daquela pessoa.”

A tecnologia de reconhecimento facial, sugerem essas imagens, funciona melhor para reconhecer uma identidade estatisticamente sólida do que para capturar fielmente a figura de uma pessoa. Os retratos de “O Espírito É Um Osso”, de Olivier Chanarin e Adam Broomberg, oferecem prova adicional.

Para criá-los, os artistas usaram um sistema de reconhecimento facial desenvolvido por engenheiros de software em Moscou, para fins de segurança pública e vigilância de fronteira. Em um instante, o sistema capturou imagens de participantes voluntários —entre os quais Yekaterina Samutsevich, do Pussy Riot—, de múltiplos ângulos, a fim de construir um modelo tridimensional de suas cabeças, com baixa resolução.

Privados de suas sombras e expressos por meio de uma colcha de retalhos de fragmentos, os modelos parecem menos humanos que humanoides. “A ideia de fotografia como uma empreitada humanista se foi”, disse Chanarin.

A insatisfação com a incapacidade do retratista de capturar a verdadeira essência de seu tema remonta ao surgimento do gênero, no século 19. Jan von Brevern, professor de história da arte na Universidade Livre de Berlim, disse que essa insatisfação tinha por raiz “a disparidade entre aquilo que se espera da fotografia, então uma mídia nova, e aquilo que ela realizava”.

“Como meio técnico, ela é considerada ‘exata’ —e de fato a maior parte dos relatos iniciais sobre a fotografia falam dessa suposta acurácia”, ele disse em email. “Mas na verdade ela produzia um tipo bem específico de acurácia - que não necessariamente estava em linha com aquilo que os modelos esperavam de um retrato na época.”

Os relatos sobre os sistemas atuais de reconhecimento facial despertam expectativas de exatidão semelhantes. Mas em “Machine Readable Hito”, uma série de retratos da artista alemã Hito Steyerl, Paglen nega aos espectadores essa ideia.

Sob cada foto de Steyerl, Pagden inclui uma análise de um sistema de reconhecimento facial sobre seu estado emocional e gênero, entre outros traços. Os resultados variam significativamente. A análise do gênero de Steyerl, por exemplo, varia quando ela sorri e quando ela está fazendo uma careta. De onde exatamente o sistema tira suas ideias sobre masculinidade e feminilidade?

Ao mostrar aos espectadores de modo claro e visual como os sistemas de reconhecimento facial leem e compreendem as pessoas, Paglen, Chanarin e Broomberg querem ajudar as pessoas a questionar a acurácia das percepções desses sistemas. Eles desejam que os espectadores olhem para além da camada de anonimato dos sistemas e os compreendam pelo que são: produtos de seres humanos, com seus preconceitos e preferências distintos.

“Quando estamos falando sobre tecnologias como essa", disse Paglen, "as principais questões que você deve se perguntar, no começo e no final do processo, é a quem servem essas tecnologias, e em desfavor de quem elas serão usadas?”

Tradução de Paulo Migliacci

Tópicos relacionados

Comentários

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.