Tecnologia para filtros em redes sociais reforça padrão racista
Por limitações de programa, efeitos podem até desfocar rostos de pessoas negras em selfies
Já é assinante? Faça seu login
Continue lendo com acesso ilimitado.
Aproveite esta oferta especial:
Oferta Exclusiva
6 meses por R$ 1,90/mês
SOMENTE ESSA SEMANA
ASSINE A FOLHACancele quando quiser
Notícias no momento em que acontecem, newsletters exclusivas e mais de 200 colunas e blogs.
Apoie o jornalismo profissional.
As redes sociais estão tomadas por imagens de gente com cores diferentes de cabelo e maquiagem divertida. Os mesmos filtros que permitem isso borram rostos de pessoas negras e esfumam cabelos crespos.
O problema começa na plataforma de desenvolvimento dos filtros, Spark AR Studio, e continua no processo de elaboração dos efeitos.
Criado pelo Facebook, empresa detentora do Instagram, o Spark AR permite gerar efeitos de realidade aumentada. Inclui uma galeria de modelos para que o usuário faça seu filtro, e também possibilita que se crie um efeito a partir do zero.
O software apresenta limitações que têm impacto no uso dos filtros por pessoas negras, diz Joyce Soares, 24, designer e analista em tendências da Globo.
Um caso recorrente é quando o rosto fica acinzentado com a aplicação do filtro. O fenômeno ocorre no uso da ferramenta “Skin Smoothing Texture” durante a criação de efeitos que simulam maquiagem. O recurso tem a função de tirar o aspecto artificial da pele.
Outro erro não percebido por quem tem cabelos lisos são os filtros que mudam o fundo da imagem ou a cor do cabelo. A tecnologia não segue o movimento de fios crespos. Resultado: partes do rosto e do cabelo desfocadas.
Segundo Carla Vieira, 23, engenheira de software, isso ocorre porque o programa usa a visão computacional para criar realidade aumentada, o efeito 3D.
Essa inteligência artificial é gerada por algoritmos de leitura de imagem, treinados a partir de uma base de dados. O banco (“dataset”) tem milhares de imagens. Quanto mais fotos o programa lê, mais as reconhece.
O Facebook informou que os modelos de visão computacional são treinados com métodos de aprendizagem supervisionados ou semi, e que utilizam amplo conjunto de dados para garantir filtros que funcionem em diferentes tons de pele, ambientes, iluminação e dispositivos.
Mas confirmou falhas. A ferramenta apresentou dificuldade maior em situações de baixo contraste entre o usuário e o fundo, segundo o porta-voz.
“Identificamos uma falha que afeta o desempenho e a precisão da ferramenta de segmentação, que permite identificar e separar o fundo da imagem e a pessoa que está usando o filtro. Já encontramos a solução para este problema e iremos apresentá-la muito em breve.”
Para Silvana Bahia, coordenadora do Pretalab, projeto que incentiva a produção de tecnologia por mulheres negras e indígenas, o nó da discussão ‘‘é o porquê de separarmos a questão social da tecnologia”, diz.
“Usamos algoritmos para tentar prever o futuro, mas com dados do passado, onde o negro está estereotipado. Como esse futuro vai ser mais inclusivo se olhamos para dados em que estereótipos são repetidos?”.
Em 2019, o Spark AR chegou a proibir o desenvolvimento de filtros de modificação facial, que simulam procedimentos estéticos. Mas recuou da decisão após mobilização dos criadores.
O estudante e criador de filtros Natanael Lesiak, 21, de Duque de Caxias (RJ), afirma que “a maioria dos criadores do Instagram são brancos e criam filtros para eles e o público deles. Deveria haver uma reeducação”.
Autora da monografia “Vieses da branquitude como um instrumento de embelezamento”, Joyce Soares também analisa o fenômeno “Snapchat dysmorphia”, atribuído a mulheres que levam fotos com filtros como referência para cirurgiões plásticos.
Após dois anos de pesquisa, ela e Igor Muniz desenvolveram um protótipo de filtro que valoriza a pele negra. O primeiro passo foi pedir vídeos de rostos a amigos e conhecidos para criar uma métrica capaz de considerar várias tonalidades da pele negra.
Fora do Spark AR, eles usaram a programação e chegaram a um tom-base para um filtro responsivo, que identifica a cor de pele do usuário e adapta o efeito.
Grandes empresas de tecnologia se movimentam. Funcionários do Snapchat desenvolvem uma câmera para que a pele negra não fique turva ou sombreada ao ser fotografada com flash ou em ambientes de pouca luz.
Já o Google anunciou que vai incluir configuração de câmera nos próximos smartphones da linha Pixel para melhorar a precisão ao fotografar tons escuros de pele.
Para Carla Vieira, a solução passa por incluir pessoas negras em posições de poder, para que mudem o sistema de dentro para fora. ‘‘Acredito nisso: microrrevoluções”.
Receba notícias da Folha
Cadastre-se e escolha quais newsletters gostaria de receber
Ativar newsletters