Mark notou algo errado com seu filho. O pênis do garoto de dois anos parecia inchado e estava doendo. Mark, que mora em San Francisco e cuida do garoto, pegou seu smartphone Android e fez fotos para documentar o problema e poder acompanhar sua progressão.
Isso foi numa noite de sexta-feira em fevereiro de 2021. A esposa de Mark ligou ao médico para marcar uma consulta de emergência, por vídeo —eles estavam no meio da pandemia. Uma enfermeira pediu para eles mandarem fotos para que o médico pudesse examiná-las antes da consulta.
A mulher de Mark pegou o celular do marido e transmitiu closes da área da virilha do filho para o iPhone dela, para poder carregá-los no sistema de mensagens do consultório.
Esse episódio custou a Mark mais de uma década de contatos, emails e fotos e o converteu em alvo de investigação. O homem —que pediu para ser identificado apenas por seu primeiro nome— foi capturado por uma rede algorítmica criada para fisgar pessoas que trocam materiais sobre abuso sexual infantil.
Pelo fato de analisarem um volume tão grande de dados, empresas de tecnologia têm sido pressionadas a examinar materiais que passam por seus servidores, para detectar e prevenir comportamentos criminosos. Defensores de crianças e adolescentes dizem que essa cooperação é essencial para combater a disseminação online de imagens de abuso sexual.
O tecnólogo Jon Callas, de uma organização de defesa das liberdades civis digitais, diz que os casos funcionam como alertas para esse tipo de situação.
Mark, que tem por volta de 45 anos, criou uma conta no Gmail em meados da década de 2000 e desde então passou a fazer uso intenso do Google. Dois dias depois das fotos, o telefone de Mark fez um som de notificação: sua conta fora desativada devido a "conteúdos danosos" que constituíam "violação grave das políticas do Google e possivelmente eram ilegais".
Um link o levou para uma lista de razões possíveis, entre elas "abuso e exploração sexual infantil". Mark ficou confuso inicialmente, mas então se lembrou da infecção de seu filho. "Meu Deus", pensou, "o Google deve achar que aquilo foi pornografia infantil".
Ele preencheu um formulário solicitando uma revisão da decisão do Google e explicando a infecção do garoto. Ao mesmo tempo, descobriu o efeito dominó da rejeição da empresa. Não só ele perdeu emails, dados de contato de amigos e ex-colegas e documentação dos primeiros anos de vida de seu filho como sua conta no Google Fi foi fechada —ele teve que adquirir um novo número com outra operadora.
Sem acesso ao telefone e ao email, não conseguiu as senhas das quais precisava para acessar suas outras contas na internet. Foi excluído de boa parte da vida digital.
Em comunicado, o Google disse: "Materiais de abuso sexual infantil são abomináveis. Temos o compromisso de impedir sua disseminação em nossas plataformas".
Alguns dias depois da apresentação do recurso, o Google respondeu que não restauraria a conta de Mark, sem maiores explicações.
Enquanto isso, o mesmo cenário se deu no Texas. Um garoto, também de dois anos, teve uma infecção nas "partes íntimas", como escreveu seu pai em uma publicação com o qual topei quando escrevia sobre a história de Mark. A pedido do pediatra, Cassio —que também pediu para ser identificado apenas pelo primeiro nome— usou um telefone Android para fazer fotos, salvas automaticamente no Google Photos. Ele então enviou as imagens à mulher pelo bate-papo do Google.
Cassio estava no processo de comprar uma casa quando sua conta no Gmail foi desativada. "Foi uma dor de cabeça", diz.
A primeira ferramenta usada pela indústria para dificultar seriamente o vasto intercâmbio online de pornografia infantil foi o PhotoDNA, banco de dados de imagens conhecidas de abuso, convertidas em códigos digitais singulares. Ele podia ser usado para vasculhar grande número de fotos rapidamente para detectar uma correspondência, mesmo com pequenas alterações. Depois de a Microsoft lançar o sistema, em 2009, o Facebook e outras empresas passaram a usá-lo.
Em 2018 foi feito um avanço maior, quando o Google desenvolveu uma ferramenta de inteligência artificial capaz de reconhecer imagens nunca antes vistas de exploração de crianças. Isso significava encontrar não só imagens conhecidas de crianças abusadas, mas também de vítimas desconhecidas, que poderiam potencialmente ser resgatadas por autoridades. O Google disponibilizou a tecnologia a outras empresas, entre elas o Facebook.
Quando as fotos feitas por Mark e Cassio foram carregadas automaticamente do celular para os servidores do Google, a tecnologia os identificou. Um porta-voz disse que o Google faz análises apenas quando um usuário inicia uma "ação afirmativa" —isso inclui quando o telefone salva fotos na nuvem da empresa.
Um moderador humano de conteúdos teria examinado as fotos depois de identificadas pela IA para confirmar que se enquadravam na definição federal de materiais sobre abuso sexual infantil. Quando o Google faz uma descoberta do tipo, ele bloqueia a conta do usuário, faz uma busca por conteúdos de exploração e então, conforme manda a legislação federal, reporta o caso para uma espécie de disque-denúncia cibernético.
Em 2021 o CyberTipline informou que alertou as autoridades para "mais de 4.260 potenciais novas vítimas infantis". Os filhos de Mark e Cassio foram incluídos nesse número.
Em dezembro, Mark recebeu pelo correio um envelope do Departamento de Polícia. Era uma carta informando-o que ele fora investigado, além de cópias dos mandados de busca enviados ao Google e a seu provedor de internet. O inquérito havia pedido tudo na conta de Google de Mark: suas buscas na internet, seu histórico de localização, mensagens e quaisquer documentos, fotos e vídeos que ele havia armazenado com a empresa.
A busca, relacionada a "vídeos de exploração infantil", tinha sido realizada em fevereiro, uma semana depois de ele fazer as fotos do filho.
Mark telefonou ao investigador, Nicholas Hillard, que lhe disse que o caso fora arquivado. Ele havia tentado entrar em contato, mas o telefone e o email de Mark não haviam funcionado. "Determinei que o incidente não caracterizava crime e que nenhum crime ocorrera", escreveu, em seu relatório. Mark voltou a apresentar recurso ao Google, fornecendo o relatório policial, mas em vão.
Cassio também foi investigado. Um detetive da Polícia de Houston telefonou e pediu que ele fosse à delegacia. Depois de mostrar suas mensagens trocadas com o pediatra, ele foi liberado rapidamente. Mas tampouco conseguiu recuperar sua conta no Google, que ele tinha havia uma década e da qual era usuário pagante.
Nem todas as fotos de crianças nuas são pornográficas, abusivas ou indicativas de exploração. Carissa Byrne Hessick, professora de direito da Universidade da Carolina do Norte, diz que pode ser complicado definir o que constitui imagens sexualmente abusivas, mas concorda com a polícia em relação às imagens médicas —dizendo que não se qualificam como abusivas. "Não houve abuso da criança. As fotos foram feitas por motivos não sexuais."
Eu tive acesso às fotos que Mark fez. A decisão de identificá-las como preocupantes foi compreensível: são fotos explícitas da genitália de uma criança. Mas o contexto tem importância: foram feitas por um pai preocupado com o filho doente.
"Reconhecemos que, numa era de telessaúde e de Covid, tem sido necessário que pais tirem fotos de seus filhos para receberem um diagnóstico", diz Claire Lilley, diretora de operações de segurança infantil do Google. Ela afirma que a empresa consultou pediatras para que seus revisores humanos tomem ciência de condições médicas que possam aparecer em fotos feitas para finalidades médicas.
Cassio ouviu de um representante de apoio aos clientes que enviar as fotos à esposa usando o Google Hangouts violou os termos de serviço do sistema.
Quanto a Mark, Claire Lilley diz que os revisores não detectaram vermelhidão ou erupção nas fotos que ele fez do filho e que a revisão subsequente da conta revelou um vídeo de seis meses antes que o Google também considerou problemático: uma criança pequena deitada na cama com uma mulher nua.
Mark não se lembrava do vídeo e não tinha mais acesso a ele, mas disse que lhe pareceu ter sido um momento particular que teria sentido vontade de captar, sem saber que seria visto ou julgado por outros. "Posso imaginar. Acordamos, estava um dia bonito e eu quis registrar aquele momento", conta. "Se a gente dormisse de pijama, tudo isso poderia ter sido evitado."
Um porta-voz do Google diz que a empresa mantém suas decisões, apesar de a polícia ter inocentado os dois homens.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.