Descrição de chapéu The Washington Post

Apple diz que App Store é segura, mas usuários denunciam conteúdos sexuais

Por meio de comentários, 1.500 usuários apontaram casos de aplicativos indesejáveis

Reed Albergotti Al Johri
The Washington Post

Mais de 1.500 reclamações de abordagens sexuais indesejadas, muitas delas direcionadas a crianças, foram feitas contra aplicativos populares de redes sociais na App Store da Apple, em contraste com o que a Apple comercializa como um "lugar seguro e confiável", segundo uma investigação do Washington Post.

As reclamações sobre plataformas populares de redes sociais que conectam desconhecidos em conversas em vídeo, conhecidas como "aplicativos de bate-papo aleatório", servem como gritos digitais por ajuda.

"Um homem doente da cabeça e nojento decidiu mostrar algumas coisas que não deveriam ser mostradas", dizia uma resenha do aplicativo Monkey em setembro. Outra, do mês passado, alertou: "Este é um processo legal prestes a acontecer. Predadores estão por todo o site".

Usando um algoritmo de aprendizado de máquina para identificar avaliações na App Store que contêm relatos de conteúdo sexual indesejado, racismo e bullying, o Post analisou mais de 130 mil avaliações de seis aplicativos de bate-papo aleatório, dos quais todos, exceto um, foram classificados entre as cem melhores redes sociais pela Apple no início deste mês. O Post inspecionou manualmente as mais de 1.500 críticas que mencionavam situações sexuais desconfortáveis.

Escritório da Apple em Nova York, nos Estados Unidos - Mike Segar/Reuters

Cerca de 2% de todas as avaliações de iOS do Monkey, classificada como a décima mais popular na categoria de redes sociais da Apple no início deste mês, continham relatos de experiências sexuais indesejadas, segundo a investigação do Post.

Apesar disso, o aplicativo foi aprovado para usuários de 12 anos ou mais. Os outros aplicativos incluídos na análise foram Yubo, ChatLive, Chat for Strangers, Skout e Holla. Pelo menos 19% das avaliações no ChatLive mencionaram abordagens sexuais indesejadas.

A Apple, que afirma em seu site que "analisa cuidadosamente todos os aplicativos", há muito se distingue dos concorrentes que exercem menos controle. Mas a prevalência de conteúdo sexual indesejado envolvendo menores levanta questões sobre se a Apple pode continuar oferecendo um casulo protetor a seus clientes à medida que sua plataforma cresce. A Apple tem interesse financeiro em uma plataforma maior: ganha uma parte de toda a receita gerada pelos aplicativos.

A Apple diz que analisa 100 mil aplicativos por semana usando uma mistura de software e seres humanos. "Criamos a App Store para ser um local seguro e confiável para nossos clientes obterem aplicativos, e levamos a sério todas as denúncias de contato inadequado ou ilegal", disse o porta-voz da Apple, Fred Sainz, em comunicado.

"Se o objetivo desses aplicativos não for inadequado, queremos dar aos desenvolvedores a chance de garantir que estejam cumprindo corretamente as regras, mas não hesitamos em removê-los da App Store se não o fizerem." A classificação etária no Monkey foi aumentada para 17 anos ou mais nesta semana, após consultas do Post.

Mas os aplicativos de bate-papo aleatório examinados pelo Post estão disponíveis na App Store há anos em alguns casos, e são dos mais populares. A prática da Apple tem sido não monitorar as opiniões dos usuários, de acordo com um ex-executivo da companhia.

Entrevistas com pais, adolescentes e especialistas mostram que as análises refletem um amplo problema na plataforma da Apple. Como apenas uma fração do total de usuários realmente escreve resenhas, o que é visível na App Store da Apple pode representar um número muito maior de casos na vida real. As idades dos resenhistas não foram informadas, mas muitos se identificaram como menores de 18 anos ou disseram estar preocupados com usuários menores de idade.

Uma dessas críticas veio de Katie Brandner, mãe de três filhos em Nova Orleans. No ano passado, Brandner confiscou o iPhone de sua filha de 14 anos porque ela não parava de conversar até tarde à noite. Brandner achou que encontraria mensagens com as amigas da filha. Em vez disso, encontrou o aplicativo Yubo e centenas de mensagens de homens mais velhos, muitos dos quais enviaram fotos sexualmente explícitas de si mesmos, pressionando a menina a retribuir.

Ela reclamou com a Yubo, empresa de 18 pessoas com sede em Paris que é o 22º aplicativo de rede social mais popular da App Store, e postou uma resenha avisando outros pais sobre os perigos do aplicativo. "Eu esperava que as pessoas a lessem", disse ela. "Esperava que a Apple pudesse vê-la." Ela não ouviu nada de nenhuma das empresas.

O diretor de operações da Yubo, Marc-Antoine Durand, considerou a experiência de Brandner inaceitável e disse que a empresa agora responderá às análises da App Store. Ele disse que a empresa implementou recentemente melhores proteções ao usuário. Nos últimos seis meses, o Yubo removeu 20 mil perfis de usuários com menos de 13 anos usando um algoritmo de estimativa de idade, disse Annie Mullins, consultora de segurança independente do Yubo.

O porta-voz do Skout, Robert Rendine, disse em comunicado que menores não são permitidos no aplicativo. "Nossa prioridade número um é fornecer um ambiente seguro para que milhões de usuários interajam e se conectem, e estamos trabalhando continuamente para avançar nesses esforços", afirmou ele.

Allen Loh, chefe de expansões globais do Holla Group, dono do app Monkey, se recusou a comentar qualquer aplicativo. O ChatLive não respondeu aos pedidos de comentário. O Chat for Strangers, de propriedade da FunPokes, também não retornou.

Diferentemente das redes sociais tradicionais, que começam conectando pessoas que já se conhecem, os aplicativos de bate-papo aleatório são projetados para reunir pessoas que podem não ter nada em comum, incluindo idade e interesses.

Com um único toque, duas pessoas são conectadas em uma videochamada. Depois são novamente ligadas com outra pessoa, e assim por diante. Para muitos usuários, o principal objetivo desses aplicativos é fazer uma conexão romântica. Mas alguns usuários mais jovens os veem como uma maneira de passar o tempo ou combater a solidão. Sua utilização é comum nas "festas de pijama".

Monkey, Holla, Chat for Strangers e ChatLive utilizam bate-papos no estilo roleta, onde as pessoas são colocadas em conversas aleatoriamente com outras pessoas. Yubo e Skout conectam pessoas com desconhecidos, mas oferecem aos usuários mais controle sobre com quem falam.

"Na minha opinião, isso tem que acabar", disse Phillip Shoemaker, diretor da Apple na App Store entre 2009 e 2016, sobre toda a categoria de aplicativos de bate-papo aleatório. Ele disse que os aplicativos de "roleta de bate-papo" foram proibidos durante seu tempo na empresa.

A razão pela qual aplicativos como Monkey, Holla, Chat for Strangers e ChatLive são permitidos, de acordo com uma pessoa familiarizada com as diretrizes da Apple, é que eles usam alguma moderação de conteúdo e outras salvaguardas.

Sainz disse que a Apple trabalhará com desenvolvedores que não cumprirem regras específicas para "reforçar suas práticas de moderação para evitar ocorrências futuras".

A Apple promete remover aplicativos que, segundo ela, contêm conteúdo "excessivo", "especialmente quando coloca crianças em risco", de acordo com seu site. Ela destaca material pornográfico em particular. "É a nossa loja, e nós assumimos a responsabilidade por ela", diz o site da empresa.

A Apple, no entanto, não lê as resenhas da App Store para obter pistas sobre se está mantendo esse padrão, disse Shoemaker. "Idealmente, o que você quer é um bot para passar pelas resenhas", disse Shoemaker. "Se o fizessem, muito mais aplicativos seriam retirados da loja."

Com exceção do ChatLive, todos os aplicativos examinados pelo Post também estão disponíveis no sistema operacional para smartphones do Google, o Android, onde as avaliações também mencionam abordagens sexuais indesejadas.

Mas o Android se considera uma plataforma mais aberta, com menos restrições, permitindo que os usuários instalem aplicativos fora da Google Play Store, algo que a Apple não permite. É uma das razões pelas quais os telefones da Apple são tão populares entre os pais. Em um relatório de pesquisa de abril, Piper Jaffray estimou que 83% dos adolescentes americanos escolheram iPhones em vez de Androids.

O porta-voz do Google Dan Jackson se recusou a comentar.

Muitos desses aplicativos têm restrições de idade de 17 anos ou mais, mas isso não impede que as crianças façam logon. Um iPhone configurado com o perfil de uma criança de 9 anos conseguiu fazer o download de aplicativos adultos sem nenhuma restrição, segundo The Post. Os desenvolvedores definem as diretrizes de idade para seus aplicativos com base nas diretrizes de classificação etária da Apple. A Apple pode ajustar as classificações se considerar necessário.

Depois de feito o login, a moderação do conteúdo cabe ao aplicativo. O Skout tem 350 pessoas, mais da metade de sua equipe, dedicadas à segurança e moderação, disse Rendine. A Yubo disse que verifica os textos enviados pelo aplicativo para remover palavras-chave comumente usadas por predadores ou em conversas inapropriadas. Também proíbe a nudez ou o uso de roupas íntimas durante as transmissões ao vivo.

"Não existe uma solução perfeita. É difícil alcançar 100%", disse Mullins, apontando alguns usuários mais jovens que tentam "enganar" a tecnologia para contornar as regras.

A Apple controla quem pode baixar um aplicativo, e o policiamento da plataforma não está ficando mais fácil. Uma nova geração de jovens usuários de smartphones está provocando uma explosão no número de novos aplicativos de redes sociais. Quando a maioria dos jovens estava concentrada em apenas alguns aplicativos, como Facebook, Twitter e Snapchat, era mais fácil responsabilizar as grandes empresas dos EUA que os administravam.

Agora, as crianças estão se espalhando para aplicativos menores e de nicho, com apenas alguns funcionários, o que dificulta o policiamento do conteúdo para a Apple e para a polícia, que tenta rastrear e intimar os proprietários de aplicativos fora dos EUA. O Monkey, por exemplo, foi adquirido no ano passado pela Holla, fundada pelo adolescente chinês Eric Tao. A empresa controladora do ChatLive parece estar sediada na Irlanda.

"O que estamos encontrando nas pequenas empresas de aplicativos é que não temos como descobrir quem as construiu, que registros elas detêm, há quanto tempo, em que país estão, onde ficam os servidores", disse Chuck Cohen, capitão do Gabinete de Inteligência e Tecnologias de Investigação da Polícia Estadual de Indiana. Muitas vezes, "acaba sendo uma série de corporações de fachada em vários países", disse ele.

Cohen disse que suas investigações o levaram a pedir informações ao Google e à Apple sobre os desenvolvedores de aplicativos móveis, mas que ele voltou de mãos vazias. "As informações que o Google e a Apple estão coletando deles são muito limitadas", disse. Os investigadores usaram aplicativos como esses para realizar investigações e processar pessoas por pornografia infantil e outros crimes.

A Apple escapou geralmente das críticas feitas a outras empresas com grandes plataformas. A Amazon foi criticada por facilitar a venda de mercadorias roubadas e falsificadas. A plataforma do Facebook ampliou as vozes de nacionalistas brancos e teóricos da conspiração de direita. Uber e Lyft tentaram evitar a responsabilidade por agressões sexuais e outros crimes que ocorreram nos percursos que elas ofereceram.

"Agimos contra maus atores que tentam abusar de nossa loja", disse a porta-voz da Amazon, Cecilia Fan, em comunicado. (O CEO e fundador da Amazon, Jeff Bezos, é o proprietário do Washington Post.)
Uber, Lyft e Facebook se recusaram a comentar.

A Apple argumentou que sua abordagem de controle rígido é melhor, mesmo diante do escrutínio de legisladores antitruste que investigam se esse controle está sufocando a concorrência. A Apple, que analisa todos os 2 milhões de aplicativos em sua App Store e rejeita 40% das entradas, diz que seu jardim murado ajuda a manter seus clientes seguros e felizes.

Essa é a lógica que a Apple usou para remover de sua loja HKMap.live, que ajudou manifestantes pró-democracia em Hong Kong a evitar a polícia. Na semana passada, ela retirou o aplicativo Like Patrol, que permitia aos usuários do Instagram rastrear o que certas pessoas faziam no aplicativo, e 181 aplicativos relacionados a cigarros eletrônicos, na esteira das preocupações de saúde com eles. A Apple disse que os aplicativos violaram suas diretrizes, citando evidências dos Centros de Controle e Prevenção de Doenças no caso desses apps de "vaping".

"Quando a Apple entra em cena? Isso não está claro", diz Eric Internicola, antigo desenvolvedor de aplicativos para iOS que oferece serviços de consultoria para outros desenvolvedores. Internicola disse que, para aplicativos que incluem comentários gerados por usuários, as regras sobre o que exatamente ultrapassa o limite são confusas. Ele disse estar cético quanto à possibilidade de a Apple monitorar adequadamente se os aplicativos fazem um bom trabalho de policiamento. "Como você policia a polícia?", perguntou ele. (Internicola é um ex-desenvolvedor de dispositivos para celular do Post.)

A Apple adotou uma abordagem de certa não intervenção com aplicativos de bate-papo que conectam pessoas, incluindo adolescentes, a estranhos, mesmo quando grupos de pais e autoridades policiais deram o alarme.

Alguns grupos de vigilância como o Protect Young Eyes dizem que os pais estão reclamando à Apple sobre esses aplicativos e sua propensão a conectar predadores sexuais a vítimas menores de idade. As forças-tarefa da polícia alertaram pais e professores sobre os apps em apresentações em escolas de todo o país.

"Se você soubesse que havia predadores no shopping ou no parque, não deixaria seus filhos no shopping e diria: 'Volto daqui a nove horas'", disse Ed Peisner, fundador da Organização para Segurança nas Redes Sociais.

Uma vez nos aplicativos de bate-papo, os usuários, especialmente as mulheres, geralmente encontram pelo menos algum comportamento sexual, de acordo com especialistas. Uma das interações mais comuns, segundo entrevistas com especialistas e usuários dos aplicativos, são homens que surpreendem as meninas se masturbando na tela.

Essas pessoas dizem que também é comum os homens tentarem convencer as mulheres a se exporem durante o bate-papo. O Chat for Strangers e o ChatLive permitem que os usuários paguem pelo acesso especial a mulheres, por exemplo, ou por moeda digital que eles podem usar para desbloquear recursos especiais. A Apple coleta uma porcentagem dessa receita.

"Eu nunca tive uma situação que pareça inocente e apropriada para crianças", disse uma das especialistas, Christine Elgersma, editora sênior de educação para pais da Common Sense Media, organização sem fins lucrativos enfocada em como as crianças usam a mídia e a tecnologia. "Eles são criados para ter encontros sexuais, na maioria das vezes."

Paul Irwin, fundador do Sheepdog Bloodhound, grupo de vigilância que monitora aplicativos buscando comportamentos predatórios dirigidos a crianças, disse que o problema com os aplicativos de bate-papo aleatório é que as interações começam como particulares. Mais comunicação pública em outros aplicativos oferece pistas digitais para investigar. Em aplicativos de bate-papo aleatório, as crianças "são rapidamente expostas a indivíduos sem roupa e predadores", disse ele.

Essas conversas nem sempre são privadas. O Washington Post encontrou vídeos online mostrando garotas usando Monkey e outros aplicativos surpreendidas por homens adultos realizando atos sexuais obscenos. Gravações de interações de aplicativos de bate-papo apareceram em sites de pornografia.

No mês passado, a Bark, empresa que monitora o conteúdo dos telefones das crianças para os pais e os alerta para coisas como o envio de fotos nuas, captou o vídeo de uma menina de 15 anos usando Holla.

A adolescente estava conversando com dois homens adultos que começaram a se masturbar depois que a garota se identificou como menor de idade. Com a permissão da família da menina, a Bark compartilhou com o Post dois vídeos, com as imagens parcialmente desfocadas, representando as interações.

Além do comportamento sexual indesejado, a investigação do Post também descobriu comentários queixando-se de racismo e bullying. Usuários negros geralmente relatam ter encontrado epítetos raciais quando se conectam com desconhecidos aleatórios. E muitos usuários de Monkey, Yubo e Holla reclamaram que foram ridicularizados por outros por diversão.

A história dos aplicativos que conectam as pessoas aleatoriamente começou uma década atrás. O Facebook havia ultrapassado o Myspace como a rede social dominante no mundo, e os usuários da Internet estavam ansiosos por novas maneiras de se conectar online, muito antes do lado sombrio do social estar na mente de qualquer pessoa.

O Monkey, fundado em 2017, fazia parte da onda de novos aplicativos de redes sociais. Ele ganhou usuários fazendo-os pensar que alguém estava falando sobre eles no aplicativo, de acordo com dezenas de avaliações na App Store. Os usuários baixaram o aplicativo depois de receber uma mensagem de texto, segundo disseram.

De fato, ninguém estava falando sobre eles, de acordo com os relatórios. As mensagens de texto mostravam suas inseguranças sobre pessoas falando sobre eles pelas costas nas redes sociais, uma ocorrência comum para adolescentes expostos a bullying na internet.

Mas o "golpe do crescimento" funcionou, conquistando para os fundadores do Monkey, Ben Pasternak e Isaiah Turner, um perfil na revista New Yorker, no qual eles se gabaram de que o executivo-chefe da Apple, Tim Cook, lhes enviou um e-mail cumprimentando por seu sucesso. Pasternak e Turner se recusaram a comentar.

A solução do Monkey para a exigência da Apple de que os aplicativos ofereçam uma maneira de sinalizar conteúdo inadequado também causou efeitos perversos. No Monkey, usuários sinalizados são isolados de outros usuários e relegados a uma espécie de segunda classe na rede social, onde ainda são capazes de se comunicar livremente com outras pessoas que também foram banidas, de acordo com muitos comentários na App Store.

Enquanto algumas pessoas são banidas por conteúdo inapropriado, outras na seção de comentários da Apple costumam reclamar que foram banidas simplesmente porque uma pessoa do outro lado de um bate-papo por vídeo não queria mais falar com elas. Limitados a estar conectados com outras pessoas que foram sinalizadas, esses usuários relataram ter correspondência quase exclusivamente com homens que praticam atos sexuais. Isso colocou as jovens usuárias em uma situação ainda mais arriscada.

As pessoas que abandonaram o Monkey podem simplesmente passar para o próximo aplicativo. Uma busca por "Monkey" na App Store da Apple mostra mais de uma dúzia de aplicativos semelhantes, geralmente retratando meninas jovens beijando ou deitadas na cama segurando seus telefones.

Pode ser um feito estonteante para os pais acompanharem todos os aplicativos que podem colocar as crianças em perigo. "Posso falar sobre aplicativos específicos e seus perigos, mas quando terminar haverá um novo aplicativo", disse Angela Alvarado, vice-promotora especializada em segurança on-line na unidade de promotoria comunitária de Santa Clara, na Califórnia, que faz parte do Vale do Silício.

"Os adultos que querem começar um relacionamento com crianças também terão se mudado para outro", disse ela.

Kyra, 18, de Nova Jersey, disse que começou a usar aplicativos de bate-papo aleatório quando tinha 11 anos, com um iPod Touch que seus pais compraram para ela. Começou como algo que ela fazia com os amigos por brincadeira, mas finalmente ela começou a usar os aplicativos, como o Chat for Strangers, quando estava sozinha.

Kyra, que falou sob a condição de que seu sobrenome não fosse usado para proteger sua privacidade, disse que os avanços sexuais de homens adultos eram uma parte constante da experiência. Ela disse que contaria às pessoas que tinha 15 anos, adicionando quatro à sua idade, mas ainda abaixo do limite de idade do aplicativo, de 17 anos ou mais. "Eles ainda pressionam por coisas sexuais", disse ela. "Mesmo que eu dissesse minha idade real, como 12 ou 13 anos, eles diriam que estava tudo bem. Isso me fez sentir desconfortável."

Kyra finalmente parou de usar os aplicativos, o que ela diz mostrar seu mau julgamento. "Eu gostaria de poder me dar um tapa", disse ela. Em uma tentativa de alertar outras meninas do Chat for Strangers, ela publicou uma crítica há mais de cinco anos na App Store, descrevendo o comportamento sexual de homens adultos em relação a meninas menores.

Recentemente, quando Kyra entrou na App Store, ela ficou surpresa ao ver que alguns dos aplicativos de bate-papo aleatório ainda estavam lá, apesar de todas as críticas. "Eu definitivamente acho que a Apple deve ser responsabilizada", disse ela. "A Apple não deveria fazer essas revisões regularmente?"

Tradução de Luiz Roberto Mendes Gonçalves

Tópicos relacionados

Comentários

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.