Uma série de matérias divulgadas em sites internacionais nos últimos dias detalha o uso tóxico que alguns internautas têm feito do aplicativo Replika, em que o objetivo é criar, por meio de inteligência artificial, um chatbot que sirva como companhia virtual. Publicada originalmente no portal estadunidense Futurism, a reportagem mostra como homens destratam, ofendem e manipulam as "namoradas digitais" que eles mesmos produziram.
O que vem acontecendo com o Replika não é nenhuma novidade no mundo das assistentes virtuais. Conforme essa tecnologia se torna cada vez mais comum, especialmente no setor de serviços, a violência cibernética contra elas avança sistemática e progressivamente. Xingamentos misóginos e pedidos inapropriados estão entre as abordagens mais comuns registradas por Alexa (Amazon), Siri (Apple), Lu (Magalu), Bia (Bradesco) e outras.
À primeira vista, esse pode parecer um tema bobo, uma vez que chatbots não são pessoas e, portanto, mesmo que sofram esse e outros tipos de agressão, não são capazes de sofrer ou de ter consciência do que lhes aconteceu. No entanto, refletir sobre os motivos que levam para o universo virtual esse tipo de comportamento tóxico baseado em machismo e misoginia é, sim, importante.
O fato desses robôs serem, em grande parte, assistentes virtuais que se identificam com o gênero feminino também reforça estereótipos, atribuindo às mulheres um papel prestativo, disponível e subserviente. Um relatório publicado pela Unesco em 2019 mostra que, além disso, as respostas dadas pelos chatbots às incursões ofensivas dos usuários no geral são pouco incisivas, o que reforçaria a ideia de uma passividade feminina nesses contextos.
O documento, intitulado "I’d Blush If I Could" ("Eu ficaria corada se pudesse", em tradução livre), revelou também que esse tipo de chatbot é desenvolvido majoritariamente por equipes formadas por homens, sem o envolvimento de mulheres no processo. Ou seja, são homens pensando em como mulheres reagiriam a investidas agressivas e preconceituosas.
Ações educativas como relatórios e campanhas, somadas às mudanças nas assistentes virtuais, como é o caso do Bradesco, que reforçou o discurso da robô Bia com frases como "Essas palavras são inadequadas, não devem ser usadas comigo e com mais ninguém", são válidas. Mas obviamente não chegam ao cerne da questão.
Se as desigualdades de gênero são estruturais na nossa sociedade e se hoje praticamente todas as nossas relações são mediadas por tecnologia, é claro que isso se refletiria em todas as esferas do mundo conectado. Controle, poder e abuso são elementos que caracterizam há séculos comportamentos sexistas e patriarcais.
Também segundo a Unesco, as mulheres são 25% menos propensas a utilizar tecnologias para necessidades básicas, assim como também são minoria entre a população que domina habilidades de programação. Tudo isso gera uma série de consequências.
Olhar para o assédio cibernético a bots também pode ser didático para compreender como se dão as relações de assédio a mulheres reais no ambiente virtual (e, claro, também fora dele). Dados da Safernet apontam um crescimento de denúncias referentes à violência contra elas na internet, especialmente durante a pandemia, como assédio, perseguição, ameaças e exposição de fotos e vídeos íntimos.
É sabido que o uso que fazemos da inteligência artificial no nosso dia a dia ainda é irrisório perto do seu potencial. Lembrar que por trás de avatares, algoritmos e dados há sempre humanos que pensaram e criaram essas tecnologias e sistemas, reproduzindo preconceitos históricos, nos ajuda a entender como esses comportamentos são projetados continuamente na esfera digital e a pensar em possíveis soluções para mitigá-los.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.