Descrição de chapéu Palavra Aberta tecnologia

O que o assédio a inteligências artificiais diz sobre nós

Universo digital replica desigualdade de gênero e ataques machistas

  • Salvar artigos

    Recurso exclusivo para assinantes

    assine ou faça login

Mariana Mandelli

Coordenadora de comunicação do Instituto Palavra Aberta

Uma série de matérias divulgadas em sites internacionais nos últimos dias detalha o uso tóxico que alguns internautas têm feito do aplicativo Replika, em que o objetivo é criar, por meio de inteligência artificial, um chatbot que sirva como companhia virtual. Publicada originalmente no portal estadunidense Futurism, a reportagem mostra como homens destratam, ofendem e manipulam as "namoradas digitais" que eles mesmos produziram.

O que vem acontecendo com o Replika não é nenhuma novidade no mundo das assistentes virtuais. Conforme essa tecnologia se torna cada vez mais comum, especialmente no setor de serviços, a violência cibernética contra elas avança sistemática e progressivamente. Xingamentos misóginos e pedidos inapropriados estão entre as abordagens mais comuns registradas por Alexa (Amazon), Siri (Apple), Lu (Magalu), Bia (Bradesco) e outras.

À primeira vista, esse pode parecer um tema bobo, uma vez que chatbots não são pessoas e, portanto, mesmo que sofram esse e outros tipos de agressão, não são capazes de sofrer ou de ter consciência do que lhes aconteceu. No entanto, refletir sobre os motivos que levam para o universo virtual esse tipo de comportamento tóxico baseado em machismo e misoginia é, sim, importante.

O fato desses robôs serem, em grande parte, assistentes virtuais que se identificam com o gênero feminino também reforça estereótipos, atribuindo às mulheres um papel prestativo, disponível e subserviente. Um relatório publicado pela Unesco em 2019 mostra que, além disso, as respostas dadas pelos chatbots às incursões ofensivas dos usuários no geral são pouco incisivas, o que reforçaria a ideia de uma passividade feminina nesses contextos.

O documento, intitulado "I’d Blush If I Could" ("Eu ficaria corada se pudesse", em tradução livre), revelou também que esse tipo de chatbot é desenvolvido majoritariamente por equipes formadas por homens, sem o envolvimento de mulheres no processo. Ou seja, são homens pensando em como mulheres reagiriam a investidas agressivas e preconceituosas.

Ações educativas como relatórios e campanhas, somadas às mudanças nas assistentes virtuais, como é o caso do Bradesco, que reforçou o discurso da robô Bia com frases como "Essas palavras são inadequadas, não devem ser usadas comigo e com mais ninguém", são válidas. Mas obviamente não chegam ao cerne da questão.

Se as desigualdades de gênero são estruturais na nossa sociedade e se hoje praticamente todas as nossas relações são mediadas por tecnologia, é claro que isso se refletiria em todas as esferas do mundo conectado. Controle, poder e abuso são elementos que caracterizam há séculos comportamentos sexistas e patriarcais.

Também segundo a Unesco, as mulheres são 25% menos propensas a utilizar tecnologias para necessidades básicas, assim como também são minoria entre a população que domina habilidades de programação. Tudo isso gera uma série de consequências.

Olhar para o assédio cibernético a bots também pode ser didático para compreender como se dão as relações de assédio a mulheres reais no ambiente virtual (e, claro, também fora dele). Dados da Safernet apontam um crescimento de denúncias referentes à violência contra elas na internet, especialmente durante a pandemia, como assédio, perseguição, ameaças e exposição de fotos e vídeos íntimos.

É sabido que o uso que fazemos da inteligência artificial no nosso dia a dia ainda é irrisório perto do seu potencial. Lembrar que por trás de avatares, algoritmos e dados há sempre humanos que pensaram e criaram essas tecnologias e sistemas, reproduzindo preconceitos históricos, nos ajuda a entender como esses comportamentos são projetados continuamente na esfera digital e a pensar em possíveis soluções para mitigá-los.

  • Salvar artigos

    Recurso exclusivo para assinantes

    assine ou faça login

Tópicos relacionados

Leia tudo sobre o tema e siga:

Comentários

Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.