Quando um humano acerta, tem mais méritos. Quando erra, mais tolerância. Quando uma inteligência artificial erra, tem mais culpa. Quando acerta, menos valor. Em essência, é assim que os brasileiros encaram uma potencial competição entre humanos e máquinas para diversas atividades de caráter profissional.
O quadro geral emergiu de uma pesquisa realizada pelo Instituto Locomotiva com 1.700 participantes recrutados pela internet, com idades entre 18 e 77 anos (média de 37,5). Os voluntários (mais de 90% deles com pelo menos o ensino médio completo) foram divididos em dois grupos, apenas para evitar qualquer viés gerado pela ordem de apresentação das situações.
Com todos eles, foram investigados quatro cenários, envolvendo atividade policial, aumento salarial, seleção profissional e distribuição de recursos financeiros. Para cada um deles, os participantes eram expostos a ações bem-sucedidas e malsucedidas de um ser humano e de uma inteligência artificial e chamados a atribuir mérito ou responsabilidade.
Dessa maneira, os pesquisadores poderiam investigar duas formas de viés: aquele pró ser humano e o rechaço à IA. Os resultados foram reveladores. "Importava, sobretudo, mapear o grau de resistência à entrada da IA na nossa sociedade, em suas principais verticais. O pano de fundo são as reações ao ChatGPT e afins, que andamos acompanhando", explica Álvaro Machado Dias, neurocientista da Unifesp (Universidade Federal de São Paulo), sócio do Instituto Locomotiva e colunista da Folha.
O ChatGPT, criado pela empresa OpenAI, é apenas o mais famoso dos chamados modelos de linguagem de inteligência artificial, que vem causando furor desde sua introdução ao público, em novembro do ano passado —tanto por sua desenvoltura ao escrever quanto por seus erros clamorosos.
No caso em questão, ele é um sistema que, a partir de simulações de funcionamento de neurônios (as chamadas redes neurais), foi autotreinado com toneladas de texto em linguagem natural. É basicamente expor o sistema à "leitura" e treiná-lo para "prever" qual palavra deve vir a seguir em cada texto e contexto (pense numa versão ultrassofisticada do corretor de texto do celular, que tenta "adivinhar" que palavra você quer digitar baseado nas primeiras letras ou em erros comuns). Os acertos reforçam conexões na rede neural, os erros dissipam, e assim a máquina vai se tornando cada vez mais hábil e fluente ao lidar com textos nos mais variados contextos.
A despeito das diferenças de substrato (eletroquímica cerebral versus impulsos elétricos em chips de silício) e da gama de sinais externos recebidos por humanos e por um modelo de IA, o processo de aprendizagem não é de todo dessemelhante nos dois casos —com exposição, repetição, imitação e domínio gradual da linguagem por estímulos positivos e negativos. Curiosamente, é possível que isso seja uma das fontes de viés contra a máquina, de quem se espera comportamentos mais exatos, menos passíveis de falha.
"Uma das possíveis razões para o fato de sermos bastante intolerantes a erros de máquina é a memória, pré-IA, de que esses devem ser dispositivos precisos, posto que deterministas", explica Dias.
Quando os 1.700 voluntários tiveram de dar mérito pelo desempenho em alguma atividade, em média deram pontuação maior aos humanos (5,2) que à IA (4,8). O índice de mérito do ser humano ficou 8% maior. Em compensação, quando foi a hora de atribuir culpa, o rechaço à IA atingiu média de 4,7 pontos, enquanto ao ser humano ficou em mais modestos 3,8. O índice de rechaço à IA se mostrou 24% maior.
Combinando as duas coisas em uma análise estatística, os pesquisadores concluíram que o viés contra a IA (seja atribuindo menos mérito, seja apontando maior culpabilidade) é de 60%.
Diferenças sociais
Os pesquisadores notaram também que esses vieses não são homogêneos. Por exemplo, no que diz respeito a decisões salariais equivocadas, mulheres atribuem maior responsabilidade à IA que homens. Enquanto a maioria delas atribui total culpa à máquina, a maioria dos homens tende a tratar o erro como "não intencional".
"As mulheres são mais desconfiadas de novidades nessa área, pois, historicamente, vêm se dando mal com isso, vide o que o mercado inteiro fala sobre uso de IAs pouco sofisticadas para filtrar currículos: produz muito mais recomendações masculinas do que femininas. A razão? Porque otimizam a replicação dos casos de sucesso do passado. Como os cargos de gestão eram tradicionalmente masculinos, os algoritmos de seleção mal calibrados tendem a dar mais valor aos homens", diz o pesquisador.
Outra discrepância importante tem a ver com nível de renda. Entre os que se declararam muito ricos, não há diferença entre a propensão a substituir um ser humano ou uma máquina que falha. Nos demais grupos de renda, a intolerância ao ser humano foi menor que à IA. "A minha leitura é que isso revela que ser diretamente afetado conta. Como os mais ricos tendem a estar na posição de contratantes e não na de contratados, têm menos assimetrias."
Comparação aos EUA
Pesquisas similares realizadas por César Hidalgo, no MIT (Instituto de Tecnologia de Massachusetts), EUA, permitiram a comparação entre os resultados brasileiros e os americanos. De forma geral, no Brasil o viés contra a máquina tende a ser maior. Segundo Dias, é provável que isso reflita a maior penetração da tecnologia, em particular da IA, na sociedade americana, se comparada à brasileira. "Rechaçamos mais o que conhecemos menos."
Uma exceção foi na área de atividade de polícia, em que os brasileiros tendem a promover menos o policial humano que os americanos. Os pesquisadores desconfiam que isso tenha a ver com o baixo nível de confiança da população brasileira em sua polícia, se comparado à americana.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.