O ano de 2023 deve entrar para a história como aquele em que o contato direto com a inteligência artificial se popularizou. ChatGPT e Google Bard terão papéis importantes neste legado, mas não tão grandes quanto se projeta agora.
As verdadeiras atrações serão (1) os chatbots da próxima geração, que trarão correções para as falhas mais elementares da atual, sobretudo no que se refere à desinformação e (2) a incorporação dessa tecnologia pelos mais diversos aplicativos.
Uma possibilidade que antevejo envolve o metaverso, hoje tido como aposta baseada em premissas erradas, sobretudo a de que o consumidor toparia andar com uma caixa de sapatos amarrada à cara, durante os anos que o separam das interfaces verdadeiramente amigáveis.
Nas atuais condições, isso é verdade. Porém, vale lembrar que a proposta vem da indústria gamer, a maior do entretenimento global; redes sociais e produtividade são meras translações. Os jogos de sucesso são fartos em criaturas puramente computacionais: monstros que devem ser mortos, parceiros sem personalidade que acompanham o jogador na busca da recompensa final, além dos incontáveis coadjuvantes preenchedores de tela (NPCs). Pois é só uma questão de tempo para que esses seres desinteressantes sejam equipados com algoritmos de linguagem e comecem a dialogar livremente com os jogadores, redefinindo as experiências de jogo.
Quais os macetes para vencer o gigante da fase 3? Por que gostamos tanto de violência? Como faço para mostrar o que verdadeiramente sinto por uma pessoa? O rol de perguntas que dão a sensação de funcionar melhor quando dirigidas a alguém e não a um rasgo na tela é imenso. Como a qualidade das interações é dependente do seu realismo, deduzo que as novas IAs acelerarão a adoção do VR e este a interatividade contínua em universos digitais ou metaversos muito antes do surgimento dos óculos e lentes de contato ideais para tanto.
Comento essa hipótese para ilustrar duas regras sobre o progresso tecnológico: (1) os grandes marcos estão sempre mais distantes do que originalmente previsto; (2) há muita polinização cruzada nas fronteiras da invenção, o que leva a saltos insuspeitos.
Assim, é importante que a gente se mexa e procure entender com mais profundidade a natureza das relações que estabelecemos com a inteligência artificial, independentemente do que achemos do ChatGPT; afinal, tudo indica que, após 70 anos de vida, a IA está em ponto de virada.
Dos vieses de máquinas aos vieses humanos: resultados experimentais inéditos
Os últimos anos trouxeram grande mobilização no front dos vieses algorítmicos. As maneiras como o aprendizado de máquina podem nos impactar foram amplamente debatidas (para uma visão geral, acesse aqui) e deram origem a diversas propostas regulatórias. Acontece que a relação entre pessoas e máquinas não é uma via de mão única. Tão importante quanto esse movimento é identificar os princípios que norteiam as nossas reações à IA.
Enxergamos suas criações pelas mesmas lentes que vemos as humanas ou nossos juízos são enviesados? Neste caso, como são esses vieses? Que percepções latentes compõem a sua base psicossocial? Que tipo de futuro se desenha à luz dessas eventuais diferenças de julgamento? Essas são algumas das perguntas que precisam ser respondidas para que entendamos melhor o mundo de hoje e possamos prospectar o futuro com um mínimo de assertividade.
Ao contrário do que seria de se esperar, elas não estão sendo debatidas no espaço público nem fazem parte da agenda de pesquisa de nenhum laboratório brasileiro ou de qualquer outro país, exceto o do estimado César Hidalgo (ex-MIT, professor da Universidade de Tolouse).
César criou 80 dinâmicas experimentais para mapear as semelhanças e diferenças nos tratamentos conferidos a máquinas/IA e pessoas, as quais foram subdivididas em 5 categorias, comumente utilizadas para estudar as bases cognitivas da organização social: autoridade, lealdade, justiça, pureza e geração de danos. As conclusões não poderiam ser mais reveladoras.
Em primeiro lugar, somos mais intolerantes aos erros das máquinas/IA do que aos seus correlatos humanos. Tal é especialmente verdadeiro quando os cenários experimentais envolvem riscos de danos e violência física. Em segundo, há diferenças nas réguas usadas para julgar humanos e máquinas: enquanto aqueles são julgados pelo processo, esses o são pelos resultados. Em terceiro, erros e acertos maquínicos não deixam de ser tacitamente concebidos como reflexos de processos intencionais, que variam em intensidade percebida à luz do contexto.
Isso é inerente à maneira como o cérebro funciona. Avaliamos a estética da frente dos carros usando os circuitos cerebrais dedicados ao processamento de rostos, especialmente aqueles que se situam no córtex parietal; é por isso que simpatizamos/antipatizamos com essas máquinas. Quando vemos um robô fazendo uma ação que nos é comum, por exemplo passando objetos de uma caixa para uma esteira, ativamos circuitos pré-motores que emulam parte do comportamento. É por isso que conseguimos antever que determinado objeto será derrubado. E assim por diante.
Porém, essas são propriedades comuns a outras espécies, não nos conferindo especificidade. IAs induzem percepções análogas em relação a processos intelectuais que envolvem representações mentais e subvocalizações (experiência sonora quando pensamos em palavras), o que faz com que sejam percebidas como agentes intencionais no âmbito daquilo que mais nos define.
Não é que aprendamos culturalmente a atribuir intencionalidade à IA, o que então se acomoda à intuição contrária, de que não pensam, mas o inverso: a intuição primária é que por trás da ação da IA existe cérebro e agenciamento, o que aprendemos a tratar como uma ilusão. Isso explica esses casos, um pouco bizarros, de pessoas que vêm se envolvendo afetivamente com IAs (um app que cria namorada virtual possui 11.600 comentários e é o número 121 do mundo em entretenimento).
Há diversas outras conclusões interessantes desse estudo, o qual deu origem a um livro, que você pode baixar aqui. No entanto, vale notar que (1) a coleta de dados foi feita nos Estados Unidos e essas percepções variam regionalmente e (2) cada bloco experimental envolveu 200 pessoas (número baixo), recrutadas no Mechanical Turk, uma base famosa por problemas de aderência.
Com isso em mente, concebi algumas dinâmicas experimentais, inspiradas nas do César, e as apliquei junto a uma amostra brasileira, considerada "padrão ouro" no mercado mundial, justamente por ser mais bem-remunerada e passar por diversos controles de aderência.
Os nossos dois blocos experimentais envolveram 850 pessoas cada (mais de quatro vezes o tamanho dos originais), do Brasil todo, balanceadas por sexo, idade e renda, em função do perfil sociodemográfico nacional. Coleta e análise aconteceram no terceiro trimestre de 2022. Três grandes dimensões afetivo-relacionais foram contempladas, em função da sua relevância:
- Sucesso: como os brasileiros reagem ao sucesso de iniciativas conduzidas por pessoas vs. IA.
- Fracassos: somos mais complacentes com erros humanos ou maquínicos?
- Recontratação: qual a chance de reempregarmos um dos dois, após uma experiência de sucesso? E se for de fracasso?
Para explorar esses temas, a equipe de neurociências do Instituto Locomotiva desenvolveu quatro narrativas gamificadas, alinhadas aos preceitos do estudo original:
- Ação policial: investimento em nova tropa de policiais (humanos/robôs) para resolver problema de abordagem desproporcional de inocentes, moradores de favelas, produz êxito/fracasso
- Política salarial: introdução de novo consultor/IA leva a aumento/redução da injustiça em políticas salariais
- Seleção profissional: introdução de novo profissional/IA aumenta/diminui a iniquidade na seleção profissional
- Alocação de recursos financeiros: chegada de um novo gestor/IA eleva/reduz a qualidade da distribuição de recursos financeiros municipais.
As principais conclusões são que (1) os brasileiros dão muito menos crédito a melhorias em processos produzidas por IA do que por pessoas e (2) são muito mais complacentes com os erros humanos do que com os maquínicos. Em paralelo, (3) estão muito menos dispostos a substituir o trabalho humano por uma IA mais eficiente do que a substituir a IA por um humano mais eficiente e (4) estão muito mais dispostos a trocar a IA que erra por uma pessoa do que para trocar pessoas que erram por uma IA.
Esta assimetria de juízos varia em função do momento de vida do indivíduo. Ao contrário do que se dá com os mais novos (18-30 anos), no auge da vida adulta (31-50 anos), a nossa população tende a preferir humanos a robôs mesmo quando estes se saem melhor nas tarefas designadas. Isso possivelmente se relaciona ao medo de ser substituído por IA.
Há também especificidades de renda. Aqueles que se veem como mais pobres tendem a rejeitar a IA na segurança, mesmo nos cenários em que esta se sai melhor do que os policiais, o que pode estar relacionado à percepção de que as tecnologias de combate à criminalidade já implementadas não lhes foram favoráveis.
De maneira geral, nossos resultados mostram que os brasileiros têm ainda mais vieses contra máquinas do que os americanos, além de lhes atribuir maior carga intencional.
O cenário em que essas descobertas se inserem
Nas últimas semanas, o ChatGPT foi aprovado em uma prova jurídica que lembra a da OAB, em um exame para ser médico, no MBA de Wharton, uma das escolas de negócios mais famosas do mundo, na elaboração de um ensaio para um curso de literatura do ensino médio, em um processo seletivo para uma vaga de engenheiro no Google, entre diversos outros testes diretos ou indiretos de aptidão.
Um sujeito chamado Sergey Ivanov alega ter aplicado o teste de QI ao ChatGPT e obtido escore 83 (médio-baixo para adultos), enquanto um paper recém-publicado pela Plos Digital Health indicou que os raciocínios clínicos produzidos pelo ChatGPT "possuem alto grau de coerência e trazem diversos insights".
Já no lado oposto da gangorra da empolgação, muita gente se manifestou sobre a baixa qualidade da criação do algoritmo, o qual um artigo publicado na revista The Atlantic definiu como "mais burro do que parece" e vários artigos sobre a qualidade literária da produção algorítmica foram publicados, todos eles mostrando que é sofrível.
Eu sou da opinião de que o teto para a criação maquínica atual é baixo e não vejo sentido algum em usar esse tipo de recurso na minha produção intelectual ou científica. Porém, a realidade mais ampla é diversa e recompensa bem mais a escalabilidade. Advogados já reusam petições e afins, copywriters já fazem postagens com base em templates discursivos e visuais, alunos treinando para o vestibular já replicam esquemas lógicos pela identificação de elementos concernentes nos problemas que veem pela frente etc.
Em função disso tudo, a minha sensação é que estamos reagindo às IAs tal como revelado pelo experimento: superestimando nossas próprias capacidades e usando dois pesos e duas medidas.
Por exemplo, nunca se falou tanto sobre a importância da criatividade, este nosso diferencial inexorável. Aí eu pergunto: você encontrou algum insight original, recentemente, no LinkedIn? Você já recebeu uma notificação extrajudicial e pensou: "Uau, que sacada única"? Já viu algum banner personalizado na web que tenha lhe sensibilizado? Claro que não.
A verdade nua e crua é que mesmo as atividades produtivas mais bem-pagas têm alta dose de replicabilidade e os conteúdos aos quais somos expostos na maior parte do tempo não são nada originais. Isto não é só reflexo de vivermos a era das dancinhas no TikTok, mas do fato de que rupturas com as expectativas reduzem a eficácia dos procedimentos não experimentais e da comunicação-padrão em função do aumento da incerteza. Há um mecanismo defensivo atuando nesse súbito enaltecimento coletivo da produção criativa, a qual na realidade possui espaços simbólicos relativamente restritos para o seu exercício sistemático: ensaios intelectuais, artes, ciência exploratória, criação de novos negócios e formas de organização social etc.
Isso não é nenhuma tragédia nem indica que, coletivamente, somos substituíveis ou coisa do gênero. Na realidade, o surgimento desses chatbots generativos é uma oportunidade para encararmos o fato de que nem sempre são as palavras e encadeamentos usados em um texto não ensaístico que o tornam especial nem a maneira como seguramos a pinça, atendemos o paciente, combinamos cores ou respondemos às perguntas, mas os estados de espírito que nos insuflam e que procuramos converter em coisas concretas, entendimentos ou formas não verbais de sensibilização.
Esses estados não se perdem quando, por exemplo, o advogado que está elaborando a petição utiliza trechos de outras nem quando o DJ usa um sampling.
A IA pode nos ajudar nas produções mecanicistas, sem grandes prejuízos existenciais, desde que mantenhamos as rédeas do direcionamento intencional, evitando arapucas básicas como a transferência sistemática e espontânea de nossas decisões para os algoritmos.
Seu verdadeiro risco, como sempre é o caso, incide sobre as pessoas que já não exercem esse direcionamento no dia a dia. Disto segue a necessidade de uma grande transformação educacional, voltada à capacitação crítica, de orientação intencional e propositiva (e não meramente interpessoal como se diz por aí), aliada a políticas públicas desenhadas para a situação que se anuncia. Ficar com raiva da máquina é puro atraso de vida.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.