O início do uso do rádio resultou em misteriosos fenômenos sobrenaturais, como aquecedores e fogões que falavam, segundo reportagens de jornais da época. Os médicos ingleses já temeram que o uso excessivo da bicicleta sobrecarregasse o sistema nervoso e produzisse "caras de bicicleta" ansiosas e desgastadas. Professores lamentaram que a substituição da régua de cálculo por calculadoras eletrônicas prejudicaria nossa compreensão dos conceitos matemáticos. Além disso, o que aconteceria quando as baterias acabassem?
Todos esses exemplos de tecnofobia são retirados do "Pessimists Archive" [Arquivo dos Pessimistas], uma maravilhosa coleção de "medos sobre coisas velhas quando eram novas". Qualquer pessoa preocupada com a ascensão da inteligência artificial (IA) hoje deve vasculhar esse registro digital.
É impressionante como muitos de nossos medos contemporâneos ecoam preocupações anteriores sobre a crescente supremacia das máquinas e a obsolescência humana. Também é reconfortante ver quantos desses pânicos morais se mostraram espetacularmente errados, parecendo quase cômicos em retrospectiva.
Claro, só porque os pessimistas muitas vezes estavam errados sobre os males das tecnologias do passado não significa que os pessimistas estejam errados sobre a IA hoje. Mas devemos pelo menos analisar se, ou de que maneira significativa, a IA mais recente difere do que veio antes.
Certamente haveria muito menos barulho sobre a IA se desmistificássemos o campo e o renomeássemos de estatística computacional, como sugerem alguns tecnólogos. E, como o Pessimists Archive deixa claro, os futuristas tendem a enfatizar demais a velocidade de adoção da maioria das tecnologias e subestimar o escopo de adaptação. Eles podem nos dizer o que as tecnologias podem fazer na teoria, mas não como elas serão usadas na prática.
Um argumento de que a IA é diferente –e uma preocupação legítima– foi feito pelo filósofo Daniel Dennett, que há muito se interessa pelo campo. Em um ensaio na The Atlantic, ele argumenta que pela primeira vez na história a IA pode ser usada para criar "pessoas falsificadas", que podem se passar por pessoas reais em nosso mundo digital.
Esses "deepfakes", como outros os chamaram, controlados por pessoas, corporações e governos poderosos, são os artefatos mais perigosos que a humanidade criou e podem ser usados em escala para distrair e confundir, corroendo o debate racional. "Criar pessoas digitais falsificadas corre o risco de destruir nossa civilização", escreve Dennett. "A democracia depende do consentimento informado (e não mal informado) dos governados."
Dennett pode, ou não, ser excessivamente alarmista sobre a ameaça dessa tecnologia. Mas ele reconhece que ela também pode oferecer uma solução. Assim como resolvemos em grande parte o problema do dinheiro falsificado, podemos adiar, se não extinguir, a sinistra ameaça das pessoas falsificadas. A maioria das cédulas de hoje contém marcas d'água de alta tecnologia, como o EURion Constellation, um sistema de símbolos embutidos que impedem que fotocopiadoras coloridas falsifiquem moedas legais. Os cientistas da computação já estão desenvolvendo técnicas semelhantes a marcas d'água para sinalizar conteúdo deepfake gerado por IA.
"A marca d'água é tecnicamente possível, mas não necessariamente a rota mais útil", disse-me o fundador de uma empresa de IA generativa na semana passada. A ênfase deve ser tanto em como os deepfakes são distribuídos quanto em como eles são criados. Em outras palavras, também precisamos nos concentrar nos equivalentes aos fabricantes de fotocopiadoras: as empresas de mídia social. Isso fortalece o caso para se garantir que as contas de usuários sejam verificáveis e eles possam ser responsabilizados pelo que geram.
Outros tecnólogos aceitam o argumento de Dennett de que a novidade da IA é que ela confunde a linha entre máquinas e humanos. Mas isso também pode ser uma coisa boa. Muitos problemas de nossa sociedade computadorizada decorrem do fato de que as máquinas são inflexíveis, diz Neil Lawrence, professor de aprendizado de máquina na Universidade de Cambridge. A maioria dos computadores são máquinas determinísticas, que só conseguem resolver problemas quantitativamente, deixando pouco espaço para ambiguidade, dúvida ou nuance. Mas os mais recentes modelos de IA generativa são máquinas probabilísticas, treinadas em todo o conhecimento humano na internet e, portanto, mais inseridas na cultura humana.
Isso levanta a possibilidade de que as máquinas possam ser cada vez mais usadas para resolver problemas qualitativamente, como fazem os humanos. "Os humanos se adaptaram a todas as tecnologias anteriores. Mas esta tecnologia pode se adaptar a nós", disse Lawrence, autor de um livro a ser publicado sobre IA, defendendo essa tese.
Quando se trata de desenvolver chatbots de saúde ou carros autônomos, a adaptabilidade da máquina pode ser um atributo particularmente útil. Também devemos escutar os otimistas.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.