Para o dicionário Merriam-Webster, uma caixa de Pandora pode ser "qualquer coisa que pareça comum, mas produza resultados nocivos imprevisíveis". Tenho pensado muito nas caixas de Pandora, porque nós, homo sapiens, estamos fazendo algo que nunca fizemos antes: erguer as tampas de duas caixas de Pandora gigantes ao mesmo tempo, sem a menor ideia do que poderá sair.
Uma delas é rotulada de inteligência artificial e exemplificada por nomes como ChatGPT, Bard e AlphaFold, que testemunham a capacidade da humanidade de fabricar algo que de maneira quase divina se aproxima da inteligência geral, excedendo em muito a inteligência com a qual evoluímos naturalmente.
A outra caixa de Pandora é rotulada de mudança climática, e, com ela, nós, humanos, estamos pela primeira vez nos conduzindo de uma maneira divina de uma época climática para outra. Até agora, esse poder estava amplamente limitado às forças naturais envolvendo a órbita da Terra ao redor do sol.
Para mim, a grande questão, enquanto levantamos as tampas simultaneamente, é: que tipo de regulamentação e ética devemos implementar para administrar o que sair delas gritando?
Sejamos realistas: não entendíamos o quanto as redes sociais seriam usadas para minar os pilares gêmeos de qualquer sociedade livre –verdade e confiança. Portanto, se abordarmos a IA generativa com a mesma imprudência –se seguirmos novamente o mantra ousado de Mark Zuckerberg no início das redes sociais, "mova-se rapidamente e quebre as coisas"–, oh, bebê, vamos quebrar as coisas mais rapidamente, com mais força e profundidade do que qualquer um pode imaginar.
"Houve uma falha da imaginação quando as redes sociais foram liberadas e, em seguida, uma falha em reagir com responsabilidade às suas consequências imprevistas, depois que permearam a vida de bilhões de pessoas", disse-me Dov Seidman, fundador e presidente do HOW Institute for Society and LRN.
"Perdemos muito tempo –e nosso caminho– em um pensamento utópico de que só coisas boas poderiam vir das redes sociais, só por conectar as pessoas e dar voz a elas. Não podemos permitir falhas semelhantes com a inteligência artificial."
Portanto, há "um imperativo urgente de que essas tecnologias de inteligência artificial sejam usadas somente para complementar e elevar o que nos torna humanos e únicos: nossa criatividade, nossa curiosidade e o melhor de nós, a capacidade de esperança, ética, empatia, coragem e colaboração com os outros", acrescentou Seidman.
"O ditado de que o grande poder acarreta grandes responsabilidades nunca foi tão verdadeiro. Não podemos permitir que mais uma geração de tecnólogos proclame sua neutralidade ética e nos diga 'ei, somos apenas uma plataforma', quando essas tecnologias de IA estão permitindo formas exponencialmente mais poderosas e profundas de empoderamento e interação humanos."
Por essas razões, perguntei a James Manyika, chefe da equipe de tecnologia e sociedade do Google, bem como do Google Research, qual a opinião dele sobre a promessa e o desafio da IA.
"Temos que ser ousados e responsáveis ao mesmo tempo", respondeu. "A razão para sermos ousados é que, em tantos domínios diferentes, a IA tem o potencial de ajudar as pessoas nas tarefas diárias e enfrentar alguns dos maiores desafios da humanidade –como a saúde– e fazer novas descobertas e inovações científicas e ganhos de produtividade que levem a uma maior prosperidade econômica."
Ela fará isso, acrescentou ele, "dando às pessoas em todos os lugares acesso à soma do conhecimento do mundo –em seu próprio idioma, em seu modo preferido de comunicação, via texto, fala, imagens ou código", entregue por smartphone, pela televisão, rádio ou e-book. Muitas outras pessoas poderão obter melhor atendimento e melhores respostas para aperfeiçoar suas vidas.
Mas também devemos ser responsáveis, acrescentou Manyika, citando várias preocupações. Primeiro, essas ferramentas precisam estar totalmente alinhadas com os objetivos da humanidade. Em segundo lugar, nas mãos erradas, elas poderão causar danos enormes, quer estejamos falando de desinformação, de coisas perfeitamente falsificadas ou hacking. Os bandidos são sempre os primeiros adeptos.
Finalmente, "a engenharia está à frente da ciência até certo ponto", explicou Manyika. Ou seja, mesmo as pessoas que constroem os grandes modelos de linguagem não entendem totalmente como eles funcionam e a plena extensão de seus recursos. Em outras palavras, ainda não entendemos quantas coisas boas ou ruins esses sistemas podem fazer. Portanto, precisamos de alguma regulamentação, mas ela tem de ser feita com cuidado.
Por quê? Bem, quem está mais preocupado que a China supere os EUA em IA quer turbinar a inovação em IA, não desacelerá-la. Se deseja democratizar a IA, convém abrir o seu código. Mas o código aberto pode ser explorado. O que o grupo Estado Islâmico faria com o código? Se está preocupado com o fato de os sistemas de IA aumentarem a discriminação, as violações de privacidade e outros danos sociais, você quer regulamentações já.
Se você quiser aproveitar todos os ganhos de produtividade esperados da IA, deve se concentrar na criação de novas oportunidades e redes de segurança para todos os pesquisadores, consultores, tradutores e trabalhadores que podem ser substituídos hoje, e talvez advogados e programadores amanhã. Se está preocupado que a IA se torne superinteligente e comece a definir seus próprios objetivos, independentemente do prejuízo humano, deve interrompê-la.
Esse último perigo é tão real que, no último dia 1º, Geoffrey Hinton, um dos pioneiros na criação de sistemas de IA, anunciou que deixou a equipe de IA do Google. Ele disse achar que o Google estava agindo de forma responsável ao lançar seus produtos de IA, mas que queria ter liberdade para falar sobre todos os riscos. "É difícil ver como se pode evitar que os maus atores a usem para coisas ruins", disse.
Como sociedade, estamos prestes a ter que decidir sobre algumas trocas muito grandes à medida que adotamos a IA generativa.
E a regulamentação governamental por si só não nos salvará. Tenho uma regra simples: quanto mais rápido o ritmo da mudança e mais poderes aparentemente divinos nós, humanos, desenvolvemos, tudo o que é velho e lento importa mais do que nunca.
Quanto mais escala dermos à inteligência artificial, mais a regra de ouro precisará ser reforçada: faça aos outros o que gostaria que fizessem a você. Dados os poderes divinos com os quais estamos nos dotando, agora podemos fazer uns aos outros mais rapidamente, mais barato e mais profundamente do que nunca.
O mesmo vale para a caixa de Pandora do clima que estamos abrindo. Como explica a Nasa em seu site, "nos últimos 800 mil anos houve oito ciclos de eras glaciais e períodos mais quentes". A última era glacial terminou há cerca de 11,7 mil anos, dando lugar à nossa era climática atual –conhecida como Holoceno–, caracterizada por estações que permitiram uma agricultura estável, a construção de comunidades humanas e, finalmente, a civilização como a conhecemos hoje.
"A maioria dessas mudanças climáticas é atribuída a variações muito pequenas na órbita da Terra que alteram a quantidade de energia solar que nosso planeta recebe", observa a Nasa. Bem, diga adeus a isso. Existe agora uma intensa discussão entre ambientalistas sobre se nós, humanos, saímos do Holoceno para uma nova era, chamada Antropoceno.
Esse nome vem "de antropo, que significa 'homem', e 'ceno', de 'novo', porque a humanidade causou extinções em massa de espécies, poluiu os oceanos e alterou a atmosfera, entre outros impactos duradouros", como explicou um artigo na Smithsonian Magazine.
Os cientistas do sistema terrestre temem que esta época criada pelo homem, o Antropoceno, não terá nenhuma das estações previsíveis do Holoceno. A agricultura poderá se tornar um pesadelo.
Mas é aqui que a IA pode ser nossa salvadora –acelerando avanços na ciência dos materiais, densidade de baterias, energia de fusão e energia nuclear modular segura, que permitam aos humanos administrar os impactos da mudança climática que agora são inevitáveis e evitar aqueles que seriam incontroláveis.
Mas se a IA nos dá uma maneira de amortecer os piores efeitos da mudança climática, é melhor fazê-lo da maneira certa. Isso significa regulamentações inteligentes para ampliar rapidamente a energia limpa e com valores sustentáveis reforçados.
A menos que espalhemos uma ética de conservação, poderemos acabar num mundo onde as pessoas se sintam no direito de dirigir pela floresta agora que seu Hummer é elétrico. Isso não pode acontecer.
Resumindo: essas duas grandes caixas de Pandora estão sendo abertas. Deus nos salve se adquirirmos poderes divinos para dividir o Mar Vermelho, mas falharmos em reforçar os Dez Mandamentos.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.