Na preparação do seu novo romance, "Klara e o Sol", que chegará às livrarias portuguesas a 9 de março e já está em pré-venda, Kazuo Ishiguro teve uma série de conversas com um dos grandes cientistas da inteligência artificial. Costumavam sentar-se num pequeno café londrino perto do lugar onde vive (o escritor britânico nasceu em Nagasaki, no Japão, mas foi para a Inglaterra aos cinco anos).
“Às vezes era bastante embaraçoso porque estávamos a conversar e as pessoas à nossa volta deviam achar que éramos malucos por causa do tipo de conversas que estávamos a ter”, contou durante a teleconferência de imprensa de apresentação do primeiro livro que lança depois de ter recebido o Nobel da literatura em 2017.
O evento, que decorreu online por causa dos constrangimentos da pandemia, reuniu jornalistas de vários países que enviaram previamente ao autor as suas questões, num encontro moderado por Stephen Edwards e Sam Coates, da agência literária Rogers, Coleridge and White.
Ishiguro pediu desculpa por não estar a acontecer aquilo que fazia a cada vez que lança um livro: viajar para o promover, conversar frente a frente. “Esta é uma forma mais impessoal de o fazer, mas vou tentar fazê-lo o melhor possível.” E assim o fez, em frente a uma tela na sala de sua casa, durante uma hora e meia. Lá ao fundo, alguns quadros pendurados. Encostados à parede, um piano e uma guitarra. Do outro lado, um canto com sofás, uma aparelhagem e uma estante com o que pareciam ser discos em vinil.
Quando estava a contar o que se passava no café, Ishiguro estava a responder a uma das perguntas em parte relacionadas com o novo romance —que tem como narradora Klara, uma AA, Amiga Artificial, uma inteligência artificial regida a energia solar—, que Kazuo Ishiguro estava a responder: se a inteligência artificial poderá vir a substituir os romancistas.
Ele espera bem que isso não venha a acontecer, mas admite que uma parte de si está entusiasmada com a ideia. Naquele tal café de Londres, Ishiguro perguntou ao cientista se havia um programa de inteligência artificial chamado Tolstói 3 que escrevesse romances. “Esse programa não existe, inventei-o”, conta agora na conferência online, mas intrigava-o a ideia de um programa que não só conseguisse escrever coisas que superficialmente parecem romances, mas emocionassem leitores, fazendo-os chorar, rir, entrar num novo mundo.
O que é interessante nesta questão —se pode a inteligência artificial substituir-se aos romancistas— é que a um nível superficial já se consegue fazê-lo por esta altura. Mas quando falamos de livros a que realmente damos valor, de ficção, ou peças de música, conseguirá a inteligência artificial dominar a empatia humana, perceber as emoções a ponto de manipular os leitores e os espectadores?
Deixa o alerta: “Suponhamos que atingimos esse nível em que as máquinas conseguem perceber os seres humanos. Essa é uma fronteira interessante de ultrapassar. Não só o meu emprego estaria ameaçado —e isso não seria assim tão importante desde que tivéssemos livros interessantes—, mas uma vez que a inteligência artificial consiga fazê-lo, teremos, por exemplo, campanhas políticas feitas de maneira muito eficaz através dessa inteligência artificial que percebe as emoções humanas, identifica frustrações numa sociedade e manipula as emoções do eleitorado para produzir um resultado em vez de outro”.
Talvez por causa do romance "Não me Abandone Jamais", que publicou em 2005 e foi adaptado ao cinema, em que abordava a clonagem, o transplante e a doação de órgãos, Ishiguro tem sido convidado para debates entre cientistas. Ficou fascinado por muitas das coisas que aprendeu, duas das quais foram relevantes para a escrita de "Klara e o Sol".
A primeira foi o quanto a inteligência artificial avançou desde os dias em que só os seres humanos programavam computadores. Era uma inteligência artificial primitiva ou à moda antiga, como a que permitia que máquinas vencessem mestres de xadrez. “Podemos chamar-lhe aprendizagem programada”, diz Ishiguro, “uma inteligência artificial que aprende com seres humanos a supervisionarem essa aprendizagem”.
Por exemplo, mostram-se imagens de gatos e cães e o ser humano confirma se a inteligência artificial acertou no gato ou no cão ou se errou. Se fizermos isso muitas vezes a máquina aprende, mas é o ser humano que está ao comando. Desde há algum tempo, no entanto, estamos numa nova geração de inteligência artificial. Adquire conhecimento através de um processo de aprendizagem reforçada, é dada uma tarefa à máquina, que aprende sozinha. O seu poder é tão grande que processa milhões de livros em minutos ou pedaços de informação.
Klara, a personagem do romance de Ishiguro, é uma dessas máquinas. “Acho muito apelativa a ideia de que a personagem tem um propósito primeiro que determina o que faz a seguir. Parecia-me interessante ela não precisar dos seres humanos para o seu processo de aprendizagem. É ela que tem de decidir como aprende”, afirma o escritor.
A segunda coisa que o autor de "Os Vestígios do Dia" (romance de 1989, vencedor do Booker Prize e adaptado ao cinema) aprendeu com os especialistas e lhe pareceu atraente é que frequentemente os programas de inteligência artificial parecem muito brilhantes em muitos aspectos, muito para além das capacidades humanas, mas não conseguem fazer coisas simples.
“A inteligência artificial tem lutado, disseram-me, para perceber como preparamos uma chávena de chá. Essa tarefa é muito difícil porque uma inteligência artificial aprenderia como preparar uma chávena de chá num determinado sítio e se lhe pedíssemos para o fazer numa cozinha diferente, não saberia como. O frigorífico está fora do sítio, a uma distância diferente da chaleira, as janelas estão noutro local e por isso a inteligência artificial fica confusa. Já os seres humanos são muito bons a perceber o que significa preparar uma chávena de chá. Podemos entrar numa cozinha onde nunca estivemos e podemos ignorar tudo o que não é relevante para a tarefa e simplesmente fazer essa chávena de chá. Os programas de inteligência artificial acham isto muito difícil.”
Que a inteligência artificial fosse uma mistura de superinteligência e de enorme incompetência e ignorância chamou a atenção do escritor. “Poderia dar a Klara aquelas qualidades infantis que ficariam com ela para sempre, apesar de toda a sofisticação que adquire à medida que a história avança. Estas duas coisas que aprendi sobre a inteligência artificial inspiraram-me para escrever esta personagem de 'Klara e o Sol' da maneira que o fiz.”
O medo da síndrome de gênio
Riu-se enquanto repetia em voz alta a primeira pergunta que lhe foi feita sobre se o Nobel de 2017 mudou a sua vida e a forma como escreve. Estava a cerca de um terço da escrita de "Klara e o Sol" quando o prêmio lhe bateu “como se fosse um caminhão”. Foi uma surpresa, mas seis meses depois regressou ao romance que agora publica. “Estava bem encaminhado, era-me familiar pois já o planejara há muito tempo, não considero que o Nobel tenha tido grande influência neste livro em particular. Como é que me vai afetar no futuro? Não sei. Mas neste momento não me parece que isso venha a acontecer.”
Foi uma “experiência maravilhosa”, uma “honra fantástica”. Mas confessa que se sente embaraçado por ter sido escolhido quando há tantos grandes escritores que não o receberam. “Parece-me que aconteceu a alguém num outro universo e que nesse lugar há um avatar de mim próprio, embora esteja muito agradecido. Mas quando regresso ao meu escritório tudo está igual: continua exíguo e tem papéis espalhados por todo o lado. Os meus problemas enquanto escritor são os mesmos. Habitualmente são bastante extensos. Não me sinto mais inteligente ou mais criativo, costuma até acontecer o contrário.”
Não conviveu com muitos escritores que tenham recebido o Nobel, mas conhece muitos cientistas que já o receberam. Foi alertado por um desses amigos para aquilo que a comunidade científica identifica como “a síndrome de gênio”. Cientistas que, depois do prêmio, começam a fazer comentários sobre outras áreas de conhecimento que não a do seu campo de investigação.
“Torna-se embaraçoso porque é muito óbvio que eles não sabem nada sobre aquilo de que estão a falar e fazem papel de tolos. Acredito que quem ganha o prêmio na área da literatura também está vulnerável a isso. Tenho de me proteger, não tanto em relação à arrogância, mas à síndrome do gênio. Tenho de me lembrar que recebi o Nobel por fazer algo bastante pequeno, o meu trabalho, e devo compreender que não posso agora estar capacitado para perorar sobre qualquer coisa. Devo ser humilde, apesar de estar muito agradecido.”
Tal como lhe acontece em relação ao Nobel, tem dificuldade em perceber de que maneira a pandemia de Covid- 19 teve algum efeito na sua escrita. Ainda estamos todos a viver essa situação. Acabou "Klara e o Sol" em dezembro. Posteriormente fez trabalho de revisão e edição. “Se alguns notam ecos da situação pandêmica no cenário distópico de 'Klara e o Sol' é pura coincidência. Enquanto romancista não posso dizer que haja ligação direta.” Mas não sabe se terá efeitos na sua escrita no futuro.
Parece-lhe que não só a pandemia, mas outros eventos, como o assassinato de George Floyd, tudo o que aconteceu em torno da campanha para a presidência nos Estados Unidos e antes da tomada de posse de Biden em Washington ou mesmo a saída do Reino Unido da União Europeia, mostram que este é um tempo de mudança.
Aos 66 anos, Kazuo Ishiguro nota que para alguém da sua geração, criado numa tradição liberal e humanista, as coisas talvez não sejam o que pensava que eram. “De fato, não soubemos interpretar as pessoas com quem vivemos, os nossos vizinhos, os que pertencem à nossa comunidade. Por isso, em algum sentido, queria que essas coisas que aconteceram tivessem efeitos na minha escrita. Não seria uma boa coisa dizer que não fez diferença nenhuma.”
Vê na pandemia um símbolo. Nos últimos cinco anos, com o crescimento do populismo e do nacionalismo, houve uma repercussão negativa face à globalização e à cooperação internacional entre países e instituições.
“Atualmente, a pandemia parece ter-nos lembrado, de forma brutal e trágica, que não podemos fazer muito se não houver cooperação. Não podemos lutar contra esta pandemia, medicamente ou a nível social e econômico, a não ser que se tenha instituições muito fortes de cooperação internacional. Isto tornou-se tão óbvio que fez com que víssemos como eram quase ficcionais as fronteiras que tínhamos erguido entre comunidades. São tempos muito interessantes em que estas duas forças, quase opostas, estão em confronto. Se houver uma boa lição a tirar desta pandemia, que seja a necessidade de trabalharmos juntos para enfrentar os enormes desafios que estão à nossa frente.”
Emoção versus fatos
Por outro lado, este último ano de pandemia em que “temos estado a assistir a um desprezo pela verdade e pelos fatos em várias partes do mundo”, particularmente nos Estados Unidos (onde se passa "Klara e o Sol") onde metade das pessoas acreditam que Donald Trump ganhou as eleições.
“Desde há algum tempo temos vindo a aproximarmo-nos desta estranha definição de verdade, que se baseia no que sentimos. Como se fosse opcional que existam provas ou não, é o que cada um sente que conta”, analisa. “Ao mesmo tempo temos observado a ciência a ajudar-nos e esperançosamente a salvar-nos desta pandemia. E no mundo científico há uma outra atitude”, acrescenta. Segue-se o método científico, se perdemos na argumentação, aceita-se que se perdeu e avança-se.
“Cresci numa sociedade que divide os cientistas e os artistas. O meu pai era um cientista. Apesar disso distanciei-me muito da maneira científica de aproximação às coisas. Sempre disse, incluindo no meu discurso de aceitação do Nobel, que o que é realmente importante nas histórias, nos romances, nos filmes é a partilha de sentimentos.”
Sempre defendeu a importância de transmitir essas emoções aos leitores. Mas neste último ano sentiu-se muito desconfortável com isso. “Tenho-me questionado se o que faço e passei a vida a celebrar não contribuiu para esta situação em que as pessoas estão a dizer que o que interessa é o que se sente e não os fatos.”
Não é que esteja a duvidar do valor das suas histórias, da ficção ou do que passou toda a vida a fazer. Mas estas questões impuseram-se na sua mente. “É difícil para mim justificar a emoção da literatura de ficção nos termos em que o fazia. É mais uma das coisas intensas e malucas que nos acontecem durante esta pandemia, em que estamos fechados meses e meses [gargalhada] sem saber quando vamos sair. Mas acho que o tema nos devia preocupar. Talvez esteja a tornar-me redundante e o Tolstói 3 possa resolver o assunto!”, brincou.
Quando escrevia "Klara e o Sol" não estava consciente de se tratar de uma obra companheira de "Não me Abandone Jamais". Mas o é. Não só porque parecem passar-se numa espécie de distopia de ficção científica, mas porque são romances preocupados com a alma humana. “Os seres humanos têm uma alma? Qual o significado do amor humano? Isto parece muito pretensioso dito assim, mas estas obras inserem essas questões. Talvez tenha escrito 'Klara e o Sol' como uma resposta a 'Não me Abandone Jamais', que foi publicado há 16 anos. Fiquei mais velho. Tornei-me uma pessoa mais alegre. Havia em mim uma vontade de responder à tristeza de 'Não me Abandone Jamais'. Queria escrever um livro semelhante, mas que expressasse esperança e otimismo.”
Onde foi buscar a ideia e quanto pesquisou para criar Klara, a Amiga Artificial, e como é que fazer dela a narradora nos ajuda a pensar na condição humana? Kazuo Ishiguro responde que, embora sempre se tenha interessado pelos perigos e oportunidades da inteligência artificial, a história de Klara surgiu de uma direção completamente diferente.
Na sua cabeça, a inspiração veio do mundo da literatura infantil, dos livros ilustrados que lemos às crianças de quatro ou cinco anos, com histórias simples e imagens. “Esse gênero de literatura sempre me interessou. Encontro nestes livros uma lógica estranha, bizarra até, mas muito natural. Essa lógica rapidamente deixa de ser permitida quando as crianças começam a ler obras para mais velhos e quase não aparece nos livros para adultos. Mas na literatura para crianças é comum que a Lua seja uma criatura que fala ou que uma criança abra a janela, puxe uma escada, suba até à Lua e se sente nela. É fascinante e libertador.”
Pareceu-lhe que se tivesse uma criatura de inteligência artificial no centro do romance muita dessa liberdade se abriria para si. “Klara podia começar a sua vida como se fosse um bebê, não conhecendo nada do mundo, mas aprendendo muito depressa. E tal como as crianças pequenas fazem, ela poderia juntar pequenas peças e chegar a conclusões estranhas, infantis. Mesmo quando a visão de Klara fica mais sofisticada, continua a ser muito infantil naquilo em que acredita. Ter um narrador que é uma inteligência artificial permitia-me fazê-lo. Klara vem dos ursinhos de pelúcia, brinquedos ou dos bonecos que são personagens principais dos livros para crianças e também dos andróides ou robôs da ficção científica tradicional.”
E, se um dos temas de "Klara e o Sol" é o amor, que ali permanece clássico em muitas maneiras, houve quem equacionasse se os instintos básicos não vão mudar com os avanços científicos. “Não quero cair na armadilha da ‘síndrome do gênio’ e prever o que vai acontecer ao amor nas gerações futura”, diz entre risos, “mas quando olhamos para a tragédia grega ou para outra literatura antiga é surpreendente como ela nos parece tão contemporânea. Principalmente a relação que os seres humanos têm uns com os outros.”
Frequentemente essas personagens acreditam em Deus ou no destino, “o que pode parecer bizarro e alienígena”, lembra, mas mais do que uma vez pensamos como aquele casal, por exemplo na "Íliada", nos parece contemporâneo: “podia ter saído de uma série de TV que se estreasse na atualidade”. Gosta de pensar que há algo de universal e eterno na forma como nos relacionamos uns com os outros, não só na narrativa daquilo a que chamamos amor, mas em todas as relações de amizade, entre família e amigos.
Em "Klara e o Sol", considera que aborda essa questão: terão os avanços da tecnologia, do big data, em áreas como a inteligência artificial e a genética, realmente mudado a nossa perspectiva do ser humano? “Num mundo em que cotidianamente fazemos compras online, em que forças misteriosas nos fazem recomendações que selecionaram para nós e achamos que acertaram porque era exatamente aquilo que queríamos ver na TV, está a tornar-se cada vez mais normal aceitar que talvez sejamos um conjunto de algoritmos que são previsíveis até determinado ponto”, acrescenta, considerando que isto muda o nosso olhar sobre a nossa singularidade.
“Amo a minha mulher e a minha filha porque são únicas. Mas se em vez desta ideia, de uma alma única no nosso corpo, que é muito difícil de localizar cientificamente, avançarmos para a ideia de que somos todos um conjunto de algoritmos que pode ser quantificado, estabelecido e, se tivermos máquinas com energia suficiente, recriado? Escrevi esta história, que é uma história simples, sobre uma mãe que teme que a sua filha esteja doente e possa morrer. E ela enfrenta esta questão: é a sua filha insubstituível? Ou nesta espécie de mundo moderno ela pode ser preservada além da morte? Não à Edgar Allan Poe, mas poderão todas as coisas que fazem dela única ser preservadas como dados? O que me interessava no romance não era a possibilidade de fazermos isto. A minha questão relaciona-se mais com o que pode fazer isto ao amor humano?”
Crescer no mundo antigo
Os jornalistas quiseram saber de que maneira "Klara e o Sol" é também um livro sobre a religião, já que no romance Sol aparece escrito com capitular e a narradora venera-o como se fosse Deus. “Talvez não seja sobre religião 'per se'. A relação que Klara tem com o sol é parecida com a que os humanos têm com todos os tipos de deuses que diversas sociedades criaram. Às vezes, é quase pagã.”
No início, para o escritor, era quase uma piada. Como Klara é uma máquina alimentada por energia solar seria natural achar que o Sol é fonte de ordem, de alimento, e de todas as coisas boas. É só um pequeno passo em frente acreditar que o Sol é todo-poderoso, benevolente, uma figura protetora que cuida dela onde quer que vá e que irá ajudar toda a gente.
“Queria que a parte infantil de Klara se baseasse nesta relação. E é por causa dessa sua contínua crença no Sol, na sua bondade e que ele a protegerá e a ajudará, que ela nunca perde a esperança mesmo quando as coisas começam a ficar negras no mundo onde vive. Achei que isso era muito importante porque embora Klara seja alguém que olha o mundo humano de fora, também uma espécie de espelho distorcido. Reflete os traços dos seres humanos que vivem à sua volta.”
Nestes “muito difíceis” meses de pandemia, Ishiguro, que nunca foi religioso, identificou “este desejo ou necessidade de qualquer coisa muito mais poderosa do que qualquer governo ou de que qualquer grupo de especialistas em saúde” para o vir salvar. Quer acreditar nisso, mas rapidamente chega à conclusão de que não existe ninguém. Só existimos nós. Embora, no momento seguinte, já esteja a conjurar: talvez exista alguma coisa.
Por que foi importante afirmar-se, no discurso do Nobel, como um escritor exausto que pertencia a uma geração cansada? “Tenho agora 66 anos, nasci em 1954, nove anos depois do fim da Segunda Guerra Mundial. Pertenço à geração que cresceu na sombra da Segunda Guerra, com pais que a viveram. A Guerra Fria tornou-se por vezes muito tensa durante os anos em que cresci, havia guerras por procuração no Vietnã, na América Central e na África. A minha maneira de ver o mundo e a história foi construída através dessa lente”, explica.
Os grandes conflitos para esta geração aconteciam entre o comunismo e o capitalismo, entre os modos totalitários e autoritários de reger o mundo e as sociedades liberais e abertas. Os seus instintos foram sempre no sentido de lutar contra os erros da primeira metade do século 20. Tal como outras pessoas da sua geração, procurava sinais de que a Grã-Bretanha estava a tornar-se autoritária e temia a guerra nuclear.
Muitas destas preocupações pareciam ter desaparecido no final da Guerra Fria, com a queda do Muro de Berlim. O mundo depois de 1989 parecia diferente. “Quando falo de exaustão, é no sentido de a minha geração ter passado tanto tempo a pensar neste contexto, que dificilmente vê como o mundo se transformou após 1989. Não só o pensamento mudou, como os argumentos são outros. Por isso, a minha filha Naomi Ishiguro [de 28 anos], que também é uma romancista publicada e contista, costuma ter discussões comigo em que me diz que sou um exemplo típico da minha geração, não entendo nada sobre alterações climáticas, uma questão urgente para a sua geração.”
Para esta geração que tem agora 30 anos, não se trata de uma questão intelectual. Há nela também um sentimento de raiva e de traição em relação a esses temas. “Naomi várias vezes me tem dito: ‘É uma pessoa brilhante, pai, mas até você é muito complacente e só faz o mínimo em relação às alterações climáticas, não está motivado, não entende os temas’. Ela tem absoluta razão. 'Klara e o Sol' tem aspectos relacionados com as alterações climáticas. Mas não me saberei defender se alguém disser que está tratado com superficialidade ou se é uma forma muito simplista de pegar no tema.”
Também a natureza do capitalismo mudou com o advento do big data. Google, Facebook, Amazon, Apple operam de acordo com um modelo de negócio diferente. “Ficam com dados que nem sabíamos que tínhamos e isso tornou-se o novo ‘petróleo’. Permitimos que esses dados nos sejam tirados para usufruirmos de coisas grátis como as conferências Zoom na atualidade. Achamos que não nos vai custar nada, mas há uma transição em curso. Para uma pessoa da minha idade é muito difícil entender isso. Não consigo ver o mundo muito bem como ele é agora, porque passei muito tempo a crescer no mundo antigo.”
"Klara e o Sol" é o resultado da visão desse escritor exausto que pertence a uma geração anterior e faz um esforço para olhar para o mundo pós-Guerra Fria, este novo mundo, e tudo o que consegue ver é nevoeiro e pequenas sombras. Mas está esperançoso com esta nova geração de escritores: serão capazes de ver mais claramente o novo mundo que se inaugura. Vão saber como expressar esses medos e esperanças na literatura. Esta tornar-se-á diferente da sua forma atual, aparecerão novos gêneros e estilos diferentes. O que, para o autor de "Os Vestígios do Dia", é muito entusiasmante.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.