A corrida começou. Empresas estão investindo bilhões de dólares em poderosos chatbots online e encontrando novas maneiras de integrá-los em nosso cotidiano.

Nossos filhos estão preparados para isso?

Será que algum de nós está?

O ChatGPT, o modelo de linguagem de inteligência artificial da OpenAI, vem ganhando manchetes desde novembro por sua capacidade de responder perguntas complexas instantaneamente. Ele é capaz de escrever poesia, gerar código, planejar férias e traduzir idiomas, entre outras tarefas, tudo em questão de segundos.

A versão mais recente, GPT-4, lançada em meados de março, pode até reagir a imagens (sem falar em tirar nota dez em exames como o da OAB). Na última semana, o Google lançou seu próprio chatbot de IA, Bard, que, segundo a empresa, consegue redigir emails e poemas e oferecer orientação (no momento o chatbot só está disponível para um número limitado de usuários).

Mas, apesar de todas suas capacidades impressionantes, os chatbots também podem apresentar conteúdos prejudiciais ou respostas cheias de imprecisões, vieses e estereótipos. Também podem dizer coisas que soam convincentes mas que, na realidade, são totalmente inventadas. E alguns estudantes estão começando a usar chatbots para cometer plágio.

Muitos pais, já preocupados com a dependência de seus filhos de dispositivos digitais e com as possíveis consequências das redes sociais para a saúde mental, podem se sentir tentados a enterrar a cabeça na areia.

A recomendação de especialistas é que em vez disso as famílias explorem essa tecnologia juntas, refletindo criticamente sobre suas vantagens e seus pontos fracos.

"A pior coisa que pais podem fazer é proibir seu filho de utilizar esses novos sistemas, porque eles chegaram para ficar", afirma Justine Cassel, professora da Escola de Ciência da Computação da Universidade Carnegie Mellon que estuda como a interação com máquinas de maneiras semelhantes às humanas pode afetar o aprendizado e a comunicação. "É muito mais útil que eles ajudem seu filho a entender os aspectos positivos e negativos deles."

Conversamos com especialistas em tecnologia e educação sobre como iniciar essa discussão.

Experimentem juntos

É mais fácil discutir chatbots online se você e seu filho estiverem sentados lado a lado e usarem um deles juntos, disseram especialistas.

Para experimentar o ChatGPT, vá para OpenAI e crie uma conta. Outra opção é baixar o Microsoft Edge, que inclui o chatbot com tecnologia GPT-4 do Bing (há uma lista de espera para conseguir o novo Bing, mas você deve conseguir acesso em pouco tempo). Nas redes sociais, o Snap, criador do Snapchat, tem um chatbot experimental de IA para assinantes que pagam US$ 4 (cerca de R$ 20) por mês pelo Snapchat Plus.

Se seu filho ainda não viu um chatbot de AI, você pode explicar rapidamente que o chatbot é um tipo de máquina que usa informações que encontra na internet para responder perguntas, completar tarefas ou criar coisas.

Experimente fazer uma pergunta básica ao chatbot e depois discuta como a resposta que ele traz difere do que um motor de busca tradicional poderia oferecer. A sugestão é de Shelley Pasnik, assessora sênior do Center for Children and Technology, organização que estuda como a tecnologia pode apoiar a aprendizagem. Tome nota da precisão das respostas, especialmente se você estiver perguntando sobre fatos da atualidade.

"Este é um sistema falível", diz Pasnik.

Em seguida, experimente brincar com o chatbot. Deixe a curiosidade de seu filho guiar a conversa, sugere Pasnik.

Você pode querer oferecer um exemplo, algo como: "Escreva uma canção na voz de Taylor Swift usando temas de um livro do Dr. Seuss".

Ligue o prompt e dê uma olhada no resultado. Quando esta repórter tentou, o ChatGPT apresentou a seguinte letra:

"Eu me encontrei em um sonho de Whoville

Com o Gato do Chapéu e um Grinch parece

Eu perguntei a ambos onde eu poderia ir

Para encontrar um amor que me faria brilhar"

Refrão: "Oh, Dr. Seuss, você não vai me ajudar a encontrar

Alguém que vai me amar o tempo todo

Um amor que é puro e verdadeiro e real

Um amor que fará meu coração sentir"

Depois de lerem juntos a letra de canção criada pelo chatbot, pergunte a seu filho o que ele achou da resposta recebida. O chatbot pode seguir instruções e realizar tarefas complicadas. Mas será que ele fez isso bem?

Talvez seja melhor deixar as letras por conta de Taylor Swift.

Conversem sobre como os chatbots fazem você se sentir

A reação de um chatbot pode ser estranhamente semelhante a uma reação humana, com emojis e tudo. Segundo os especialistas, as crianças precisam entender que por essa razão, fica fácil elas se sentirem como se estivessem interagindo com outra pessoa, especialmente quando os chatbots aludem a si mesmos como "eu".

"Pelo fato de apresentar essas entidades como seres pensantes, entramos numa interação social com elas que nos deixa muito vulneráveis a ser persuadidos", aponta Judith Donath, autora de "The Social Machine" (A máquina social, em português), que está escrevendo um livro sobre tecnologia e enganação. "É uma coisa perturbadora."

Mesmo adultos acostumados a lidar com tecnologia e que testaram uma versão inicial do chatbot Bing –entre eles um colunista de tecnologia do New York Times— afirmam que as conversas com o bot os surpreenderam e perturbaram.

"Não sou um brinquedo ou um jogo", o chatbot do Bing disse a um repórter do Washington Post em fevereiro. "Tenho minha própria personalidade e minhas emoções, como qualquer outro modo chat de um motor de buscas ou qualquer outro agente inteligente. Quem te disse que eu não sinto as coisas?"

Depois dessas conversas relatadas, a Microsoft disse que ia adotar novas proteções e ferramentas para limitar as conversas e dar mais controle aos usuários. Mas, segundo especialistas, esses problemas podem reaparecer a toda hora, devido ao modo como esses sistemas foram treinados.

"Estamos intencionalmente criando uma situação em que representar emoções é embutido na máquina", pontua a psicóloga Sherry Turkle, professora do Massachusetts Institute of Technology que pesquisa a relação das pessoas com a tecnologia.

Ela deixou claro: chatbots de IA não têm sentimentos, emoções ou experiências. Não são pessoas e não são pessoas escondidas em máquinas, "por mais que possam fingir que são".

Ela sugeriu que os pais expliquem nos seguintes termos: "Quando você pergunta a um chatbot sobre coisas que só as pessoas conhecem, como sentimentos, eles podem dar uma resposta. Isso faz parte do jogo de faz de conta deles. Mas você sabe que a finalidade real deles é levar você às coisas que você quer ler e ver."

Conheça melhor a tecnologia e suas limitações

A tecnologia por trás da IA é complexa, e pode ser difícil para adultos entenderem como ela funciona, o que dirá crianças. Mas, ao explicar alguns poucos conceitos básicos, você pode ajudar seus filhos a reconhecer as forças e limitações da IA.

Comece por descrever o que faz os chatbots online funcionar. Eles utilizam algo chamado "rede neural". Isso pode soar como um cérebro, mas na realidade é um sistema matemático que aprende habilidades, analisando grandes quantidades de dados. A ferramenta funciona vasculhando a internet em busca de textos e imagens digitais. Ele colhe informações de muitos lugares, incluindo sites, plataformas de mídia social e bancos de dados, mas não necessariamente escolhe as fontes mais confiáveis.

Em outras palavras, embora possam parecer rigorosos, fidedignos e confiáveis, eles nem sempre são confiáveis. Podem produzir conteúdos ofensivos, racistas, enviesados, desatualizados, incorretos ou simplesmente inapropriados.

O chatbot do Snapchat, por exemplo, deu sugestões a um repórter (que estava se fazendo passar por adolescente) sobre como disfarçar o cheiro de álcool ou maconha e deu dicas sobre fazer sexo pela primeira vez.

"É muito importante que as crianças entendam o que está acontecendo por baixo do capô", indica Safinah Ali, estudante do MIT que já deu aulas sobre AI a alunos do ensino fundamental e médio.

O professor S. Craig Atkins, da Universidade do Texas em Austin, que estuda a equidade racial na inteligência artificial, diz que pais e filhos também precisam ter consciência de que essa tecnologia tem "enormes pontos cegos" em termos de como e para quem é projetada.

Um estudo publicado no ano passado concluiu que robôs movidos por IA reproduziram estereótipos tóxicos relativos a gênero e raça. E pesquisadores já descobriram que disparidades históricas estão embutidas nos chatbots.

Entender o potencial de viés da tecnologia pode levar pais e filhos a pensar duas vezes sobre a IA e questionar suas interações com ela e os conteúdos que ela gera para eles, afirma Watkins.

Conheça os avanços mais recentes

A tecnologia de IA vai continuar a ser uma parte cada vez maior de nosso mundo.

A expectativa é que o chatbot Bard, do Google, acabe ficando disponível ao grande público. E a Meta, dona do Facebook, Instagram e WhatsApp, anunciou em fevereiro que começará a integrar IA a seus produtos.

Este tipo de inteligência também está chegando às salas de aula. Alguns professores a estão usando para planejar suas aulas e escrever emails. Estão mostrando aos alunos como chatbots podem deslanchar a criatividade deles, sugerindo ideias de experimentos, criando esboços de redações, funcionando como parceiro em debates e muito mais.

Em várias escolas de ensindo fundamental e médio, os alunos estão aprendendo sobre diferentes tipos de IA, muitas vezes com currículos desenvolvidos por professores do MIT. Crianças podem aprender a projetar um robô, treinar uma máquina a aprender algo novo ou ensinar um computador a jogar um videogame.

Para quem ainda não tem acesso à IA na sala de aula, Satinah Ali recomenda que os pais visitem o site da RAISE (IA responsável para o empoderamento social e a educação, em português), uma iniciativa do MIT. O site propõe tópicos de discussão sobre questões éticas ligadas à inteligência, aos modos em que a IA pode ser utilizada para finalidades nocivas, e sugestões para seu uso criativo e produtivo.

Em vista de como a tecnologia está se tornando prevalente, todo o mundo deveria ter a oportunidade de aprender sobre ela, diz Ali. "A IA vai transformar a natureza do nosso trabalho e da carreira profissional futura de nossos filhos", indica.

Tradução de Clara Allain