Estou vivendo uma imersão em inovação, tecnologia e criatividade no SXSW. São centenas de palestras simultâneas espalhadas por toda a cidade de Austin, Texas, reunindo os cérebros mais estimulantes e possivelmente estimulados do planeta. Todos oferecendo insights disruptivos e visionários sobre as tendências que irão moldar nossas realidades nos próximos anos.
A IA (inteligência artificial) está no centro do palco e questões éticas relacionadas à segurança, ao plágio e a limites de invasão de privacidade estão sendo abordadas. Por isso, já vou logo avisando que muito do que será lido a seguir vem, não da minha cabeça, mas dela: a "maledita" IA.
As ideias são um apanhado do que tenho visto por aqui, mas as explicações de termos foram copiadas do ChatGPT, com total transparência e dignidade. Aliás, este é um dos pontos importantes em nossa adaptação à vida depois da IA.
Ela está integrada a quase tudo o que fazemos, mas criar uma cultura de transparência desde já pode ser uma chave importante daqui por diante. Exemplo, nossos filhos já estão usando ChatGPT em seus trabalhos de escola, importante acostumá-los a assumir isso ao invés de tentar enganar alguém.
Cultura de transparência então é nosso primeiro valioso ponto, que precisa evoluir para capacidade apurada de identificação de erros. Não se pode acreditar piamente no que nos diz a IA. Ela não é perfeita, pelo contrário, é uma máquina de fazer tudo, mas precisa ser alimentada constantemente de dados para funcionar. E quem a alimenta de dados somos nós, com todos os nossos preconceitos, distorções e limitações intelectuais e emocionais.
Em sua palestra de enorme sucesso na conferência, a futurista Amy Webb falou do assunto e demonstrou tanto entusiasmo quanto apreensão diante das projeções.
Ela percebe a chegada de um "super ciclo tecnológico", no qual uma onda de inovações interconectadas irá provocar enormes repercussões na economia, na indústria, nas relações sociais, enfim, em todos os aspectos de nossas vidas pessoais, profissionais, públicas e privadas.
O efeito cumulativo desses avanços vai redefinir a existência humana de maneira radical. Em seu 17º relatório de Tendências Tecnológicas, Webb aborda a expansão da IA para além dos limites convencionais, gerando um crescente ecossistema conectado, capaz de inaugurar uma nova era.
Entre muitos outros temas interessantes, ela comentou sobre o perigo de uma distopia, relacionada ao uso do Apple Vision Pro. De fato, o aparelho é um computador acoplado à face humana, que não só oferece ao usuário acesso a fotos, email, vídeos, pesquisas na internet, apps como waze e assim por diante, mas também pode ler suas intenções. Ele capta até as menores reações do usuário ao analisar se as pupilas vão se dilatando ou contraindo, de acordo com seus estados emocionais. Ou seja, a máquina vai saber antes que você a reação que determinado estímulo irá lhe causar.
O fato é que as empresas irão coletar dados de forma cada vez mais apurada e sabe-se lá o que vão fazer com isso. As formas de manipulação são infinitas.
Eu tive a chance de experimentar o Apple Vision Pro e fiquei muito impressionada. Realmente é uma tela de computador ajustada ao rosto humano, que praticamente te suga para um multiverso simulado.
Imagino as implicações do uso de um aparelho como este no trânsito, por exemplo. Por um lado, o itinerário se desenha à sua frente guiando-lhe com precisão, por outro é altamente perigoso… quem resistirá à tentação de dar uma olhadinha nas redes sociais e talvez causar um grave acidente? Se as estatísticas de acidentes relacionados a pessoas digitando enquanto dirigem já são assustadoras, imagine o que pode acontecer num ambiente imersivo? Quem vai regular?
Outros perigos também se apresentam com o uso da IA generativa. O exemplo usado por Amy na palestra foi: ela pediu para que fosse gerada uma imagem de CEO e por mais que ela tentasse dar comandos, a IA insistiu em criar a imagem de um homem branco.
A representação social da mulher também já está contaminada. A menos que um pedido específico aconteça, a imagem gerada é invariavelmente de jovens magras. Qual a repercussão disso na psique das adolescentes? De que modo as distorções de imagem irão impactar a identidade de mulheres e meninas por todo o planeta?
Essas e outras questões relacionadas ao uso da tecnologia, só o futuro poderá dizer.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.