Um amigo está reformando seu apartamento e me perguntou se deveria colocar "automação" nele. A ideia é permitir que funções como iluminação, ar-condicionado, som ambiente e outras possam ser controladas, por exemplo, por meio de um aplicativo de celular, e de qualquer lugar.
Na hora me lembrei de um encontro com Vint Cerf –um dos fundadores da internet– em 2012. Cerf dizia que vivemos em um mundo onde não dá mais para confiar em software. Ele comentou que quando via um elevador controlado por software, engolia em seco. Nas palavras dele: "temos bilhões de dispositivos interagindo entre si. É como se estivéssemos fazendo bilhões de experimentos com pedaços de software que nunca se encontraram antes". O aviso é que estamos jogando tudo na internet, sem pensar em cibersegurança ou nas consequências imprevisíveis disso.
Para o meu amigo, eu disse que "automação" nas casas muitas vezes é feita com um nível precário de segurança. Agentes maliciosos podem interferir no funcionamento dos dispositivos. Os dados gerados podem acabar sendo monitorados, revelando a rotina da casa, quantas pessoas estão nela, se há visitantes, em quais dias e horários, por quanto tempo e assim por diante. Sem contar a alta probabilidade de que em cinco anos (ou menos) todo o equipamento estará obsoleto.
Mas há um outro caso trágico sobre a fé incondicional na tecnologia, ocorrido com os correios na Inglaterra. A empresa comprou um software para fazer a contabilidade unificada de suas 13 mil agências, a maioria operada por franqueados. Só que o software (chamado Horizon e fornecido pela Fujitsu) tinha falhas. Por exemplo, a tela algumas vezes congelava ao registrar um pagamento em dinheiro. O usuário instintivamente pressionava a tecla enter para ver se algo acontecia. Sem avisar, o software contabilizava cada aperto da tecla como um novo pagamento recebido, que nunca ocorreu.
Esse e outros erros acabaram levando a discrepâncias contábeis entre o caixa dos franqueados e a contabilidade centralizada dos correios. O resultado disso foi dramático. Os correios processaram seus franqueados acusando-os de fraude contábil. Ao todo, 900 pessoas foram condenadas por furto, estelionato e fraude. Várias delas cumpriram pena em regime fechado. Famílias foram destruídas, perderam suas casas e empregos. Foram necessários 16 anos para esclarecer tudo o que havia acontecido.
Os correios ingleses preferiram acreditar piamente no software em vez de ouvir centenas de pessoas. Só depois de uma ação coletiva proposta por 550 franqueados, organizada anos depois do início do problema, que a situação começou a ser revertida.
Em um momento em que estamos começando a entregar o controle das nossas vidas para as inteligências artificiais, o caso dos correios ingleses serve como um alerta. Inteligência artificial é software como qualquer outro. Vamos precisar trabalhar para não confiarmos nela sem maiores questionamentos. A fé incondicional na tecnologia pode ser, literalmente, uma prisão.
Já era – Apple como a empresa mais valiosa do planeta
Já é – Microsoft como a empresa mais valiosa do planeta
Já vem – Nvidia, hoje em 3º lugar, brigando pela posição da Apple e da Microsoft
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.