A inteligência pode ser artificial, mas o risco é real. Os robôs da "IA generativa" inventam respostas para perguntas que não sabem responder ---"respostas" que podem levar à perda de milhões em dinheiro, de projetos inteiros e até de vidas. E não sou eu que o digo, mas os técnicos da start-up Vectara, formada por ex-funcionários do Google. Segundo eles, a margem de erro das respostas desses robôs pode chegar a 27%. Você confiaria sua vesícula biliar a um gastroenterologista que errasse 27% dos diagnósticos?

Parece grave, mas, numa tirada jocosa, os rapazes atribuem isso a uma "alucinação" que acometeria os robôs, uma espécie de samba do algoritmo doido. Não é não. Alucinação foi o que aconteceu a Hal-9000, o computador de "2001: Uma Odisséia no Espaço", de Stanley Kubrick, obrigando os astronautas a desligá-lo em pleno voo. O que os robôs estão fazendo é errar e mentir, por irresponsabilidade ou maldade.

A confirmar isso, os técnicos informam que as "IAs generativas" não foram feitas para serem "factuais", ou seja, exatas. Ao contrário, são estimuladas a exercer "uma pitada de criatividade para humanizar a interação". Significa que, sem saber direito uma resposta, o robô produz outra por analogia, para não decepcionar o cliente. Exemplo: pergunta-se sobre medicação via oral e ele, numa pitada de criatividade, responderá sobre sexo oral.

Os robôs brincalhões podem estar interferindo em decisões médicas, judiciais, científicas, políticas, comerciais, educativas, quem sabe ideológicas, e gerando fake news. E não sei se surtirá efeito educá-los como se faz com as crianças: "Você não pode inventar uma resposta quando não souber!". Em caso de desobediência, como puxar-lhes as orelhas?

Prefiro acreditar que, parafraseando a frase de 1968, de que não se podia confiar em ninguém com mais de 30 anos, hoje não se deve confiar é em robôs com menos de 30 anos.