Desenvolvedores de inteligência artificial (IA) do Google encontraram recentemente uma misteriosa "caixa preta".
Os engenheiros estavam trabalhando em um software de IA que inesperadamente ganhou a capacidade de entender um novo idioma.
"Descobrimos que, com muito pouca informação sobre o bengali [a língua oficial de Bangladesh], agora você pode traduzir tudo para esse idioma", afirmou James Maneka, chefe da divisão de IA do Google, ao programa 60 Minutes da rede de televisão americana CBS.
Ao comentar sobre o assunto, o CEO do Google, Sundar Pichai, disse que essa capacidade dos programas de IA de gerar habilidades ou fornecer respostas de maneiras inesperadas é o que os especialistas chamam de "caixa preta".
"Você não entende muito bem. Você não pode realmente dizer por que [o robô] disse isso ou por que errou. Temos algumas ideias e nossa capacidade de entender o assunto melhora com o tempo", apontou.
O desenvolvimento da inteligência artificial acelerou bastante nos últimos anos. Grandes empresas de tecnologia estão investindo somas significativas para criar chatbots —como o Bard, do Google, ou o ChatGPT, da OpenAi e da Microsoft.
Mais recentemente, o bilionário Elon Musk anunciou que também entraria nesse ramo.
Ao mesmo tempo, especialistas em IA apontam que essa corrida pode causar riscos se a tecnologia não for controlada pelos desenvolvedores.
Um desses controles é justamente entender como elas aprendem habilidades para as quais não foram treinadas.
E essa é a grande caixa preta desse ramo da tecnologia.
A CAIXA BRANCA
A ideia da caixa preta serve de oposição ao que os especialistas em IA chamam de caixa branca.
Ian Hogarth, cofundador da empresa de tecnologia Plural e autor do livro The Status of AI Reports ("Os Status de Relatórios de IA", em tradução livre), explica à BBC que, quando os desenvolvedores criam um programa de maneira "tradicional", as linhas de código inseridas são claramente refletidas no resultado que o software obtém.
"Às vezes as pessoas descrevem isso como uma caixa branca", diz ele.
"Porém, na IA, os sistemas são realmente muito diferentes. Eles estão mais próximos de uma caixa preta de várias maneiras, porque você realmente não entende o que está acontecendo lá dentro", acrescenta.
E geralmente os programadores não esperam resultados tão criativos de suas criações.
"Gosto de pensar que nós fazemos o desenvolvimento da IA. Essa é a melhor ideia que ouvi sobre como construímos os sistemas usados hoje. E a parte difícil é que, agora, há grandes saltos nas capacidades deles", explica ele.
Ao contrário da programação de software mais tradicional —que é baseada na implementação de instruções para obter um resultado— no desenvolvimento de IA os engenheiros trabalham para chegar a um sistema que imite as "redes neurais" da inteligência humana.
Isso envolve um grande número de processadores interconectados que podem lidar com grandes quantidades de dados, detectar padrões entre milhões de variáveis usando aprendizado de máquina e, o mais importante, adaptar-se em resposta ao que estão fazendo.
David Stern, gerente de pesquisa quantitativa da G-Research, uma empresa de tecnologia que usa aprendizado de máquina para prever preços nos mercados financeiros, adverte que "o progresso mais rápido na pesquisa de IA nos últimos anos envolveu um foco em caixas-pretas cada vez mais orientadas por dados".
"Na abordagem de rede neural atualmente em alta, esse procedimento de treinamento determina a configuração de milhões de parâmetros internos que interagem de maneiras complexas e são muito difíceis de explicar ou de fazer a engenharia reversa", diz o especialista.
Outra tendência é o "aprendizado por reforço profundo", no qual um "designer simplesmente especifica os objetivos de comportamento e o próprio sistema aprende automaticamente ao interagir diretamente com o ambiente", acrescenta.
"Isso resulta em um sistema que é ainda mais difícil de compreender."
DEVEMOS NOS PREOCUPAR
As novas capacidades dos robôs que foram lançadas recentemente têm levantado questões sobre as diversas formas pelas quais eles influenciarão a sociedade, desde impactos no mercado de trabalho até o controle de processos de segurança pública ou no campo militar.
No programa 60 Minutes, o CEO do Google foi questionado sobre o fato de os engenheiros não entenderem completamente como as coisas acontecem na caixa preta, mesmo com chatbots como o Bard em pleno funcionamento.
"Acho que também não entendemos completamente como a mente humana funciona", respondeu Sundar Pichai, que vê a chegada gradual da IA à sociedade como uma forma de se acostumar com ela.
"Acho que desenvolver isso precisa incluir não apenas engenheiros, mas também cientistas sociais, especialistas em ética, filósofos e assim por diante", sugeriu Pichai.
"E temos que ser muito atenciosos. Essas são as coisas que a sociedade precisa descobrir à medida que avançamos. Não cabe a nós como empresa decidir", disse ele.
Ian Hogarth também acredita que a IA acabará afetando a vida das pessoas —e um diálogo aberto sobre os impactos dessas tecnologias é necessário.
"Acho que elas têm um potencial notável para transformar todos os aspectos de nossas vidas. De certa forma, talvez elas sejam as tecnologias mais poderosas hoje", avalia o especialista.
"O ponto principal é que deveríamos ter uma discussão pública sobre a rapidez com que esses sistemas estão progredindo e quais são as diferenças em relação às gerações anteriores desses softwares", conclui Hogarth.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.