Os sistemas avançados de inteligência artificial, como o GPT da OpenAI, podem desestabilizar a democracia, a menos que os governos tomem medidas rápidas e "protejam o público", alertou o pioneiro da IA Yoshua Bengio.
O cientista, que ganhou o Prêmio Turing ao lado de Geoffrey Hinton e Yann LeCun em 2018, disse que a recente corrida das Big Tech para lançar produtos de IA tornou-se "insalubre", acrescentando que vê um "perigo para os sistemas políticos, para a democracia, para a própria natureza da verdade".
Bengio é o mais recente de um grupo cada vez maior de especialistas em IA que estão alertando sobre o lançamento apressado dos poderosos "grandes modelos de linguagem". Seu colega e amigo Hinton pediu demissão do Google este mês para falar mais livremente sobre os riscos que a IA representa para a humanidade.
Em entrevista ao Financial Times, Bengio apontou o acesso cada vez mais indiscriminado da sociedade aos grandes modelos de linguagem como uma preocupação séria, observando a atual falta de escrutínio sobre a tecnologia.
"As empresas podem alugar acesso ao ChatGPT, por exemplo", disse ele. "Seria importante que esse acesso fosse monitorado de perto para sabermos quem está usando esses sistemas, para que possamos rastrear usos potencialmente ilegais ou perigosos."
Os alertas surgem quando grupos de tecnologia correm para lançar produtos inovadores de IA generativa –software de computador que pode escrever texto e criar imagens– nos últimos seis meses. O Google revelou na semana passada um mecanismo de pesquisa renovado, alimentado por seu novo sistema de IA PaLM 2.
O software mais avançado da OpenAI apoiado pela Microsoft, o GPT-4, revelado em março, está sendo rapidamente adotado por bancos, empresas de consultoria, start-ups, instituições educacionais e governos, num esforço para aumentar a produtividade.
"A dinâmica da corrida é um círculo vicioso", disse Bengio, professor de ciência da computação na Universidade de Montreal (Canadá) e fundador do Mila, Instituto de Inteligência Artificial de Quebec.
Reguladores e governos de todo o mundo estão intensificando o escrutínio da tecnologia em meio a preocupações sobre seus possíveis abusos. O executivo-chefe da OpenAI, Sam Altman, pediu na terça-feira (16) aos legisladores dos Estados Unidos que regulamentem o campo, destacando seus temores sobre o potencial de fornecer "desinformação interativa" antes das eleições no país no próximo ano.
Mais conhecido por seu trabalho em aprendizado profundo –campo da IA que impulsionou os recentes grandes avanços no setor–, Bengio é um dos poucos pesquisadores seniores de IA que permaneceram na academia após uma significativa fuga de cérebros para empresas de tecnologia na última década.
Seu colega acadêmico LeCun juntou-se à Meta, proprietária do Facebook, em 2013, enquanto o irmão de Bengio, Samy, foi um cientista de pesquisa sênior na divisão de IA do Google durante quase 15 anos antes de sair para ingressar na Apple em 2021.
Bengio foi um dos mais de mil especialistas em IA e executivos de tecnologia a assinar uma carta aberta no mês passado pedindo uma pausa de seis meses no desenvolvimento de sistemas avançados de IA.
Embora não acreditasse que a carta funcionaria, ele disse que apoia a ideia de uma moratória. "Pelo que ouvi, existem opiniões diferentes sobre isso na OpenAI, na Microsoft e até no Google", disse Bengio. "Toda a comunidade está meio dividida sobre essa questão."
Ele observou que o desacordo entre os especialistas em IA é um sinal importante para o público de que a ciência ainda não tem as respostas. "Se discordamos, significa que não sabemos (...) se pode ser perigoso. E se não sabermos significa que devemos agir para nos proteger", disse Bengio.
"Se você quer que a humanidade e a sociedade sobrevivam a esses desafios, não podemos ter competição entre pessoas, empresas, países –e uma coordenação internacional muito fraca", acrescentou.
Os perigos em curto prazo da tecnologia incluem desinformação, preconceito insidioso e discriminação contra grupos marginalizados e minorias. Esses danos sociais são o foco de organizações de pesquisa sem fins lucrativos, como o Distributed AI Research Institute, fundado pelo ex-pesquisador de IA do Google Timnit Gebru.
Mas as ameaças de longo prazo que também preocupam pessoas como Bengio e Hinton não se referem aos chatbots de hoje –que fornecem respostas semelhantes às dos humanos. Em vez disso, eles temem que a pesquisa possa progredir rapidamente para tornar os sistemas de IA mais autônomos nesta década.
Bengio disse que a coisa mais urgente a ser feita pelos reguladores é tornar os sistemas de IA mais transparentes, incluindo a auditoria dos dados usados para treiná-los e seus resultados.
Ele também propôs, junto com outros colegas, uma coalizão internacional para financiar pesquisas de IA em áreas importantes para o público, como clima e saúde.
"Como investimentos no CERN na Europa ou em programas espaciais –essa deve ser a escala do investimento público em IA hoje para realmente trazer os benefícios da IA para todos, e não apenas para ganhar dinheiro", disse ele.
Bengio acrescentou que está discutindo ideias com Hinton sobre futuras colaborações para enfrentar esses desafios.
"No momento, há muita emoção, muitos gritos na comunidade de IA em geral. Mas precisamos de mais investigações e mais reflexão sobre como vamos nos adaptar ao que está por vir", disse Bengio. "Esse é o caminho científico."
Tradução de Luiz Roberto M. Gonçalves
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.