Em um desenvolvimento inevitável do embate entre a marcha da inteligência artificial e a natureza dos regimes políticos, a China divulgou nesta quinta (13) regras para garantir que os aplicativos geradores de conteúdo adotem "valores socialistas fundamentais".
A segunda maior economia do mundo é uma ditadura controlada pelo Partido Comunista Chinês, na qual há uma tensão constante entre os limites individuais, que tendem a ser expandidos pela tecnologia, e o desejo crescente do regime de manter o controle social.
As regras do "ChatGPT comunista" passam a valer no dia 15 de agosto e foram condensadas pela Administração do Ciberespaço da China, uma agência que une sete órgãos reguladores.
O texto afirma que os serviços de IA não podem gerar conteúdo "que incite a subversão do poder do Estado e a derrubada do sistema socialista, que coloque os interesses e a segurança nacional em perigo, que afete a imagem do país, incite secessão, mine a unidade nacional e a estabilidade social, promova terrorismo, extremismo, ódio nacional e discriminação ética, violência, obscenidade e pornografia".
É um pacote que parece desafiar a própria noção da IA, cuja evolução depende em certa medida da quantidade de material à qual tem acesso. Em um Estado com tintas totalitárias que já bane a bel-prazer conteúdo de sua internet com o chamado Grande Firewall, referência à famosa muralha do país, parece evidente que as eventuais boas intenções serão subordinadas à conveniência política —o temor de secessão, que levou ao fim da autonomia política de Hong Kong, salta aos olhos.
Aí entra a exigência da "adesão aos valores socialistas fundamentais". O termo foi cunhado na edição de 2012 do Congresso do Partido Comunista Chinês, evento que também entronizou o líder Xi Jinping no primeiro dos seus até aqui três mandatos. Era uma diretriz acadêmica e política, de promoção propagandística de 12 valores.
Estes são divididos em grupos nacionais (prosperidade, civilidade, democracia e harmonia), sociais (liberdade, igualdade, justiça e legalidade) e individuais (patriotismo, dedicação, integridade e amizade). Aí é ao sabor do cliente, já que para habitantes de democracias liberais no Ocidente o conceito democrático chinês soa estranho.
Mas a discussão, claro, não é exclusiva do regime comunista. Nos Estados Unidos, grupos conservadores têm questionado a elaboração de algoritmos que servem de base para os programas geradores de conteúdo, sugerindo que eles promovem valores "woke" associados ao pessoal do Vale do Silício —supõe-se que estejam falando dos funcionários das big techs, não dos donos.
O G7, grupo que reúne algumas das maiores economias do mundo, criou um grupo de trabalho para tentar sugerir uma regulação própria, mas com foco na preocupação da proteção de dados dos cidadãos. A Itália, integrante do grupo, buscou regular o mais famoso dos robôs geradores de conteúdo no mercado, o ChatGPT, o que foi lido incorretamente como uma suspensão forçada.
No limite, é uma discussão análoga à dos sistemas educacionais. Na China, a democracia liberal é vista como decadente, e crianças são ensinadas que o "socialismo com características chinesas" é o futuro. No Ocidente, muito vai depender da família e da escola dos alunos. A questão é a velocidade de aprendizado e o peso que a IA já tem na economia e nas relações sociais.
No caso chinês, a IA é apenas o alvo óbvio de um sistema já em curso. O Grande Firewall, que impede o cidadão sem acesso a um serviço VPN de usar o Google, por exemplo, começou a ser desenvolvido em 1998 a partir de regras da aurora da internet no país, quatro anos antes.
Em 2021, o país editou a regulação para que algoritmos fossem politicamente adequados e, no ano passado, aplicou o mesmo para "conteúdo gerado sinteticamente".
Assim, a legislação do "ChatGPT comunista" é uma decorrência natural dessa tentativa. Com efeito, nenhum serviço de conteúdo por IA do Ocidente, como o ChatGPT ou o Google Bard, está disponível na internet chinesa. Se você digitar um termo considerado suspeito pelo regime, o sistema análogo de empresas locais como a Baidu simplesmente não responde.
O órgão regulador de Pequim admite que é um trabalho difícil de controle e propõe uma abordagem "gradativa", para evitar freios à inovação. Assim, a proposta de que infratores poderiam receber multas de até 100 mil yuans (R$ 67,2 mil) foi retirada do texto.
O país é o segundo maior investidor do mundo nessas tecnologias, com estimados US$ 13,4 bilhões (R$ 64,5 bilhões hoje) despendidos com pesquisa em 2022. Os EUA, seus arquirrivais na Guerra Fria 2.0, lideram o ranking com US$ 47,4 bilhões (R$ 228 bilhões).
Um foco central do regime são, claro, as aplicações de defesa da IA —toda a guerra comercial americana contra o fornecimento de chips avançados aos chineses passa por isso.
Os EUA começaram a correr atrás e dobraram a verba destinada à pesquisa com esses robôs em seu orçamento militar de 2024. Nos campos da Ucrânia, drones russos e ucranianos têm sistemas rudimentares para identificar alvos sozinhos, sem acesso a redes, e não há simulação do combate no futuro que não inclua sistemas autônomos —ou seja inteiramente protagonizada por eles.
Isso leva a questões éticas não muito distantes das despertadas pela educação política dos robôs. Recentemente, em um cenário descrito como hipotético, o chefe de pesquisas no campo da Força Aérea dos EUA relatou que um caça autônomo poderia matar seu operador em solo caso considerasse que ele estava atrapalhando a missão, algo ao gosto de ficções científicas como "O Exterminador do Futuro".
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.