China lança IA treinada com filosofia política de Xi Jinping

A mais recente tentativa de Pequim de controlar como a inteligência artificial informa os usuários da internet chinesa foi lançada como um chatbot treinado com os pensamentos de Xi Jinping.

O mais novo LLM (grande modelo de linguagem, na sigla em inglês) do país foi treinado na filosofia política de seu líder, conhecida como "Pensamento de Xi Jinping sobre o Socialismo com Características Chinesas para a Nova Era", bem como de outros textos oficiais fornecidos pela Administração do Ciberespaço da China (ACC).

"A expertise e autoridade do conjunto de documentos garante o profissionalismo do conteúdo gerado", disse a revista do órgão responsável pela regulamentação da internet no país em uma postagem nas redes sociais na segunda-feira (20).

O esforço para garantir que a IA compreenda a filosofia de Xi ocorre enquanto os oficiais chineses se equilibram entre os rígidos controles do país sobre a liberdade de expressão, o desenvolvimento da IA e a criação de concorrentes para plataformas como o ChatGPT da OpenAI.

Por enquanto, o novo modelo está sendo usado em um centro de pesquisa sob o regulador da internet, mas pode ser lançado para uso mais amplo, de acordo com uma pessoa envolvida no projeto.

O novo modelo pode responder perguntas, criar relatórios, resumir informações e traduzir chinês e inglês, disse a postagem.

A criação do LLM segue esforços extensivos dos oficiais chineses para disseminar as ideias de Xi sobre política, economia e cultura em uma variedade de formatos.

Mais de uma dúzia de livros foram publicados em nome de Xi e seus best-sellers geralmente ocupam lugar de destaque nas feiras de livros do país.

Aplicativos de notícias populares de empresas como Tencent ou NetEase reservam espaços no topo dos feeds de usuários para artigos da mídia oficial, na maioria das vezes com Xi em destaque.

Os oficiais também exigiram que crianças de escolas a partir de 10 anos estudassem sua filosofia política.

Eles criaram o aplicativo "Estude Xi, Fortaleça a Nação" para ensinar e testar os cerca de 100 milhões de membros do partido sobre seus conhecimentos. Em 2018, suas ideias foram incorporadas à constituição do Estado.

A ACC, que liderou a emissão de regras para a IA generativa e introduziu um regime de licenciamento, exige que os provedores de IA generativa "incorporem valores socialistas centrais" e diz que o conteúdo gerado não pode "conter qualquer conteúdo que subverta o poder do Estado". As empresas são responsáveis pelo resultado de suas IAs.

Isso é um desafio particular para os desenvolvedores de modelos devido à relativamente escassa disponibilidade de conjuntos de dados em chinês para treiná-los.

A maioria dos grupos treina com informações em inglês também, introduzindo a possibilidade de a IA generativa produzir respostas que violem as regras de discurso da China.

Gigantes da tecnologia como Baidu e Alibaba garantiram que seus modelos controlam estritamente o conteúdo gerado relacionado a Xi ou a outros assuntos potencialmente sensíveis.

Os chatbots de IA generativa desses grupos geralmente pedem aos usuários para reiniciar as conversas quando questionados sobre tópicos sensíveis.

Para ajudar os desenvolvedores a lidar com o problema, a Associação de Segurança Cibernética da China, uma organização sem fins lucrativos alinhada com a ACC, lançou em dezembro o primeiro banco de dados público com 100 milhões de entradas de "dados de alta qualidade e confiáveis" para grupos usarem no treinamento de modelos.

O conjunto se baseia fortemente em regulamentações governamentais, documentos de políticas, relatórios da mídia estatal e outras publicações oficiais, de acordo com partes analisadas pelo Financial Times.

Um vários documentos da base de dados contém 86.314 menções a Xi Jinping. "Vamos nos unir mais firmemente em torno do Comitê Central do Partido com o Camarada Xi Jinping no seu núcleo", diz um trecho.

Devemos "garantir que, em pensamento, política e ação, estejamos sempre em alta sintonia com o Comitê Central do Partido com o Secretário-Geral Xi Jinping no seu núcleo", diz outro.