Alguns meses atrás, numa reunião com um executivo de inteligência artificial em San Francisco, vi um adesivo estranho no laptop dele. Era o desenho de uma criatura ameaçadora, semelhante a um polvo, com muitos olhos e um rosto amarelo sorridente preso a um de seus tentáculos. Eu perguntei o que era.
"Ah, é o Shoggoth", ele explicou. "É o meme mais importante da IA."
E com isso nossa agenda foi oficialmente descarrilada. Esqueça os chatbots e os clusters de computação –eu precisava saber tudo sobre o Shoggoth, o que significa e por que as pessoas no mundo da IA estavam falando dele.
O executivo explicou que o Shoggoth se tornou uma referência humorística entre os que trabalham em inteligência artificial como uma metáfora visual de como um grande modelo de linguagem (o tipo de sistema de IA que alimenta o ChatGPT e outros chatbots) realmente funciona.
Mas era apenas em parte uma piada, disse ele, porque também sugeria o nervosismo que muitos pesquisadores e engenheiros têm sobre as ferramentas que estão criando.
Desde então, o Shoggoth se tornou viral, ou o mais viral possível no pequeno mundo dos insiders hiper-online da IA. É um meme popular de IA no Twitter (incluindo um tuíte já excluído de Elon Musk), uma metáfora recorrente em ensaios e postagens em quadros de mensagens sobre o risco da IA e um atalho útil em conversas com especialistas em segurança de IA. Uma startup de IA, a NovelAI, disse que recentemente batizou um cluster de computadores de "Shoggy" em homenagem ao meme. Outra empresa de IA, a Scale AI, projetou uma linha de sacolas estampadas com o Shoggoth.
Shoggoths são criaturas fictícias, introduzidas pelo autor de ficção científica H.P. Lovecraft em sua novela de 1936 "Nas Montanhas da Loucura". Na história, os Shoggoths eram enormes monstros parecidos com bolhas, feitos de gosma negra iridescente, cobertos de tentáculos e olhos.
Os Shoggoths chegaram ao mundo da IA em dezembro, um mês após o lançamento do ChatGPT, quando um usuário do Twitter, @TetraspaceWest, respondeu a um tuíte sobre o GPT-3 (modelo de linguagem da OpenAI que antecedeu o ChatGPT) com uma imagem de dois Shoggoths desenhados à mão –o primeiro rotulado como "GPT-3" e o segundo como "GPT-3 + RLHF". O segundo Shoggoth tinha, empoleirado em um de seus tentáculos, uma máscara sorridente do Smiley.
Em poucas palavras, a piada era que, para evitar que os modelos de linguagem de IA se comportassem de maneira assustadora e perigosa, as empresas de IA tiveram que treiná-los para agir de maneira educada e inofensiva. Uma forma comum de fazer isso é chamada de "aprendizado por reforço a partir de feedback humano", ou RLHF (na sigla em inglês), processo que envolve pedir aos humanos para dar notas às respostas do chatbot e enviar essas pontuações de volta ao modelo de IA.
A maioria dos pesquisadores de IA concorda que os modelos treinados usando RLHF são mais bem comportados do que os modelos sem ele. Mas alguns argumentam que adaptar um modelo de linguagem dessa maneira não torna o modelo subjacente menos estranho e inescrutável. Na opinião deles, é apenas uma máscara frágil e amigável que obscurece a misteriosa fera por baixo.
@TetraspaceWest, o criador do meme, me disse em uma mensagem no Twitter que o Shoggoth "representa algo que pensa de uma maneira que os humanos não entendem e que é totalmente diferente da maneira como os humanos pensam".
Comparar um modelo de linguagem de IA com um Shoggoth, disse @TetraspaceWest, não implicava necessariamente que ele fosse mau ou senciente, apenas que sua verdadeira natureza poderia ser incognoscível.
"Eu também estava pensando sobre como as entidades mais poderosas de Lovecraft são perigosas –não porque não gostem de humanos, mas porque são indiferentes e suas prioridades são totalmente estranhas para nós e não envolvem humanos, que é o que eu acho que acontecerá com a possível IA poderosa no futuro."
A imagem do Shoggoth pegou à medida que os chatbots de IA se tornaram populares e os usuários começaram a perceber que alguns deles pareciam estar fazendo coisas estranhas e inexplicáveis que seus criadores não pretendiam. Em fevereiro, quando o chatbot do Bing ficou desequilibrado e tentou acabar com meu casamento, um pesquisador de IA que conheço me parabenizou por "vislumbrar o Shoggoth". Um colega jornalista de IA brincou dizendo que, quando se tratava de ajustar o Bing, a Microsoft tinha esquecido de colocar sua máscara sorridente.
Eventualmente, os entusiastas da IA ampliaram a metáfora. Em fevereiro, o usuário do Twitter @anthrupad criou uma versão de um Shoggoth que tinha, além de um rosto sorridente rotulado como "RLHF", um rosto mais humano rotulado como "ajuste fino supervisionado". (Você praticamente precisa de um diploma de ciência da computação para entender a piada, mas trata da diferença entre modelos gerais de linguagem de IA e aplicativos mais especializados, como os chatbots.)
Hoje, se você ouvir menções ao Shoggoth na comunidade de IA, pode ser uma piscadela para a estranheza desses sistemas –a natureza de caixa-preta de seus processos, a maneira como eles parecem desafiar a lógica humana. Ou talvez seja uma piada interna, uma abreviatura visual para poderosos sistemas de IA que parecem suspeitosamente bons. Se for um pesquisador de segurança de IA falando sobre o Shoggoth, talvez seja alguém apaixonado por impedir que os sistemas de IA exibam sua verdadeira natureza de Shoggoth.
De qualquer forma, o Shoggoth é uma metáfora poderosa que resume um dos fatos mais bizarros sobre o mundo da IA, que é que muitas pessoas que trabalham com essa tecnologia ficam um tanto perplexas com suas próprias criações. Elas não entendem totalmente o funcionamento interno dos modelos de linguagem da IA, como eles adquirem novas habilidades ou por que às vezes agem de modo imprevisível. Elas não têm certeza absoluta se a IA será boa ou má para o mundo. E algumas começaram a brincar com as versões dessa tecnologia que ainda não foram sanitizadas para consumo público –os verdadeiros Shoggoths sem máscara.
O fato de alguns especialistas em IA se referirem a suas criações como horrores de Lovecraft, mesmo como piada é incomum pelos padrões históricos. (Coloque desta forma: 15 anos atrás, Mark Zuckerberg não andava por aí comparando o Facebook a Cthulhu.)
E reforça a ideia de que o que está acontecendo na IA hoje parece, para alguns de seus participantes, mais um ato de invocação do que um processo de desenvolvimento de software. Eles estão criando os Shoggoths alienígenas inchados, maiores e mais poderosos, e esperando que haja rostos sorridentes suficientes para cobrir as partes assustadoras.
Tradução de Luiz Roberto M. Gonçalves
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.