Antes da demissão do presidente-executivo da OpenAI, Sam Altman, na última sexta-feira (17), vários pesquisadores da equipe escreveram uma carta ao conselho de administração alertando sobre uma poderosa descoberta no campo da inteligência artificial (IA) que, segundo eles, poderia ameaçar a humanidade, disseram duas pessoas familiarizadas com o assunto à Reuters.
A carta e o algoritmo de IA foram os principais desenvolvimentos antes de o conselho de administração da OpenAI decidir demitir Altman, o garoto-propaganda da IA generativa, tecnologia por trás do ChatGPT, disseram as duas fontes. A demissão levou funcionários da empresa a ameaçarem demissão coletiva e Altman foi recontratado na quarta-feira (22).
As fontes citaram a carta como um fator entre uma lista mais longa de queixas da diretoria que levou à demissão de Altman, entre as quais preocupações com a comercialização de avanços de IA antes do entendimento das consequências do uso da tecnologia. A Reuters não conseguiu analisar uma cópia da carta. Os funcionários que escreveram o texto não responderam a pedidos de comentários.
Depois de ser contatada pela Reuters, a OpenAI, que se recusou a comentar, reconheceu em uma mensagem interna para os funcionários um projeto chamado Q* e uma carta para a diretoria antes dos eventos do fim de semana, disse uma das fontes.
Um porta-voz da OpenAI disse que a mensagem, enviada pela executiva Mira Murati, que chegou a ser nomeada para o lugar de Altman, alertava a equipe sobre certas reportagens da imprensa sem comentar sobre sua precisão.
Uma das fontes afirmou à Reuters que algumas pessoas da OpenAI acreditam que o projeto Q* (pronuncia-se Q-Star) pode ser um avanço na pesquisa da empresa sobre o que é conhecido como inteligência artificial geral (AGI). A OpenAI define AGI como sistemas autônomos que superam os humanos na maioria das tarefas de valor econômico.
De acordo com a fonte, o novo modelo tem vastos recursos de computação e foi capaz de resolver determinados problemas matemáticos. Apesar de realizar apenas cálculos matemáticos no nível de alunos do ensino fundamental, o fato de o modelo ser bem-sucedido em tais testes deixou os pesquisadores muito otimistas quanto ao sucesso futuro do projeto Q*.
A Reuters não conseguiu verificar de forma independente os recursos do projeto Q* alegados pelos pesquisadores.
"Véu de ignorância"
Os pesquisadores consideram a matemática como a fronteira do desenvolvimento da IA generativa, já que ela é boa em escrita e tradução de idiomas, prevendo estatisticamente a próxima palavra, e as respostas à mesma pergunta podem variar muito. Mas conquistar a capacidade de fazer contas —em que há apenas uma resposta certa— implica a IA ter maior capacidade de raciocínio, semelhante à inteligência humana. Isso poderia ser aplicado a novas pesquisas científicas, por exemplo, acreditam os pesquisadores de IA.
Ao contrário de uma calculadora que pode resolver um número limitado de operações, a AGI pode generalizar, aprender e compreender.
Em sua carta ao conselho, os pesquisadores destacaram a proeza e o perigo em potencial da IA, disseram as fontes, sem especificar as preocupações exatas de segurança apontadas na carta. Há muito tempo, cientistas da computação discutem o perigo representado por máquinas altamente inteligentes, por exemplo, se elas podem decidir que a destruição da humanidade é de seu interesse.
Os pesquisadores também indicaram o trabalho de uma equipe de "cientistas de IA", cuja existência foi confirmada por várias fontes. O grupo, formado pela combinação das equipes anteriores "Code Gen" e "Math Gen", trabalha em como otimizar os modelos de IA existentes para melhorar seu raciocínio e, por fim, realizar trabalhos científicos, disse uma das pessoas.
Altman liderou os esforços para tornar o ChatGPT um dos aplicativos de crescimento mais rápido da história e atraiu investimentos —e recursos de computação— necessários da Microsoft para se aproximar da AGI.
Além de anunciar uma série de novas ferramentas em uma demonstração neste mês, Altman, na semana passada anunciou em uma cúpula de líderes mundiais em São Francisco que ele acreditava que grandes avanços na tecnologia de inteligência artificial estavam à vista.
"Quatro vezes na história da OpenAI, sendo que a mais recente foi apenas nas últimas duas semanas, eu pude estar na sala, quando nós meio que empurramos o véu da ignorância para trás e a fronteira da descoberta para frente, e poder fazer isso é a honra profissional de uma vida", disse ele na cúpula da Cooperação Econômica Ásia-Pacífico.
Um dia depois, a diretoria da OpenAI demitiu Altman.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.