O CEO da OpenAI, startup por trás do ChatGPT, disse a um painel do Senado dos Estados Unidos nesta terça-feira (16) que o uso de inteligência artificial para interferir na integridade eleitoral é uma "área significativa de preocupação", acrescentando que o setor precisa de regulamentação.
"Estou nervoso com isso", disse Sam Altman sobre eleições e IA. "Acho que também precisamos de regras, diretrizes sobre o que se espera em termos de divulgação de uma empresa que fornece um modelo".
Durante meses, grandes e pequenas empresas correram para oferecer uma IA cada vez mais versátil ao mercado, lançando infinitos dados e bilhões de dólares no desafio. Alguns críticos temem que a tecnologia potencialize os danos sociais, entre eles o preconceito e a desinformação, enquanto outros alertam que a IA pode acabar com a própria humanidade.
"Não há como colocar esse gênio na garrafa. Globalmente, isso está explodindo", disse o senador Cory Booker, um dos muitos legisladores com dúvidas sobre a melhor forma de regulamentar a IA.
A senadora Mazie Hirono observou o perigo de desinformação à medida que as eleições de 2024 se aproximam.
"No contexto eleitoral, por exemplo, vi uma foto do ex-presidente Trump sendo preso pelo NYPD [Polícia de Nova York] e isso se tornou viral", disse ela, questionando Altman se ele consideraria a imagem falsa prejudicial.
Altman respondeu que os criadores devem deixar claro quando uma imagem é gerada em vez de factual.
Em audiência no Congresso pela primeira vez, o CEO sugeriu que, em geral, os EUA deveriam considerar os requisitos de licenciamento e teste para o desenvolvimento de modelos de IA.
Em depoimento por escrito, Altman defendeu os requisitos de licenciamento ou registro para IA com determinados recursos. Dessa forma, os EUA poderiam exigir que as empresas cumpram os padrões de segurança, por exemplo, testando sistemas antes de seu lançamento e publicando os resultados.
A Casa Branca convocou os principais CEOs de tecnologia, incluindo Altman, para abordar a IA, assim como os parlamentares dos EUA também buscam ações para promover os benefícios da tecnologia e a segurança nacional, limitando seu uso indevido. O consenso está longe de ser alcançado.
Um funcionário da OpenAI propôs recentemente a criação de uma agência de licenciamento nos EUA para IA, que poderia ser chamada de Escritório para Segurança e Infraestrutura de IA, ou OASIS, na sigla em inglês, informou a Reuters.
Altman disse que regular a inteligência artificial (IA) é "crucial" para limitar os riscos do uso dessa tecnologia.
Ele pediu que o Congresso imponha novas regras às grandes empresas de tecnologia, apesar das profundas divisões políticas que têm bloqueado durante anos a legislação destinada a regulamentar a internet.
"Acreditamos que a intervenção regulatória dos governos será crucial para mitigar os riscos de modelos cada vez mais potentes", avaliou o empresário de 38 anos.
"É fundamental que a IA mais potente se desenvolva com valores democráticos, o que significa que a liderança dos Estados Unidos é determinante", afirmou, ao testemunhar sobre o impacto da IA perante um subcomitê judicial do Senado.
O lançamento do ChatGPT, em novembro, aumentou o interesse do público, mas também das empresas, na chamada IA generativa, ou seja, aquela capaz de criar conteúdo, textos, imagens, sons e vídeos.
A IA generativa desperta paixões e muitas pessoas se preocupam com seu impacto potencial em muitas profissões, com possíveis cortes maciços de empregos, e fundamentalmente no conjunto da sociedade.
"A OpenAI foi fundada com a crença de que a inteligência artificial tem o potencial de melhorar quase todos os aspectos das nossas vidas, mas também cria sérios riscos", admitiu Altman.
"Um dos meus maiores medos é que nós, esta indústria, esta tecnologia, causemos um dano significativo à sociedade", disse. "Se esta tecnologia for pelo caminho errado, pode ir muito longe (...) E queremos trabalhar com o governo para evitar que isto ocorra".
O empresário lembrou que, embora a OpenAI, companhia que criou o ChatGPT, seja uma instituição privada, é controlada por uma organização sem fins lucrativos, o que a obriga a "trabalhar para uma distribuição ampla dos benefícios da IA e maximizar a segurança dos sistemas baseados em IA".
Altman tem expressado regularmente seu apoio ao estabelecimento de um marco regulatório para a IA, preferencialmente em nível internacional.
"Sei que parece ingênuo propor algo assim, parece muito difícil" de se conseguir, mas "há precedentes", assegurou, dando como exemplo a Agência Internacional de Energia Atômica (AIEA).
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.