A intenção da Prefeitura de São Paulo de usar câmeras de reconhecimento facial para monitorar infrações expõe uma lacuna séria de regulação: o Brasil não tem regras para uso de inteligência artificial (IA).
Soluções com base em inteligência artificial já causam disrupções em mercado de trabalho, propriedade intelectual e privacidade, e há no país mais de 700 startups especialistas em inteligência artificial —esse é o dado mais recente da plataforma Distrito, de 2021, mas o número deve ter crescido com o fenômeno mundial ChatGPT.
Para especialistas, é preciso proteger consumidores, empregados e cidadãos e garantir, ao mesmo tempo, segurança jurídica para negócios inovadores.
O Brasil ainda está em fase inicial de desenvolvimento de sua estratégia e marco regulatório para a IA, quando comparado com países desenvolvidos e a China.
No Senado, tramitam três propostas legislativas para tapar esse vácuo jurídico. Elas aguardam despacho do Secretário-Geral da Mesa, Gustavo Sabóia Vieira, que responde ao presidente da casa Rodrigo Pacheco (PSD-MG). Os próximo destinos desses textos serão as comissões competentes, onde será designado relator para as pautas.
O projeto de lei 21/2020, já aprovado na Câmara dos Deputados, enuncia princípios que deveriam guiar a aplicação da IA no país —respeito à dignidade humana, transparência nos algoritmos e proteção de dados pessoais. Agora, está em apreciação pelos senadores, sob o número 872/2021. O PL 5.051/2019 apresenta texto similar e foi apensado à pauta.
A aprovação do PL 21/2020, sob críticas de especialistas pela rapidez com que avançou e por sua vaguidão, levou o Senado a instaurar, em fevereiro de 2022, uma comissão de juristas para debater a regulação de inteligência artificial. Esse grupo de especialistas preparou uma minuta de substitutivo para complementar o projeto que chegou da Câmara.
Essa minuta de substitutivo elaborada por 18 juristas tem uma abordagem mais normativa e a recomendação de proibir tecnologias de reconhecimento facial e rating social —uma nota similar ao score de crédito, voltado ao comportamento em público.
O relatório de 900 páginas elaborado pela comissão de 18 juristas foi aprovado no último mês de dezembro e vai servir para subsidiar a discussão das propostas em andamento. O futuro relator dos projetos vai decidir se apresenta o substitutivo.
O texto brasileiro inova ao propor um sistema de direitos individuais, de acordo com a diretora do InternetLab Mariana Valente, que participou do grupo de especialistas. Seria possível, por exemplo, de obter indenização do administrador da plataforma de IA no caso de um dano causado pelo sistema.
Para a Abria (Associação Brasileira de Inteligência Artificial), uma regulamentação rígida demais pode prejudicar a inovação e a competitividade das empresas. "É necessário encontrar um equilíbrio entre a necessidade de regulamentação e a promoção da inovação e competitividade".
Membro da comissão de juristas, o diretor fundador do Data Privacy Brasil Bruno Bioni afirma que, segundo a sugestão enviada ao Congresso, o rigor das normas variaria conforme o risco ligado ao recurso de inteligência artificial em discussão. Reconhecer criminosos teria risco excessivo e deveria ser somente autorizado mediante uma previsão legal específica. Para recrutamento automatizado de funcionários, o risco seria alto e a transparência precisaria de ser reforçada com explicação do funcionamento do algoritmo. Os chatbots teriam risco baixo.
Por que é importante haver regulamentação?
O aparato regulatório é o grande responsável por trazer segurança jurídica a uma atividade econômica.
De acordo com a pesquisadora do Centro de Ciências Sociais de Berlim, Clara Keller, empreendedores precisam de previsibilidade em relação aos riscos do negócio, e a organização do setor permite maior planejamento e investimento público e privado. "Um marco regulatório seguro e compreensivo seria um elemento a favor do desenvolvimento dessas tecnologias no Brasil".
Para Bioni, do DataPrivacy Brasil, é uma falácia que a regulação pode atrapalhar a inovação. "Pode ser uma mola propulsora da inovação, quando as normas são desenvolvidas com esse fim". A LGPD, por exemplo, garantiu aos operadores de dados segurança nos negócios.
O professor da FGV (Fundação Getúlio Vargas) Luca Belli afirma, entretanto, que os legisladores brasileiros devem considerar a economia local, antes de aprovar uma regulação mais estrita. "Esta configuração para mim é a pior: copiar a regulação da Europa e não produzir a mesma inovação do que China ou Estados Unidos".
Algum país já tem marco regulatório para IA?
Não existe país com um marco regulatório voltado à inteligência artificial. Existem propostas em diferentes estágios de discussão como na União Europeia e no Brasil e leis estaduais referentes a recursos específicos de IA como nos Estados Unidos.
Na Holanda, por exemplo, o governo legou ao órgão homólogo à ANPD (Agência Nacional de Proteção de Dados) a responsabilidade de lidar com violações relacionadas à inteligência artificial.
Na China, a regulação cabe à Administração do Ciberespaço da China, responsável pela internet no país.
O que diz a proposta da União Europeia?
Na proposta em análise na União Europeia, a inteligência artificial é vista como um produto, que precisa passar por processos de avaliação e certificação antes da entrada no mercado.
São banidos os usos de IA que representam riscos considerados inaceitáveis: sistemas com objetivo de manipular pessoas, explorar vulnerabilidade de grupos específicos, recursos de pontuação social e identificação biométrica em tempo real e à distância.
Clara Keller diz que o atual projeto de regulação europeu é criticado por tratar a IA como mero produto, ignorando como essas tecnologias, uma vez integradas às nossas sociedades, podem afetar direitos e relações jurídicas de formas múltiplas e nem sempre desejáveis.
O modelo europeu não apresenta um sistema de direitos individuais, como a proposta brasileira.
Empresários locais têm pressionado contra trecho que determinaria a obrigatoriedade de compreensão dos algoritmos de inteligência artificial pela população. Esse grupo argumenta que a condição inviabilizaria os negócios, porque a IA funciona por operações probabilísticas inteligíveis apenas para máquinas, segundo Luca Belli, da FGV.
Como é a regulação nos Estados Unidos?
Os legisladores norte-americanos têm deixado aos estados a responsabilidade de criar normas específicas para recursos de inteligência artificial.
De acordo com Bioni, do Data Privacy Brasil, essa regulamentação também varia por setor e uso. A cidade de São Francisco, na Califórnia, por exemplo, proíbe sistemas de vigilância com inteligência artificial e identificação de dados biométricos.
As próprias empresas também desenvolvem governanças internas para mitigar riscos no desenvolvimento da tecnologia. O Google diz seguir dez princípios no desenvolvimento de aplicações de inteligência artificial, entre os quais estão evitar reforçar preconceitos, promover testes de segurança e compreensão para o público.
Como é a regulação na China?
Na China, o órgão regulador da internet obriga as empresas de tecnologia a revelarem seus algoritmos, inclusive de inteligência artificial. Desde março de 2022, a Administração do Ciberespaço da China têm analisado se os recursos usados pelas plataformas locais são morais, éticos, transparentes e se permitem prestação de contas.
O governo chinês, por outro lado, cria oportunidades para pequenas empresas testarem tecnologias inovadoras sem terem de atender a regulação vigente de forma integral —o modelo é chamado de sandbox regulatório e visa incentivar a inovação, de acordo com Luca Belli, da FGV.
Que usos de IA já estão sendo feitos no país sem que haja uma regulação prévia?
No Brasil, tecnologias de inteligência artificial já são empregadas para calcular pontuações de crédito em instituições financeiras, selecionar currículos de candidatos e em algoritmos de redes sociais, como o TikTok.
Governos locais também contratam esses serviços. O estado de São Paulo usa tecnologia de reconhecimento facial para monitorar a linha 3 do Metrô. A prefeitura da capital paulista tem tentado implementar um sistema de monitoramento com 20 mil câmeras embarcadas com dispositivos de inteligência artificial, que pode violar direitos de minorias, de acordo com Tribunal de Contas Municipal.
A Secretaria de Segurança Pública do Distrito Federal também usa inteligência artificial para aumentar a precisão de tornozeleiras eletrônicas e emissão de alertas em caso de comportamento anormal de detentos.
Reconhecimento facial, algumas ferramentas de moderação de conteúdo usadas em redes sociais, e em alguns casos esses sistemas são usados até no âmbito de serviços públicos.
Enquanto não se aprova um marco legal, quem regula a IA no Brasil?
Órgãos estatais precisam fazer valer a legislação vigente. A ANPD (Autoridade Nacional de Proteção de Dados), por exemplo, precisa acompanhar o tratamento dos dados utilizados para treinar redes neurais por trás dos novos algoritmos.
Segundo a diretora do conselho diretor da ANPD (Autoridade Nacional de Proteção de Dados), Miriam Wimmer, a ANPD pode escolher regulamentar práticas em inteligência artificial ou apenas expedir guias, recomendações e orientações práticas para facilitar o cumprimento da LGPD (Lei Geral de Proteção de Dados) por parte das organizações. Isso ainda não está definido.
Cade (Conselho Administrativo de Defesa Econômica), Senacon (Secretaria Nacional do Consumidor), Anatel (Agência Nacional de Telecomunicações) e Justiça do Trabalho têm de fazer o mesmo nas suas respectivas áreas.
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.