Armas autônomas no PL de IA colocam o país na contramão dos direitos humanos

A comissão temporária sobre inteligência artificial no Senado lançou um texto preliminar substitutivo (TPS) ao projeto de Lei 2338/23, que busca regular a matéria no país. Um dos retrocessos foi a inclusão do uso de Sistemas de Armas Autônomas (SAA).

Esta disposição, apesar de inicialmente trazer a vedação destes sistemas, limita esta proibição apenas nos casos em que não há controle humano significativo e quando os efeitos forem "imprevisíveis ou discriminados" ou quando o uso implicar em violações do Direito Internacional Humanitário (DIH), o que abre muitas brechas para a violação de direitos.

O termo "SAA" abrange qualquer tipo de sistema de armas com autonomia em suas funções críticas, a partir de uma combinação entre sensores, algoritmos e software, que podem aprender ou adaptar seu funcionamento em resposta às mudanças nas circunstâncias. Ou seja, quando postas em ação podem selecionar, encontrar e atacar alvos sem intervenção humana significativa.

Relatórios de entidades de defesa de direitos humanos diagnosticaram que armas autônomas não seriam capazes de adequar-se aos princípios de DIH, uma vez que sua aplicação pode ser complexa, subjetiva e variável de acordo com o caso e as circunstâncias do momento, especialmente em conflitos dinâmicos.

Assim, elas não seriam aptas a determinar alvos legítimos, sendo necessária a interpretação do comportamento humano e suas intenções, o que é particularmente difícil de ser inserido dentro de um código de programação, podendo, inclusive, ocasionar a morte acidental da população civil em razão da má interpretação de dados.

Questões foram levantadas na literatura especializada que denunciam um cenário de incerteza e insegurança. Afinal, quem seria responsável por uma ação errada de um robô do tipo: o agente que ordenou, o Estado proprietário, o industrial produtor da tecnologia, ou os programadores?

Tecnicamente, argumenta-se que tais aparatos podem ser programados para uma intervenção humana mais eficiente (human in the loop), mas o uso deste arsenal em ambientes não controlados, como em guerra, têm comprovado o aumento dos casos de erros e efeitos negativos que atingem todo o entorno dos locais em que estas armas atuam.

O elemento humano se torna completamente precário, se pensarmos no contexto brasileiro de desabastecimento, falta de treinamento e fortalecimento do controle Estatal sobre as polícias.

Diante do potencial danoso dos SAA, em razão das dúvidas quanto à possibilidade de cumprimento das regras de Direito Internacional Humanitário e de Direitos Humanos, os pedidos de sua proibição prévia se multiplicam.

No final de 2023, 152 estados votaram na Assembleia Geral da ONU a favor da primeira resolução sobre os perigos das armas autônomas, o que foi reafirmado em abril de 2024 em nova resolução firmada na 148ª Assembleia Geral da União Interparlamentar em Genebra.

Para o contexto brasileiro, a dimensão internacional se torna secundária pelo clima de adoção e incorporação de tecnologias usadas em conflitos bélicos em cenários de "guerra interna". Coloca-se o aparato letal contra o próprio cidadão, num exercício de internalização de uma necropolítica, em que a violência policial contra negros se torna política de Estado.

Em episódios recentes, representantes eleitos defenderam o uso de drones para disparos em ações policiais de segurança no Rio de Janeiro, inclusive com viagem para Israel para estudar possibilidade de compra destas tecnologias, que poderiam também dispor de reconhecimento facial.

Não parece razoável, por estratégia política, autorizar o uso de tecnologias falhas em detrimento de vidas, muitas das quais, negras e periféricas. Para além dos claros usos ilegítimos de tecnologias de vigilância atualmente no país, olhando para o reprovável exemplo de Israel, não há uma maneira ética ou mecanismos de prevenção e mitigação suficientes para justificar o uso desses sistemas.

O editor, Michael França, pede para que cada participante do espaço "Políticas e Justiça" da Folha sugira uma música aos leitores. Nesse texto, a escolhida por André Fernandes, Paula Guedes e Tarcizio Silva foi "Bullet in the Head Song", de Rage Against the Machine.