Pode ter parecido um conclave obscuro da ONU, mas uma reunião realizada nesta semana em Genebra foi acompanhada atentamente por especialistas em inteligência artificial, estratégia militar, desarmamento e direito humanitário.
O que motivou esse interesse? Robôs assassinos –ou seja, drones, armas e bombas que usam cérebros artificiais para decidir por conta própria se vão atacar e matar– e o que deve ser feito, se for o caso, para regulamentar ou proibi-los.
No passado limitados a filmes de ficção científica como as séries "Exterminador do Futuro" e "RoboCop", os robôs assassinos são conhecidos tecnicamente como sistemas de armas autônomas letais (LAWS, na sigla em inglês) e vêm sendo inventados e testados em ritmo acelerado, com pouca fiscalização. Alguns protótipos já chegaram a ser utilizados em conflitos reais.
A evolução dessas máquinas é vista como um evento potencialmente sísmico na arte da guerra –algo de impacto tão grande quanto a invenção da pólvora ou das bombas nucleares.
Neste ano, pela primeira vez, a maioria dos 125 países que firmaram um acordo intitulado Convenção das Nações Unidas sobre Certas Armas Convencionais (CCAC) disseram querer que sejam impostas restrições aos robôs assassinos. Mas toparam com a oposição de outros países signatários que estão desenvolvendo essas armas, especialmente Estados Unidos e Rússia.
A conferência do grupo terminou na sexta-feira com nada mais que uma declaração vaga sobre considerar possíveis medidas que sejam aceitáveis por todos. A Campaign to Stop Killer Robots, grupo que luta pelo desarmamento, considerou que a o resultado da reunião "deixou drasticamente a desejar".
O que é a Convenção sobre Certas Armas Convencionais?
Conhecida também como a Convenção Contra Armas Inumanas, o pacto é um conjunto de regras que proíbe ou limita o uso de armas consideradas capazes de causar sofrimento desnecessário, injustificável ou indiscriminado, como explosivos incendiários, laseres que cegam e armadilhas que não distinguem entre combatentes e civis. A convenção não contém cláusulas sobre robôs assassinos.
O que exatamente são robôs assassinos?
As opiniões divergem quanto à definição exata, mas considera-se amplamente que são armas que tomam decisões com pouco ou nenhum envolvimento humano. Avanços rápidos em robótica, inteligência artificial e reconhecimento de imagens estão possibilitando a existência dessas armas.
Os drones que os EUA têm utilizado extensamente no Afeganistão, no Iraque e em outros países não são considerados robôs porque são operados remotamente por pessoas, que selecionam os alvos e decidem se é o caso de efetuar disparos.
Por que os robôs assassinos são considerados atraentes?
Para os planejadores militares, essas armas oferecem a possibilidade de evitar ferimentos ou mortes de soldados. Além disso, elas tomam decisões em menos tempo do que um humano necessitaria, conferindo mais responsabilidades no campo de batalha a sistemas autônomos como drones e tanques sem pilotos, que decidem de maneira independente quando atacar.
Quais são as objeções?
Críticos argumentam que é moralmente repugnante confiar a tomada de decisões letais a máquinas, não importa seu grau de sofisticação tecnológica. Como pode uma máquina diferenciar um adulto de uma criança, um combatente empunhando uma bazuca de um civil com uma vassoura na mão, um combatente hostil de um soldado ferido ou que está se rendendo?
"Fundamentalmente, os sistemas de armas autônomas criam preocupações éticas para a sociedade sobre a substituição de decisões humanas em relação à vida e à morte por processos automatizados, de sensores e softwares", disse na conferência em Genebra Peter Maurer, presidente do Comitê Internacional da Cruz Vermelha e adversário declarado dos robôs assassinos.
Por que a conferência em Genebra foi importante?
A conferência foi vista por muitos especialistas em desarmamento como a melhor oportunidade até agora de pensar maneiras de regulamentar ou proibir o uso de robôs assassinos, sob os termos da CCAC.
A conferência foi fruto de anos de discussões por um grupo de especialistas convidado a identificar os desafios e as abordagens que poderiam ser adotadas para reduzir o perigo dos robôs assassinos. Mas os especialistas não conseguiram chegar a um acordo nem sequer sobre os pontos básicos.
O que dizem aqueles que se opõem a um novo tratado?
Alguns países, como a Rússia, insistem que qualquer decisão sobre limites ao uso de robôs assassinos deve ser unânime. Na prática, isso daria poder de veto àqueles que se opõem à imposição de restrições.
Os Estados Unidos argumentam que as leis internacionais existentes são suficientes e que proibir a tecnologia de armas autônomas seria precoce. O representante chefe dos EUA na conferência, Joshua Dorosin, propôs um "código de conduta" não vinculativo sobre a utilização de robôs assassinos. Os defensores do desarmamento rejeitaram a proposta, que qualificaram como tática de retardamento.
Franz-Stefan Gady, pesquisador do think tank International Institute for Strategic Studies, disse que "a corrida armamentista dos sistemas de armas autônomas já está em curso e não será cancelada tão cedo".
Existem divergências no establishment de defesa em relação aos robôs assassinos?
Sim. Apesar dos avanços da tecnologia das armas autônomas, há relutância em empregá-las em combate, disse Gady, devido ao medo de ocorrerem erros.
"Será que os comandantes militares podem confiar no julgamento de sistemas de armas autônomas? A resposta é evidentemente não, por enquanto, e deve continuar a ser não pelo futuro próximo", disse ele.
O debate sobre as armas autônomas já chegou ao Vale do Silício. Em 2018, o Google disse que não renovaria um contrato com o Pentágono depois de milhares de seus funcionários assinarem uma carta protestando contra o trabalho da empresa com um programa que usava IA para interpretar imagens que poderiam ser usadas para selecionar alvos de drones. A empresa redigiu novas diretrizes éticas que proíbem o uso de sua tecnologia em armas e vigilância.
Outros consideram que os EUA não estão fazendo o suficiente para competir com seus rivais.
O ex-diretor de softwares da Força Aérea, Nicolas Chaillan, disse ao jornal nipo-britânico Financial Times em outubro que se demitiu devido ao que considera ser o progresso tecnológico fraco que está sendo feito pelo setor militar americano, especialmente na utilização de IA. Ele disse que enquanto os legisladores têm sua atuação retardada por considerações éticas, países como a China avançam.
Onde já foram utilizadas armas autônomas?
Não há muitos exemplos confirmados de seu uso em campo de batalha, mas críticos apontam para alguns poucos incidentes que indicam o potencial da tecnologia.
Em março deste ano, investigadores da ONU disseram que um "sistema de armas letais autônomas" foi usado por forças governamentais da Líbia contra combatentes milicianos. Um drone chamado Kargu-2, fabricado por uma empresa de defesa turca, rastreou e atacou os combatentes quando estavam fugindo de um ataque com foguetes, segundo os investigadores. O relatório deles não deixou claro se algum humano estava no controle dos drones.
Na guerra de 2020 em Nagorno-Karabakh, o Azerbaijão combateu a Armênia com drones de ataque e mísseis que pairam no ar até detectarem o sinal de um alvo designado.
O que vai acontecer agora?
Muitos defensores do desarmamento disseram que o resultado da conferência endureceu a determinação de fazer pressão por um novo tratado nos próximos anos, como os tratados que proíbem o uso de minas terrestres e munições de fragmentação.
Daan Kayser, especialista em armas autônomas que atua na PAX, entidade pacifista holandesa, disse que o fato de a conferência não ter conseguido nem sequer chegar à decisão de negociar sobre robôs assassinos constitui "um indício muito claro de que a CCAC não está à altura desse desafio".
O especialista em IA Noel Sharkey, presidente do Comitê Internacional para o Controle de Armas Robóticas, disse que o encontro comprovou que um novo tratado será preferível a mais deliberações da Convenção. Segundo ele, "havia no recinto uma consciência urgente de que, se nada avançar, não vamos querer ficar parados em cima desta esteira rolante".
Comentários
Os comentários não representam a opinião do jornal; a responsabilidade é do autor da mensagem.