Você está na página 1de 3

Robs sapiens assassinos

"A guerra a continuao da poltica por outros meios"


Carl von Clausewitz (1780 - 1831)

Para quem sonha com o momento utpico em que os robs simpticos, bonzinhos e
trabalhadores faam todo o servio necessrio para sustentar a humanidade, a realidade
distpica investe na criao de autmatos de guerra e em robs superinteligentes (com
memria ilimitada e capacidade cognitiva) e assassinos.

O potencial dos robs sapiens assassinos para o complexo industrial-militar enorme. Os robs
voadores e matadores j existem e j foram testados nos conflitos armados do Imen e outros
pases do Oriente Mdio. Os terroristas do ISIS que o digam. Os drones que voam e atuam
durante o dia, mas tambm noite, pois enxergam os inimigos com luz infravermelha
ultravioleta, lanam msseis contra os alvos cirrgicos definidos pela Inteligncia Artificial da
inteligncia militar. O agente 007 j pode se aposentar e morrer em paz, pois seus substitutos
sero bem mais poderosos e imortais.

Artigo de Andrew Tarantola (25/07/2017) mostra que h algum tempo o Pentgono tem
buscado avanar no uso de armas robticas, associadas Inteligncia Artificial, para proteger
suas foras humanas. Mas, medida que esses sistemas ganham cada vez graus mais
avanados de inteligncia e independncia, sua crescente autonomia tem gerado crticas por
parte dos observadores preocupados com o fato de que os humanos esto cedendo muito
poder a dispositivos cujos processos de tomada de deciso no entendemos completamente (e
que talvez no possamos ser inteiramente capazes controlar).

Ainda segundo Tarantola, o que constitui um Sistema de Arma Autnomo (AWS, sigla em
ingls) depende da pessoa questionada, pois esses sistemas apresentam diferentes graus de
independncia. As armas de Sentido e Reagindo aos Objetos Militares (SARMO, sigla em
ingls), podem reagir s ameaas recebidas de artilharia e msseis, envolvendo-se em aes
militares em a superviso humana. Por enquanto, estes mecanismos no so totalmente

1
autnomos, pois executam uma tarefa automtica definida e no h tomada de deciso,
apenas uma resposta a um estmulo externo.

Porm, os robs assassinos esto sendo gestados nas profundezas secretas da pesquisa
militar e nos estudos sobre a destruio das foras inimigas. As armas totalmente autnomas
capazes de selecionar, identificar e se envolver com alvos de sua prpria escolha, sem
interferncia humana, ainda no vieram luz. Se bem que os servios de contra inteligncia
suspeitam que algum prottipo j esteja sendo testado. Vrios pases, incluindo a China, Reino
Unido, Israel, os EUA, alm obviamente da Rssia, esto trabalhando em seus arqutipos.

Como explica Andrew Tarantola (25/07/2017), existe uma tentativa de regulamentar o


Autonomous Weapon System AWS (Sistema de Armas Autnomas - nome bonito para
robs assassinos). Oficialmente os governos dizem que no tem inteno de desenvolver
sistemas que operem sem interveno humana. Mas Noel Sharkey, professor de Inteligncia
Artificial (IA) e robtica diz que o discurso j pr-estabelecido de que Tudo ser controlado
pelos humanos. Mas ningum est disposto a dizer de que maneira ser esse controle. H
diversos nveis de controle, nas situaes de conflito armado:

1. O humano identifica, seleciona e envolve o alvo, iniciando todos os ataques;

2. A IA sugere alternativas alvo, mas o humano ainda inicia o ataque;

3. A IA escolhe os alvos, mas o humano deve aprovar antes do ataque ser iniciado;

4. A IA escolhe os alvos e inicia o ataque, mas o humano tem poder de veto;

5. A IA identifica, seleciona e atinge o alvo sem qualquer controle humano.

Os nveis 4 e 5 so, evidentemente, os mais perigosos. O sistema americano de msseis Patriot


opera de acordo com regras de compromisso semelhantes ao ponto 4. As armas que atuam
como no ponto 5 ainda no chegaram ao campo de batalha, pelo menos no so conhecidas
do pblico. Mas dizem que a torre de defesa SGR-A1, da Samsung, atualmente implantada ao
longo da Zona Desmilitarizada entre as duas Coreias, capaz de identificar e destruir as foras
do inimigo, completamente por conta prpria. O clima de guerra favorece o desenvolvimento
desse arsenal militar de armas inteligentes de destruio em massa.

Recentemente, o presidente da China, Xi Jinping, de uniforme, comandou desfile militar, com


destaque para os novos msseis para ataque nuclear e disse: China est pronta para a
batalha". A Coreia do Norte testa msseis intercontinentais. O presidente Donald Trump
adverte China, por causa da Coreia do Norte, e faz ensaios de seus bombardeiros na
pennsula coreana. O presidente Vladimir Putin tambm fez uma demonstrao de poder com
um grande desfile de mais de cem navios, alm de ordenar a sada de 755 funcionrios dos
EUA, em resposta s sanes americanas Rssia. Vrios pases esto em guerras h anos,
como Sria, Imen, Iraque, Afeganisto, Sudo do Sul, Etipia, etc.

Na realidade, as diversas foras polticas e militares dos pases mais desenvolvidos - na


capacidade de destruio em massa - esto a ponto de abrir a caixa de Pandora. Tudo indica
que a lgica de se defender com a maior segurana possvel leve ao desenvolvimento de
Sistemas de Armas Autnomas cada vez mais avanados. Sem dvida, na rea militar, o
princpio tico primum non nocere ("primeiro, no prejudicar") no se aplicada como
sugerido pela rea civil. Na guerra (comercial ou blica), as primeiras vtimas so a verdade e a
tica.

2
Provavelmente, os robs superinteligentes no se limitaro a imitar a inteligncia humana (que
muito adstrita). O aprendizado de mquina, ou aprendizado automtico (Deep learning), por
meio de redes neurais artificiais, ganha cada vez mais terreno. Quando crebros cibernticos,
de grande memria e capacidade de processamento, conseguirem processar o Big Data e se
conectar aos dispositivos mveis (como drones, carros e tanques autnomos, navios
autoguiados, Transformers, etc.), podero deixar de lado a simulao e partir para a ao,
independentemente do controle humano.

O potencial militar enorme. Os ganhos operacionalizveis devero influenciar a anlise da


equao, custo (mal) versus benefcio (bem), e podero deixar de lado quaisquer idealismos
morais. Alm do que, os conceitos de bem e de mal so relativos e variam conforme o
interesse prprio de quem assassina e de quem assassinado. Assim, a tica da convico
poder ser facilmente suplantada pela tica da responsabilidade e da racionalidade
instrumental.

Os robs sapiens assassinos j devem estar sendo gerados nos laboratrios dos mopes
discpulos do Dr. Victor Frankenstein, empoderados pela juno das tecnologias da robtica, da
ciberntica e da Inteligncia Artificial do sculo XXI. Tudo isso ambientalizado no contexto
corporativo e militar da Revoluo 4.0, em um mundo cada vez mais desigual e conflituoso.

Referncia:
Andrew Tarantola. Will we be able to control the killer robots of tomorrow? Engadget,
25/07/2017 https://www.engadget.com/2017/07/25/will-we-be-able-to-control-the-killer-
robots-of-tomorrow/

Jos Eustquio Diniz Alves


Doutor em demografia e professor titular do mestrado e doutorado em Populao,
Territrio e Estatsticas Pblicas da Escola Nacional de Cincias Estatsticas - ENCE/IBGE;
Apresenta seus pontos de vista em carter pessoal. E-mail: jed_alves@yahoo.com.br

Você também pode gostar