A. Leia o texto e discuta o tema.

ÉTICA EM INTELIGÊNCIA ARTIFICIAL E O FUTURO DA HUMANIDADE

Embriagados pela tecnologia, chegamos ao ponto de perguntar o que é parecer  —  e

ser  —  humano
por Sparks & Honey
traduzido com permissão de Sparks & Honey
AI Ethics & the Future of Humanitytraduzido por Carolina Walliter

A inteligência artificial e as máquinas dotadas com esse recurso — 

robôs, bots, drones, veículos autónomos, membros artificiais e até mesmo o seu
smartphone — nos convidam a questionar a própria essência do que constitui a vida.

Ao interagir com máquinas, criamos expectativas humanas e emocionais perante

elas. Basta pensar, por exemplo, na Alexa, que parece ganhar vida ao conversar com a
gente. A inteligência artificial (por vezes mencionada pela sigla AI) é e será uma
representação do seu contexto cultural, dos valores e da ética que validam as relações
humanas, incorporados às máquinas e, portanto, passíveis de julgamento.

De acordo com a Forrester, essa área da ciência da computação está prestes a

disparar, com previsões de 300% de aumento nos investimentos. Nesse embalo, a
unidade DeepMind da Google, responsável pelo desenvolvimento de computadores
superinteligentes, criou uma síntese vocal utilizando tecnologia AI, cuja voz se parece
com a de uma pessoa, ou seja, não tem um tom robótico. Enquanto isso, Jia Jia, um robô
humanoide criado pelos chineses, conversa e mexe-se com microexpressões que
manifestam uma matriz emocional que antes só reconhecíamos em outros seres
humanos.

Essas máquinas são estranhamente familiares porque nos imitam. Os seus

recursos são programados com base na nossa visão de mundo e autopercepção, e tudo
isso está a ser feito feito a uma velocidade impressionante, impregnando a cultura e até
mesmo os nossos conceitos de beleza e estética. O desfile da Chanel de
Primavera/Verão 2017, que contou com modelos robôs na passarela.

Infância e crescimento da inteligência artificial

Estamos a começar a desenvolver a próxima geração de humanos, seja com a

biomimética dos robôs que construímos ou ao esperar respostas imediatas dos ecrãs
sensíveis ao toque. Portanto, se a inteligência artificial está “a gatinhar”, a “inteligência
bebé” é a alma de um robô que adquire características de criança: é giro, age sob
comandos (ou não), é falível e cometerá muitos erros à medida que avançar na idade. E,
assim como as crianças, temos que dar espaço para a inteligência artificial crescer.

“A inteligência artificial na infância é um bebé fabricado por seres humanos.

Assim como com as crianças, devemos dar espaço para a inteligência artificial errar,
aprender e crescer – mas a quem podemos confiar a educação da próxima geração da
nossa humanidade?”
 À medida que a inteligência artificial se desenvolve, confiamos implicitamente
em sua capacidade, e essa evolução já está em andamento. O Google Brain desenvolveu
duas inteligências que evoluíram a ponto de criar seus próprios algoritmos
criptográficos para conversarem em segredo, sem que uma terceira inteligência
entendesse as mensagens trocadas. Esse tipo de disputa entre inteligências faz com que
as máquinas aprendam umas com as outras até que uma vença o desafio. O objetivo da
terceira inteligência era desenvolver seu próprio método para decifrar o algoritmo
criptográfico inventado pelas outras duas inteligências. A pesquisa foi um sucesso: a
dupla inicial de inteligências criou sua própria rede neural para se comunicar em
segurança, sem que ninguém mais as entendesse, nem os próprios seres humanos que as
inventaram.

Está dado, então, o primeiro passo para dentro de um universo nunca antes
vivenciado pela humanidade.

No entanto, no fluxo contínuo do homem como sujeito que inventa a máquina, a

existência desta depende de seu próprio criador. “É o contexto cultural do homem por
trás da máquina que define as nossas expectativas para a inteligência artificial (...) As
experiências da vida são moldadas pelos nossos valores e ética, portanto, é fundamental
que saibamos regular a inteligência artificial com base nos nossos valores pessoais e
fazer valer os preceitos éticos que reforcem a nossa humanidade.”, diz Katryna Dow,
fundadora e diretora executiva da Meeco.

Armas matemáticas

No seu livro,  Armas de Destruição Matemática”, Cathy O’Neil adverte sobre

um mundo governado por um novo tipo de arma de destruição em massa: as fórmulas
ou algoritmos matemáticos que quantificam as nossas vidas. Elas forjam as narrativas
de tudo o que vemos online, desde a nossa capacidade de obter crédito à eficácia da
nossa rotina de exercícios. Somos dados ambulantes, e a coleta constante e ininterrupta
dessas informações, junto com sua quantificação, está a ser feita nos bastidores da vida
quotidiana. O’Neil narra um mundo em que a matemática, abarrotada de megadados,
está a ser usada para reforçar as mazelas da sociedade ao agravar o racismo e a
desigualdade social, tendo como alvo as populações pobres.

A própria matemática pode sofrer influência das percepções e experiências

daqueles que a utilizam como instrumento. “Grande parte das iniciativas em inteligência
artificial está sendo desenvolvida predominantemente por engenheiros jovens, brancos e
do sexo masculino. Infelizmente, nessa fase da vida, muitos acontecimentos importantes
(casamento, filhos, perda de entes queridos, desemprego ou queda na renda), ou os
próprios desafios da vida política e social, ainda não foram vividos.” — Katryna Dow.
O futuro é super-humano

A fusão entre homem e máquina já acontece na inteligência artificial e está a

levar a sociedade a pensar sobre as questões da vida: quem somos nós, de onde viemos
e o que estamos fazendo aqui. A inteligência artificial, os algoritmos, os dados e as
máquinas que utilizamos todos os dias estão a empurrar-nos para uma era existencial
consciente. A perspectiva distópica coloca seres humanos e máquinas uns contra os
outros até a deflagração de uma batalha. Embora seja um assunto que dê pano para a
manga da ficção, a inteligência artificial também é parte da nossa evolução em um
cenário cultural em rápida mudança, impulsionada pela tecnologia.

A expectativa de vida média máxima para os seres humanos é de 115 anos, mas
seremos digitalmente imortais por muito mais tempo. Se os tipos de inteligência
artificial são capazes de reconhecer rostos, baixar consciências e imitar vozes, a questão
aqui não é sobre vida ou morte, mas onde você vai armazenar o seu “eu” artificial
imortal.

Já vivemos em um mundo em que cada momento é quantificado, desde o

número de passos que damos ou não, até à qualidade do nosso sono. Recorremos a
medicamentos tecnológicos, como os dispositivos leitores de ondas cerebrais, que
melhoram o desempenho em desporto ou em outras situações de muita pressão; ou
ainda, acrescentamos membros robóticos aos nossos corpos, porque simplesmente
queremos tocar bateria melhor ou correr a velocidades até então inimagináveis para o
corpo humano.

O amanhã encaminha-se para a inteligência super-humana, combinando a

cognição do homem e da inteligência artificial em um espaço onde nossas memórias
vivem mais do que nós mesmos. E, em um futuro em que a inteligência artificial vive
para sempre no circuito conectado que envolve o planeta, vamos manter as nossas
mentes vivas — independentemente da forma assumida pelos nossos corpos.