Análise da palestra Ética e Responsabilidade em Inteligência Artificial

Aluno: Joao Paulo Lima

A palestra sobre ética e responsabilidade em inteligência artificial, apresentada por

Thiago Cardoso, inicia com uma abordagem entusiasta sobre os benefícios decisórios das
máquinas (computadores) ressaltando sua imparcialidade e capacidade de ser mais “racional”
que os humanos, além da destacar a característica de obediência dessas mesmas máquinas aos
scripts nela imputados.

Na sequência, as comparações sobre a parcialidade do ser humano, levando-se em

conta as diversas interferências que atuam sobre seu comportamento são colocadas e
confrontadas com a imparcialidade e “dureza” do computador. Este, segundo Thiago, livre de
qualquer viés.

A primeira impressão trazida pelo palestrante confere à tecnologia de aprendizado de

máquina, ou mais comumente conhecida como machine learning, características muito
positivas no seu uso em diversas áreas, dentre as quais a medicina, ciência e direito são
citadas como exemplo. Em um desses exemplos, o uso de robôs que realizam pesquisa
autônoma ajuda a alcançar mais rapidamente os resultados dos experimentos de forma mais
efetiva e segura. Em outro, é citada a capacidade que possuem alguns algoritmos de
identificar através da leitura da retina se uma pessoa é fumante ou não e ainda apontar
potencial risco cardíaco no mesmo nível de confiabilidades dos resultados obtidos em exames
convencionais.

Tudo parece, até então, muito promissor, tecnológico e muito próximo de uma solução
universal e segura para alguns problemas da humanidade. Muito embora o discurso encontre
bases materialmente consistentes há de se considerar que, em análise mais detalhada, não
existe na fala elementos que corroborem na sua totalidade para que as ideias do palestrante
sejam unanimes. Confrontar a fala de Thiago Cardoso e as ideias colocadas por Eduardo
Magrani em seu livro Entre Dados e Robôs – ética e privacidade na era da hiper
conectividade, em especial no seu capítulo 3, compõe a base para o desenvolvimento desse
documento.

Um dos primeiros aspectos a serem observados é a questão que envolve o caráter ético
do uso de dados. Ainda sem um marco legal/regulatório expressivo, eticamente consistente e
que regule com segurança a privacidade, distribuição, transparência e finalidade do tratamento
de nossos rastros/dados digitais, estamos à deriva na maré digital. Embora superficialmente,
Thiago Cardoso, coloca a questão da proteção à privacidade como um paradoxo. E de fato o
é. Como pensar que a enorme quantidade de dados disponíveis (voluntária ou
involuntariamente) que alimentam aplicações de inteligência artificial e leaning machine e
que supostamente colocam a tecnologia a serviço do bem comum, dependem ao mesmo
tempo da “cessão” individual dos dados daqueles que, entendendo ou não o risco dessa
“cessão”, sem conhecimento de uma legislação consistente que o proteja de fato, acabam por
alimentar os gigantes do big data sem qualquer dimensão do destino e utilização desses
dados.

A sugestão de Thiago de que as soluções advindas do uso da inteligência artificial

devem beneficiar a sociedade, acabam por encontrar sustento numa das principais
características da teoria utilitarista que consiste em ampliar o bem-estar comum com foco no
resultado ou consequência das ações. Como visto no texto de Magrani essa teoria não
consegue abarcar a regulamentação de todo esse universo da hiper conectividade. Além de
não considerar a individualidade, exige que todas os resultados produzidos sejam calculados,
evento que é quase impossível quando se trata de tecnologia de aprendizado de máquina.

Outra questão na fala do palestrante que reforça a característica da imprevisibilidade e

a não adequação da teoria ética utilitarista ao contexto socioético atual é o fato de resultados
advindos dos scripts poderem produzir algo completamente técnico e “desumano”
distanciando-se de decisões assertivas ou menos drásticas como no caso dos sistemas que
ajudavam juízes a embasarem decisões as quais alertavam para um risco de reincidência
maior de criminalidade de pessoas negras. O caso de bases desbalanceadas usadas para
treinamento de reconhecimento fácil com quase 75% sendo de rostos masculinos e 80% de
pessoas brancas também reforça a ideia de a quão delicado e cuidadoso deve ser o uso desse
tipo de aplicação inteligente. Tais experiencias corroboram para o dito elemento surpresa da
tecnologia, que só surge uma vez que ela está em uso e sua forma “independente” de ação não
deve ser nunca levada ao campo da previsibilidade absoluta.

Ainda a respeito do poder de decisão elaborado pela inteligência artificial há de se

considerar o caso do empréstimo bancário citado no vídeo no qual é possível entender a
relação completamente fria e dura estabelecida entre a cessão do crédito e a escolha de
características do candidato a tomador. Apesar do palestrante estabelecer que as interferências
humanas e suas subjetividades poderiam influenciar negativamente a cessão do suposto
empréstimo, muito mais grave é pensar que o diálogo com um robô seria ainda mais
desafiador, uma vez que o mesmo, dispondo tão somente de dados numéricos/estatísticos,
pudesse compreender a real necessidade daquele indivíduo.

A partir desses exemplos é possível estabelecer uma ligação com o que Magrani cita
como filter bubble. É notório como estamos sendo classificados e colocados em blocos a todo
instante pela grande rede de dados que alimentam os algoritmos de grandes corporações de
tecnologia. No exemplo do banco é evidente o poder que uma instituição financeira pode
exercer sobre a vida de alguém a partir de recortes de informações compartilhadas.

Ampliando-se o modelo para o campo político é cada vez mais claro a influencia de
robôs e recursos que usam inteligência artificial na manipulação de informações. No texto de
Magrani fica demonstrado o quando é dualista essa questão. De um lado os chat boats que são
capazes de agilizar atendimentos através de centrais telefônicas, por exemplo, diminuindo
tempo de atendimento de solucionando situação de forma mais satisfatória, e de outro os
social bots que espalham notícias falsas, provocam a polarização de discursos e são capazes
de enviar links maliciosos para sequestrarem dados privilegiados de usuários da rede de um
modo geral.

Argumentar sobre se tais situações produzem mais danos ou prejuízos não é mais o
ponto capital da discussão. O que é preponderante é reconhecer o quanto dessa internet das
coisas deverá incomodar a ponto de produzir a construção de uma rede legal e ao mesmo
tempo ética de proteção a todos os agentes diretamente envolvidos nessas novas relações. A
proposta do texto de Magrani é bem clara quando nos leva a pensar sobre como as diversas
teorias podem combinar-se, fisgando elementos de uma, recompondo elementos de outra e
ainda fundido as bases de outras para resolver o que na visão do senso comum pode parecer
um progresso inquestionavelmente benéfico.

Nesse sentido qual ética seria a norteadora desse vanguardismo tecnológico que nos
cerca? Segundo Magrani adotar a perspectiva utilitarista não seria adequado uma vez que,
como exposto por Thiago Cardoso em alguns exemplos apontados, ela não cobriria grande
parte das problemáticas éticas geradas pela produção de tecnologias usando IoT. Ainda
segundo Magrani, embora não declarada explicitamente, a tendência da perspectiva
deontológica parece a que mais se aproxima para servir de inspiração àquela que irá
prevalecer como a mais coerente e adequada a esse universo da hiperconectividade.
 A proposta da teoria do ator rede de Bruno Latour fica muito concretizada quando
assistimos ao conteúdo mostrado na palestra. Fica bastante evidenciado a capacidade que um
algoritmo possui de tomar decisões, influenciar pessoas e comportamentos e afetar a vida
pública. Segundo essa teoria o homem e máquina são capazes de gerar uma interação,
influenciarem-se mutuamente, conferindo à essa relação híbrida uma capacidade de agir
moralmente. Ainda segundo Brunou Latour as coisas não são tão somente “coisas”, mas são
elementos capazes de agir e produzir resultados geridos, por assim dizer, pelo “governo das
coisas” colocando tudo humano e não humano sob a égide de um mesmo poder.

Interessante colocar que o vídeo trouxe os aspectos mais positivos ligados a IoT.
Thiago Cardoso, fruto do mercado, coloca que é preciso atentar para questões de
responsabilidade e ética na construção de algoritmos que vão nortear algumas importantes
decisões e interagir com o universo humano, porém sua visão técnica e até romantizada sobre
essa hiperconectividade (humanos e não-humanos) não permite que o desbravamento das
questões éticas ligadas ao universo socio ético seja de fato realizado. Na verdade, o conjunto
de passos sugeridos por ele para o alcance de soluções positivas para os problemas em IA são
muito frágeis e carecem de maiores detalhes de como se daria a execução. Quando fala em
não reforçar estereótipos dentro do algoritmo ou quando sugere a revisitação do conceito de
sucesso e proteção de privacidade parece que tudo isso seria suficiente para cercar-se de todos
os cuidados para que o algoritmo não falhasse ou cometesse menos erros.

Isso não basta. Falar sobre ética e responsabilidade em IoT requer pontos mais sólidos
como os que trouxe Eduardo Magrani. Ponderando a mídia usada, evidente que um livro tem
mais “tempo” para discorrer com mais cuidado sobre um tema qualquer, porém para discutir
essa responsabilidade é necessário iniciar a abordagem revisitando as teorias e todo o
arcabouço literário de que se tem disposição. Talvez por ser do mercado, e estar a serviço do
capitalismo, pressupõe-se que essas questões éticas possam ser menos discutidas e em alguns
momentos até relativizadas.

Após a leitura do capítulo 3 do livro de Eduardo Magrani, foi possível constatar o

quão assustador pode ser o mundo da IoT. Um mundo talvez não sombrio, mas carente de
regulação, onde a transparência e a sensação de fluxo livre sejam elementos norteadores para
o início de qualquer script de máquina. Onde o uso de robôs “bem intencionados” possam ser
regulados e permitidos, gerando benefícios declarados e reais. Um mundo onde os “actantes
(coisas e homens)” disfrutem da informação verdadeira, onde os debates políticos sejam
isentos de falsas notícias e livres de manipulação.