AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO

ATUAL DA AI

APLICAÇÃO DA
INTELIGÊNCIA
ARTIFICIAL AO DIREITO
AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI
GUSTAVO MASCARENHAS LACERDA PEDRINA

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 1

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

INTRODUÇÃO .........................................................................3
1. A ANÁLISE PREDITIVA E O MIMETISMO DO
CÉREBRO HUMANO.............................................................4
2. POSSÍVEIS APLICAÇÕES DA IA PREDITIVA ...........9
CONCLUSÃO.......................................................................... 12
REFERÊNCIAS....................................................................... 13

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 2

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

INTRODUÇÃO

Tudo bem? Pronto para mais uma aula?

A inteligência artificial é algo empolgante. Concorda?

A cada nova conversa, aprendemos mais. Veja só: até agora, em apenas duas
aulas, você somou conceitos importantes sobre a inteligência artificial – sabe, por
exemplo, que o emprego de machine learning depende do acúmulo de grandes
quantidades de dados (big data) aos quais um robô algorítmico é aplicado, sendo
capaz de aprender os padrões corretos de resposta para replicá-los no futuro
de maneira autônoma. Você também já viu como a IA vem sendo aplicada no
direito, inclusive aqui no Supremo, com o VICTOR. Mais do que isso, sabe que a
inteligência artificial desenvolvida nesse Tribunal tem eficácia superior a 90%!!!

É hora, então, de explorarmos as possibilidades futuras de aplicação da IA:

qual é o estado da arte da tecnologia associada ao conceito de inteligência artificial?
Por que as redes neurais são importantes nessa história? Onde a inteligência artificial
pode ser utilizada?

Você deve se lembrar que na primeira aula nós diferenciamos a inteligência

artificial atualmente aplicada daquela a que idealmente se pretende chegar. Vimos
que aquilo que comumente chamamos de IA nos dias atuais trata-se, na verdade,
da aplicação de análise estatística associada a algoritmos capazes de melhorar os
padrões de resposta conforme aumenta uma coleção de dados.

Mas há algo ainda maior: o que os cientistas da computação buscam como

ponto-ótimo é a simulação de redes neurais com a capacidade de racionalizar
conceitos passados, entendê-los na realidade presente, para predizer cenários
futuros. Trata-se da análise preditiva, uma tentativa de mimetizar as redes neurais
do ser humano ao ponto de se alcançar a cognição.

Isso é possível? Pode parecer algo complicado, mas você vai ver que é
bastante intuitivo.

Esta é a aula, portanto, na qual nos dedicaremos ao estudo dessa via mais
complexa da IA. Veremos como a linguagem é importante no caminho para a
simulação mais bem-acabada da inteligência artificial. A partir disso, vamos traçar
possíveis cenários do uso da tecnologia. Ao final, você terá somado ainda mais
conhecimento sobre o assunto.

Não parece interessante?! Vamos lá?

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 3

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

1. A ANÁLISE PREDITIVA E O MIMETISMO DO CÉREBRO

HUMANO

As partes coloridas da imagem indicam áreas do cérebro responsáveis pelo

processamento da linguagem (a localização exata pode variar de indivíduo para
indivíduo), em tradução livre.

O cérebro humano é ainda, em boa parte, um mistério para a ciência. A

imagem acima, produzida no laboratório comandado pela Professora Nancy
Kanwisher, do MIT, mostra as regiões que começamos a descobrir. A verdade é
que ainda sabemos muito pouco sobre como funcionam as nossas redes neurais.

Sabemos pouco, mas alcançamos aspectos fundamentais que nos tornam

únicos na natureza. Em primeiro lugar, é importante notar que o ser humano
não é uma criatura estatística, mas cognitiva. Isso significa dizer que nem sempre
tomamos a atitude estatisticamente correta, mas aquela que culturalmente nos
parece a mais adequada. E como adquirimos os conhecimentos culturais que
nos levam a tomar atitudes? Se você disse “pela linguagem”, acertou! Uma das
principais particularidades da nossa espécie é a linguagem.

É pela linguagem que expressamos a certeza das nossas vontades, que

demonstramos nossas inteligências e que confirmamos nossa capacidade de
entender o passado, o presente e o futuro – o que indica algo importante: sabemos
a nossa posição no mundo enquanto seres racionais. Perceba que qualquer outra
espécie de ser vivo (o exemplo clássico é o chimpanzé, com DNA bem próximo
do nosso) não detém essa capacidade de posicionar-se histórico-racionalmente.

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 4

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

BERWICK e CHOMSKY
(2017) sustentam que a linguagem SAIBA MAIS
é um sistema de organização
de pensamentos e que apenas Os autores chamam o processo de
a espécie humana é capaz de “merge”, que aqui traduzimos, por
aproximação, como “fusão”, mas
fundir pensamentos em forma de que é algo ainda mais complexo
linguagem gráfica. que propriamente uma fusão,
tratando-se de característica inata
ao ser humano, que o diferencia
Esse processo de fusão é enquanto espécie: é uma operação
estruturado, buscando sempre o que combina duas expressões para
caminho neural mais curto para gerar uma nova expressão mais
uma resposta concatenada. A complexa, sem que se modifiquem
ou descartem as duas expressões
estruturação dessa rede complexa originais.
é a resposta do sistema cognitivo,
fruto da evolução das redes
neurais do ser humano. É o que nos
diferencia do homem Neandertal, a quem faltava justamente isso, a capacidade
de fundir pensamentos em linguagem expressa. É o que nos diferencia ainda
hoje de outros mamíferos com cadeias neurais evoluídas, mas não ao ponto das
nossas.

Aqui, então, a nossa primeira premissa importante deve ser anotada para
entendermos o que é a inteligência: a linguagem gráfica é parte fundamental da
inteligência humana. Para simular a inteligência mais bem-acabada da natureza, a
humana, é preciso, portanto, que se crie uma aplicação lastreada em linguagem
gráfica.

O segundo ponto importante está na capacidade cognitiva. Apenas o ser

humano é capaz de aprender a linguagem e por ela construir cenários no passado,
no presente e no futuro.

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 5

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

A linguagem nos possibilita essa construção de cenários, é por ela que

podemos demonstrar nossas vontades e repassar nossa cultura. Isso leva-nos ao
terceiro ponto: a capacidade de contar histórias (“storytelling”), estabelecendo o
que chamamos de “cultura”.

NOTA

Antes, Winston propõe a Inner Language Hypothesis, segundo a qual “Human

intelligence is enabled by a symbolic inner language faculty whose mechanisms
support both story understanding and the querying of perceptual systems. (“A
inteligência humana é ativada por uma capacidade interna de entender a linguagem,
motivo pelo qual entendemos a história e os elementos perceptivos [do mundo ao
nosso redor]”, em tradução livre.) (WINSTON, Patrick. The Strong Story Hypothesis and
the Directed Perception Hypothesis. AAAI Fall Symposium Series, 2011, p. 6. Disponível
em: dspace.mit.edu. Acesso em: 19 nov. 2019.)

A Inteligência está, portanto, na capacidade de expressar o

cenário que entendemos a partir de contextos culturais que apenas
aprendemos porque dominamos a linguagem. Winston (2011), diante
dessas premissas, propõe a Strong Story Hypothesis (Hipótese da história
consistente), segundo a qual “os mecanismos que permitem aos humanos
falarem, entenderem e recombinarem histórias separam a inteligência
humana da de outros animais.”

De maneira esquemática, temos:

Linguagem
e
cognição

Redes Formação
neurais de
cultura

Desenvolvimento
do
cérebro

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 6

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

O que temos é o desenvolvimento contínuo das redes neurais porque a

linguagem e a cognição de cenários estão em constante mutação, o que nos leva
a ganhos culturais e, no longo prazo, à melhoria do cérebro humano.

SAIBA MAIS

Aqui proponho uma pequena parada:

assista à palestra (são apenas 18 minutos)
da Professora Nancy Kanwisher,
uma pesquisadora reconhecida
mundialmente, sobre como ainda
estamos descobrindo o cérebro
humano. A palestra está legendada e eu
garanto que vale a pena!

Para Winston (2011), as histórias são parte fundamental da formação

cognitiva do ser humano. São elas, segundo essa linha de pensamento, que
formam, ao longo do amadurecimento do cérebro humano, os padrões sobre
cada contexto social – o que podemos chamar de “senso comum” –, que, reunidos,
formatam a cultura do indivíduo.

Entender a história humana – apenas possível pela linguagem – é

fundamental para a formação e evolução da inteligência da espécie. Esta é a
diferença da análise cognitiva do nosso cérebro, que parte de critérios que
conhecemos culturalmente, repassados através da linguagem, para estabelecer
uma análise preditiva de cenários.

A inteligência artificial por análise preditiva busca, no lugar de oferecer uma

resposta estatística para o problema apresentado, a resposta às questões diante da
análise de contextos. Esta seria, senão a verdadeira inteligência artificial, uma mais
apurada.

Com isso em mente, os cientistas buscam simular as redes neurais no

estabelecimento de sistemas de análise preditiva. Um exemplo nesse sentido é
o robô algorítmico Genesis, desenvolvido no MIT (EUA). O Genesis foi treinado
com romances e contos comuns à cultura americana (de Shakespeare aos irmãos
Grimm), de modo que o computador aprendesse, mediante histórias – storytelling
–, o que leva a determinadas ocorrências (ou “atitudes”) em tais narrativas, como,
por exemplo, o regicídio, e adquirisse, com isso, um aprendizado “cultural” de
contextos.

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 7

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

A partir desses critérios, o robô algorítmico passou a ser capaz de desenvolver

cenários futuros, podendo até mesmo identificar conceitos como revanche em
histórias que não mencionam a palavra. Isto prova que a análise preditiva em um
robô algorítmico consegue, se bem executada, predizer cenários, mesmo que
estes não sejam óbvios. Esse processo de exame de cenários futuros, de acordo
com critérios estabelecidos no passado e no presente, é a análise preditiva.

Abaixo você verá uma imagem do Genesis em funcionamento. No primeiro

exemplo, o Genesis é capaz de dizer que o homicídio ocorreu por autodefesa. No
segundo, o robô algorítmico sabe identificar que o homicídio de Alex ocorreu por
conta do desprezo que George nutriu por ele:
Lover brandishes a knife

George is Martha is George Alex Alex Alex intends George

becomes George
Martha’s George’s yells at brandishes harming shoots
angry. kills Alex.
spouse. spouse. Alex. a knife. someone. Alex.

Alex
becomes
dead.

Figure 20: In the knife-brandishing version of a story raising a legal question, the elaboration
graph indicates knife the brandishing is connected to the killing, suggesting self defense.
(Figura 20: A versão da história envolvendo o erguer de uma faca levanta uma questão legal. O gráfico
elaborado [pelo robô algorítmico Genesis] indica que erguer a faca para alguém é uma ação que está
conectada com a morte de alguém, sugerindo que a pessoa que seria vítima dessa ação reagiu em
autodefesa.)

Hypothetical

George is Martha is George Alex George George

becomes George kills
Martha’s George’s yells at despises shoots
angry. Alex.
spouse. spouse. Alex. Alex. Alex.

Alex
becomes
dead.

Figure 21: In the hypothetical version, with the brandishing removed, Genesis presumes the
explanation for killing has to do with despising, suggesting guilt. At the concept level, self
defense becomes spiteful vengeance.

(Figura 21: Numa versão hipotética removendo a ação com a faca, o Genesis presume que a
explicação para a morte tem a ver com desprezo [já que não se trata de uma ação de
autodefesa, vez que não há do que se defender], sugerindo que a pessoa deve ser
considerada culpada pelo homicídio. Na mesma história, dessa vez sem a faca, o robô substitui
o conceito final de autodefesa para vingança por rancor.)

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 8

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

Você percebeu a diferença para a análise estatística?

Na análise estatística os robôs são treinados com padrões de resposta,

aprendendo com as consideradas “corretas” e buscando, quando expostos a
dados novos, o que for mais parecido com as respostas “certas”.

Na análise preditiva, não há uma resposta “correta”. O que indica que a

resposta “certa” é o seu encaixe no contexto. Em vez de uma resposta correta, existe
um contexto correto, o que é algo bastante mais complexo. A cada nova história
adicionada, uma variável necessariamente mudará e tornará o contexto “correto”
seguinte distinto do anterior. A análise preditiva é, então, uma técnica utilizada para
prever cenários futuros a partir de um contexto de passado e presente.

É assim também com o nosso cérebro, que aprende algo “novo” todos os
dias. Não é incrível?

SAIBA MAIS

O Massachusetts Institute of Technology (MIT) tem

um programa de aulas abertas (ocw.mit.edu) – já
falamos dele na primeira aula. Aconselho que, para
se aprofundar ainda mais nas redes neurais, você
assista a essa aula do Professor Patrick Winston,
que trata das “redes neurais profundas”:

Se você procura um material de cunho acadêmico

sobre a análise preditiva e a simulação do cérebro
humano, recomendo as publicações do Centro
de Cérebro, Mente e Máquina do MIT (Center for
Brains, Minds & Machines/MIT).

2. POSSÍVEIS APLICAÇÕES DA IA PREDITIVA

Quando usamos computadores para processar e entender comportamentos

padrões, conseguimos antecipar cenários. A inteligência artificial por análise
preditiva vai além: ela prediz ações a partir de comportamentos que podem
desviar de um padrão, otimizando as decisões da própria máquina.

Ainda há um caminho bastante longo para que a análise preditiva e a

simulação profunda de redes neurais alcancem o ponto-ótimo de utilização – algo
que a análise estatística já entrega, com programas perfeitamente operacionais e
muito interessantes –, mas já testemunhamos o início do uso dessa tecnologia.

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 9

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

Podemos destacar, como aplicação da análise preditiva, a detecção de

fraudes. Perceba que toda vez que você utiliza um cartão de débito ou crédito,
uma notificação é enviada automaticamente. Os sistemas em operação, com a
aplicação de análise estatística, conseguem já dizer se há um desvio de padrão de
uso do cartão, sendo capazes de apontar, de maneira autônoma, uma fraude. A
depender do risco, disparam ações que podem cumular no bloqueio do cartão.
Ou seja, pela predição de comportamento, a máquina já é capaz de evitar alguns
crimes.

O mesmo pode ser percebido com a aplicação de análise preditiva à medicina

preventiva: ao saber os fatores de risco de um paciente, seu histórico familiar e
conhecer seu comportamento, é possível predizer os riscos de determinadas
doenças, implementando cuidados preventivos.

Talvez o mais palpável uso da análise preditiva esteja na inteligência artificial

associada à visão. Isso porque os veículos autônomos já são uma realidade e seu
uso será crescente nos próximos anos. Eles evitam acidentes e otimizam o tempo.

Mas predizer cenários nos quais vidas humanas estão em jogo

constantemente levanta alguns dilemas. Há um deles bastante discutido entre
os acadêmicos do assunto: imagine um carro autônomo desgovernado operado
por inteligência artificial com análise preditiva. Há dois ocupantes no carro e dois
pedestres em seu caminho. Tome em consideração que há desfiladeiro em um
lado da pista, sendo que a única via livre para evitar a colisão com a barreira é o
atropelamento dos pedestres. Os pedestres têm pouca chance de fuga: ou ficam
na pista e tentam sobreviver colados ao muro ou pulam no desfiladeiro. Como
o carro está equipado com IA capaz de predizer cenários disso tudo, ele terá
que decidir: ou mata seus ocupantes ou os pedestres. Nesse caso, quem deverá
ser morto? E quem será culpado pelas mortes? O projetista? O programador? A
própria aplicação de IA?

Essas respostas não existem completamente hoje. Mas é certo que mesmo
a IA preditiva parte da capacidade humana de programar. Em último caso, o
programador dá respostas primárias para a máquina (não vou estragar a surpresa,
mas no final vamos falar mais sobre isso).

No direito, a IA com aplicação de análise preditiva pode, no futuro, nos

levar ao cenário da predição da vontade do agente. A análise preditiva consegue
entregar possíveis cenários da determinação de um indivíduo de acordo com
critérios objetivos de (i) instrução, (ii) posição socioeconômica, por exemplo, e
subjetivos, como o (iii) potencial conhecimento da norma, o que pode ajudar no
nível de conhecimento de um agente ao cometer um delito (tanto da situação
quanto da lei), entregando uma punição melhor individualizada.

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 10

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

Nos EUA esse tipo de discussão, envolvendo a aferição da inserção do

indivíduo na sociedade, afeta não só o sistema de justiça, mas também o ensino
superior. A College Board, entidade que controla o principal exame admissional
de ensino superior, o SAT, divulgou recentemente a intenção de utilizar um
“equalizador social” (The Environmental Dashboard), de modo a levar em conta, na
hora da admissão, fatores sociais que podem ter influenciado a vida do candidato.
Um sistema baseado em inteligência artificial que faça o mesmo, por exemplo, em
casos penais, pode tornar a aplicação da lei mais justa.

O Genesis é capaz de realizar operações do tipo “who-knows-what” (quem

sabe o quê), que conseguem dizer, com elevado grau de acerto, o que um
personagem de uma ação pretendia. Para se traçar a pretensão, é preciso que a
máquina tenha noções de contexto de passado, presente e futuro, compreendendo
uma linguagem gráfica e sendo capaz de expressar-se por ela. O que importa é,
portanto, que se estabeleçam critérios para que a inteligência artificial entenda a
história. Tem-se a possibilidade de, com a máquina, aferir-se o nível de quão livre
era a vontade da pessoa no momento da ação.

É possível, então, que, programada com dados que tomem em conta

aspectos eleitos pela sociedade – que reputamos válidos, a título de exemplo: (i)
instrução, (ii) posição socioeconômica e (iii) conhecimento da norma, a indicarem
o nível de vulnerabilidade do indivíduo –, esse tipo de aplicação de inteligência
artificial cognitiva, lastreada na análise preditiva, seja capaz de responder ao nível
de autodeterminação dos sujeitos ao cometerem crimes, estabelecendo um modo
tanto mais válido quanto mais justo de responsabilidade e, por consequência, de
culpabilidade. Não é incrível onde podemos chegar?

SAIBA MAIS

Você sempre pensou na inteligência artificial como um robô humanoide?

Bom, eu espero que, nesse momento, depois de nossas aulas, você pense nela muito
mais como uma ciência de dados, atrelada a algoritmos. Como imagino que, agora,
você deve estar nesse lado do campo, veja aqui uma reportagem interessante sobre
por que a visão da IA como um robô de corpo quase humano está equivocada. Leia a
matéria:

Por que o novo filme do Exterminador do Futuro está irritando pesquisadores de

inteligência artificial

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 11

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

CONCLUSÃO

As técnicas de aprendizado pela máquina envolvem diferentes métodos de

trabalho, sendo dois deles a computação estatística e a análise preditiva. Enquanto
a primeira entrega a melhor resposta estatística para uma questão, sendo mais
apropriada à análise de riscos do objeto, a segunda é capaz de predizer reações
de acordo com parâmetros objetivos e subjetivos justificadamente. Entendemos
que a análise preditiva, se programada a partir de critérios claros e estabelecidos
democraticamente, pode, por exemplo, diferenciar o nível de livre determinação
decisória de um indivíduo, contribuindo para a aferição da culpabilidade de
maneira mais justa.

Num volume crescente de big data, com sensores em todas as partes

(de casas a relógios inteligentes), a IA com aplicação de análise preditiva tem
elevado potencial de impacto na humanidade nas próximas décadas. À medida
que a quantidade de dados aumenta e melhora a qualidade, auxiliada pela
disponibilidade de energia de processamento de custo reduzido, a análise
preditiva poderá entregar soluções que nem imaginamos ainda.

Agora que você já está craque nos conceitos envolvendo a inteligência

artificial, sabe diferenciar as técnicas que a envolvem, dizendo como cada uma se
aplica, falta abordarmos alguns desafios que as máquinas (com a aplicação de IA,
inclusive) têm imposto nos últimos anos. Esse será o assunto da nossa próxima e
última aula, quando trataremos de criptografia, fake news e bloqueio de conteúdo.
Vamos a esses próximos desafios?

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 12

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

REFERÊNCIAS

BERWICK, Robert C.; CHOMSKY, Noam. Why only us: language and evolution.
Cambridge: MIT Press, 2017.

COLLEGE BOARD. Data-Driven Models to Understand Environmental Context.

2019. Disponível em: <https://secure-media.collegeboard.org/digitalServices/
pdf/professionals/data-driven-models-to-understand-environmental-context.
pdf. Acesso em 20.11.2019>.

WINSTON, Patrick. The strong story hypothesis and the directed

perception hypothesis. AAAI Fall Symposium Series, 2011, p. 6. Disponível
em:<https://dspace.mit.edu/bitstream/handle/1721.1/67693/Submitted.
pdf?sequence=1&isAllowed=y>. Acesso em: 19 nov. 2019.

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 13

 AULA 3 – POSSIBILIDADES FUTURAS DE APLICAÇÃO
ATUAL DA AI

APLICAÇÃO DA INTELIGÊNCIA ARTIFICIAL AO DIREITO 14