Inovação

no Judiciário:
governo como plataforma
e dados abertos

Inteligência Artificial
nos Tribunais
Ministrado por:
Rodrigo Marques
 Agenda
Noções Gerais sobre IA

O desafio algorítmico

Ética e IA

IA no processo judicial

Uso da IA pela
Administração Judiciária
 Noções Gerais sobre IA

Fonte: https://www.hpe.com/br/pt/what-is/artificial-intelligence.html
 Noções Gerais sobre IA
• Sabe-se, de forma genérica, que um sistema inteligente é aquele que apresenta
capacidade para:
• Raciocinar;
• Planejar;
• Resolver problemas;
• Realizar indução, dedução
• Lógica e abdução;
• Armazenar conhecimento;
• Comunicar-se através de uma
• Linguagem;
• Perceber e adaptar-se ao meio;
• Aprender.

• A inteligência artificial é um campo da ciência da computação e da engenharia de

computação que procura reproduzir, por meios computacionais, essas capacidades.
• A inteligência envolve a habilidade de obter sucesso no tratamento de novas situações
pelo ajuste apropriado do comportamento.
 Noções Gerais sobre IA
• Sabe-se, de forma genérica, que um sistema inteligente é aquele que apresenta
capacidade para:
• Raciocinar;
• Planejar;
• Resolver problemas;
• Realizar indução, dedução
• Lógica e abdução;
• Armazenar conhecimento;
• Comunicar-se através de uma
• Linguagem;
• Perceber e adaptar-se ao meio;
• Aprender.

• A inteligência artificial é um campo da ciência da computação e da engenharia de

computação que procura reproduzir, por meios computacionais, essas capacidades.
• A inteligência envolve a habilidade de obter sucesso no tratamento de novas situações
pelo ajuste apropriado do comportamento.
 Noções Gerais sobre IA

APRENDIZADO DE MÁQUINA (MACHINE LEARNING)

É uma forma de conseguir a inteligência artificial. É um ramo da inteligência artificial

que envolve a criação de algoritmos que podem aprender automaticamente a partir de
dados. Ao invés de os desenvolvedores de software elaborarem enormes códigos e
rotinas com instruções específicas para que a máquina possa realizar determinadas
tarefas e conseguir resultados (e com isso limitar drasticamente o seu campo de
atuação e resultados), no aprendizado de máquina treina-se o algoritmo para que ele
possa aprender por conta própria, e até mesmo conseguir resultados que os
desenvolvedores dos algoritmos nem mesmo poderiam imaginar.

Fonte: https://www.conjur.com.br/dl/algoritmos-inteligencia-artificial.pdf
 Noções Gerais sobre IA

Neste treinamento, há o envolvimento de grandes quantidades de dados que precisam

ser alimentadas para o algoritmo (ou aos algoritmos envolvidos), permitindo que ele (o
algoritmo) se ajuste e melhore cada vez mais os seus resultados. Exemplo: o
aprendizado de máquina foi utilizado para melhorar significativamente a visão por
computadores (a capacidade de uma máquina reconhecer um objeto em uma imagem
ou vídeo). Os seres humanos podem marcar imagens que têm um gato versus aquelas
que não os possuem. O algoritmo tenta construir um modelo que pode marcar com
precisão uma imagem como contendo um gato ou não, assim como um ser humano.
Uma vez que o nível de precisão é alto o suficiente, a máquina agora “aprendeu” como
é um gato, como ele se parece.

Fonte: https://www.conjur.com.br/dl/algoritmos-inteligencia-artificial.pdf
 Noções Gerais sobre IA

APRENDIZADO PROFUNDO (DEEP LEARNING)

É uma das várias abordagens para o aprendizado de máquinas. Outras abordagens

incluem aprendizagem por meio de árvores de decisão (decision tree learning),
programação de lógica indutiva (inductive logic programming), agrupamento
(clustering), aprendizagem de reforço (reinforcement learning), redes bayesianas
(Bayesian networks), entre outros. A aprendizagem profunda foi inspirada na estrutura
e nas funções do cérebro humano, na interligação dos neurônios.

Fonte: https://www.conjur.com.br/dl/algoritmos-inteligencia-artificial.pdf
 Noções Gerais sobre IA

• No campo filosófico a questão da Inteligência Artificial trás uma série de

questionamentos que são importantes de serem resolvidos para o correto evoluir ético
e moral desta tecnologia:
•Questões-chave:
•Regras formais podem ser usadas para obter conclusões válidas?
•Como a mente surge do cérebro físico?
•De onde vem o conhecimento?
•O conhecimento produz a ação?

• O famoso teste de Turing é um dos primeiros fundamentos da discussão filosófica da

I.A.
 Noções Gerais sobre IA

• O idealizador dos computadores e primeiro teórico a sugerir a possibilidade de se criar

uma inteligência artificial, Alan Turing, propôs o seguinte teste: algumas pessoas, os
juízes, farão perguntas, via terminal de computador, a uma entidade que eles não
sabem se é um computador ou uma pessoa. Numa outra sala estarão pessoas
conectadas a uma parte dos terminais de computador com os quais os juízes irão
dialogar, a outra parte dos terminais será conectada a computadores. Caberá aos juízes
determinar se estão dialogando com uma pessoa ou com uma máquina, e a tarefa dos
computadores é confundir os juízes para que pensem que estão falando com uma
pessoa, ao invés de uma máquina. Segundo Turing, se um computador conseguir
imitar o comportamento verbal humano a ponto de confundir os juízes, então a
máquina estará pensando.
 Noções Gerais sobre IA
• Este teste originou diversos estudos e desenvolvimento de algoritmos que vieram a
conceituar a inteligência artificial moderna. Hoje, sistemas são projetados não para
serem inteligentes, mas para realizarem alguma função útil baseado em métodos do
comportamento inteligente de humanos, como a tomada de decisão. Esta distinção
apresentou duas perspectivas, sendo elas conhecidas como IA-Fraca e a IA-Forte.
IA-Fraca:
• Este conceito entende que a construção de sistemas são de certa forma “inteligente”,
entretanto, não são capazes de raciocinar por si próprios. Um motor de inferência,
chatbot por exemplo, nada mais é do que um vários if-them encadeados. Não tendo
raciocínio nem vontades, pois a máquina se baseia no insumo do conhecimento
fornecido por um humano.
IA-Forte:
• Esta perspectiva está relacionada com a criação de computadores com consciência e que
possam pensar, não é uma mera simulação de raciocínios, são capazes de escrever uma
poesia ou uma música, e não somente organizar palavras e sons de forma coerente.
Noções Gerais sobre IA
O desafio algorítmico
BUSCA HEURÍSTICA E TOMADA DE DECISÕES
•Muitos julgamentos e tomadas de decisão do cotidiano são feitos sob incerteza quando
desconhecemos as probabilidades associadas aos possíveis resultados de uma tarefa
decisória. Julgamentos realizados sob incerteza podem ser exemplificados com a estimativa
da cotação futura do real, com os possíveis resultados da próxima eleição, dentre outros.
•Há, ainda, as decisões de risco, nas quais o decisor tem conhecimento das probabilidades
associadas aos resultados. Um exemplo de decisão de risco é a realização de cirurgias de
alto risco, situação na qual o cirurgião conhece as probabilidades de sucesso baseadas em
estatísticas.
•A tomada de decisão, seja sob risco ou sob incerteza, pode ser entendida a partir de
modelos que visam normatizar a tomada de decisão. A origem dos estudos sobre
julgamento e tomada de decisão reside na prescrição de formas exitosas de tomar decisões
em jogos e situações seguras. Os princípios clássicos envolvidos nessas situações são
identificar as ações que maximizam a possibilidade de obter resultados desejáveis e
minimizar a possibilidade de que ocorram resultados indesejáveis sob condições
idealizadas.
O desafio algorítmico
•Neste sentido, a heurística pode ser conceituada como: regras gerais de influência
utilizadas pelos sujeitos para chegar aos seus julgamentos em tarefas decisórias de
incerteza e que tem como vantagens de utilização, a redução do tempo e dos esforços
empreendidos para que sejam feitos julgamentos razoavelmente bons. As heurísticas
reduzem a complexidade das tarefas de acessar probabilidades e predizer valores a simples
operações de julgamento, ou seja, são atalhos mentais que facilitam a tomada de decisão.

•Geralmente, as heurísticas são úteis, mas, por vezes, podem levar a erros severos e
sistemáticos.
O desafio algorítmico
O desafio algorítmico
• É fundamental entendermos que, por trás de cada solução de inteligência artificial
haverá humanos, que pensam no seu propósito, criam o algoritmo e definem em
quais tipos e bases de dados esse algoritmo irá se apoiar. Por certo, isso transfere
para a solução tanto aspectos de parcialidade quanto, até mesmo, preconceitos
transmitidos de forma consciente ou não e que influenciam diretamente na saída de
dados que será gerada pela aplicação, não importando que esta seja capaz de
aprender de forma autônoma.
• A grande maioria das aplicações de Inteligência Artificial são baseadas na categoria
de algoritmos conhecidos como Deep Learning, que são perfeitos para
reconhecimento de padrões nos dados. Contudo na construção deste algoritmo,
com a consequente coleta e tratamento dos dados podem ocorrer os chamados
vieses.
• O viés (bias) é um atributo inerente ao ser humano, que tende seguir determinadas
tendências e maneiras de pensar e agir.
O desafio algorítmico
• No tocante aos algoritmos, os vieses podem se revelar, principalmente, em 3
estágios:
• Definição do Problema;
• Coleta de Dados;
• Preparação dos Dados.
• Consertar um viés é bem difícil pois há alguns desafios que devem ser superados:
1) UNKNOWN UNKNOWNS - A introdução do viés nem sempre é óbvia durante a
construção do modelo já que pode-se não notar os impactos dos seus dados e escolhas
desde o início. Mesmo que o impacto seja notado, é difícil identificar em que momento
o viés foi introduzido e descobrir como retirá-lo do modelo.
2) AUSÊNCIA DE CONTEXTO SOCIAL - De maneira semelhante, a forma como cientistas da
computação são ensinados a definir problemas, muitas vezes, não é a melhor
abordagem para problemas sociais.
O desafio algorítmico
3) PROCESSOS IMPERFEITOS - Muitos dos processos e etapas de Deep Learning não são
projetadas para detectar viés. Modelos de Deep Learning são testados de acordo com
sua performance antes de serem publicados. Na prática, os testes geralmente são
realizados da seguinte forma: cientistas dividem aleatoriamente os dados em 2
conjuntos: 1 conjunto de treinamento e 1 conjunto de validação. Isso significa que os
dados utilizados para testar a performance do modelo tem o mesmo viés que os dados
utilizados para treiná-lo anteriormente. Portanto, ele irá falhar ao tentar indicar
resultados enviesados.
4) DEFINIÇÃO DE JUSTIÇA - Esse problema não está só presente na ciência da
computação—essa questão tem uma longa história de debates na Filosofia, nas
Ciências Sociais e no Direito . A diferença é que na computação o conceito de justiça
deve ser previamente definido em termos matemáticos.
• Como reduzir em termos matemáticos a isonomia e evitar falsos positivos e falsos
negativos em sistemas de predição?
• Uma das abordagens propostas para contornar essa questão chama-se FAT - Fairness,
Accountability e Transparency.
 O desafio algorítmico

Fonte: https://apublica.org/2016/06/software-que-avalia-reus-americanos-cria-injusticas-na-vida-real/
O desafio algorítmico
• O case ocorrido nos EUA, no Estado de Wiscosin, no qual a utilização do software
privado denominado COMPAS (Correctional Offender Management Profiling for
Alternative Sanctions) que foi utilizado para a dosimetria da pena aplicada a um
condenado em 2013, acabou se tornando um dos mais emblemáticos exemplos de falha
da IA no suporte decisório judicial. O caso foi levado a Suprema Corte de Winsconsin.
• O caso ilustra que a tomada mecânica de decisões, com base em padrão decisório
previamente definido, dissociado do caso concreto e sem a fundamentação em
contraditório pelo juiz do caso pode acabar gerando injustiças mais gravosas do que o
caso em questão.
 O desafio algorítmico

Fonte: https://www.blacklistednews.com/article/52055/machine-bias-software-used-across-us-to-predict-criminal-behavior-biased-against.html
 O desafio algorítmico

Fonte:https://medium.com/thoughts-and-reflections/racial-bias-and-gender-bias-examples-in-ai-systems-7211e4c166a1
 Ética e IA

• Conforme muito bem apontado por Dora Kaufman em sua obra: “O aumento do
agenciamento da IA, especialmente quando substitui a agência humana, remete a uma
questão ética cada vez mais urgente: a responsabilidade.”
• Continua com o pensamento: “Atribuir aos humanos a responsabilidade sobre as
decisões automatizadas, ou mesmo sobre meras previsões, não é trivial. Os sistemas de IA
mais complexos, portanto, com maior probabilidade de causar danos, agregam
contribuições de diversos desenvolvedores, utilizam bases de dados originadas de
múltiplas fontes para treinar seus algoritmos e, por fim, são aplicados para executar
tarefas, às vezes, em distintos domínios. A responsabilidade, desse modo, teria que ser
distribuída entre todas as partes envolvidas (o que nem sempre é fácil de rastrear).”
• Neste sentido, fica a questão: na esfera da responsabilidade civil quando e a quem pode
ser imputada a responsabilização por atos oriundos de sistemas de inteligência
artificial?
 Ética e IA
➢ A responsabilidade civil incide sobre um ato voluntário, decorrente da vontade
do agente, cujo resultado é um dano ou risco aos direitos de outrem, mesmo que
este não tenha sido verdadeiramente almejado.
➢ Como ensina Rodolfo Pamplona Filho e Pablo Stolze Gagliano, constitui requisito
necessário para configuração da responsabilidade a conduta humana e
voluntária, baseada na própria vontade de agir e na liberdade de escolha.
➢ Já pelo Código Civil há previsão de que haverá obrigação de reparar o dano,
independentemente da comprovação da culpa, quando a atividade normalmente
desenvolvida pelo autor do dano implicar, por sua natureza, riscos para os
direitos de outrem (Art. 927, § único do Código Civil). Estabelece ainda, o
dispositivo legal, que as empresas respondem pela assunção do risco,
independentemente de comprovação de culpa, pelos danos que podem ser
causados pelos produtos postos em circulação ou pela atividade desenvolvida,
essencialmente perigosos.
 Ética e IA

➢ Há de se considerar ainda a ótica do Direito do Consumidor, onde na teoria

adotada pelo CDC, temos como regra geral a responsabilidade civil objetiva
daqueles envolvidos com o fornecimento de um produto ou serviço que resultou
em algum dano ao consumidor, mais notadamente nos Artigos 12 e 14 do CDC.
➢ Por parte do desenvolvedor/fabricante, poderia ser arguida a teoria do risco do
desenvolvimento?

• Gustavo Tepedino aponta: “A questão de se atribuir e reconhecer personalidade jurídica

à IA se justificaria para o fim de promoção de interesses, valores e finalidades relevantes
para o ordenamento jurídico. No caso de atribuição de tal personalidade, a IA estaria
alçada a categoria de sujeito de direitos, centro autônomo de imputação subjetiva e
responsável pelos atos que praticar.”
 Ética e IA
• A temática da atribuição de personalidade à IA, envolveria também questionamentos
acerca da existência ou não de uma necessária relação de cuidado com o outro, a
empatia, sendo que a maior parte dos pesquisadores apontavam para ausência de tal
característica, já que a IA pauta-se no princípio da eficiência. Em sentido contrário,
Mireille Hildebrandt comenta que para atribuir a personalidade eletrônica a um robô
deveríamos verificar e demonstrar se ele apresenta uma dose de empatia, registrando
que estudos recentes da neurociência afirmariam que tal habilidade não seria
exclusivamente humana ("Criminal Liability and Smart environments". In DUFF, R. A.
Green, Stuart P. (Ed.), Philosophical foundations of criminal law, New York, Oxford
University Press, 2011, p. 527).

Fonte: https://www.migalhas.com.br/coluna/humanidades-e-novas-tecnologias/371055/personalidade-juridica-eletronica-epersonality-de-aplicacoes-de-ia
 Ética e IA
• Um dos problemas específicos em relação à atribuição da responsabilidade no caso de IA,
também denominado de "problema de muitas mãos", é a falta ou dificuldade de identificação
do nexo causal entre a conduta do agente e o dano produzido entre os diferentes atuantes
envolvidos no processo, já que há um complexo sistema sociotécnico envolvido.
• O Alan Turing e Oxford Internet Institute/UNESCO traz a proposta de "responsabilidade
'compartilhada' ou 'distribuída' entre designers de robôs, engenheiros, programadores,
fabricantes, investidores, vendedores e usuários. Nenhum desses agentes pode ser indicado
como a última fonte de ação. Ao mesmo tempo, esta solução tende a diluir completamente a
noção de responsabilidade: se todos tiverem uma parte na responsabilidade total, ninguém
será completamente responsável.
• Por sua vez, Caitlin Mulholland traz a proposta de causalidade alternativa; diante da existência de
um único nexo causal que não pode ser identificado de forma direta, podemos atribuir a sua
presunção ao grupo econômico como um todo, e maior facilitação do ônus probatório para a
vítima ("Responsabilidade civil e processos decisórios autônomos em sistemas de IA: autonomia,
imputabilidade e responsabilidade", IA e Direito, São Paulo, Revista dos Tribunais, 2019, p.325 e ss.)
Fonte: https://www.migalhas.com.br/coluna/humanidades-e-novas-tecnologias/371055/personalidade-juridica-eletronica-epersonality-de-aplicacoes-de-ia
 Ética e IA
• Projeto de Lei 21/2020 traz, em seu Art. 2º, IV, a definição de agente de inteligência artificial:
• pessoas físicas ou jurídicas, de direito público ou privado, e entes sem personalidade
jurídica, assim considerados:
• a) agentes de desenvolvimento: todos aqueles que participam das fases de
planejamento e design, coleta e processamento de dados e construção de modelo; de
verificação e validação; ou de implantação do sistema de inteligência artificial; e
• b) agente de operação: todos aqueles que participam da fase de monitoramento e
operação do sistema de inteligência artificial.
• Já em seu Art. 6º define que:
• São princípios para o uso responsável de inteligência artificial no Brasil:
VI - responsabilização e prestação de contas: demonstração, pelos agentes de inteligência
artificial, do cumprimento das normas de inteligência artificial e da adoção de medidas
eficazes para o bom funcionamento dos sistemas, observadas suas funções.
 IA no processo judicial
• Levantamento do Conselho Nacional de Justiça (CNJ) aponta expressivo aumento do
número de projetos de inteligência artificial (IA) no Poder Judiciário em 2022. A pesquisa
apresentada nesta terça-feira (14/6) pelo presidente do CNJ, ministro Luiz Fux,
identificou 111 projetos desenvolvidos ou em desenvolvimento nos tribunais. Com isso, o
número de iniciativas cresceu 171% em relação ao levantamento realizado em 2021,
quando foram informados apenas 41 projetos.
• Houve também avanço no número de órgãos que possuem projetos de IA. Atualmente, 53
tribunais desenvolvem soluções com uso dessa tecnologia (considerando 91 Tribunais no Brasil,
praticamente 60% tem projetos de IA). Na pesquisa anterior, apenas 32 órgãos declararam ter
iniciativas no tema. O estudo evidencia que mesmo os tribunais sem projetos nessa área
– em sua maioria tribunais do ramo eleitoral e do Trabalho – já possuem soluções
implementadas ou sendo estudadas por seus Tribunais Superiores ou pelo respectivo
conselho superior, o que implica que também são beneficiados por projetos nacionais.

Fonte: https://www.cnj.jus.br/justica-4-0-inteligencia-artificial-esta-presente-na-maioria-dos-tribunais-brasileiros/
 IA no processo judicial
• E quais são as iniciativas mais comuns?
1. Automatização de Tarefas
2. Compilação automatizada de documentos
3. Conectividade ininterrupta (Chatbots)
4. Classificação de processos
5. Análise e Triagem de Informações (grandes volumes)
6. Processamento de linguagem natural
• Uma questão que ainda divide opiniões é o limite da IA dentro do Judiciário. De fato deve
caber a utilização de inteligência artificial no processo de tomada de decisão, ou seja, na
própria atividade jurisdicional (identificação de causas de pedir, configurações fáticas e jurídicas,
temas, ratio decidendi, adequação de causas, distinguishing)?

• Encontra-se em tramitação no Congresso Nacional o PLS nº 5.051/2019, de autoria do

Senador Styvenson Valentim, cujos termos objetivam estabelecer princípios para o uso
da inteligência artificial no Brasil, constando do art. 4º a vedação de que os sistemas de
inteligência artificial sejam utilizados na tomada de decisão, senão como auxiliares.
 IA no processo judicial
• A depender do resultado do processo legislativo, por exemplo, poderiam vir a ser
questionados, por aqueles que se sentirem prejudicados pelo resultado, os julgamentos
efetuados com o auxílio dos sistemas RADAR e VICTOR.
 Uso da IA pela Administração Judiciária

Fonte: https://itsrio.org/pt/publicacoes/o-futuro-da-ia-no-judiciario-brasileiro/
 Uso da IA pela Administração Judiciária

Fonte: https://itsrio.org/pt/publicacoes/o-futuro-da-ia-no-judiciario-brasileiro/
 Uso da IA pela Administração Judiciária

Fonte: https://itsrio.org/pt/publicacoes/o-futuro-da-ia-no-judiciario-brasileiro/