1ª AVALIAÇÃO DE DIREITO TECNOLOGIA E INOVAÇÃO

Aluno: Hugo Estefânio Silva

RA: 1622489
Turma: 10º Semestre Noturno
Professora: Maria Cristine Lindoso

ESTUDO DE CASO

Você foi indicado por uma comissão no Senado Federal como jurista
responsável por elaborar uma diretriz sobre uso de inteligências artificiais no
âmbito do Direito. A preocupação da comissão é regular o uso da IA no poder
judiciário, em investigações criminais e administrativas e também na atuação
do Estado como um todo.
Elabore o documento descrevendo (i) os pontos positivos e (ii) as preocupações
e riscos inerentes à incorporação dessas tecnologias. Utilize a bibliografia que
julgar mais adequada.

Cada vez mais nos deparamos com o uso da Inteligência artificial no nosso
cotidiano. Essa tecnologia, conhecida também como “I.A”, tem o propósito de atribuir
a um dispositivo computacional a capacidade de replicar algumas habilidades
cognitivas, habilidades essas que antes apenas o ser humano era capaz.1
Não era difícil prever que essa tecnologia chegaria ao mundo jurídico, isso
porque ela visa facilitar as tarefas do dia a dia, modernizar os processos e obter
avanços em pesquisas científicas com a utilização de um “cérebro” artificial mais
avançado e eficiente.
No campo da investigação criminal, por exemplo, a IA, por meio de algoritmos
especializados e novos sistemas de processamento de dados, ajuda a polícia a
eliminar o trabalho repetitivo, a agilizar a apuração e a solucionar crimes.
Os sistemas de IAs podem ser úteis para, por meio de reconhecimento facial,
procurar e localizar suspeitos; automatizar o preenchimento dos boletins de
ocorrência; averiguar placas de veículos; identificar pessoas pela voz; monitorar redes
sociais, dentre outras medidas.

1
SILVA, J. A. S. DA; MAIRINK, C. H. P. Inteligência artificial. LIBERTAS: Revista de Ciênciais
Sociais Aplicadas, v. 9, n. 2, p. 64-85, 13 dez. 2019.1
 Já quanto à aplicação da inteligência artificial no judiciário, podemos citar o
sistema de algoritmo utilizado pelo STF, denominado VICTOR. Esse sistema sabe
interpretar recursos, separar por temas e destacar as peças principais para agilizar os
processos na Corte e desafogar os gabinetes dos ministros. Em alguns casos, o
sistema já faz em 5 segundos o serviço que funcionários levavam mais de 30 minutos.2
Ocorre que, junto a esse avanço tecnológico, surgem alguns problemas que
precisam ser enfrentados. Dierle Nunes3 argumenta que é imprescindível que se tenha
cuidado em sua implementação, pois as ferramentas de IA, apesar de pretensamente
objetivas, também são permeadas por subjetividades, que surgem tanto no momento
de elaboração dos algoritmos quanto no fornecimento de dados para o machine
learning.
Para o autor, vieses algorítmicos acarretam riscos ao processo constitucional
por impossibilitar o exercício da garantia do contraditório e da ampla defesa, violando,
também, o acesso à Justiça. Desse modo, ele defende que é preciso ampliar os
estudos sobre esses vieses, para que se possa pensar em mecanismos para
contorná-los.
Outro estudo que podemos citar em relação ao tema abordado é o artigo
produzido pelo Juiz de Direito Alexandre Morais da Rosa, no qual ele externa sua
preocupação com a utilização, nos processos penais, de provas adquirida por
“Modelos de Inteligência Artifical” implementados pelos Órgãos de Investigação e de
Controle, em desconformidade com as normas de transparência, produção,
tratamento de dados e auditabilidade.4
Essas situações, nas palavras do autor, precisam ser enfrentadas, pois
produzem condenações injustas, por violação das condições mínimas do
estabelecimento do “contraditório significativo” e, por consequência, do Devido
Processo Legal.
Em face do exposto, e com o intuito de evitar violações à privacidade e a outras
liberdades fundamentais, bem como prevenir a discriminação nas atividades de
segurança pública e de Justiça Crimina, é preciso estabelecer algumas diretrizes

2
TEIXEIRA, Matheus. STF investe em inteligência artificial para dar celeridade a
processos. Disponível em: https://jotainfo.jusbrasil.com.br/noticias/657530982/stf-investe-em-
inteligencia-artificial-para-dar-celeridade-a-processos. Acesso em 12/05/2021.
3
NUNES. Dierle; MARQUES, Ana Luiza Coelho. Inteligência Artificial e Direito Processual:
Vieses Algorítmicos e os riscos de atribuição de função decisória às máquinas. Disponível
em:https://www.academia.edu/37764508/INTELIG%C3%8ANCIA_ARTIFICIAL_E_DIREITO_PR
OCESSUAL_VIESES_ALGOR%C3%8DTMICOS_E_OS_RISCOS_DE_ATRIBUI%C3%87%C3%
83O_DE_FUN%C3%87%C3%83O_DECIS%C3%93RIA_%C3%80S_M%C3%81QUINAS_Artifici
al_intelligence_and_procedural_law_algorithmic_bias_and_the_risks_of_assignment_of_decision
_making_function_to_machines. Acesso em 04 de Maio de 2022.
4
ROSA, Alexandre Morais. O Manto de Invisibilidade do uso da Inteligência Artificial no
Processo Penal. Disponível em: https://www.conjur.com.br/2022-jan-07/limite-penal-manto-
invisibilidade-uso-ia-processo-penal. Acesso em 04 de Maio de 2022.
sobre uso de inteligências artificiais no âmbito do Direito, notadamente na esfera penal
e sancionatória.
Um bom ponto de partida é analisar a Resolução 405, de 06 de outubro de
2021, do Parlamento da União Europeia, que dispõe sobre o uso de inteligência
artificial na segurança pública e na Justiça Criminal.
Os principais pontos abordados nessa Resolução são: (i) a necessidade de
supervisão humana sobre sistemas de IA; (ii) os algoritmos utilizados na segurança
pública devem ser de código aberto (open source); (iii) sistemas e bases de dados
privados de reconhecimento facial, como o Clearview AI, devem ser proibidos; (iv)
também deve ser proibido o policiamento comportamental preditivo; (v) Não se deve
adotar na UE o sistema de pontuação para cidadãos (citizen scoring); (vi) certos
sistemas de reconhecimento humano automático não devem ser usados no controle
migratório nem em espaços públicos, salvo para identificação de suspeitos de crimes.5
Por fim, é preciso compreender que, de fato, as aplicações de IA podem criar
grandes oportunidades de melhoria nos métodos de trabalho das autoridades
policiais, judiciais e administrativas, contribuindo, assim, para a segurança e a
proteção dos brasileiros. Contudo, tal evolução, se mal-empregada ou utilizada de
forma abusiva, pode trazer riscos significativos para os direitos fundamentais das
pessoas.

5
Aras, Vladimir. O emprego de inteligência artificial em segurança pública na União Europeia.
Disponível em: https://vladimiraras.blog/2021/10/09/o-emprego-de-inteligencia-artificial-em-
seguranca-publica-na-uniao-europeia/. Acessado em: 04 de Maio de 2022.