INTELIGÊNCIA ARTIFICIAL E O DIREITO: desafios regulatórios e éticos do uso de

sistemas de inteligência artificial no campo jurídico.1

Larissa de Sousa Aquino

Resumo: Este artigo acadêmico investiga as dificuldades que envolvem a regulamentação e

as considerações éticas ao utilizar sistemas de inteligência artificial (IA) no setor jurídico. A
IA provou ser uma ferramenta eficaz e promissora em vários campos, incluindo o direito. No
entanto, sua implementação no contexto legal apresenta intrincados desafios e exige um
exame minucioso de seus aspectos normativos e éticos. O artigo examina os obstáculos
regulatórios centrais no uso da IA no setor jurídico, que incluem transparência algorítmica,
responsabilidade e viés algorítmico. Além disso, são analisadas as preocupações éticas ligadas
ao uso da IA, como a defesa dos direitos fundamentais, a imparcialidade e a confiabilidade. O
objetivo do artigo é contribuir para a discussão acadêmica sobre os impasses e remédios
necessários para promover a aplicação ética e consciente de sistemas de IA no campo jurídico.

Palavras-chave: inteligência artificial, regulamentação, ética, responsabilidade, direitos

fundamentais.

INTRODUÇÃO

Com o avanço da tecnologia a presença da inteligência artificial (IA) tornou-se mais

prevalente na sociedade, especialmente no setor jurídico. Esse instrumento oferece o potencial
de agilizar procedimentos, aumentar a produtividade e oferecer insights valiosos para os
especialistas jurídicos. No entanto, a implementação da IA no âmbito jurídico também levanta
questões intrincadas relacionadas à ética e à regulamentação.

A utilização da Inteligência artificial na esfera do Poder Judiciário é recente e tem

sido aplicada para potencializar o trabalho judicial e auxiliar o processo decisório. O
surgimento de sistemas e programas elaborados com algoritmos que possibilitam
uma similaridade cognitiva da máquina com o ser humano, ou seja, simulam a
inteligência deste, para a execução de tarefas notadamente humanas de apreciação e
valoração de teses e demandas judiciais (FERNANDES, 2005).

1
Trabalho de Curso apresentado ao Centro Superior UNA de Catalão, do Curso de Direito, sob orientação da
professora Sandra Lúcia Aparecida Pinto.
 2

Essa incorporação de sistemas no campo jurídico implica a interpretação de grandes

quantidades de dados, o que pode levar a decisões mais informadas e decisivas. Esses
sistemas possuem a capacidade de analisar casos anteriores, precedentes legais, leis,
regulamentos e identificar padrões, além de oferecer previsões e recomendações.
A regulamentação da IA na lei depende do aspecto crítico da transparência
algorítmica. É decisivo compreender o funcionamento interno dos algoritmos e como eles
chegam a conclusões definitivas. Esse entendimento é vital para determinar sua adequação e
prever possíveis rumos ou imprecisões. Além disso, identificar a responsabilidade pelas
decisões tomadas pelos sistemas de IA é um desafio complexo, surgindo devido à natureza
sofisticada dos algoritmos que regem esses sistemas, tornando-os difíceis de entender pelos
humanos.
A questão ética também desempenha um papel fundamental no uso da inteligência
artificial no campo jurídico. A preservação dos direitos fundamentais, como privacidade,
liberdade de expressão e devido processo legal, deve ser assegurada ao incorporar a IA nos
processos legais. A confiabilidade e segurança dos sistemas de IA também são aspectos
críticos, uma vez que decisões importantes podem ser baseadas nessas tecnologias.
Nesse contexto, é essencial discutir e desenvolver soluções que promovam a
regulamentação adequada e a utilização ética da inteligência artificial no direito, que será
realizada através de uma revisão de literatura. Desse modo, este estudo tem o objetivo de
investigar as dificuldades que envolvem a regulamentação e as considerações éticas ao utilizar
sistemas de inteligência artificial (IA) no setor jurídico, buscando ainda, contribuir para a
discussão acadêmica sobre os impasses e remédios necessários para promover a aplicação
ética e consciente de sistemas de IA no campo jurídico.
Nos próximos tópicos deste artigo, serão apresentados em detalhes os desafios da
regulamentação e ética na utilização de sistemas de inteligência artificial no campo jurídico,
bem como possíveis soluções e boas práticas para promover seu uso ético e responsável.

2 O CONCEITO E SUA CONTEXTUALIZAÇÃO

Para melhor entendimento do assunto a inteligência artificial nada mais é do que

sistemas computacionais capazes de realizar tarefas que requer uma inteligência humana
como raciocínio e um aprendizado com uma tomada de decisões de um reconhecimento maior
 3

sobre o assunto. No campo jurídico auxilia advogados, juízes e profissionais do Direito em

várias atividades como pesquisa jurídica, análise de casos, predição de resultados judiciais e
elaboração de contratos com análise de riscos legais. É usada para utilizar tarefas rotineiras e
repetitivas melhorando a eficiência dos processos legais e oferecendo a compreensão em
dados para auxiliar a tomada de decisões. Um exemplo que podemos analisar é a grande
volume de documentos jurídicos em tempo reduzido que identifica padrões relevantes e
auxilia na pesquisa de jurisprudências oferecendo suporte na redação de petições e realizando
análises preditivas com base em dados históricos.
Não sendo exceção no campo jurídico que vem provando ser uma tecnologia
revolucionária. E como essas tarefas podem ser complexas e demoradas, que acabam exigindo
que os advogados gastem um tempo valioso revisando documentos, pesquisando
jurisprudência e conduzindo análises aprofundadas, vem otimizar e tem o potencial de
simplificar e aprimorar essas atividades, permitindo que advogados e juízes se concentrem em
aspectos mais estratégicos e complexos do trabalho jurídico reduzindo erros e aumentar a
eficiência geral do sistema jurídico. À medida que os sistemas de IA se tornam mais
complexos e autônomos, é fundamental ter diretrizes claras para seu desenvolvimento, uso e
aplicação em um contexto legal. Além disso, o uso de sistemas de IA no campo jurídico
requer uma abordagem ética cuidadosa. A importância da inteligência artificial no campo
jurídico não pode ser negada. No entanto, desafios regulatórios e éticos devem ser superados
para garantir o uso responsável, transparente e ético da IA preservando os valores e princípios
fundamentais do ordenamento jurídico.
Como podemos ver o que Carlos Henrique Passos Mairink (2019, p.68) de sua citação
na revista inteligência artificial: aliada ou inimiga, que fala exatamente isso:

A Inteligência artificial, também conhecida como IA, é um ramo da ciência que visa,
por meios tecnológicos, ser capaz de simular a inteligência humana; podendo
resolver problemas, criar soluções e até mesmo tomar decisões no lugar do ser
humano, como um auxílio que facilitaria em diversas áreas do cotidiano.

3 APRESENTAÇÃO DO PROBLEMA E JUSTIFICATIVA

Uma das principais preocupações é a transparência algorítmica com a compreensão de

como os algoritmos tomam as decisões sendo assim essenciais a capacidade de justificar essas
decisões garantindo a responsabilidade do sistema sem a transparência, é difícil avaliar a
validade, a imparcialidade, os possíveis vieses algoritmos presentes nas decisões legais
 4

automatizadas. Pela complexidade desses sistemas muitas vezes baseado em algoritmos de

aprendizagem de máquina, dificulta a identificação de quem é responsável por estas decisões
tomadas, nesse aspecto, a falta de clareza podem afetar a confiança e a legitimidade do
sistema jurídico como um todo.
Outro ponto relevante é o risco de viés algoritmo que o sistema ele é treinado com
base nos dados existentes, eles podem refletir pelas desigualdades e os preconceitos presentes
na sociedade podendo resultar decisões automatizadas que reproduzem e perpetuam
discriminações sistemáticas ampliando a desigualdade existentes no sistema jurídico. Diante
desses fatos a justificativa para o estudo deste tema tem a necessidade de compreender e
discutir as questões complexas visando promover uma abordagem responsável ética da IA no
direito.
A abordagem do tema, espera-se fornecer insights valiosos para legisladores,
profissionais do direito, pesquisadores e demais interessados, a fim de orientar a criação de
políticas, diretrizes e práticas éticas que garantam a utilização responsável e justa da
inteligência artificial no sistema jurídico.

4 REGULAMENTAÇÃO

Os avanços da inteligência artificial (IA) e sua aplicação na área jurídica trouxeram

benefícios significativos, como melhoria de processos, aumento de eficiência e melhoria na
tomada de decisões. No entanto, tal adoção também apresenta desafios regulatórios e éticos
complexos que devem ser abordados com cautela. A falta de regulamentação clara pode levar
a brechas legais e éticas e a riscos potenciais à equidade, à justiça e aos direitos fundamentais
das pessoas. Compreender como os algoritmos tomam decisões e ser capaz de justificá-los é
fundamental para garantir a responsabilidade dos sistemas de IA na área jurídica. Sem a
transparência, é difícil avaliar a eficácia, justiça e possível viés algorítmico nas decisões
judiciais automatizadas. Isso pode levar a decisões automatizadas que reproduzem e
perpetuam a discriminação sistêmica, aprofundando as desigualdades existentes no
ordenamento jurídico.
Diante desses desafios, é importante estabelecer regulamentações adequadas e
estabelecer diretrizes éticas claras para o uso de sistemas de IA no campo jurídico, ao explorar
os desafios regulatórios e éticos do uso de sistemas de inteligência artificial na área jurídica,
 5

visamos contribuir para o debate acadêmico e promover o pensamento crítico sobre as

melhores práticas, soluções e salvaguardas.
A utilização desses sistemas traz uma série de benefícios dentre eles podemos ter a
eficiência como automatização de tarefas repetitivas e o baixo valor agregado permitindo que
o profissional do direito foque em atividades mais complexas estratégicas, observamos a
análise de dados como processar grandes volumes de dados legais como decisões judiciais,
jurisprudências, de forma rápida e precisa, fornecendo em sites valiosos para embasar
decisões legais. Traz uma pesquisa jurídica aprimorada como uma pesquisa na doutrina, nas
leis, precedentes legais facilitando as informações relevantes de maneira mais eficiente.
Demonstra uma análise preditiva que são os dados históricos para prever os resultados
judiciais, antecipar possíveis desdobramentos de um caso auxiliando na tomada de decisões
estratégicas reduzindo possíveis erros humanos, e trazendo tendências de viés aumentando a
imparcialidade consistência das decisões jurídicas.
A responsabilidade por decisões tomadas pelo sistema é um desafio complexo, uma
vez que tomada as decisões pode envolver a proteção de dados e a privacidade pois os
sistemas da inteligência artificial, tem que se exigir cuidados específicos para garantir a
proteção de privacidade das leis de proteção de dados (Lei nº 13.709/2018) que estabelece
regras sobre o tratamento de dados pessoais no Brasil, incluindo o uso de inteligência
artificial.

Art. 1º Esta Lei dispõe sobre o tratamento de dados pessoais, inclusive nos meios
digitais, por pessoa natural ou por pessoa jurídica de direito público ou privado, com
o objetivo de proteger os direitos fundamentais de liberdade e de privacidade e o
livre desenvolvimento da personalidade da pessoa natural.

Podemos ver também pela Lei nº 12.965/2014 que se caracteriza como marco civil na
internet e regulamenta o uso da internet no Brasil, incluindo as questões de privacidade e
proteção de dados, como podemos ver a seguir em seus artigos 1°, 2° e 3°:

Art. 1º Esta Lei estabelece princípios, garantias, direitos e deveres para o uso da
internet no Brasil e determina as diretrizes para atuação da União, dos Estados, do
Distrito Federal e dos Municípios em relação à matéria.

Parágrafo único. O disposto nesta Lei aplica-se mesmo que as atividades sejam
realizadas por pessoa jurídica sediada no exterior, desde que oferte serviço ao
público brasileiro ou, no mínimo, uma pessoa jurídica integrante do mesmo grupo
econômico possua estabelecimento situado no País.

Art. 2º A disciplina do uso da internet no Brasil tem como fundamento o respeito à

liberdade de expressão, bem como:
I - o reconhecimento da escala mundial da rede;
II - os direitos humanos, o desenvolvimento da personalidade e o exercício da
cidadania em meios digitais;
III - a pluralidade e a diversidade;
 6

IV - a abertura e a colaboração;
V - a livre iniciativa, a livre concorrência e a defesa do consumidor; e
VI - a finalidade social da rede.

Art. 3º A disciplina do uso da internet no Brasil tem os seguintes princípios:

I - garantia da liberdade de expressão, comunicação e manifestação de pensamento,
nos termos da Constituição Federal;
II - proteção da privacidade;
III - proteção dos dados pessoais, na forma da lei;
IV - preservação e garantia da neutralidade de rede;
V - preservação da estabilidade, segurança e funcionalidade da rede, por meio de
medidas técnicas compatíveis com os padrões internacionais e pelo estímulo ao uso
de boas práticas;
VI - responsabilização dos agentes de acordo com suas atividades, nos termos da lei;
VII - preservação da natureza participativa da rede;
VIII - liberdade dos modelos de negócios promovidos na internet, desde que não
conflitem com os demais princípios estabelecidos nesta Lei.

Parágrafo único. Os princípios expressos nesta Lei não excluem outros previstos no
ordenamento jurídico pátrio relacionados à matéria ou nos tratados internacionais
em que a República Federativa do Brasil seja parte.

Outra lei que podemos trazer é do Código do Consumidos, que também podem ser
aplicados no contexto de sistemas de inteligência artificiais, Lei nº 8.078/1990; em seu Art. 4°
III, dispõe:

III - harmonização dos interesses dos participantes das relações de consumo e

compatibilização da proteção do consumidor com a necessidade de desenvolvimento
econômico e tecnológico, de modo a viabilizar os princípios nos quais se funda a
ordem econômica (art. 170, da Constituição Federal), sempre com base na boa-fé e
equilíbrio nas relações entre consumidores e fornecedores;

A Lei de acesso a informação, regulamenta o acesso as informações públicas e pode

ter relevância no contexto da transparência de seus sistemas, disposto na Lei nº 12.527/2011
como esclarecemos em seus Art. 3° 4° e 5°:

Art. 3º Os procedimentos previstos nesta Lei destinam-se a assegurar o direito

fundamental de acesso à informação e devem ser executados em conformidade com
os princípios básicos da administração pública e com as seguintes diretrizes:
I - observância da publicidade como preceito geral e do sigilo como exceção;
II - divulgação de informações de interesse público, independentemente de
solicitações;
III - utilização de meios de comunicação viabilizados pela tecnologia da informação;
IV - fomento ao desenvolvimento da cultura de transparência na administração
pública;
V - desenvolvimento do controle social da administração pública.

Art. 4º Para os efeitos desta Lei, considera-se:

I - informação: dados, processados ou não, que podem ser utilizados para produção e
transmissão de conhecimento, contidos em qualquer meio, suporte ou formato;
II - documento: unidade de registro de informações, qualquer que seja o suporte ou
formato;
 7

III - informação sigilosa: aquela submetida temporariamente à restrição de acesso

público em razão de sua imprescindibilidade para a segurança da sociedade e do
Estado;
IV - informação pessoal: aquela relacionada à pessoa natural identificada ou
identificável;
V - tratamento da informação: conjunto de ações referentes à produção, recepção,
classificação, utilização, acesso, reprodução, transporte, transmissão, distribuição,
arquivamento, armazenamento, eliminação, avaliação, destinação ou controle da
informação;
VI - disponibilidade: qualidade da informação que pode ser conhecida e utilizada
por indivíduos, equipamentos ou sistemas autorizados;
VII - autenticidade: qualidade da informação que tenha sido produzida, expedida,
recebida ou modificada por determinado indivíduo, equipamento ou sistema;
VIII - integridade: qualidade da informação não modificada, inclusive quanto à
origem, trânsito e destino;
IX - primariedade: qualidade da informação coletada na fonte, com o máximo de
detalhamento possível, sem modificações.

Art. 5º É dever do Estado garantir o direito de acesso à informação, que será

franqueada, mediante procedimentos objetivos e ágeis, de forma transparente, clara e
em linguagem de fácil compreensão.

5 DESAFIOS DA REGULAMENTAÇÃO, COMO A COMPLEXIDADE DOS

ALGORITMOS E A VELOCIDADE DE AVANÇO TECNOLÓGICO

Como foi dito anteriormente, demostra diversos desafios como exemplo, uma
transparência algorítmica, a complexidade dos algoritmos, podendo dificultar a compreensão
de como as decisões são tomadas levando em consideração a questão da transparência e a
possibilidade de explicar no sentido por trás das decisões. O viés algoritmo, pode reproduzir
preconceitos e discriminações presentes nos dados de treinamento resultantes de decisões
injustas e tendenciosas e aos rápidos avanços tecnológicos.
Entender completamente como esses algoritmos funcionam pode ser difícil para
legisladores e reguladores que carecem de conhecimento técnico profundo. Isso cria desafios
para manter as regras atualizadas e relevantes para as mais recentes práticas e aplicações de
IA na área jurídica.
Com a velocidade de avanço tecnológico rápidos e constantes, a IA é uma área em
constante evolução. As regulamentações tradicionalmente levam tempo para serem elaboradas
e aprovadas, enquanto a tecnologia avança a passos largos. Isso cria um desafio em manter as
regulamentações atualizadas e relevantes para as práticas e aplicações mais recentes da IA no
campo jurídico. É necessário encontrar um equilíbrio entre a necessidade de regulamentação e
a capacidade de adaptação às mudanças tecnológicas.
 8

É aplicada em uma ampla gama de áreas no campo jurídico, como análise de

contratos, pesquisa legal, previsão de resultados judiciais, entre outros. Cada uma dessas áreas
pode ter características e desafios específicos que precisam ser considerados ao elaborar
regulamentações. A diversidade de aplicações torna difícil criar uma regulamentação única e
abrangente que cubra todas as nuances e particularidades de cada caso.
O seu uso no campo jurídico é um fenômeno global. Isso implica desafios adicionais
na regulamentação, uma vez que diferentes países e regiões podem adotar abordagens
diferentes em relação à IA. A harmonização internacional das regulamentações é complexa e
pode exigir esforços de cooperação e colaboração entre diferentes jurisdições.
Requer a colaboração entre especialistas técnicos, jurídicos e éticos. É necessário um
entendimento profundo das tecnologias envolvidas, bem como das implicações jurídicas e
éticas associadas ao uso da IA. Garantir a participação de diversos especialistas pode ser um
desafio em termos de coordenação e troca de conhecimentos.
Para enfrentar esses desafios, é importante promover o diálogo interdisciplinar entre
especialistas, incentivar a pesquisa e a discussão acadêmica, e estabelecer canais de
colaboração entre legisladores, reguladores, profissionais do direito e cientistas da
computação. A regulamentação da IA no campo jurídico deve ser flexível o suficiente para se
adaptar às mudanças tecnológicas, mas também precisa fornecer orientações claras para
garantir a ética e a responsabilidade na utilização da IA.

5.1 Exemplos de iniciativas regulatórias em diferentes jurisdições

Podemos ver diferentes jurisdições ao redor do mundo que se têm adotado iniciativas
regulatórias para lidar com a inteligência artificial (IA) no campo jurídico. Essas iniciativas
variam em abordagem e escopo, mas compartilham o objetivo comum de promover a
transparência, a responsabilidade e a ética no uso da IA. Como vemos a seguir exemplos
destas iniciativas.
Na União Europeia (EU), tem se destacado na regulamentação da IA. Em abril de
2021, a Comissão Europeia propôs o Regulamento de Inteligência Artificial, que visa
estabelecer regras específicas para a IA incluindo no campo jurídico. O regulamento proíbe
certas práticas de IA de alto risco, como sistemas de reconhecimento facial em tempo real, e
estabelece requisitos de transparência, documentação e avaliação para sistemas de IA
utilizados em processos legais.
 9

Nos Estados Unidos, embora não exista uma legislação Federal abrangente sobre a
regulamentação da IA no campo jurídico, algumas iniciativas estão em andamento. Por
exemplo, o California Consumer Privacy Act (CCPA) e o Illinois Biometric Information
Privacy Act (BIPA) são leis estaduais que abordam questões relacionadas à privacidade e ao
uso de dados pessoais em sistemas de IA.
No Canadá adotou uma abordagem baseada em princípios para a regulamentação da
IA. O "Directive on Automated Decision-Making" do governo canadense estabelece diretrizes
para o uso ético e responsável de sistemas de IA incluindo no campo jurídico. O governo
também lançou o "Ethical AI Framework" para promover a transparência, a responsabilidade
e a justiça na utilização da IA.
Em Singapura tem uma abordagem proativa na regulamentação da IA. A Autoridade
Monetária de Singapura emitiu diretrizes para instituições financeiras que utilizam sistemas
de IA, visando garantir a governança adequada, a transparência e a responsabilidade no uso
dessas tecnologias. O governo também estabeleceu o Comitê de Ética e Governança da IA,
que busca desenvolver um quadro regulatório abrangente para a IA em diversas áreas,
incluindo o campo jurídico.
Na Alemanha aprovou em 2021 a Lei de Regulamentação de Sistemas de Tomada de
Decisão Automatizada (Automatisierte Entscheidungs-systeme Gesetz - AEDG). Essa lei
estabelece requisitos específicos para a transparência, explicabilidade e responsabilidade de
sistemas automatizados de tomada de decisão, incluindo aqueles utilizados no campo jurídico.
Esses exemplos ilustram algumas das iniciativas regulatórias em andamento em
diferentes jurisdições.

5.2 Responsabilidade: a atribuição de responsabilidade por decisões tomadas por

sistemas de IA

É um desafio importante quando se trata a atribuição de responsabilidade por decisões

tomadas por sistemas de inteligência artificial (IA) no campo jurídico. Envolve a identificação
de quem é responsável por ações, decisões ou consequências decorrentes do uso dos sistemas
de IA. Podemos distinguir pontos relevantes como a responsabilidade legal, como uma
tomada de decisões por sistemas de IA pode ser atribuída a diferentes partes, dependendo do
contexto e da legislação vigente. Em alguns casos, a responsabilidade pode recair sobre a
pessoa ou a organização que desenvolveu o sistema de IA, enquanto em outros casos pode ser
atribuída à pessoa ou instituição que utiliza o sistema.
 10

A supervisão humana que muito embora os sistemas de IA possam auxiliar na tomada

de decisões jurídicas, desempenha um papel crucial na responsabilidade. Os profissionais do
direito devem exercer a supervisão e a análise crítica das decisões tomadas pelos sistemas de
IA, garantindo que sejam justas, imparciais e estejam em conformidade com os princípios
legais. A supervisão humana também é importante para corrigir eventuais erros ou vieses que
possam surgir durante o uso dos sistemas.
A responsabilidade pela detecção e correção de erros e vieses nos sistemas de IA é um
aspecto fundamental. Se um sistema de IA produzir decisões incorretas, discriminatórias ou
injustas, é importante que as partes afetadas possam contestar essas decisões e buscar a
responsabilização adequada. Isso requer mecanismos efetivos para identificar e corrigir erros,
bem como sistemas de prestação de contas que permitam a revisão e a correção de decisões
inadequadas.
A regulamentação e padrões também pode ser estabelecidas ,as autoridades
regulatórias e os órgãos profissionais podem desenvolver diretrizes e normas que estabeleçam
os critérios para o uso responsável e ético de sistemas de IA no campo jurídico. Essas
regulamentações podem incluir requisitos de transparência, explicabilidade, auditoria e
prestação de contas, a fim de garantir a responsabilidade adequada pelo uso dessas
tecnologias.
Evolução da responsabilidade, conforme a tecnologia avança e sua aplicação se torna
mais difundida, é necessário um debate contínuo sobre a responsabilidade e a atribuição de
responsabilidade pelos resultados das decisões tomadas pelos sistemas de IA. Isso pode
envolver a adaptação das leis existentes, a criação de novos princípios e diretrizes e o
desenvolvimento de mecanismos efetivos para a responsabilização.
A atribuição de responsabilidade por decisões tomadas por sistemas de IA é um
desafio complexo que requer uma abordagem multidisciplinar, envolvendo profissionais do
direito, especialistas em IA, legisladores e a sociedade em geral. É necessário encontrar um
equilíbrio entre a utilização eficiente e ética da IA e a garantia de responsabilidade pelos
resultados das decisões tomadas por esses sistemas.
O viés algorítmico é um desafio significativo quando se trata da utilização de sistemas
de inteligência artificial (IA) no campo jurídico. Refere-se ao risco de que os algoritmos
utilizados reproduzam preconceitos e discriminação presentes nos dados de treinamento ou na
lógica subjacente dos sistemas.
Para se lidar é necessário adotar abordagens que busquem a diversidade e a
representatividade nos dados de treinamento, promover a transparência e a explicabilidade
 11

dos algoritmos, e estabelecer mecanismos de supervisão e responsabilização. A

conscientização e a capacitação dos profissionais do direito sobre o viés algorítmico também
são essenciais para garantir que as decisões jurídicas automatizadas sejam justas, imparciais e
em conformidade com os princípios éticos e legais.

5.3 a Proteção dos direitos fundamentais e imparcialidade

A proteção dos direitos fundamentais e a imparcialidade são aspectos fundamentais

quando se trata da utilização de sistemas de inteligência artificial (IA) no campo jurídico.
Divididos na Constituição Federal em seus artigos 5°, devem ser projetados e utilizados de
forma a proteger e respeitar os direitos fundamentais dos indivíduos. Isso inclui direitos como
a privacidade, a liberdade de expressão, o devido processo legal e a não discriminação. É
crucial que as decisões tomadas por sistemas de IA estejam alinhadas com esses direitos e não
os violem de forma injusta ou desproporcional.
A proteção dos direitos fundamentais e a imparcialidade são princípios-chave que
devem guiar o desenvolvimento, a implementação e a utilização de sistemas de IA no campo
jurídico. É necessário um esforço conjunto de profissionais do direito, especialistas em ética,
desenvolvedores de IA e legisladores para garantir que esses princípios sejam respeitados e
que a utilização da IA no sistema jurídico promova a justiça, a igualdade e o respeito aos
direitos humanos.

5.4 Análise dos desafios relacionados à proteção dos direitos fundamentais, como
privacidade e liberdade de expressão

A proteção dos direitos fundamentais, como a privacidade e a liberdade de expressão,

enfrenta desafios significativos no contexto da utilização de sistemas de inteligência artificial
(IA) no campo jurídico. Algumas análises sobre esses desafios é a privacidade, pode envolver
o processamento de grandes quantidades de dados pessoais sensíveis. É essencial garantir que
esses dados sejam tratados de maneira adequada e em conformidade com as leis de proteção
de dados. Um desafio é garantir a anonimização e a segurança dos dados durante o
treinamento e a utilização dos sistemas de IA, de forma a minimizar o risco de identificação
ou violação da privacidade dos indivíduos.
 12

No contexto jurídico, é necessário garantir que os indivíduos sejam devidamente

informados sobre como seus dados serão utilizados e que tenham a capacidade de consentir
ou recusar o uso de seus dados para fins de IA. Além disso, é importante considerar questões
de equidade e acesso, para que o consentimento não seja usado como uma barreira para a
participação igualitária no sistema jurídico.
A utilização de sistemas de IA pode apresentar riscos de discriminação, mesmo sem
intenção explícita. Algoritmos que tomam decisões baseadas em dados históricos podem
perpetuar viés e desigualdades presentes nesses dados. Isso pode resultar em tratamento
discriminatório de certos grupos ou indivíduos. Para proteger os direitos fundamentais, é
necessário analisar e mitigar o viés algorítmico, garantindo a igualdade de tratamento e a não
discriminação.
A liberdade de expressão é um direito fundamental protegido por muitas constituições
e instrumentos internacionais de direitos humanos. Constituição Federal de 1988, artigo 5º,
parágrafo IV: “É livre a manifestação do pensamento, sendo vedado o anonimato” No
contexto da IA no campo jurídico, é importante garantir que a utilização dessas tecnologias
não restrinja indevidamente a liberdade de expressão. Isso envolve evitar a censura
injustificada ou a supressão de opiniões divergentes, bem como garantir a transparência dos
critérios utilizados pelos sistemas de IA para tomar decisões que possam impactar a liberdade
de expressão.
É necessário estabelecer mecanismos de supervisão para garantir que os sistemas
estejam operando de acordo com os princípios éticos e legais. Além disso, deve haver meios
efetivos de responsabilização em caso de violações dos direitos fundamentais, incluindo a
possibilidade de revisão e contestação das decisões tomadas pelos sistemas de IA.
A proteção dos direitos fundamentais, como a privacidade e a liberdade de expressão,
no contexto da utilização de sistemas de IA no campo jurídico requer uma abordagem
cuidadosa e equilibrada. É necessário encontrar soluções que permitam a utilização eficiente
da IA, ao mesmo tempo em que garantem a proteção dos direitos fundamentais dos
indivíduos. Isso envolve a adoção de medidas de segurança de dados, a transparência dos
processos de tomada de decisão, a mitigação do viés algorítmico e a supervisão adequada dos
sistemas de IA.
 13

6 O RISCO DE VIOLAÇÃO DOS PRINCÍPIOS DE IMPARCIALIDADE E

IGUALDADE NO USO DE SISTEMAS DE IA NO CAMPO JURÍDICO

O uso de sistemas de inteligência artificial (IA) no campo jurídico traz consigo o risco
de violação dos princípios de imparcialidade e igualdade. Estas considerações são:
Os sistemas de IA são alimentados com grandes conjuntos de dados para treinamento,
e existe o risco de que esses dados contenham preconceitos ou vieses. Se os dados utilizados
para treinar os algoritmos refletirem desigualdades ou preconceitos existentes no sistema
jurídico, os sistemas de IA podem reproduzir esses vieses em suas decisões. Isso pode resultar
em tratamento injusto ou desigual para certos grupos ou indivíduos.
A falta de diversidade nos conjuntos de dados de treinamento pode levar à falta de
representatividade e consideração de diferentes perspectivas. Se os dados utilizados para
treinar os sistemas de IA forem limitados em termos de diversidade de gênero, raça, etnia,
origem socioeconômica e outras características relevantes, os sistemas podem reproduzir e
perpetuar desigualdades existentes.
A complexidade dos algoritmos de IA pode dificultar a compreensão de como as
decisões são tomadas. Isso pode levar a uma falta de transparência e explicabilidade sobre as
razões por trás das decisões tomadas pelos sistemas de IA. A falta de transparência pode gerar
desconfiança e dificultar a detecção de possíveis vieses ou discriminação.
A utilização de sistemas de IA no campo jurídico pode levar a um acesso desigual à
justiça. Se apenas certos grupos ou organizações têm acesso aos recursos e conhecimentos
necessários para implementar e utilizar sistemas de IA, isso pode ampliar as desigualdades
existentes no sistema jurídico. É importante garantir que o uso de sistemas de IA seja
acessível a todos os envolvidos no sistema jurídico, promovendo a igualdade de
oportunidades e o acesso igualitário à justiça.
Levanta questões sobre a atribuição de responsabilidade pelas decisões tomadas.
Quem é responsável quando uma decisão injusta ou discriminatória é atribuída a um sistema
de IA? A determinação da responsabilidade e a prestação de contas pelos resultados das
decisões tomadas por sistemas de IA podem ser desafiadoras e requerem abordagens claras e
eficazes.
Para mitigar o risco de violação dos princípios de imparcialidade e igualdade, é
essencial adotar medidas como a diversificação dos conjuntos de dados, a transparência dos
algoritmos, a auditoria regular dos sistemas de IA, a revisão e contestação das decisões
tomadas, e a conscientização e capacitação dos profissionais do direito sobre o uso
 14

responsável e ético da IA. Além disso, a participação de especialistas em ética, equidade e

direitos humanos é fundamental para garantir que os sistemas de IA sejam desenvolvidos e
utilizados de maneira justa e imparcial no campo jurídico.

7 CONFIABILIDADE E SEGURANÇA DOS SISTEMAS DE INTELIGÊNCIA

ARTIFICIAL

São aspectos críticos quando se trata da sua utilização no campo jurídico quando se
fala em confiabilidade e segurança, depende da qualidade dos dados utilizados para
treinamento e tomada de decisões sendo essencial garantir que os dados sejam precisos,
atualizados, representativos e livres de viés. A falta de qualidade nos dados pode levar a
resultados imprecisos ou injustos.
A transparência dos algoritmos utilizados nos sistemas de IA é fundamental para
garantir a confiança e a compreensão das decisões tomadas. É importante que os algoritmos
sejam documentados, explicáveis e passíveis de auditoria. Os usuários e as partes envolvidas
devem ser capazes de entender como as decisões são tomadas e como os resultados são
alcançados.
É necessário garantir a segurança adequada dos dados durante a coleta, o
armazenamento e o processamento. Isso envolve a implementação de medidas de segurança
cibernética, criptografia, acesso restrito aos dados e conformidade com as leis de proteção de
dados, é essencial realizar testes e validações rigorosos para avaliar a confiabilidade e a
segurança dos sistemas. Os testes devem abranger diferentes cenários e casos de uso, e devem
ser realizados de forma independente e imparcial. A validação contínua dos sistemas de IA
também é necessária para garantir que eles permaneçam confiáveis e seguros ao longo do
tempo.
Embora os sistemas de IA possam automatizar tarefas e auxiliar na tomada de
decisões, a supervisão humana é essencial para garantir a confiabilidade e a segurança. A
confiabilidade dos sistemas de IA requer a atribuição clara de responsabilidade pelos
resultados e a prestação de contas em caso de falhas ou erros. É importante estabelecer
mecanismos para que as partes afetadas possam contestar as decisões tomadas pelos sistemas
e buscar reparação, se necessário.
Garantir a confiabilidade e a segurança dos sistemas de IA requer uma abordagem
holística, que englobe a qualidade dos dados, a transparência dos algoritmos, a segurança dos
 15

dados, os testes e validações adequados, a supervisão humana e a responsabilidade. Essas

medidas são fundamentais para promover a confiança nos sistemas de IA e garantir sua
utilização eficaz e ética no campo jurídico.
Em suma, a garantia da confiabilidade e segurança dos sistemas de IA no contexto
jurídico é essencial para preservar a justiça, proteger os direitos fundamentais, promover a
responsabilidade e prestação de contas, preservar a confiança pública e mitigar riscos e danos.
A colaboração entre especialistas em direito, ética e tecnologia é fundamental para
desenvolver e implementar padrões e regulamentações que assegurem a confiabilidade e
segurança dos sistemas de IA no campo jurídico.
Podemos ver com uma de decisão do Relator: Marcos Henrique do TJ-MG do numéro do
processo 05976319001

EMENTA: AGRAVO DE INSTRUMENTO - AÇÃO DE TUTELA

ANTECIPADA EM CARÁTER ANTECEDENTE - PERDA DE OBJETO - NÃO
OCORRÊNCIA - WHATSAPP E FACEBOOK - GRUPO ECONÔMICO -
BANIMENTO - BLOQUEIO DE CONTA EM APLICATIVO -
COMUNICAÇÃO PRÉVIA FUNDAMENTADA - NECESSIDADE - DIREITO
DO CONSUMIDOR - ALTERNATIVIDADE DA CLÁUSULA RESOLUTIVA
DO CDC - DEVER DE INFORMAÇÃO - CONTRADITÓRIO - AMPLA
DEFESA - LIBERDADE DE EXPRESSÃO E COMUNICAÇÃO - AMBIENTE
VIRTUAL - TROCA DE DADOS - LEI 12.965/2014 - MARCO CIVIL DA
INTERNET - EFICÁCIA IMEDIATA E HORIZONTAL DOS DIREITOS
HUMANOS - MÁQUINAS - ALGORITMOS - INTELIGÊNCIA ARTIFICIAL -
RESPONSABILIDADE DA EMPRESA PELAS DECISÕES E
CONSEQUÊNCIAS - TUTELA ANTECIPADA DE URGÊNCIA - REQUISITOS
PREENCHIDOS. Sendo frágeis as provas apresentadas em face da abrangência do
objeto da demanda atinente à disponibilidade de conta em aplicativo, não ocorre
perda de objeto. Constatados a probabilidade do direito e o perigo de dano (art.
300 do CPC), não se mostra razoável o banimento de conta em aplicativo, sendo
assegurado ao usuário o direito de apresentar defesa à empresa que faz parte do
mesmo grupo financeiro e tem ingerência sobre o aplicativo, sem representação
institucional no Brasil, de modo a evitar, em sede de tutela antecipada, prejuízo ao
consumidor. Uma vez que o uso de recursos digitais de comunicação e de
compartilhamento de dados tornou-se imprescindível no ambiente social,
profissional e político, torna-se necessário imprimir coerência às relações jurídicas
privadas modernas por meio da adoção de valores constitucionais, em
conformidade com a eficácia imediata e horizontal dos direitos humanos, de modo
a impedir que empresas de tecnologia, por meio de algoritmos, máquinas e
inteligência artificial, violem princípios da Constituição da Republica e normas
nacionais, em especial as dispostas no Marco Civil da Internet e no Código de
Defesa do Consumidor.
(TJ-MG - AI: XXXXX05976319001 MG, Relator: Marcos Henrique Caldeira
Brant, Data de Julgamento: 23/06/2021, Câmaras Cíveis / 16ª CÂMARA CÍVEL,
Data de Publicação: 24/06/2021)

8 ABORDAGEM DE QUESTÕES COMO TRANSPARÊNCIA DOS DADOS

UTILIZADOS, VERIFICAÇÃO DE RESULTADOS E SEGURANÇA CIBERNÉTICA
 16

Essas questões são cruciais para garantir a confiabilidade e segurança dos sistemas de
IA. A transparência dos dados utilizados envolve a divulgação clara das fontes dos dados, o
método de coleta, a seleção e o pré-processamento dos dados. Permite a identificação de
possíveis vieses ou desequilíbrios nos conjuntos de dados, o que é crucial para evitar decisões
discriminatórias ou injustas.
A verificação dos resultados obtidos pelos sistemas de IA é necessária para avaliar sua
precisão e confiabilidade. Isso pode ser feito por meio de auditoria e testes independentes,
comparando as decisões tomadas pelos sistemas com casos reais ou padrões estabelecidos,
permite identificar possíveis erros ou vieses nos algoritmos e corrigi-los, se necessário.
Os sistemas de IA no campo jurídico lidam com informações sensíveis e
confidenciais, como dados pessoais, detalhes de casos jurídicos e documentos legais. É
necessário implementar medidas de segurança cibernética robustas, como criptografia,
controle de acesso, detecção de intrusões e backups regulares dos dados. Além disso, é
importante garantir a conformidade com as leis e regulamentos de proteção de dados.
Os sistemas podem processar informações pessoais e confidenciais, e é essencial
garantir que esses dados sejam devidamente protegidos e utilizados de acordo com as leis de
privacidade e proteção de dados. Isso envolve a implementação de medidas técnicas e
organizacionais adequadas para garantir a anonimização, a segurança e o controle do acesso
aos dados.
A governança e a regulamentação são fundamentais para assegurar a transparência, a
verificação e a segurança dos sistemas de IA no campo jurídico. É importante estabelecer
diretrizes claras sobre o uso de dados, a transparência dos algoritmos, a verificação dos
resultados e a segurança cibernética. As autoridades regulatórias e as organizações jurídicas
devem desenvolver padrões e políticas adequados que promovam a confiabilidade e a
segurança dos sistemas de IA.
Em resumo, a abordagem de questões relacionadas à transparência dos dados
utilizados, verificação de resultados e segurança cibernética é essencial para garantir a
confiabilidade e segurança dos sistemas de IA no campo jurídico. A transparência dos dados,
a verificação dos resultados e a implementação de medidas de segurança cibernética são
fundamentais para promover a confiança, mitigar riscos e assegurar a justiça e a proteção dos
direitos fundamentais.

09 SOLUÇÕES E BOAS PRÁTICAS PARA A UTILIZAÇÃO ÉTICA DE IA NO

DIREITO
 17

A utilização ética da inteligência artificial (IA) no campo jurídico requer a

implementação de soluções e boas práticas que promovam a transparência, a imparcialidade e
a proteção dos direitos fundamentais.
Na transparência dos algoritmos é de estrema nos sistemas de IA. Isso pode ser
alcançado por meio da documentação clara dos algoritmos, da explicação dos critérios de
tomada de decisão e da disponibilização de informações compreensíveis aos usuários e às
partes afetadas.
Os dados utilizados para treinar os sistemas de IA devem ser representativos e
diversificados, a fim de evitar vieses e desigualdades. É necessário garantir que os conjuntos
de dados sejam atualizados, balanceados e revisados quanto a possíveis preconceitos e
discriminações. Implementação de testes e auditorias independentes ajuda a identificar
possíveis vieses, erros e impactos indesejados. Esses testes devem abranger diferentes
cenários e casos de uso, a fim de avaliar a confiabilidade, a imparcialidade e a eficácia dos
sistemas.
A capacitação dos profissionais jurídicos sobre os princípios éticos e as implicações da
utilização da IA é fundamental. É necessário investir em programas de educação e
treinamento para garantir que os profissionais estejam preparados para lidar com os desafios
éticos e legais relacionados à IA.
Realizar avaliações de impacto ético durante todo o processo de implementação da IA.
Essas avaliações devem identificar potenciais riscos éticos, vieses algorítmicos e impactos nos
direitos fundamentais, permitindo a implementação de medidas corretivas e mitigadoras, essas
boas práticas podem auxiliar na implementação ética e responsável de sistemas de IA no
campo jurídico, garantindo a proteção dos direitos fundamentais, a transparência e a
confiabilidade das decisões tomadas pelos sistemas de IA.

10 CONSIDERAÇÕES FINAIS

A utilização de sistemas de inteligência artificial (IA) no campo jurídico apresenta

desafios significativos, tanto do ponto de vista da regulamentação quanto da ética. Neste
artigo, exploramos os desafios da regulamentação e ética na utilização de sistemas de IA no
campo jurídico, destacando questões como a complexidade dos algoritmos, a velocidade de
avanço tecnológico e os riscos éticos associados.
 18

Foi discutida a necessidade de uma regulamentação específica para a IA no direito,

considerando as peculiaridades desse campo e os impactos potenciais das decisões
automatizadas. Examinamos exemplos de iniciativas regulatórias em diferentes jurisdições,
mostrando a diversidade de abordagens adotadas para lidar com os desafios da IA no campo
jurídico.
Além disso, abordamos os desafios éticos enfrentados na utilização de sistemas de IA
no direito, incluindo a transparência algorítmica, a atribuição de responsabilidade, o viés
algorítmico e a proteção dos direitos fundamentais. Discutimos a importância da compreensão
dos algoritmos utilizados e seus impactos nas decisões jurídicas, assim como a necessidade de
garantir a imparcialidade e igualdade no uso de sistemas de IA.
Também destacamos a importância da confiabilidade e segurança dos sistemas de IA
no campo jurídico, com ênfase na transparência dos dados utilizados, na verificação de
resultados e na segurança cibernética. Essas medidas são cruciais para garantir a confiança
pública, evitar riscos indesejados e proteger os direitos dos indivíduos envolvidos.
Por fim, apresentamos soluções e boas práticas para a utilização ética de IA no direito,
como a transparência dos algoritmos, a utilização de dados representativos, os testes e
auditorias independentes, a supervisão humana, a proteção de dados, a educação e
treinamento, e a governança adequada. Essas práticas visam promover a transparência, a
imparcialidade e a proteção dos direitos fundamentais na utilização de sistemas de IA no
campo jurídico.
Em suma, a utilização da inteligência artificial no campo jurídico oferece inúmeras
oportunidades, mas também traz consigo desafios significativos. A abordagem desses desafios
requer uma abordagem cuidadosa e equilibrada, que leve em consideração os aspectos éticos,
legais e práticos. Ao implementar soluções e boas práticas, é possível aproveitar os benefícios
da IA no direito de forma ética, responsável e em conformidade com os princípios jurídicos
fundamentais.

REFERÊNCIAS

BRASIL. LEI Nº 13.709/2018. LEI GERAL DE PROTEÇÃO DE DADOS PESSOAIS

(LGPD). Disponível no endereço: <http://www.planalto.gov.br> Acesso em 12/jun/2023.

BRASIL. LEI Nº 12.965/2014. ESTABELECE PRINCÍPIOS, GARANTIAS, DIREITOS

E DEVERES PARA O USO DA INTERNET NO BRASIL. Disponível no endereço:
<http://www.planalto.gov.br> Acesso em 12/jun/2023.
 19

BRASIL. LEI Nº 8.078/1990. DISPÕE SOBRE A PROTEÇÃO DO CONSUMIDOR E

DÁ OUTRAS PROVIDÊNCIAS. Disponível no endereço: <http://www.planalto.gov.br>
Acesso em 12/jun/2023.

FERNANDES, Anita Maria da Rocha. INTELIGÊNCIA ARTIFICIAL: NOÇÕES

GERAIS. Florianópolis: VisualBooks, 2005.

SILVA, J. A. S.;MAIRINK, C. H. P.INTELIGÊNCIA ARTIFICIAL: ALIADA OU

INIMIGA.LIBERTAS: ev. Ciênci. Soc. Apl., Belo Horizonte, v. 9, n. 2, p. 64-85, ago./dez.
2019.