DIREITO E INTELIGÊNCIA ARTIFICIAL
European Court of Human Rights. We also identified some proposals for a trus-
A Inteligência Artificial como auxiliar das decisões judiciais*
Artificial Intelligence as an auxiliary in the judicial ruling
Elisa Alfaia Sampaio**
Paulo Jorge Gomes**
resumo: Assinalamos que a utilização de agentes de Inteligência Artificial
(IA) como auxiliares nas decisões judiciais deve ter presente o contexto social e
tecnológico do séc. XXI e as experiências já implementadas no ambiente judiciá-
rio, sobretudo na Europa. Neste pressuposto, enumeramos alguns desafios éticos
e jurídicos, tendo em conta a jurisprudência do Tribunal Europeu dos Direitos
Humanos. Também identificamos algumas propostas para uma IA de confiança,
nomeadamente quanto ao cumprimento do princípio da explicabilidade na uti-
lização de redes neuronais artificiais.
palavras-chave: Inteligência Artificial, decisão judicial, Convenção Euro-
peia dos Direitos Humanos, princípio da explicabilidade, redes neuronais arti-
ficiais, caixa negra.
abstract: We point out out that the use of Artificial Intelligence (AI) agents
as auxiliaries in judicial decisions must take into account the social and techno-
logical context of the 21st century and the experiences already implemented in
the judicial environment, especially in Europe. With this assumption, we men-
tion some ethical and legal challenges, bearing in mind the jurisprudence of the
*
Os autores não seguem a ortografia do Acordo Ortográfico de 1990. O tema deste texto foi
parcialmente desenvolvido por Elisa Alfaia Sampaio, João J. Seixas, Paulo Jorge Gomes,
“Artificial Intelligence and the Judicial Rulling”, Themis Annual Journal, vol. 1, issue 1, October
2019, pp. 234 e ss.
**
Juízes de Direito – jurisdição administrativa e fiscal.
203
tworthy AI, namely those regarding the observance of the principle of explica-
bility in artificial neural networks.
keywords: Artificial Intelligence, judicial ruling, European Convention of
Human Rights, principle of explicability, artificial neural networks, black box.
sumário: 1. Contexto. 2. A IA Moderna. 3. As experiências europeias.
3.1. Sistemas implementados e projectados. 3.2. O que está a ser feito na União
Europeia. 4. Desafios éticos e jurídicos. 4.1. A jurisprudência do TEDH e suas
directrizes (guidelines). 4.2. O acórdão Sigurdur Einarsson e.o.c. Islândia 4.3. A opa-
cidade das caixas negras. 5. Conclusão
1. Contexto
Vivemos uma híper-história descrita por Luciano Floridi como “o estádio
do desenvolvimento humano em que as relações tecnológicas de terceira ordem se tornam
condição necessária para o desenvolvimento, a inovação e o bem-estar” 1.
Numa primeira ordem, as necessidades humanas são intermediadas pela
tecnologia na relação com a natureza2. Numa segunda ordem, a componente
humana é intermediada por tecnologias na sua relação com outras tecnolo-
gias3. Nas relações de terceira ordem as tecnologias actuam como utilizadores,
mediados por tecnologias que interagem com outras tecnologias4.
Estima-se que até ao uso generalizado de computadores a Humanidade
tenha acumulado aproximadamente 12 exabytes de dados ao longo de toda a
sua história5. No séc. XXI, entre 2006 e 2011 apenas, os dados disponíveis
aumentaram para mais de 1600 exabytes. Actualmente, vivemos na Era do
zettabyte6. A International Data Corporation previu para 2025 um aumento
1
Luciano Floridi, The Fourth Revolution: how the infosphere is reshaping human reality, Oxford,
Orxford University Press, 2014, pp. 25 e ss.
2
Por exemplo, alimentação → arma/enxada → caça/cultivo; protecção/conforto → abrigo/casa →
meteorologia; saúde → medicamento → aumento da esperança média de vida.
3
Por exemplo, mão humana → chave de fendas/comando remoto → parafuso/TV; trabalho → motor
→ máquina; deslocação → estrada → veículo.
4
Por exemplo, computador → digitalização → Internet; sensor → Internet → robôs automáticos/
Internet of Things; Big data → algoritmo → Inteligência Artificial.
5
Colocando em perspectiva, 1 exabyte corresponde a um vídeo com 50 000 anos de duração e
qualidade de um DVD.
6
1 zettabyte corresponde a 1000 exabytes.
204
 A INTELIGÊNCIA ARTIFICIAL COMO AUXILIAR DAS DECISÕES JUDICIAIS
do volume total de dados até 175 zettabytes7, com tendência para aumentar,
pois a utilização de dados gera mais dados, crescendo de modo exponencial8.
Neste contexto, a nossa auto-compreensão parece encontrar-se num novo
estádio. Com Copérnico, deixámos de ser o centro imóvel do Universo; com
Darwin, percebemos que não estamos assim tão afastados do reino animal;
com Freud, a nossa consciência deixou de ser cartesianamente transparente; e
hoje compreendemos que somos organismos informacionais, que recebemos
e transmitimos dados, que fazemos parte de uma infoesfera, de um Big Data.
O aumento significativo da capacidade computacional e a drástica dimi-
nuição dos custos da memória e armazenamento dos computadores foram os
ingredientes perfeitos para no séc. XXI surgir o fenómeno do Big Data. Este
oceano de dados tem de ser recolhido, conservado, gerido e analisado. Por
outras palavras, os dados, para serem big, carecem de modelos através dos
quais os algoritmos extraem inferências para formular padrões, tendências e
correlações. Daqui nasceu a moderna Inteligência Artificial (IA).
2. A IA moderna
Há muitas definições de IA. Para o nosso propósito, adoptamos a definição
avançada pelo Grupo de Peritos de Alto Nível sobre a Inteligência Artificial
(GPAN-IA):
“[a IA] refere-se aos sistemas concebidos por seres humanos que ao receberem um objec-
tivo complexo actuam no mundo físico ou digital percepcionando o seu ambiente, interpre-
tando dados recolhidos, estruturados ou não estruturados, raciocinando sobre o conhecimento
resultante desses dados e decidindo qual a melhor acção (ou acções) a adoptar (de acordo com
parâmetros pré-definidos). Os sistemas de IA também podem ser concebidos para aprende-
rem a adaptar o seu comportamento mediante uma análise do modo como o ambiente foi
afectado pelas suas acções anteriores”9.
7
IDC White Paper, The Digitization of the World From Edge to Core, 2018, disponível em https://
www.seagate.com/files/www-content/our-story/trends/files/idc-seagate-dataage-whitepaper.pdf
(última consulta, 10-10-2022).
8
IDC White Paper, The Digitization of the World From Edge to Core, 2018, disponível em https://
www.seagate.com/files/www-content/our-story/trends/files/idc-seagate-dataage-whitepaper.
pdf (última consulta, 10-10-2022). A analogia de Callum Chace, The Artificial Intelligence and
the Two Singularities, Boca Raton, London, New York, CRC Press, 2018, p. 45, ajuda a compreender
o crescimento exponencial: se ao darmos um passo avançarmos 1 metro em 30 passos teremos
avançado 30 metros. Mas se avançarmos 30 passos exponenciais, dobrando o comprimento em
cada um dos passos, ao 29º passo teremos chegado à Lua e ao 30º regressaremos à Terra.
9
High-Level Expert Group on AI, A Definition of AI: Main Capabilities and Disciplines, 2019.
205
DIREITO E INTELIGÊNCIA ARTIFICIAL
Partindo dessa definição, devemos distinguir a IA tradicional da IA
moderna. A IA tradicional, desenvolvida a partir da década de 70 do séc.
XX, assenta no conhecimento codificado, pré-programado, especialista, ins-
pirada em sistemas lógicos, sobretudo dedutiva, mas sem capacidade para
resolver situações inesperadas. Foi o caso do computador Deep Blue, que em
1997 desafiou Kasparov no xadrez, e é o que existe actualmente, por exem-
plo, nos processadores de texto ou nos programas de cálculos que utilizamos
nos nossos computadores.
A IA moderna, surgida no dealbar do séc. XXI, é diferente. Suportada
no Big Data, aprende soluções a partir de princípios, pode generalizar novas
tarefas e resolver problemas inesperados, baseia-se em raciocínios indutivos
e abdutivos, em suma, inspira-se no cérebro humano e é validada pelas neu-
rociências. É o caso do supercomputador AlphaGo, da Google Deep Mind,
que em 2016 venceu (4-1) o campeão mundial Lee Sedol no jogo Go, ou ainda
dos algoritmos utilizados em motores de busca ou em redes sociais.
O que torna a IA moderna como um sublime tecnológico10 tem a ver com
o modo da sua aprendizagem. Há diferentes formas de aprendizagem (super-
visionada, não supervisionada, por reforço) isoladas ou combinadas, mas a
que tem levantado mais questões éticas e jurídicas são as denominadas redes
neuronais artificiais (artificial neural networks).
Estas redes mimetizam as redes neuronais biológicas, por serem constitu-
ídas por nódulos ou unidades, designados neurónios artificiais, que disparam
um sinal quando é ultrapassada uma função limite. A saída de cada neurónio
é calculada por uma função não linear da soma das suas entradas: cada sinal
tem um peso associado, que determina a força e o sinal de conexão à medida
que a aprendizagem prossegue. O sinal é depois transmitido para outras uni-
dades ou nódulos, que processam e se conectam a outros neurónios, formando
a rede neuronal artificial. Usualmente existem várias camadas (layers) escon-
didas entre as camadas de entrada (input) e as camadas de saída (output)11.
10
O sublime natural, teorizado por Kant e Edmund Burke, exprime admiração, medo, fascínio,
a sensação de insignificância da humanidade perante a Natureza. O sublime tecnológico inspira
os mesmos sentimentos, mas por realizações humanas que se equiparam ou mesmo superam os
poderes da Natureza: as dimensões dos edifícios, os meios de transporte, os programas espaciais, e
agora a inteligência artificial, cf. Hermínio Martins, Experimentum Humanum, Lisboa, Relógio
D’Água, 2011. pp. 152 e 166.
11
Stuart J. Russell & Peter Norvig, Artificial Intelligence: A Modern Approach, 3rd ed., Pearson
Education Limited, England, 2016, pp. 727 e ss.
206
ntradas: cada sinal tem um peso associado, que determina a força e o sinal de conexão à medida
ue a aprendizagem prossegue. O sinal é depois transmitido para outras unidades ou nódulos, que
ocessam e se conectam a outros neurónios, formando a rede neuronal artificial. Usualmente
xistem várias camadas (layers) escondidas entre as camadas de entrada (input) e as camadas de
A INTELIGÊNCIA ARTIFICIAL COMO AUXILIAR DAS DECISÕES JUDICIAIS DIREITO E INTELIGÊNCIA ARTIFICIAL
aída (output)11
11.

Modelo matemático de um neurónio artificial12

Modelo matemático de um neurónio artificial12
12
Em bom rigor, estes requisitos aplicam-se a qualquer relação fiduciária,
sobretudo quando se trata de alguém com o poder de influenciar as nos-
sas vidas. Mesmo com boas intenções e tecnicamente bem preparado, o juiz
pode causar danos não intencionais. Pense-se nas situações de exaustão15 ou
de burnout ou nos vieses cognitivos na apreciação da prova originados pela
incorrecta utilização de heurísticas, já amplamente estudados pela psicolo-
gia comportamental e da decisão16.

consulta, 11-10-2022). Na proposta (draft) divulgada a 18 de Dezembro de 2018, e que na generalidade

Modelo de uma rede neuronal artificial1313 se manteve na versão final, o conceito de “IA de confiança” foi assumidamente influenciado pelo
Modelo de uma rede neuronal artificial 13
texto de Luciano Floridi, et. al., “AI4People–An Ethical Framework for a Good AI Society:
Opportunities, Risks, Principles, and Recommendations”, Minds and Machines, Springer, 2018.
15
Veja-se o caso relatado por Daniel Khaneman, Thinking, Fast and Slow, trad. port. Pedro Vidal,
Pensar, Depressa e Devagar, Lisboa, Temas e Debates – Círculo de Leitores, 4ª ed., reimpressão, 2021,
p.61: “uma demonstração perturbante dos efeitos do depauperamento no juízo foi recentemente relatada em
Proceedings of the National Academy of Sciences. Os desavisados participantes no estudo foram oito juízes
de liberdade condicional em Israel. Passaram dias inteiros a examinar pedidos de liberdade condicional. (…)
(O tempo exacto de cada decisão é registado e as durações dos três intervalos para os juízes comerem durante o
dia – intervalo da manhã, do almoço e do lanche – são também registados). Os autores do estudo compararam
a proporção de pedidos aprovados com o tempo decorrido desde o último intervalo. A proporção sobe em flecha
após cada refeição. (…) A melhor justificação possível para os dados fornece más notícias: cansados e com fome,
os juízes tendem a acomodar-se à posição mais fácil da negação dos pedidos de liberdade condicional. Tanto a
fadiga como a fome desempenharão provavelmente um papel.”
16
Sobre as heurísticas e enviesamentos cognitivos, veja-se Amos Tversky/Daniel Kahneman,
“Juízo sob incerteza: heurísticas e enviesamentos”, apêndice A in Daniel Khaneman, Thinking,
Fast and Slow, cit., pp. 551 e ss. Sobre estes vieses na perspectiva da valoração da prova pelos tribunais,
cf. Jordi Nieva Fedoll, La valoración de la prueba, Madrid, Marcial Pons, 2010; Idem, Inteligencia
Chegamos
hegamos à pergunta queà nos
pergunta
move:que nos move:
deverá deverá
o juiz o juiz
utilizar utilizar algoritmos,
algoritmos, designadamente redes
artificial y processo judicial, Madrid, Marcial Pons, 2018; Luís Filipe Pires de Sousa, Prova
designadamente
euronais artificiais, redesàneuronais
como auxiliar artificiais,
sua decisão? A nossa como auxiliar
resposta à suamas
é sim, decisão?
com o necessário Testemunhal, Coimbra, Almedina, 2013.
stinguo.
A nossa resposta é sim, mas com o necessário distinguo. As heurísticas são procedimentos mentais simples através dos quais se procuram respostas fáceis
O agente de IA deve ser de confiança. A União Europeia, através do GPAN-IA, para perguntas difíceis, como que atalhos de raciocínio. São úteis, mas podem originar erros graves
indicou os pressupostos para o conceito e sistemáticos, pois actuam de modo inconsciente quanto ao processamento de informação, a
agente de IA deve ser de confiança. A União “IA de confiança”:
Europeia, atravésdevedo ser legal, indicou os
GPAN-IA,
que não são alheios processos emotivos (cf. Enrico Altavilla, Psicologia Judiciária – o processo
garantindo o respeito de toda a legislação e regulamentação aplicáveis; deve
essupostos para o conceito “IA de confiança”: deve ser legal, garantindo o respeito de toda a psicológico e a verdade judicial, vol. I, 2ª ed., trad. Fernando Miranda, Coimbra, Almedina, 2007,
ser ética, garantindo a observância de princípios e valores éticos; e deve ser pp. 138 e ss.; Luís Filipe Pires de Sousa, ob. cit., pp. 154 e ss.; M aria Anabela Bento
gislação e regulamentação aplicáveis; deve ser ética, garantindo a observância de princípios e
sólida, tanto do ponto de vista técnico como do ponto de vista social, uma Marinho dos Reis, A Memória do Testemunho e a Influência das Emoções na Recolha e Preservação
vez que, mesmo com boas intenções, os sistemas de IA podem causar danos da Prova, dissertação de Doutoramento em Ciências e Tecnologias da Saúde, Especialidade em
Desenvolvimento Humano e Social, Universidade de Lisboa, Faculdade de Medicina, 2014, pp.
não intencionais14.
108 e ss.; Michele Taruffo, La Prueba, trad. Laura Manríquez/Ferrer Beltrán, Madrid, Marcial
Pons, 2008, pp. 137 e 138). As heurísticas mais comuns são as da (i) representatividade, em que algo
12
Imagem retirada de Stuart J. Russell & Peter Norvig, ob. cit., p. 728. é considerado como verificado apenas com base em casos representativos da classe em situações
13
Imagem obtida em https://www.researchgate.net/figure/Artificial-neural-network-of-multiple- normais, ou se se quiser de outro modo, quando se retira a probabilidade de algo a partir da
STUART J. RUSSELL & PETER NORVIG, Artificial Intelligence: A Modern Approach, 3rd ed., Pearson Education Limited,
layers-and-outputs-31_fig2_331097835 (última consulta, 10-10-2022).
ngland, 2016, pp.727 e ss.
similaridade a outras classes – o que pode originar a falácia ou viés da conjunção, isto é, um
14
High-Level Expert Group on AI, Ethics Guidelines for Trustworthy AI, 2019, disponível em acontecimento específico ou mais pormenorizado não pode ser mais provável do que um evento
https://ec.europa.eu/digital-single-market/en/news/ethics-guidelines-trustworthy-ai
Imagem retirada de STUART J. RUSSELL & PETER NORVIG, ob. cit., p. 728. (última menos específico ou mais generalizado, subvalorizando-se deste modo a informação estatística;
Imagem retirada de STUART J. RUSSELL & PETER NORVIG, ob. cit., p. 728.

Imagem obtida em https://www.researchgate.net/figure/Artificial-neural-network-of-multiple-layers-and-outputs-

207 208
1_fig2_331097835 (última consulta, 10.10.2022).

162
 A INTELIGÊNCIA ARTIFICIAL COMO AUXILIAR DAS DECISÕES JUDICIAIS
3. As experiências europeias
3.1. Sistemas implementados e projectados
Existem diversas classificações possíveis de métodos e técnicas de raciocínio
da IA. Para precisar de que modo tais categorias técnicas podem ser consi-
deradas ferramentas jurídicas de IA poderiam abordar-se exemplos como os
motores de pesquisa avançada de jurisprudência, a resolução de litígios em
linha (ou on-line, com a sigla RLL), as ferramentas de apoio à elaboração de
documentos legais, as ferramentas de análise (preditiva ou escalas), a cate-
gorização de documentos (e.g. contratos) ou os chatbots que disponibilizam
informação ou apoio jurídico. Merecem, também, referência alguns projec-
tos académicos que utilizam métodos de raciocínio para prever decisões judi-
ciais, como adiante veremos.
No Reino Unido, é possível encontrar a Luminance, uma ferramenta de
análise de texto baseada na tecnologia de aprendizagem automática (reco-
nhecimento de padrões, como assinalado pela empresa17), que analisa docu-
mentos e aprende com a interacção entre advogados e com os documentos;
ou o HART (Harm Assessment Risk Tool), algoritmo que prevê o nível de risco
de os suspeitos cometerem novos crimes num determinado período18 através
de um algoritmo de “floresta aleatória” combinando certos valores, a maior
parte dos quais focado nos antecedentes criminais do suspeito, bem como a
sua idade, género e área geográfica. Em França, existem algumas ferramentas,
(ii) a heurística da disponibilidade ou acessibilidade, que consiste em julgar a frequência de
uma classe ou probabilidade de um evento com base na facilidade com que os casos ocorrem à
mente, ou seja, eventos facilmente recuperáveis e imagináveis, ou mais impactantes, tendem a ser
sobrestimados, enquanto os eventos difíceis de recuperar ou de imaginar, ou menos impactantes,
tendem a ser subestimados (e.g. geralmente é maior o receio de ter um acidente de avião do que
um acidente de carro, embora este último seja mais provável do que o primeiro); (iii) a heurística
da ancoragem e ajuste, que consiste nas pessoas formularem uma ideia inicial a partir de alguns
indícios, sendo muito difícil mudarem posteriormente de opinião, apesar de receberem novos
dados que na verdade modificam a percepção inicial – as pessoas reinterpretam os dados novos
para continuar a defender a opinião inicial e não ter que a modificar, originando o viés ou falácia
da confirmação, isto é, procura-se testar a hipótese ajustando os dados compatíveis que confirmem
a crença, ignorando os dados incompatíveis, de sinal contrário; (iv) a heurística do afeiçoamento,
ou efeito aura, amplamente explorado pela indústria da publicidade, na medida em que os seres
humanos deixam-se condicionar por variáveis emocionais introduzidas pela linguagem (incluindo
a sua ordem de apresentação) ou pela aparência, independentemente do conteúdo.
17
Sítio na Internet da empresa em https://www.luminance.com/ [última consulta em 19-10-2022].
18
Como descreve a Universidade de Cambridge (https://www.cam.ac.uk/research/features/
helping-police-make-custody-decisions-using-artificial-intelligence – última consulta em 19-10-
2022), este algoritmo ajuda a polícia a decidir, após deter alguém, se deve libertá-la sob fiança ou
mantê-la em detenção até ser presente ao tribunal.
209
DIREITO E INTELIGÊNCIA ARTIFICIAL
como a Doctrine, a LexisNexis e a Dalloz, que são simples motores de pesquisa
de decisões judiciais e textos jurídicos. Mais interessantes são as ferramentas
de software Prédictice e Case Law Analytics, ambas ferramentas de análise cujo
propósito é prever o resultado de um específico processo judicial19, também
denominadas ferramentas de análise de tendência.
Em 2017, realizou-se em França uma experiência para testar um software de
justiça preditivo (o software Prédictice), aplicando-o a vários recursos nos dois
tribunais de recurso em Rennes e Douai. Os resultados não foram os expec-
táveis. O objectivo da experiência era o de procurar reduzir a variabilidade
excessiva das decisões judiciais em nome da igualdade dos cidadãos perante
a lei. Embora a experiência não tenha trazido qualquer observação de valor
quanto ao papel da IA na tomada de decisão, o estudo concluiu, porém, que
o software se confundiu entre as ocorrências lexicais e as causalidades que
tinham sido decisivas para os juízes nas decisões utilizadas como dados de
treino, tendo conduzido a resultados absurdos20.
Na Áustria, a IA tem sido utilizada como ferramenta para estruturar infor-
mação com vista à análise e ao tratamento rápido e eficiente de documen-
tos em contexto judicial21: a ferramenta de IA analisa o correio entrado sem
qualquer contacto manual por parte dos funcionários do tribunal, extraindo
metadados, identificando e reconhecendo procedimentos de arquivo e cate-
gorização de documentos. Funciona, também, como ferramenta de gestão
de documentos digitais (o que é especialmente importante para a gestão
de documentos não estruturados), como ferramenta de análise para inves-
tigação de dados (analisando e classificando metadados de qualquer tipo
de dados e reconhecendo fluxos de comunicação e relações) e como ferra-
menta de anonimização automática de decisões judiciais (dados pessoais
das partes).
19
Ver os sítios na Internet https://predictice.com/ e https://www.caselawanalytics.com/ [última
consulta em 19-10-2022].
20
Xávier Rosin & Vasileios Lampos, In-depth study on the use of AI in judicial systems, notably AI
applications processing judicial decisions and data, in European Ethical Charter on the Use of Artificial
Intelligence in Judicial Systems and their environment, Estrasburgo, CEPEJ – Commission
Européene pour l’Efficacité de la Justice, 2018, p. 42, disponível em https://rm.coe.int/ethical-
charter-en-for-publication-4-december-2018/16808f699c [última consulta em 19-10-2022].
21
Apresentação de Georg Stawa, How is Austria approaching AI integration into judicial policies?,
Presidente da the CEPEJ e Chefe do Departamento de Estratégia, Consultoria Organizacional
e Gestão da Informação, Ministério Federal da Constituição, Reformas, Desregulamentação e
Justiça (2018), disponível em https://rm.coe.int/how-is-austria-approaching-ai-integration-into-
judicial-policies-/16808e4d81 [última consulta em 19-10-2022].
210
 A INTELIGÊNCIA ARTIFICIAL COMO AUXILIAR DAS DECISÕES JUDICIAIS
O University College of London também realizou uma experiência22 para
prever decisões judiciais do Tribunal Europeu dos Direitos Humanos (TEDH),
utilizando apenas informação textual extraída de trechos relevantes de acórdãos
do TEDH. Os dados que serviram para treino da IA consistiam em elementos
textuais extraídos de determinados casos e o resultado era a própria decisão
dos juízes. A ferramenta de IA previu o resultado com 79% de exactidão. Os
autores concluíram que “a informação respeitante ao enquadramento factual do caso
tal como formulado pelo Tribunal nas subsecções relevantes dos seus acórdãos constitui a
parte mais importante obtendo em média um desempenho preditivo mais forte do resul-
tado da decisão do Tribunal”, e que “a correlação bastante robusta entre o resultado dos
casos e o texto correspondente a padrões factuais contido nas subsecções relevantes é coe-
rente com outro trabalho empírico levado a cabo no que respeita à tomada de decisão em
casos difíceis e dá arrimo a intuições básicas pautadas pelo realismo jurídico”.
Outro campo profícuo no que tange à aplicação de soluções de IA é o das
acções judiciais de baixo valor. Muitos países europeus instituíram já, ou ten-
cionam instituir, algum tipo de serviço de RLL (em inglês Online Dispute Reso-
lution, ODR), entre eles, os Países Baixos, o Reino Unido, a Letónia e a Estónia.
Particularmente relevante é o exemplo da Estónia, que tenciona criar um sis-
tema inteiramente independente de intervenção humana que profira deci-
sões em acções de pequeno montante (até 7000€)23. Em teoria, as duas partes
fariam upload dos documentos e outra informação relevante, e a plataforma
de RLL proferiria a decisão, que poderia ser objecto de recurso para um juiz.
No Reino Unido também existem plataformas de RLL para acções de baixo
valor, mas não são realmente uma solução de IA dado que é um juiz humano
a decidir o litígio. A principal diferença entre este método e o método tradi-
cional de decisão é o facto de todos os contactos entre o utilizador e o tribu-
nal se efectuarem através de uma plataforma em linha. Outra diferença face à
abordagem tradicional consiste na existência de uma espécie de mediadores
em linha. Nas palavras do Professor Richard Susskind, “indivíduos que olharão
para os pedidos e promoverão a negociação entre as partes, possivelmente actuando como
mediadores após algum tipo de orientação”24.
22
Nikolaos Aletras, Dimitrios Tsarapatsanis, Daniel Preoţiuc-Pietro, Vasileios
Lampos, Predicting judicial decisions of the European Court of Human Rights: a Natural Language Processing
perspective, 2016, disponível em https://peerj.com/articles/cs-93/ [última consulta em 19-10-2022].
23
Para mais pormenores, ver o artigo disponível em https://www.wired.com/story/can-ai-be-fair-
judge-court-estonia-thinks-so/ [última consulta em 19-10-2022].
24
Para uma explicação sintética e clara da RLL do Reino Unido, ver a explicação do Professor
Richard Susskind em https://www.judiciary.uk/guidance-and-resources/what-is-odr-for-low-
value-civil-claims-audio-version-2/ [última consulta em 19-10-2022].
211
DIREITO E INTELIGÊNCIA ARTIFICIAL
A Letónia tem também uma solução de RLL para pedidos até 2100€. É um
procedimento quase inteiramente escrito, apresentado on-line pelo reque-
rente, e só se aplica a acções de pequeno montante para cobrança de montantes
pecuniários ou alimentos, sendo que o pedido inicial tem de cumprir regras
específicas referentes a estes processos (um determinado formulário-modelo
ou, por exemplo, o demandante tem de indicar se requer uma audiência para
análise da questão). Tal como na RLL britânica, a decisão é proferida por um
juiz e não por qualquer tipo de ferramenta de IA25.
Também a Comissão Europeia disponibiliza uma plataforma de RLL para
ajudar a resolver litígios de consumo com origem em compras em linha sem
necessidade de recorrer a um tribunal. Pode ser utilizada para qualquer litígio
contratual emergente da aquisição de bens ou serviços em linha em que comer-
ciante e consumidor estejam ambos sediados na União Europeia, na Noruega, na
Islândia ou no Liechtenstein. Esta RLL rege-se pelo disposto no Regulamento
(UE) nº 524/2013, do Parlamento Europeu e do Conselho, de 21 de Maio de
2013. Trata-se de uma resolução alternativa de litígios e a plataforma limita-se
a facilitar a comunicação entre as partes e um órgão de resolução de litígios,
sem necessidade de recurso ao tribunal. Uma das maiores vantagens desta RLL
reside em disponibilizar traduções automáticas entre todas as línguas da UE,
bem como informação e apoio ao longo de todo o procedimento26.
A extinta RLL dos Países Baixos era a mais antiga na Europa de que temos
conhecimento. O e-Court era uma iniciativa privada de resolução alternativa de
litígios lançada em 2010 e, tal como o modelo pretendido pela Estónia, tratava-
-se de uma IA de emissão de decisões inteiramente automática para litígios de
baixo valor. O credor apresentava a informação necessária (documentos) e a
decisão era proferida sem qualquer intervenção humana. Não obstante, para
dar início a um processo de execução, os utilizadores do e-Court tinham ainda
de obter um título executivo emitido por mão humana: as decisões proferidas
em linha de modo automatizado eram enviadas a um tribunal público, onde os
funcionários de justiça recalculariam manualmente os montantes atribuídos27.
25
Para maior análise, ver https://e-justice.europa.eu/content_small_claims-42-lv-en.do?member=1
[última consulta em 19-10-2022].
26
O endereço electrónico da plataforma de RLL: https://ec.europa.eu/consumers/odr/
main/?event=main.home2.show [última consulta em 19-10-2022].
27
Para mais pormenores, ver H.W.R. (Henriëtte) Nak ad-Weststr ate, H.J. ( Jaap) van
den Herik, A.W. (Ton) Jongbloed e Abdel-Badeeh M. Salem, The Rise of the Robotic Judge
in Modern Court Proceedings, conference paper on the 7th International Conference on Information
Technology (2015), pp. 59-67, acessível em https://www.researchgate.net/publication/300720949_
The_Rise_of_the_Robotic_Judge_in_Modern_Court_Proceedings [última consulta em 19-10-2022].
212
 A INTELIGÊNCIA ARTIFICIAL COMO AUXILIAR DAS DECISÕES JUDICIAIS
Também merece menção o Rechtwijzer, outra solução de RLL produzida
pelos Países Baixos: tinha por objectivo reduzir a conflitualidade no processo
de divórcio ao reduzir a sua natureza contenciosa. O processo começava com
uma fase de diagnóstico, seguida de uma fase de recolha de informação junto
da parte que dava início ao processo e, por fim, a outra parte era convidada a
juntar-se e a participar no processo de recolha de informação. A plataforma
funcionava como um canal de comunicação entre as partes para que pro-
curassem alcançar acordos sobre as questões em disputa. Apesar de se tra-
tar de uma solução assente na negociação das partes, estas eram também
informadas das normas jurídicas relativas aos acordos negociados (partilha
de bens, alimentos, etc.). No final do processo em linha, estes acordos eram
revistos por um terceiro imparcial (um advogado). O projecto Rechtwijzer
terminou em 2017 e não parece existir uma explicação oficial para o seu tér-
mino28, mas, à época, os seus criadores encontravam-se a trabalhar com o
Raad voor Rechtsbijstand29 para criar uma nova plataforma com um novo tipo
de ofertas. Essa nova plataforma existe aos dias de hoje30, funcionando como
uma plataforma de aconselhamento jurídico para variados temas (especial-
mente de índole social, laboral e familiar), assumindo-se como uma parceria
com o Raad voor Rechtsbijstand e de coordenação e cooperação com diversas
entidades31.
Em Portugal, foi elaborado muito recentemente32 um relatório pelo grupo
de trabalho criado para delinear uma estratégia para resolver a pendência dos
tribunais da jurisdição administrativa e fiscal, onde um dos eixos estratégi-
cos definido foi, precisamente, o da transformação digital. No âmbito daquele
relatório, um dos problemas identificados é o tempo que o magistrado perde
28
Para mais pormenores, ver o texto disponível em https://law-tech-a2j.org/odr/rechtwijzer-why-
online-supported-dispute-resolution-is-hard-to-implement/ [última consulta em 19-10-2022].
29
Uma entidade independente de fins públicos, que tem uma missão, transponível para o nosso
ordenamento jurídico, aproximada à da Ordem dos Advogados e à da Ordem dos Solicitadores e
Agentes de Execução.
30
No link https://rechtwijzer.nl/ [última consulta em 17-10-2022].
31
Na definição da própria plataforma, as respostas são anónimas e não serão arquivadas. O
utilizador preencherá um questionário que demora entre 10 e 20 minutos a preencher, de que
poderá fazer download no seu próprio computador e enviar por e-mail. A plataforma não assegura
um tempo de resposta, uma vez que dependerá da maior ou menor complexidade do caso concreto
[https://rechtwijzer.nl/eerste-hulp-oplossingen/ – última consulta em 17-10-2022, com tradução
automática para português do Google Chrome].
32
Datado de 17 de Março de 2022 e disponível em https://justica.gov.pt/Portals/0/Ficheiros/
Organismos/J UST ICA/Relator iosI _ I IGr upoTrabalhodosTA F17mar22.pd f ?ver=Z N-
fTt3P419LYdowdOrvKw%3D%3D [última consulta em 19-10-2022].
213
DIREITO E INTELIGÊNCIA ARTIFICIAL
na prática de actos de expediente no processo, propondo aquele grupo de
trabalho alargar a competência da secretaria judicial na prática de actos de
expediente, libertando os magistrados para a apreciação do mérito dos litígios.
Do ponto de vista da modernização digital, afigura-se-nos que, havendo uma
delegação de mais competências na secretaria judicial para a prática de actos
processuais relevantes, o momento é oportuno para se automatizar alguns
dos actos praticados até então pela secretaria. Criar-se-ia espaço e oportuni-
dade para libertar os funcionários judiciais para o exercício de tarefas mais
importantes e dignificantes da sua função e conhecimentos.
Outro dos problemas identificados pelo referido grupo de trabalho são as
bagatelas jurídicas, propondo-se naquele relatório a simplificação do regime
processual em acções de valor até 5000€. Tendo presente as experiências
da Estónia e dos Países Baixos, com sistemas automatizados de resolução de
litígios de baixo valor numa plataforma totalmente em linha, o momento é
oportuno para ponderar alternativas à mera simplificação processual. É nossa
convicção, aliás, que, face à pendência que ainda se verifica na jurisdição admi-
nistrativa e fiscal33/34, a mera simplificação processual não é necessariamente
sinónimo de uma mais rápida resolução do litígio.
3.2. O que está a ser feito na União Europeia
Para além do que já foi posto em prática, em Abril de 2018 os Estados-Mem-
bros da UE assinaram uma declaração sobre a Cooperação em Matéria de
33
Vejam-se os dados do último relatório anual publicado pelo Conselho Superior dos Tribunais
Administrativos e Fiscais atinente ao ano de 2020, [disponível em http://www.cstaf.pt/documentos/
Relatorio%20CSTAF%202020.pdf, última consulta em 19-10-2022] onde se refere (p. 7) “em
31/12/2020 a taxa de congestão processual continuava a situar-se acima dos 200% e as pendências continuavam
muito elevadas, com 20.532 processos no contencioso administrativo e 39.912 processos no contencioso
tributário, num total de 60.444 processos pendentes”.
34
Em sequência, refere a Presidente do CSTAF, na nota introdutória àquele relatório: “Afigura-
se-nos, pois, que a resolução, tão rápida e eficaz quanto possível, das pesadas cargas processuais e do volume
de pendências acumuladas até 31/12/2020, só pode ser ultrapassada, em tempo útil, mediante medidas
excepcionais, em particular através de adequada assessoria jurídica e técnica aos juízes, há muito prevista na
lei, o que permitiria superar o desafio de alcançar um sistema de justiça administrativa e fiscal com a qualidade e
a celeridade que o século XXI exige.” Não podíamos estar mais de acordo com a proposta. Poderá ser este
o momento para se introduzir mecanismos de assessoria com base em IA como apoio ao exercício da
função judicial? É uma solução que tem vindo a ser publicamente apontada pela actual Ministra da
Justiça para melhoria do funcionamento dos nossos tribunais (https://cnnportugal.iol.pt/catarina-
sarmento-e-castro/ano-judicial/ministra-da-justica-quer-ter-a-inteligencia-artificial-a-ajudar-os-
tribunais/20220420/626033d10cf26256cd1f96fc e https://www.cmjornal.pt/politica/detalhe/
ministra-da-justica-defende-inteligencia-artificial-e-mais-recursos-para-justica-administrativa-
e-fiscal, última consulta em 11-10-2022).
214
 A INTELIGÊNCIA ARTIFICIAL COMO AUXILIAR DAS DECISÕES JUDICIAIS
Inteligência Artificial35, na qual os países acordaram em construir uma UE
voltada para o progresso e o investimento em matéria de IA, assim como para
o progresso no sentido da criação de um Mercado Único Digital.
Nesse mesmo mês, a Comissão Europeia emitiu uma comunicação sobre
Inteligência Artificial para a Europa36. Nessa comunicação, a Comissão afirma
que a UE “deve adoptar uma abordagem coordenada, a fim de tirar o máximo partido
das oportunidades oferecidas pela IA e fazer face aos novos desafios que esta acarreta”37,
apoiando explicitamente a investigação em IA, nomeadamente quanto à “admi-
nistração pública (nomeadamente a justiça)”38. Mais tarde, nesse ano, a Comissão
para a Eficácia da Justiça na Europa, do Conselho da Europa (Council of Europe
European Commission for the efficiency of justice – CEPEJ) lançou a Carta Euro-
peia de Ética sobre o Uso da Inteligência Artificial em Sistemas Judiciais e seu ambiente39.
Apesar do caminho trilhado pela UE ao longo dos últimos anos, existe
ainda um longo percurso no que respeita à utilização da tecnologia de IA nas
decisões judiciais no âmbito da UE.
4. Desafios éticos e legais
Tendo presente que a implementação da IA não é algo para um futuro dis-
tante, mas para o nosso tempo, a CEPEJ adoptou formalmente cinco prin-
cípios fundamentais relativos à utilização da IA nos sistemas judiciais e seu
ambiente. Estes princípios visam assegurar o respeito pela Convenção Euro-
peia dos Direitos Humanos (CEDH) e pela Convenção relativa à Protecção
dos Dados Pessoais (CPDP), ao enquadrarem as políticas públicas nessa área
e assegurarem que o processamento da IA respeita princípios como a trans-
parência, a imparcialidade e a igualdade, com certificação através de uma avalia-
ção levada a cabo por peritos externos e independentes.
Estes princípios, porém, não devem ser definidos de forma rígida. A CEPEJ
pretende sujeitá-los a monitorização e supervisão, com um objectivo de con-
tínua melhoria das práticas. Por ora, os cinco princípios são os seguintes: (1)
respeito pelos direitos fundamentais: assegurar que a concepção e a imple-
35
Disponível em https://ec.europa.eu/jrc/communities/en/node/1286/document/eu-declaration-
cooperation-artificial-intelligence [última consulta em 19-10-2022].
36
Disponível em https://ec.europa.eu/digital-single-market/en/news/communication-artificial-
intelligence-europe [última consulta em 19-10-2022].
37
Supra nota 36, p. 3.
38
Supra nota 36, p. 8.
39
CEPEJ, European Ethical Charter on the use of Artificial Intelligence in judicial systems and their
environment (2018), disponível em https://rm.coe.int/ethical-charter-en-for-publication-4-
december-2018/16808f699c [última consulta em 19-10-2022].
215
DIREITO E INTELIGÊNCIA ARTIFICIAL
mentação de ferramentas e serviços de IA são compatíveis com os direitos
fundamentais; (2) não discriminação: especificamente, impedir o surgimento
ou a intensificação de qualquer discriminação entre pessoas ou grupos de pes-
soas; (3) princípio da qualidade e segurança: no que respeita ao tratamento
de decisões e dados judiciais, utilizar fontes certificadas e dados intangíveis
com modelos elaborados de modo multidisciplinar e num ambiente tecnoló-
gico seguro; (4) princípio da transparência, imparcialidade e equidade: tornar
os métodos de tratamento de dados acessíveis e compreensíveis e autorizar
auditorias externas; e (5) princípio “sob controlo do utilizador”: prevenir uma
abordagem prescritiva e assegurar que os utilizadores sejam actores informa-
dos e com controlo sobre as escolhas feitas. Estes cinco princípios abordam
algumas das principais questões éticas suscitadas pela utilização de ferra-
mentas de IA num sistema judicial e seu ambiente, bem como os princípios
e obstáculos jurídicos que rodeiam esta área no âmbito da UE.
Em Portugal, foi publicada a Carta Portuguesa de Direitos Humanos na
Era Digital pela mão da Lei nº 27/2021, de 17 de Maio. Destacamos o artigo
9º daquela Carta, que consagra os principais princípios e direitos no uso da
inteligência artificial e de robôs. A norma contida no nº 1 daquele artigo des-
taca, à semelhança da Carta Europeia, o respeito pelos direitos fundamentais,
garantindo-se “um justo equilíbrio entre os princípios da explicabilidade, da segu-
rança, da transparência e da responsabilidade, que atenda às circunstâncias de cada
caso concreto e estabeleça processos destinados a evitar quaisquer preconceitos e formas
de discriminação”. Consagra-se, ainda, uma forma do princípio user under con-
trol quando se prevê no nº 2 daquele artigo que as “decisões com impacto signi-
ficativo na esfera dos destinatários que sejam tomadas mediante o uso de algoritmos
devem ser comunicadas aos interessados”. O nº 3 do artigo 9º da Carta Portuguesa
de Direitos Humanos na Era Digital, por sua vez, estabelece que são aplicá-
veis à criação e uso de robôs, especificamente, os princípios da beneficência,
da não-maleficência, do respeito pela autonomia humana e pela justiça, bem
como os princípios e valores consagrados no artigo 2º do Tratado da União
Europeia, designadamente a não discriminação e a tolerância40.
40
Princípios, de resto, que não são uma total novidade. Os grandes princípios da bioética tiveram
como precursor o Relatório Belmont, de 1979, redigido pela Comissão Nacional para a Protecção
de Sujeitos Humanos de Pesquisa Biomédica e Comportamental dos Estados Unidos, onde se
identificam os princípios éticos básicos e directrizes que abordam questões éticas decorrentes
da condução de pesquisas com seres humanos. O relatório completo pode ser encontrado, no
seu original, em https://www.hhs.gov/ohrp/regulations-and-policy/belmont-report/index.html
[última consulta em 19-10-2022].
216
 A INTELIGÊNCIA ARTIFICIAL COMO AUXILIAR DAS DECISÕES JUDICIAIS
4.1. A jurisprudência do TEDH e suas directrizes (guidelines)
Um dos maiores desafios criados pela utilização da IA nos sistemas judiciais
e seu ambiente é o do respeito pelos direitos fundamentais e princípios con-
sagrados, sejam os da Constituição da República Portuguesa, sejam os da
CEDH. Como se afirma na Carta de Ética e na Carta Portuguesa, tais solu-
ções têm de respeitar direitos individuais como o “direito a um processo equita-
tivo (em especial o direito ao juiz natural estabelecido pela lei, o direito a um tribunal
independente e imparcial e à igualdade de armas em processo judicial) e, onde não tenha
sido adoptada diligência bastante para proteger dados comunicados em dados abertos,
o direito ao respeito pela vida privada e familiar”41.
O respeito pelos direitos fundamentais implica, desde logo, o respeito pelo
direito a um processo equitativo (artigo 6º da CEDH). A densificação daquele
direito tem sido feita ao longo do tempo pelo TEDH, estabelecendo impor-
tantes directrizes para todos os Estados subscritores da CEDH42.
Em primeiro lugar, o TEDH tem vindo a interpretar que apenas existe res-
peito pelo direito a um processo equitativo quando seja cumprido o direito a
uma audiência pública. Em Vernes c. França43, o TEDH considerou existirem
diversas violações do nº 1 do artigo 6º, uma das quais consistindo na violação
resultante da impossibilidade de os requerentes solicitarem uma audiência
pública44 e uma outra resultante da falta de imparcialidade do órgão admi-
nistrativo como consequência da ausência de indicação da sua composição45.
O Tribunal recordou que a audiência pública é um princípio fundamental con-
sagrado no nº 1 do artigo 6º da Convenção. Este princípio pode sofrer com-
pressões justificadas em especial pelos interesses da vida privada das partes
ou da salvaguarda da justiça (Diennet c. França, nº 18160/91, 26 de Setembro
de 1995) ou pela natureza das questões submetidas ao tribunal no âmbito do
caso concreto (Miller c. Suécia, nº 55853/00, 8 de Fevereiro de 2005; Göç c. Tur-
quia, nº 36590/97, 11 de Julho de 2002). O TEDH concluiu que, na ausência
de uma audiência pública, o direito do requerente a um processo equitativo
não fora assegurado. Naquele aresto, o TEDH recordou também que, para os
efeitos do artigo nº 1 do artigo 6º, a imparcialidade deve ser avaliada com base
41
Supra nota 39, p. 8.
42
Veja-se também a súmula sobre o direito a um processo equitativo e público do artigo 6º, nº 1, da
CEDH de Marco Carvalho Gonçalves, “Direito a um processo equitativo e público”, in AA.
VV., Comentário da Convenção Europeia dos Direitos Humanos e dos Protocolos Adicionais, org. P. Pinto
de Albuquerque, vol. II, Lisboa, Universidade Católica Editora, 2019, pp. 931-964.
43
Queixa nº 30183/06, Acórdão de 20 de Janeiro de 2011.
44
Supra nota 43, §§ 30-31.
45
Supra nota 43, §§ 41-44.
217
DIREITO E INTELIGÊNCIA ARTIFICIAL
numa abordagem subjectiva, permitindo determinar a convicção do julgador
em tal ocasião, e também de acordo com uma abordagem objectiva, de forma
a assegurar que o mesmo oferece garantias suficientes para excluir qualquer
dúvida legítima a esse respeito46. E, assim sendo, o Tribunal concordou com
o requerente quanto ao facto de a falha do Estado em identificar todos os
membros do órgão administrativo que haviam deliberado era de molde a pôr
em causa a sua imparcialidade, o que implica que a imparcialidade é também
assegurada pela identificação dos juízes que venham a proferir a decisão. Este
é um factor de relevância inegável se um caso for julgado por uma IA.
Em Golder c. Reino Unido, o TEDH reconheceu o direito de acesso a um
tribunal, mas afirmou também que este não é absoluto, admitindo algumas
limitações implícitas 47/48. A jurisprudência firmada em Deweer c. Bélgica49 tor-
nou claro que o direito a um tribunal é visto como um elemento do direito a
um processo equitativo, consagrado no nº 1 do artigo 6º, e não é mais abso-
luto em matéria penal do que em matéria civil.
Em Kontalexis c. Grécia50, o TEDH recorda que, ao abrigo do nº 1 do artigo
6º, um tribunal deve ser sempre estabelecido por lei, o que reflecte o princí-
pio do Estado de Direito, inerente a todo o sistema da Convenção e seus pro-
tocolos. O Tribunal afirma que a um órgão que não tenha sido estabelecido
de acordo com a vontade do legislador faltará necessariamente a legitimação
necessária numa sociedade democrática. Em DMD GROUP, a.s, c. Eslováquia,
o TEDH reiterou a noção de um tribunal estabelecido por lei e da indepen-
dência judicial e certeza jurídicas para o Estado de Direito exigirem uma par-
ticular clareza das regras aplicadas em qualquer caso e garantias claras para
assegurar objectividade e transparência, de modo a evitar qualquer aparência
46
Neste sentido, também a decisão proferida em Ivanovski c. “Antiga República Jugoslava da
Macedónia”, queixa nº 29908/11, Acórdão de 21 de Janeiro de 2016. É jurisprudência assente do
TEDH que a imparcialidade tem de ser determinada “de acordo com um teste subjectivo, em que se
deve atentar na convicção e comportamento pessoais de um determinado juiz, isto é, se o juiz tinha qualquer
preconceito ou tendenciosidade pessoal num determinado caso [a imparcialidade tem de ser presumida
até prova em contrário]; e também de acordo com um teste objectivo, isto é, determinando se o tribunal
propriamente dito e, entre outros aspectos, a sua composição, ofereciam garantias suficientes para afastar
qualquer dúvida legítima a respeito da sua imparcialidade”.
47
Queixa nº 4451/70, Acórdão de 21 de Fevereiro de 1975, § 38.
48
Mas mesmo quando existem limitações implícitas, outros aspectos do direito consagrado no
nº 1 do artigo 6º devem ser respeitados, como o direito a ser ouvido por um tribunal dentro de um
prazo razoável (cf. Kart c. Turquia, nº 8917/05, 3 de Dezembro de 2009).
49
Queixa nº 6903/75, Acórdão de 27 de Fevereiro de 1980, § 49.
50
Queixa nº 59000/08, Acórdão de 31 de Maio de 2011.
218
 A INTELIGÊNCIA ARTIFICIAL COMO AUXILIAR DAS DECISÕES JUDICIAIS
de arbitrariedade na distribuição de processos a juízes específicos51. Noutra
decisão52, o Tribunal considerou que os casos de distribuição discricionária
de um processo (no sentido de uma distribuição cujas modalidades não estão
previstas em lei), põem em risco a aparência de imparcialidade, ao dar azo
a especulação sobre a influência política ou de outro tipo sobre o tribunal
destinatário da distribuição e o juiz competente, ainda que a distribuição do
caso a um juiz específico em si mesma tenha seguido critérios transparentes.
Quanto ao princípio da igualdade de armas, o Tribunal afirmou mais recen-
temente53 que “o princípio do contraditório e o princípio da igualdade de armas, os
quais estão intimamente interligados, são componentes fundamentais do conceito de um
‘processo equitativo’ no sentido que lhe é dado pelo nº 1 do artigo 6º da Convenção. Eles
exigem um ‘justo equilíbrio’ entre as partes: a cada parte deve ser dada oportunidade
razoável de expor o seu caso em circunstâncias que não a coloquem em especial desvan-
tagem face ao(s) seu(s) oponente(s)”.
Um dos mais importantes direitos consagrados no nº 2 do artigo 6º é o
da presunção de inocência. O TEDH interpreta-o como o direito a ser-se
presumido inocente até prova da culpabilidade em conformidade com a lei.
É “visto como uma garantia processual no contexto do próprio julgamento penal”, mas
a presunção da inocência também “impõe requisitos relativos, nomeadamente, ao
ónus da prova; à presunção legal de facto e de direito; à protecção contra a auto-incri-
minação; à publicidade na fase pré-julgamento; e a expressões prematuras, por parte
do tribunal de julgamento ou de outros funcionários públicos, quanto à culpabilidade
de um arguido”54.
4.2. O acórdão Sigurdur Einarsson “e.o.c” (e outros contra) Islândia
Conjugando quase todas as disposições sobre direitos consagrados no artigo
6º, o TEDH foi confrontado em Sigurdur Einarsson a. o. c. Islândia55 quanto a
potenciais violações do referido artigo num processo penal em que os arguidos
alegavam ter-lhes sido negado acesso pleno ao processo detido pela acusação.
O processo penal em causa dizia respeito a uma conduta alegadamente
criminosa ligada ao colapso de um dos maiores bancos do país durante a
51
Queixa nº 19334/03, Acórdão de 5 de Outubro de 2010, § 66.
52
Miracle Europe KFT c. Hungria, Queixa nº 57774/13, Acórdão de 12 de Janeiro de 2016, § 58
53
Prebil c. Eslovénia, Queixa nº 29278/16, Acórdão de 19 de Março de 2019.
54
Kangers c. Letónia, Queixa nº 35726/10, Acórdão de Março de 2019. Igualmente, Lolov c. Bulgária,
Queixa nº 6123/11, Acórdão de 21 de Fevereiro de 2019; Allenet de Ribemont c. França, Queixa no
15175/89, Acórdão de 10 de Fevereiro de 1995; Viorel Burzo c. Roménia, Queixas nº 75109/01 e
12639/02, Acórdão de 30 de Junho de 2009; Lizaso Azconobieta c. Espanha, Queixa nº 28834/08,
Acórdão de 28 de Junho de 2011.
55
Queixa nº 39757/15, Acórdão de 4 de Junho de 2019.
219
DIREITO E INTELIGÊNCIA ARTIFICIAL
crise financeira que atingiu a Islândia em 2008. A investigação durou quase
três anos e levou a uma vasta recolha de dados, incluindo dados apreendidos
ao abrigo de um mandado judicial de busca. Para levar a cabo a pesquisa nos
dados electrónicos (e-discovery), a acusação utilizou uma ferramenta de IA cha-
mada Clearwell, cujos resultados foram exportados e marcados como “docu-
mentos de investigação”. Os requerentes queixaram-se de que nunca tinham
tido a oportunidade de analisar os documentos submetidos ao tribunal e que
lhes fora negada a possibilidade de pesquisar os mesmos dados utilizando o
sistema electrónico empregue pela acusação. Isto consubstanciava, na sua
opinião, uma violação do princípio da igualdade de armas (estabelecido no nº
1 e na alínea b) do nº 3 do artigo 6º), dado que eles deveriam ter tido as mes-
mas oportunidades que a acusação de aceder à prova e seleccioná-la a partir
do conjunto de documentos recolhidos pela polícia durante a investigação.
O Tribunal considerou não existir qualquer violação do artigo 6º quanto
a dados em massa não marcados, afirmando que nesse aspecto a acusação
não detinha qualquer vantagem face à defesa, por não se tratar de um caso
de não divulgação. Quanto aos dados marcados, tinham sido analisados pelos
investigadores, manualmente e através do Clearwell, com vista a escolher o
material que deveria integrar o processo de investigação e a acusação. O Tri-
bunal reconheceu que esta selecção fora feita somente pela acusação, sem o
envolvimento da defesa e sem qualquer supervisão judicial, e também que
novas pesquisas nos dados pela defesa teriam sido tecnicamente possíveis e
apropriadas para uma busca por prova potencialmente ilibatória. O Tribunal
concluiu assim que “qualquer recusa em autorizar a defesa a realizar novas buscas nos
documentos ‘marcados’ suscitaria em princípio um problema à luz da alínea b) do nº 3 do
artigo 6º no que respeita à concessão de meios adequados para a preparação da defesa”56.
A jurisprudência Sigurdur Einarsson a. o. c. Islândia é fundamental para a
conjugação das ferramentas de IA com os direitos consagrados no artigo 6º:
56
Supra nota 55, §§ 85-91. Apesar da conclusão mencionada, o Tribunal afastou a violação da alínea
b) do nº 3 do artigo 6º da CEDH por ter considerado que os requerentes não tinham formalmente
procurado um tribunal com vista a ter acesso àqueles documentos e, nessa medida, não lhes tinha
sido negado globalmente um processo equitativo. O acórdão mereceu uma declaração de voto por
parte do Juiz Pavli. Com especial interesse, veja-se o § 10 (tradução livre): “Vale a pena recordar neste
ponto que o que está em causa é um pilar fundamental do processo penal equitativo, nomeadamente a igualdade
de armas. À luz deste princípio cardeal, a abordagem global da maioria parece insuficientemente harmonizada
com a complexidade da revelação electrónica em processo penal (ou civil) envolvendo elevados volumes de dados;
à utilização de ferramentas tecnológicas modernas neste contexto; e às suas implicações combinadas para a
igualdade de armas. O pressuposto de que as regras de revelação padrão devem aplicar-se sem alterações neste
contexto carece, no mínimo, de ser testada.”
220
 A INTELIGÊNCIA ARTIFICIAL COMO AUXILIAR DAS DECISÕES JUDICIAIS
estabeleceu um claro princípio de que, onde sejam usadas ferramentas de IA
para tratar dados em massa e exista informação extraída através desse meca-
nismo, o princípio da igualdade de armas (nº 1 do artigo 6º) e o direito a dis-
por de tempo e meios adequados para a preparação da defesa exigem que o
arguido/demandado (num processo penal ou civil, como afirmado em Deweer
c. Bélgica) tenha o direito de participar na escolha da informação e tenha o
direito de realizar a sua própria pesquisa nos dados, utilizando a mesma fer-
ramenta que a acusação.
Para garantir o direito a um processo judicial equitativo, a utilização de
uma ferramenta de IA nesse contexto terá sempre de garantir o direito a uma
audiência pública; a imparcialidade do julgador, avaliada com base numa abor-
dagem subjectiva e também de acordo com uma abordagem objectiva; a iden-
tificação do decisor; o direito de acesso a um tribunal (embora não seja um
direito absoluto); a garantia de legitimação mediante criação por lei (prin-
cípio do Estado de Direito); a clareza das regras aplicadas em qualquer caso
e garantias para assegurar objectividade e transparência, de modo a evitar
qualquer aparência de arbitrariedade na distribuição de processos a juízes
específicos, em nome do princípio da transparência; o princípio do contra-
ditório; a igualdade de armas, seja na acepção de que a cada parte deve ser
dada oportunidade razoável de expor o seu caso em circunstâncias que não
a coloquem em especial desvantagem face ao(s) seu(s) oponente(s), seja no
direito a dispor de tempo e meios adequados para a preparação da defesa,
utilizando os mesmos meios de pesquisa, caso uma IA tenha sido utilizada
no âmbito na investigação criminal.
4.3. A opacidade das caixas negras
Conexo com as questões atrás mencionadas está o problema das caixas negras
(black boxes), isto é, quando um agente de IA produz um resultado que os
humanos ou mesmo os seus criadores não conseguem perceber nem expli-
car como foi obtido, embora a sua exactidão ultrapasse as melhores decisões
ou previsões humanas57. O resultado de uma função algorítmica inexplicável
poderá ser utilizado numa decisão judicial?
57
Veja-se o estudo de Alvin Rajkomar, Eyal Oren et al., denominado “Scalable and accurate
deep learning with electronic health records”, Npj (Nature Partner Journals), Digital Medicine, 1,
nº 18, 2018, disponível em https://www.nature.com/articles/s41746-018-0029-1 (última consulta,
19-10-2022). Neste estudo foi apresentado o surpreendente desempenho de um algoritmo preditivo
de aprendizagem profunda, que analisou os relatórios clínicos de 216.221 pacientes, incluindo
notas soltas dos médicos assistentes, sem intervenção humana na selecção dos dados. O algoritmo
criou quatro categorias e previu, com um nível de exactidão de 75% a 94% – superando o melhor
221
DIREITO E INTELIGÊNCIA ARTIFICIAL
Uma decisão judicial sem especificação dos seus fundamentos é nula58.
Pelo que não é admissível a resposta “computer says no”. Mas o princípio da
explicabilidade não impõe necessariamente que saibamos como um agente de
IA chegou aos seus resultados, nem implica que se abra a caixa negra. Impõe
apenas – o que já não é pouco – que o resultado obtido tenha suficiente poder
explicativo. Uma proposta para o alcançar poderá ser através da utilização de
justificações contrafactuais59.
Na lógica formal, uma condicional contrafactual é uma proposição no
modo subjuntivo, tal como “se o osso estivesse partido, o raio X teria resultado dife-
rente”. São condicionais contrárias aos factos, implicando a sugestão de que
o antecedente de tal condição é falso. Uma vez que as contrafactuais podem
estar relacionadas com todo o tipo de mundos possíveis, é importante que o
mundo que utilizamos seja próximo do mundo real, isto é, deve ser o mundo
mais próximo possível60.
A explicabilidade dos resultados provenientes de uma caixa negra pode
ser alcançada através de algoritmos criados para confundir classificadores,
gerando um ponto de dados sintéticos próximo a um já existente, de modo a
que esse novo ponto de dados sintéticos possa ser classificado de forma dife-
rente do original, descrevendo as dependências entre uma decisão particular
e factos externos específicos. O agente de IA vai então pesar esse novo dado
sintético ou “contra-o-facto” que resultou do dado original. É importante,
por exemplo, para aferir a robustez do nexo de causalidade61.
Imaginemos uma situação de rebentamento de uma conduta de água que
provoca danos. O teste do algoritmo para aferir o nexo de causalidade com o
auxílio de justificações contrafactuais será o seguinte: num cenário próximo
ao que está a ser julgado (mundo possível), em que a conduta de água não
prognóstico médico humano – os pacientes que se encontravam em risco de mortalidade hospitalar
(93%-94%), os que seriam submetidos a reinternamento não planeado a 30 dias (75-76%), os casos
de hospitalização prolongada (85-86%) e as situações de alta médica (90%). Já com o conhecimento
da previsão do algoritmo, a informação clínica foi reexaminada pelos médicos que continuaram
sem perceber ou conseguir explicar a elevada percentagem de acerto das previsões do algoritmo.
Esta função algorítmica foi designada como não-explicável (non-explainable algorithmics).
58
Artigo 615º, nº 1, alínea c) do Código de Processo Civil.
59
Sandr a Wachter, Brent Mittelstadt, Chris Russel, “Counterfactual Explanations
Without Opening the Black Box: Automated Decisions and the GDPR”, in Harvard Journal of Law
& Technology, 31 (2), 2019.
60
Simon Blackbur n, The Oxford Dictionary of Philosophy, Oxford, Oxford University Press,
1996, pp. 85-86.
61
Veja-se o caso do programa Resnet, mencionado por Sandra Wachter, Brent Mittelstadt,
Chris Russel, ob. cit.
222
 A INTELIGÊNCIA ARTIFICIAL COMO AUXILIAR DAS DECISÕES JUDICIAIS
rebentou (condicional ou dado sintético), o lesado não iria sofrer os danos
que alega (perturbação adversária).
Trata-se de uma proposta de solução mais realista para ultrapassar a opa-
cidade das caixas negras do que um direito à demonstração plena do fun-
cionamento interno do algoritmo. As decisões de redes neuronais artificiais
partem de milhares de funções e milhões de parâmetros que controlam o
seu comportamento. Já a memória humana de curto prazo consegue reter,
em média, cerca de sete objectos (números, palavras, letras) em simultâneo.
A transparência total do agente de IA dificilmente será compreensível para
a maioria das pessoas, a que teríamos de adicionar os direitos de propriedade
intelectual sobre os algoritmos.
Do mesmo modo que não é possível pedir a um juiz humano que abra o
seu cérebro e descreva como chegou à decisão, também não podemos espe-
rar total transparência dos algoritmos de IA, a qual só poderia ser obtida à
custa do seu próprio desempenho. O que não significa uma confiança cega e
acrítica no agente de IA.
5. Conclusão
A aversão a algoritmos susceptíveis de afectar os seres humanos inclui-se na
frequente hostilização ao que é sintético ou artificial. Esta tendência verifica-
-se, por exemplo, na alimentação, na energia e, no caso que nos ocupa, tam-
bém no processo de decisão. Todavia, não se prescindindo dos juízos humanos,
mais ou menos intuitivos, é eticamente muito questionável negar o auxílio
de algoritmos que cometerão menos erros no processo decisório, sobretudo
em ambientes regulares e estáveis.
A IA é uma realidade actual e muito seguramente, num futuro próximo,
será um preciso auxiliar do juiz, quer na tramitação processual quer na efi-
ciência e qualidade das decisões. A sua utilização no processo judicial deve
ser encorajada, começando pelas situações que suscitem menor desconfiança.
Mas não devemos apostar numa singularidade jurídica, em que o auxílio da
IA à decisão judicial acertará em todos os casos e eliminará toda a incerteza
jurídica ou a própria intervenção humana.
A posição prudentemente optimista por nós defendida pode ser sinteti-
zada na vetusta sentença do poeta grego Arquíloco, popularizada por Isaiah
Berlin, de que “a raposa sabe muitas coisas, mas o ouriço sabe uma coisa muito
importante”62.
62
Isaiah Berlin, “The Hedgehog and the Fox”, 1953, in The Proper Study of Mankind: An Anthology
of Essays, New York, Farrar, Straus and Giroux, 2000, pp.436 e ss.
223
DIREITO E INTELIGÊNCIA ARTIFICIAL
Para a boa decisão da causa, a IA será a raposa, pois sabe muitas coisas:
armazenar informação, retirar taxas base, alcançar juízos probabilísticos,
compilar o acervo jurisprudencial, executar automatismos sem dificuldade,
reduzir vieses cognitivos. Mas para as partes em litígio, o juiz será o ouriço,
pois tem a obrigação de saber uma coisa muito importante: o caso particular
submetido a julgamento.
Bibliografia
Aletras, Nikolaos/Tsarapatsanis, Dimitrios/Preoţiuc-Pietro, Daniel/
Lampos, Vasileios, Predicting judicial decisions of the European Court of Human Rights:
a Natural Language Processing perspective, 2016.
Altavilla, Enrico, Psicologia Judiciária – o processo psicológico e a verdade judicial, vol. I, 2ª
ed., trad. Fernando Miranda, Coimbra, Almedina, 2007.
Berlin, Isaiah, “The Hedgehog and the Fox” (1953), in The Proper Study of Mankind:
An Anthology of Essays, New York, Farrar, Straus and Giroux, 2000.
Blackburn, Simon, The Oxford Dictionary of Philosophy, Oxford, Oxford University Press,
1996.
Chace, Callum, The Artificial Intelligence and the Two Singularities, Boca Raton, London,
New York, CRC Press, 2018.
Fedoll, Jordi Nieva, La valoración de la prueba, Madrid, Marcial Pons, 2010.
Fedoll, Jordi Nieva, Inteligencia artificial y processo judicial, Madrid, Marcial Pons, 2018.
Floridi, Luciano, The Fourth Revolution: how the infosphere is reshaping human reality,
Oxford, Oxford University Press, 2014.
Floridi, Luciano et. al., “AI4People–An Ethical Framework for a Good AI Society:
Opportunities, Risks, Principles, and Recommendations”, Minds and Machines, Sprin-
ger, 2018.
Gonçalves, Marco Carvalho, “Direito a um processo equitativo e público”, in AA.
VV., Comentário da Convenção Europeia dos Direitos Humanos e dos Protocolos Adicionais, org.
P. Pinto de Albuquerque, vol. II, Lisboa, Universidade Católica Editora, 2019.
Khaneman, Daniel, Thinking, Fast and Slow, trad. port. Pedro Vidal, Pensar, Depressa
e Devagar, 12ª ed., Lisboa, Temas e Debates – Círculo de Leitores, reimpressão, 2021.
Martins, Hermínio, Experimentum Humanum, Lisboa, Relógio D’Água, 2011.
Nakad-Weststrate, H.W.R. (Henriëtte)/Van den Herik, H.J. (Jaap)/Jong-
bloed, A.W. (Ton)/ Salem, Abdel-Badeeh M., The Rise of the Robotic Judge
in Modern Court Proceedings”, conference paper on the 7th International Confer-ence
on Information Technology, 2015, acessível em https://www.researchgate.net/publica-
tion/300720949_The_Rise_of_the_Robotic_Judge_in_Modern_Court_Proceedings
(última consulta em 19-10-2022).
Rajkomar, Alvin/Oren, Eyal/et. al., “Scalable and accurate deep learning with elec-
tronic health records”, Npj (Nature Partner Journals), Digital Medicine, 1, nº 18, 2018,
disponível em https://www.nature.com/articles/s41746-018-0029-1 (última consulta,
19-10-2022).
224