USO DE SISTEMAS DE INTELIGÊNCIA ARTIFICIAL E A NECESSIDADE DA

SUA REGULAÇÃO

Os direitos humanos ocupam um papel importante em qualquer sistema legal

moderno, influenciando e direcionando a sociedade como um dos seus mais
importantes instrumentos. Com o advento de associações internacionais, as
discussões em torno desses direitos chegaram a níveis globais e causam profundas
transformações em esferas políticas, econômicas, científicas etc.
Dentre essas discussões está a implementação da robótica nos sistemas de
inteligência artificial e, por consequência, na sociedade. Um mercado cada vez maior,
segundo pesquisa da empresa de consultoria Grand View Research, que prevê uma
taxa de crescimento anual composta de 40,2% entre 2021 até 2028 neste ramo,
incluindo as áreas de deep learning, machine learning, natural language processing,
machine vision etc. Isso significa que o valor de mercado (93,53 bilhões de dólares
em 2021) poderá ser de 997,77 bilhões de dólares em menos de uma década.
(GRAND VIEW RESEARCH, 2021) Inevitavelmente, este crescimento é uma
influência importante e imprevisível na sociedade, inclusive em seu aspecto legal.
Mesmo em 2021, são notórios os avanços da inteligência artificial nos mais
simples aspectos, inclusive na área jurídica, por exemplo os robôs desenvolvidos pela
empresa Legal Labs: “Dra. Luzia: Legal Artificial Intelligence” e “VICTORIA: Judicial
Artificial Intelligence” que atuam no apoio de organização, compartilhamento e
interpretação de dados para atividades jurídicas e cartorárias, respectivamente,
(LEGAL LABS, 2021) além do robô Victor, desenvolvido em parceria entre o STF e
cientistas da Universidade de Brasília (UnB) para análise de processos. (SANTOS;
MELO, 2020)
Ainda assim, PINTO (2020) ressalta que a atividade jurisdicional não se
resume apenas ao processo decisório, havendo necessidade de atualizações
constantes, que exige mão-de-obra humana que muitas vezes não possui
conhecimentos aprofundados com o trato das fontes jurídicas e questões éticas,
sociais, políticas e filosóficas que as permeiam, o que poderia ser conflitante com a
lei e princípios constitucionais no processo realizado pela IA.
Tendo em vista que mencionamos o uso de inteligência artificial apenas na
área jurídica, cabe lembrar que a IA também permeia muitos outros aspectos da vida
das pessoas e pode ser extremamente prejudicial quando seu algorítimo se torna

1
enviesado. Em contrapartida do auxílio oferecido na área jurídica, temos o caso
recente da Amazon interrompendo injustamente contratos com entregadores através
de e-mails automáticos gerados por algoritmos que interpretaram que tais
empregados não correspondiam à expectativa de seus empregadores. (ÉPOCA
NEGÓCIOS, 2021)
Ademais, o uso de AI em esfera militar, por exemplo, poderia dar causa a
violações do direito humano mais básico: a vida. O uso de AI na Administração
Pública poderia dar causa a violações de direitos fundamentais, como o princípio da
igualdade e não-discriminação.
Confirmando isso, para o professor Phillip Gil França, em seu texto de opinião
no início do ano 2019 sobre a democracia da inteligência artificial e da natural,
[as] Democracias pressupõem um livre exercício de escolhas, em que
cidadãos consigam discernir qual é o melhor caminho a seguir conforme seus
pessoais interesses de ter uma vida melhor.
Entretanto, essa clássica noção de democracia nitidamente encontra-se
ameaçada pelo exponencial crescimento da influência de mecanismos de
inteligência artificial (IA) que estão a influenciar desproporcionalmente as
escolhas realizadas por aqueles detentores de inteligência natural.

As inúmeras aplicações de IA e robótica para saciar as necessidades da

sociedade nos levam a perceber a importância de garantir os direitos humanos
através do estudo de uma regularização da inteligência artificial, que influencia a vida
das pessoas cada vez mais. Esta implementação pode ter resultados positivos e
negativos, sendo os primeiros os efeitos econômicos para o estado e efeito positivo
para a população e o segundo sendo os efeitos ainda incertos, que só poderão ser
determinados durante a implementação da regulação.
As discussões relacionadas às condutas de manejo de sistemas de IA
resultaram em falas no Fórum Econômico Mundial de 2018 do CEO da IMB, Ginni
Rometty, e discussões acerca de práticas mais éticas na utilização desses sistemas.
(PINTO, 2020) Um ano antes, o Parlamento Europeu aprovou uma resolução com
recomendações à Comissão Européia a propósito de direito civil sobre robótica,
criando um marco mundial sobre questões cujas implicações poderão alterar o próprio
tecido da sociedade humana em várias das suas dimensões. (NOVAIS; FREITAS,
2018) No entanto, pouco foi feito pela Comissão que, dentre outras coisas, foi de
opinião de que não estaríamos ainda num momento em que essa distinção consiga
ser realizada de uma forma clara, razão pela qual se exige um maior esforço de
investigação, além de pensar ser suficiente apenas a criação de um órgão consultivo.

2
 No Brasil, a Lei Geral de Proteção de Dados no Brasil (Lei no. 13.709/2018 -
LGPD) apresenta como medida de proteção do uso de IA o Princípio da Precaução
(Accountability) em decisões automatizadas, mas de forma muito mais tímida que
aquela utilizada pela União Européia. Para BIONI e LUCIANO (2019) a legislação
europeia,
ao se deparar com uma situação de alto risco que não pode ser mitigado por
meio de medidas adequadas em acordo com a tecnologia disponível e os
custos de implementação, o controlador não deve seguir em frente com o
tratamento de dados e, ainda, deve consultar antes a autoridade de proteção
de dados (prior notification).

Enquanto isso, na legislação brasileira, a aplicação do Princípio da Precaução

é vista como de grau de força fraca, vez que
ao não procedimentalizar minimamente em que situações os RIPDP
[relatórios de impacto à proteção de dados pessoais] são obrigatórios, muito
menos quais devem ser os elementos a compor tal documentação, a
incerteza quanto aos malefícios de uma atividade não justifica inação. No
entanto, regulação posterior, por parte dos órgãos reguladores [...] podem
alterar o status de força de aplicação do princípio da precaução em questão.

Assim, é nítido o crescimento do uso de máquinas de inteligência artificial nas

mais diversas áreas e é cada vez mais visível a necessidade de uma regulamentação
para prevenir possíveis danos causados pela IA. Esta regulamentação, no entanto,
parece estar ainda em sua infância, devendo a sociedade estar preparada para
desafios e ameaças que já são uma realidade palpável.
Também é aparente que as questões apresentadas pelo uso de IA escapam
da esfera interna dos países, sendo necessária uma cooperação a nível global ainda
maior do que a feita pela União Europeia para a proteção de dados pessoais, que foi
posteriormente adotada timidamente no Brasil. Com base nestas cooperações será
possível a formalização de uma regulação interna viável e eficaz que garanta os
direitos e garantias civis mínimas diante de uma tecnologia que pode alterar
drasticamente a forma como vivemos em sociedade.

3
 REFERÊNCIAS

BIONI, Bruno Ricardo; LUCIANO, Maria. O princípio da precaução na regulação de

inteligência artificial: seriam as leis de proteção de dados o seu portal de entrada?.
Separata de: FRAZÃO, Ana; MULHOLLAND, Caitlin (org.). Inteligência Artificial e
Direito. [S. l.]: Revista dos Tribunais, 2019. Disponível em:
https://brunobioni.com.br/blog/2019/09/06/707-2/. Acesso em: 20 ago. 2021.

FRANÇA, Philip Gil. A democracia da inteligência artificial e o que resta da

inteligência natural. Empório do direito, [S. l.], 14 jan. 2019. Disponível em:
https://emporiododireito.com.br/leitura/a-democracia-da-inteligencia-artificial-e-o-
que-resta-da-inteligencia-natural. Acesso em: 20 ago. 2021.

GRAND VIEW RESEARCH (GVR) (San Francisco, CA). Artificial Intelligence

Market Size, Share & Trends Analysis Report By Solution, By Technology (Deep
Learning, Machine Learning, Natural Language Processing, Machine Vision), By
End Use, By Region, And Segment Forecasts, 2021 - 2028. Jun 2021. Disponível
em: https://www.grandviewresearch.com/industry-analysis/artificial-intelligence-ai-
market. Acesso em: 20 ago. 2021.

LEGAL LABS, 2021. Plataforma desenvolvida para atividades jurisprudenciais

com inteligência artificial. Disponível em: https://legalabs.com.br. Acesso em: 20
ago. 2021.

Motoristas da Amazon são demitidos por meio de algoritmos: Mesmo sabendo de

efeitos negativos, antigos gerentes da empresa relatam que Jeff Bezos preferiu
manter o sistema automático por baixar os custos. ÉPOCA NEGÓCIOS, [S. l.], 28
jun. 2021. Disponível em:
https://epocanegocios.globo.com/Empresa/noticia/2021/06/motoristas-da-amazon-
sao-demitidos-por-meio-de-algoritmos.html. Acesso em: 20 ago. 2021.

NOVAIS, Paulo; FREITAS, Pedro Miguel. Inteligência Artificial e Regulação de

Algoritmos. Diálogos União Europeia-Brasil. In: BRASIL: Ministério da Ciência,
Tecnologias, Inovação e Comunicação, 2018. Disponível em:
http://www.sectordialogues.org/projetos/inteligencia-artificial-e-regulacao-de-
algoritmos. Acesso em: 20 ago. 2021.

PINTO, Henrique Alves. A utilização da inteligência artificial no processo de tomada

de decisões: Por uma necessária accountability. RIL, Brasília, ano 57, n. 225, p. 43-
60, jan/mar 2020. Disponível em:
https://www12.senado.leg.br/ril/edicoes/57/225/ril_v57_n225_p43.pdf. Acesso em: 20
ago. 2021.

4
SANTOS, Leon; MELO, Paulo. Inteligência Artificial no mundo jurídico. [S. l.]:
Conselho Federal de Administração, 5 maio 2020. Disponível em:
https://cfa.org.br/inteligencia-artificial-no-mundo-juridico/. Acesso em: 20 ago. 2021.