DIREITO DIGITAL E TECNOLÓGICO:

O ORDENAMENTO JURÍDICO E A NECESSIDADE DE

REGULAÇÃO PERANTE A EVOLUÇÃO DA
INTELIGÊNCIA ARTIFICIAL

Aluno: Geovane Plácido Silva

Orientador: Profº Ms. Aldemar Monteiro S Neto

Centro Universitário Farias Brito

Trabalho de Conclusão de Curso Direito

Fortaleza/CE
2021
 Introdução

• Evolução da tecnologia proporcionou um aumento da capacidade

intelectual do homem. As máquinas até então aumentavam atributos
físicos. O computador hoje é extensão da mente do homem;
• QUINTARELLI(2019, pg 01), “a revolução industrial levou a uma
profunda reorganização social no que diz respeito ao modelo econômico
anterior, predominantemente agri-cultural”
• AZEVEDO (2017, p. 01), “entende-se por Era Digital o movimento de
inserção na sociedade de novas tecnologias e serviços que utilizam
desenvolvimentos recentes e que modificam a forma como o cidadão, a
sociedade como um todo, progride tecnologicamente”.
• Questões éticas levantadas: “E se as máquinas criarem consciência?”. “E
se desenvolverem algum tipo de inteligência?
• Possibilidade de as máquinas desenvolverem inteligência, ou de serem
capazes de cometer atos ilícitos, tais como roubos e até mesmo
assassinatos
 Introdução

Pergunta central: Está o ordenamento jurídico preparado para um cenário na

qual dispositivos autônomos, dotados de inteligência própria, aprendendo
métodos por si só, sem interação humana, começarem a cometer atos anti
jurídicos e causarem danos em bens juridicamente tutelados, este mesmo
ordenamento é capaz de determinar culpa ou dolo à algum agente na esfera
penal?

CRISTIANO COLOMBO (2018, p. 45): “a célere tecnologia sempre corre à

frente do paquidérmico direito”.
 Introdução

• Porém, o que é inteligência?

DALGALARRONDO (2008, pg 277)

Pode ser definida como o conjunto das habilidades cognitivas
do individuo, a resultante, o valor final dos diferentes
processos intelectivos. Refere-se à capacidade de identificar e
resolver problemas novos, de reconhecer adequadamente as
situações vivenciais cambiantes e encontrar soluções, as mais
satisfatórias possíveis para si e para o ambiente, respondendo
às exigências de adaptação

Já para Descartes, era impossível haver uma reprodução da inteligência, fora do corpo
humano, pois era a este que se abriam os conhecimentos. E que portanto, tanto os
animais quanto às máquinas, desprovidos de alma, seriam incapazes de desenvolver tal
capacidade.
 Introdução

• Riscos da demora: divergências de decisões, morosidade;

• Abordagem atual em tramitação no congresso brasileiro;
• O que está em jogo: a segurança jurídica de uma evolução
1
que poderá afetar a economia mundial pelos próximos 10
anos:
• Segundo KAI FU LEE, o impacto na economia mundial será
de cerca de 50 Trilhões de dólares ( Estudo da PwC)
 Conceito de Inteligência

• BLANCO et al (2017, pg 15) apud Passos e Ferreira (2016) - Seria a

capacidade de realizar uma escolha julgando-se como a mais indicada ou
a mais correta
• Teoria das Múltiplas Inteligências: Howard Gardner
• Defende não uma, mas sim variados tipos de inteligência para diferentes
contextos
• Raciocínio, memorização e processamento, são atributos que podem ser
considerados como inteligências, e que as máquinas conseguem
mimetizar.
• Miles Brundage (2018, p. 13) define “Inteligência Artificial como um
corpo de pesquisa e engenharia focado em utilizar tecnologia digital para
criar sistemas capazes de desempenhar tarefas que requerem o uso de
inteligência, normalmente desempenhadas por indivíduos humanos
 Conceito de Inteligência

• Marvin Minsky e Herbert Simons, na universidade de Oxford, iniciaram

estudos para ensinar computadores a pensar, na Década de 50.
• IA baseada por regras - através de sistemas simbólicos, tentavam ensinar
a máquina a tomar decisões, utilizando regras lógicas: se X for válido,
então tomar ação Y. Esta abordagem era muito eficaz em jogos simples,
porém desmorona quando confrontada com situações imprevistas
• IA baseada em redes neurais - recriar o cérebro humano, como teias
emaranhadas de camadas de neurônios, construindo “neurônios”
artificiais, que se comportam recebendo estímulos e transmitindo
informações.
• Recebem exemplos de determinados fenômenos, como jogos de xadrez,
tipos de imagens, e deixam que as redes neurais estabeleçam padrões
dentro dos dados recebidos. Quanto menor a interação humana, melhor
Conceito de Inteligência
Conceito de Inteligência
 Deep Learning

• Deep Learning ( Aprendizado Profundo) - subárea da IA, destinada a

permitir que computadores possam aprender por conta própria, utilizando
algoritmo de identificação de padrões em dados fornecidos.
• SHABBIR e ANWER (2015, pg 33), se a inteligência artificial se refere
à capacidade de reprodução artificial da capacidade de adquirir e aplicar
diferentes habilidades e conhecimentos para solucionar problemas,
resolvendo-o e raciocinando, ela também deveria aprender com as
situações.
• Portanto, Inteligência Artificial é a área, e DEEP LEARNING é uma
subárea, que proporciona às máquinas aprenderem padrões e tomarem
decisões por si só para tarefas repetitivas.
 Aplicações práticas
• Aplicações práticas em bens juridicamente tutelados:
• Primeira Onda – IA da Internet - composição de algoritmos que otimizam
as buscas, e fazem com que o usuário seja sugestionado a consumir
determinados conteúdos.
• Customização de hábitos virou um bem intangível. A informação possui
valor.
• No futuro próximo, que a quantificação e precificação destes dados, irão
promover uma revolução ao tornar estes dados, unidades monetárias, e
por conseguinte, bens juridicamente tutelados.
• Questões éticas envolvidas: Caso da Cambridge Analytica
 Aplicações Práticas

• Segunda onda – IA dos Negócios – Por meio de dados já processados e

etiquetados pelas empresas, a IA consegue substituir e melhorar tarefas
repetitivas realizadas por humanos;
• Uma IA bem treinada analisa milhares de contratos de empréstimos,
apólices de seguros, concessão de benefícios e conseguem determinar
com maior exatidão probabilidades de sucesso ou erro. Isso porque
humanos se baseiam em predições fortes, no máximo 10 ou 11
parâmetros ;
• Questões éticas levantadas: Discriminação racial, IA desenvolvendo um
forte senso racista e xenofóbico. Caso Prático: assistente HELEN da
Microsoft no Twitter que se tornou racista.
 Aplicações Práticas

• Terceira Onda – IA de Serviços – Serão as IA de serviços, na qual

serviços considerados essenciais hoje, poderão ser afetadas pelas
aplicações práticas;
• Diagnosticos médicos
• Decisões judiciais
• Transporte de cargas
• Transporte de passageiros
• Meramente especulativo
 Legislação aplicada

• Importante ressaltar: até o momento, até mesmo países líderes em IA,

como CHINA e EUA, ainda não dispõe de mecanismos legais para
processar e julgar na esfera penal casos que envolvem IA;
• CHINA: Existe uma política de Estado, envolvendo Segurança Nacional,
que determina como meta a liderança mundial em IA. Existem
dispositivos legais que disciplinam os princípios. Até o momento não
houve casos práticos divulgados.
• EUA: Pelo tipo de ordenamento, o commom law, está sendo aplicado
caso a caso.
• FARO (2019, pg 01), “A busca por uma regulamentação adequada das
relações humanas em ambiente digital enfrenta diversos desafios, que não
podem ser apartados da tecnologia e do Direito. O primeiro problema que
deveremos lidar é a Insegurança Jurídica .
 Legislação aplicada

• Desafios: Vencer uma visão pragmática e tradicionalista do Direito;

• O apego formal aos conceitos sedimentados poderá ser uma sentença
fatal, que poderá causar muitos problemas;
• Histórico Brasileiro de Legislação que tratem sobre IA:
• MARIO LOSANO (1976) - Informática Jurídica
• A dificuldade de se acompanhar uma ciência tão rápida. Cita-se que desde
a invenção do telefone, demorou-se mais de 100 anos para chegar ao
número de 300 milhões de linhas instaladas. Já a informática, necessitou
de menos de 20 anos para alcançar o mesmo número de pessoas com
acesso aos computadores pessoais.
 Legislação aplicada

• MARIO LOSANO (1976) - Informática Jurídica , em sua síntese:

• a) o de que o mundo do Direito, na sua totalidade, deve ser considerado
"um subsistema em relação ao sistema social" e, por isso, devem ser
"estudadas as inter-relações entre os dois, conforme um modelo
cibernético";
• b) no mundo do Direito estudado como um sistema normativo, dinâmico
e auto-regulador, cabe inserir os problemas gerados pelo uso da
informática;
• c) os modelos jurídicos cibernéticos, em geral, deveriam ser idealizados
tendo em vista a sua utilização em máquinas cibernéticas.
 Legislação aplicada

• Levanta-se a preocupação, com os atentados e crimes que poderiam vir a

ocorrer. Os meios de propagação de informação, e a materialização da
geração de valor inerentes à estas novas técnicas, seriam um terreno fértil
para toda uma nova leva de crimes.
• Lei nº 12.737 de 2012 – Lei Carolina Dieckmann
• Tipificou os crimes cibernéticos e alterou o código penal para prever
infrações no âmbito do Direito Digital
• Inseriu no Código Penal, três tipos penais específicos , que se
encontravam na seara dos crimes informáticos: a) invasão ou quebra de
segurança de dispositivo eletrônico de dados de terceiros( Art. 154-A,
CP); b) perturbação de continuidade ou perturbação de serviço
telegráfico, telefônico, informático, telemático ou de informação de
utilidade pública (Art 266, §§ 1º e 2º do CP); e c) utilização falsamente de
cartão de crédito ou débito (Art. 298 do CP);
 Legislação aplicada
• Decreto Nº 7.962/2013 – Decreto que regulamentou o direito do
consumidor em relação à compras on-line;
• Porém, não impediu-se o aumento de casos de fraudes, e cometimento de
diversos tipos de crimes;
• Lei nº 12.965, de 2014 – Marco Civil da Internet
• Estabeleceu princípios, garantias, direitos e deveres para o uso da internet
no Brasil, tanto para provedores de conexão, provedores de aplicação e
usuários da Internet
• Lei nº 13.709 – LGPD - Lei Geral de Proteção de Dados Pessoais
• LGPD busca proteger os dados pessoais. No entanto, é o primeiro
diploma a proteger também os metadados, que são determinados pelo
comportamento do usuário e seus indicadores
• AMBRÓSIO(2021, pg 01), que os possuidores da mineração de dados de
navegação, hábitos, etc, se tornarão cada vez mais poderosos, uma vez
que a economia voltada para a otimização causada pela inteligência
artificial, dependerá da comercialização e armazenagem de dados
 Legislação aplicada

• STF já começou a julgar os casos com base na LGPD

• STF - MS: 37636 DF 0036489-15.2021.1.00.0000, Relator: ROSA
WEBER, Data de Julgamento: 29/01/2021, Data de Publicação:
02/02/2021
• Rejeitou o pedido de empresas de tecnologia em compartilhar os meta
dados de cartórios, que era usados para criar métricas acerca de
tendências de óbitos, nascimentos, casamentos, etc. Esses dados era
usados para gerar publicidade direcionadas. O STF entendeu que os meta
dados não poderão ser usados para fins comerciais sem a devida
autorização dos usuários.
 Panorama Futuro no Brasil

• Projeto de Lei nº 240/2020, de autoria do Deputado Leo Moraes (PSB-

PE) – Projeto que visa dar benefícios à empresas e criar um ambiente de
apoio para o desenvolvimento de tecnologias de deep learning no Brasil,
criando uma política de Estado, visando o crescimento econômico.
• Deputado Eduardo Bismarck (PDT-CE)- Deputado Eduardo Bismarck
(PDT-CE)
• Estabelece princípios, direitos e deveres para o uso de inteligência
artificial no Brasil, e dá outras providências. – PL que cria o marco legal
do desenvolvimento e uso da Inteligência Artificial (IA) pelo poder
público, por empresas, entidades diversas e pessoas físicas. estabelece
princípios, direitos, deveres e instrumentos de governança para a IA.
• Ele prevê a figura do agente de IA, que pode ser tanto o que desenvolve e
implanta um sistema de IA (agente de desenvolvimento), como o que
opera (agente de operação)”
 Panorama Futuro no Brasil

• Prevê que cada sistema desenvolvido deverá assegurar que os dados

coletados , rotulados e processados, além de utilizados, em regra deverão
obrigatoriamente respeitar a LGPD;
• A proposta também prevê os direitos dos agentes de IA e de todas as
pessoas afetadas pelos sistemas de inteligência artificial (chamadas no
projeto de “partes interessadas”). Entre eles, o acesso à forma de uso,
pelos sistemas, de dados pessoais sensíveis, como dados genéticos.”
 Conceito de Autoria

• Crime: violação da norma penal

• Definições materiais mostram o crime como lesão do bem jurídico
protegido
• Conceito tripartido: fato típico + antijuridicidade (ilicitude)
+culpabilidade. E quem atua nestas condições é considerado o autor.
• Autor é quem executa ilícito penal definido em lei (autor imediato), ou se
serve de instrumento para agir (autor mediato), cometendo por intermédio
de outra pessoa o ato de execução do tipo penal
• NUCCI (2017), o autor é aquele que realiza a função executiva, qual seja,
a função principal do delito, a ação típica nuclear.
 Conceito de Autoria

• Nestes casos, a IA é autor, co-autor, partícipe?

• Na verdade, estamos avaliando as questões que envolvem o mandante e o
mandatário. Para GRECO, o mandante é o autor mediato. Mesmo que o
agente não faça os atos diretamente, ainda assim pode ser considerado o
autor. Este conceito é importante, devido à natureza dos aspectos da
inteligência artificial.
• Afinal, um programador, que desenvolva um inteligência, e a mesma,
aprenda que, para conseguir superar os desafios pela qual foi proposto, ela
deverá utilizará de todos os meios para conseguir seu intento.
• Neste contexto, a IA poderá “aprender” que para alcançar seu intento, irá
realizar atos ilícitos.
• Como poderiam ser determinados a autoria em crimes na qual o agente
executor for um dispositivo de inteligência artificial?
 Casos Práticos
• CASO: Elaine Herzberg – Um Volvo XC90 autônomo atropelou a
moradora de Tempe-Arizona. A motorista guardiã estava assistindo um
episódio do XFACTOR, e não freiou o carro.
 Casos Práticos

• De quem é responsabilidade penal? Seria a empresa culpada? A equipe de

desenvolvedores? Ou a motorista guardiã?
• Houve um dano à um bem tutelado, por ação ou omissão.
• Segundo o relatório, criado pela Comissão Nacional de Segurança no
Transporte, dos EUA, a culpa relativa foi da motorista guardiã.
• Segundo a comissão, a motorista passou 36% do tempo olhando para seu
smartphone enquanto transmitia ao vivo o experimento do qual fazia parte
– e que deveria inspecionar por segurança, para que justamente pudesse
assumir o controle em uma situação de emergência.
 Casos Práticos

• Os computadores do Uber perceberam a presença de Elaine Herzberg 5,6

segundos antes de atingi-la, e foi quando um outro problema, de origem
tecnológica, se deu: a pedestre não foi reconhecida pela inteligência
artificial como uma pessoa por estar fora da calçada. Elaine
imprudentemente cruzou a rua escura da cidade de Tempe longe de
qualquer sinal de trânsito;
• O sistema do Uber não estava preparado para lidar com pedestres fora da
calçada ou cruzando a rua onde não havia uma faixa de pedestre. Soma-se
a isso, os documentos mostram, uma imensa preocupação com “alarmes
falsos” de segurança levou a um bug no sistema que não permitiu que a
velocidade fosse reduzida
• Para que o carro não desacelerasse a cada possível obstaculo – incluindo
sacolas, pedras pequenas, dejetos ou outros objetos desimportantes – os
computadores foram desenvolvidos para identificar o que seria cada
possível obstáculo no caminho do veículo
 Casos Práticos

• O processo está em tramitação no Condado de Tempe.

• A Culpa recaiu sobre a motorista guardiã e a cidade de Tempe.

• Caso COMPETIÇÃO DARPA (2020) -Em Agosto de 2020, uma

competição para que diferentes equipes de IA competissem entre si em
um combate simulado ar-ar, para que a vencedora simulasse um combate
frente um piloto humano.
• Ou seja, IA competindo pelo direito de “matar” UM SER HUMANO”
• foi uma IA pensada com o objetivo claro de tirar a vida de um ser
humano. Neste caso, a intenção é clara. Há o dolo desde o nascimento da
IA
Conceito de Autoria
Teorias Doutrinárias
 Teorias Doutrinárias

• TEORIA DOUTRINÁRIA DE CULPABILIDADES E AUTORIA DE

ATOS ANTIJURÍDICOS COMETIDOS POR INTELIGÊNCIA
ARTIFICIAL
• Gabriel Hallevy, do Ono Academic College, debruçou-se sobre assunto, e
teorizou um modelo de perpetração da autoria de crimes cometidos por
IA
• PRIMEIRA HIPÓTESE: expõe um modelo que não considera nenhuma
característica humana do sistema de IA. Para ele, o sistema de IA é
considerado um agente inocente. Assim, devido a esse ponto de vista
jurídico, uma máquina é uma máquina, e nunca um ser humano, e
portanto, incapaz de ter responsabilização.
• esvaziamento da culpabilidade
• imputabilidade, potencial consciência da ilicitude e exigibilidade de
conduta diversa
 Teorias Doutrinárias

• SEGUNDA HIPÓTESE: quando há a intenção clara, ou do programador,

ou de um usuário em cometer um delito;
• O elemento interno exigido no específico ato ilícito já existe na mente de
um dos agentes, mesmo que ele não execute.
• Ex: criar um robô que, ao avaliar não ter ninguém em uma fábrica, coloca
fogo nas instalações. Seria um incêndio criminoso, mascarado pela
intenção do programador em fazer tal conduta.
• A IA só seria a ferramenta utilizada para o intento
• A autoria recaí sobre o programador ou equipe;
 Teorias Doutrinárias

• TERCEIRA HIPOTESE: a inteligência artificial comete deliberadamente

o crime, visando alcançar seus objetivos;
• Se durante a execução de suas missões diárias, o sistema de IA
compromete um bem jurídico, para realizar suas tarefas, e neste contexto,
os programadores ou usuários não sabiam sobre a prática, eles não
planejaram qualquer prática ato, ou nem sequer conseguiriam prever.
Portanto, os agentes humanos não tiveram qualquer participação neste
delito.
• Antes de tudo, poderá ser avaliado se o programador pode ser
considerado negligente. Neste caso, responderá ele pela culpa. Se
nenhuma ofensa foi deliberadamente planejada para ser perpetrada, mas
apenas um descuido em um código mal escrito.
• Pede-se a extinção da IA
• O Direito Penal atuaria no sentido de inibir a circulação de sistemas
autônomos nocivos à sociedade, preservando seu propósito
 Considerações Finais

• Com os desafios atuais, estamos preparados para enfrentar os desafios ,

sociais, jurídicos e econômicos que se avizinham?
• A importância da regulamentação.
• Os cenários poderão ser controlados se houver um padrão de
desenvolvimento de IA.
• Atividades deverão ser reguladas.
• Desse modo, uma alternativa plausível – no sentido de evitar injustiças e
atualizar o Direito Penal para as aludidas questões – seria a instituição de
lei determinando a obrigação dos responsáveis por sua criação de
implantar módulos de segurança nos sistemas autônomos, visando limitar
as agências autônomas às leis penais vigentes
 Considerações Finais

• Obrigado!