UNIVERSIDADE DE SÃO PAULO

Faculdade de Direito de Ribeirão Preto

RESPONSABILIDADE CIVIL E INTELIGÊNCIA ARTIFICIAL: ANÁLISE

DAS INICIATIVAS DE REGULAÇÃO BRASILEIRAS.

RIBEIRÃO PRETO

2021
 Sumário

Título..............................................................................................................................1
Resumo...........................................................................................................................1
Justificativa ...................................................................................................................2
Resultados anteriores....................................................................................................4
Objetivos.........................................................................................................................5
Materiais e metodologia empregada na pesquisa...................................................... 7
Ações e detalhamento das atividades a serem desenvolvidas pelo bolsista..............8
Resultados esperados e indicadores de acompanhamento.........................................8
Cronograma de execução .............................................................................................9
Bibliografia preliminar.................................................................................................9

1.Título

Responsabilidade Civil e Inteligência Artificial: análise das iniciativas de regulação

brasileiras

2.Resumo

As inovações no campo da computação e processamento de dados abriram um

campo fértil para o desenvolvimento e aplicação da Inteligência Artificial, que vêm

conquistando cada vez mais espaço tanto no dia a dia da população, quanto em aplicações

industriais e governamentais. No entanto, tal tecnologia apresenta características únicas

de autonomia decisória e dificuldade de rastreabilidade, as quais incitam a necessidade

de adaptação legal para que os danos eventualmente gerados pelo seu uso sejam

efetivamente indenizados. Nesse sentido, o presente estudo se pretende a analisar o

movimento de atualização jurídica da responsabilidade civil e reparação de danos incitado

pela IA, em especial as tratativas da União Europeia, em contraponto com a iniciativa

brasileira, encabeçada pela Estratégia Brasileira de Inteligência Artificial.

Palavras chave: Inteligência Artificial. Responsabilidade Civil. Danos.

3.Justificativa

A tecnologia de Inteligência Artificial, mesmo sendo objeto de discussões desde

19561, ganhou notoriedade e espaço para inovação a partir do avanço das ciências

computacionais, com o aumento da velocidade de processamento e digitalização de

dados. Realidade esta exacerbada pela pandemia de Covid-19 e a necessidade de

isolamento social, em que inúmeros serviços precisaram se adaptar ao mundo digital e

automatizado.

Assim, surge a preocupação em estabelecer diretrizes éticas e jurídicas para o

desenvolvimento e uso da IA suscitando controvérsias em diversos países que discutem

estratégias para a concretização e implementação de maneira sustentável dessa nova

tecnologia.

Dentre as dificuldades de regularização encontradas destaca-se o enquadramento

de tais sistemas nos mecanismos já existentes de reparação de dano e responsabilidade

civil, devido às características e riscos únicos inerentes ao uso de IA, como a tomada

decisões autônomas e imprevisíveis, ou provenientes de processos de escolha

irrastreáveis (chamados de “black box”)

Nesse sentido, discute-se a necessidade de criação de novas normativas para

abarcar situações de ocorrência de danos materiais e morais tanto pelo mal uso ou mal

funcionamento do sistema, quanto por escolhas algorítmicas que ensejem consequências

indesejáveis. Ainda, permanecem incertas as hipóteses de responsabilização dos agentes

1
KAPLAN, Jerry. Artificial Intelligence, what everyone needs to know. Oxford. Oxford university press.
2016. p.13.
envolvidos no desenvolvimento, produção e distribuição, ou até mesmo do próprio

usuário, de produtos com IA.

Assim, a regulação falha ou lacunosa dessa nova tecnologia tem o potencial de

ferir a segurança jurídica e direitos fundamentais dos atores envolvidos, gerando receio

na sua aquisição. Tal contexto ensejou a dedicação de grandes potências internacionais

para resolução das questões levantadas, como a União Europeia, com ações que

contemplam tanto a necessidade de revisão legislativa, quando as mudanças em políticas

públicas, mantendo como prioridade a centralização no ser humano e o desenvolvimento

de sistemas confiáveis.

Nesse sentido, destacam-se as propostas de revisão da “Product Liability

Directive” para inserção de dispositivos que proporcionem melhor atendimento jurídico

aos riscos gerados pelo uso de IA e a prestação de contas equivalente. Não obstante,

apresenta a implementação de marcos normativos, como a General Data Protection

Regulation, criada em 2018, o Guia de Diretrizes Éticas para uma IA de Confiança,

lançado em 2019, em conjunto com a “Trustworthy AI Assessment List”, e a Resolução

do Parlamento Europeu de 16 de fevereiro de 2017, a qual trata da imprevisibilidade de

comportamento da IA e prega a insuficiência das regulações existentes para o tratamento

de danos gerados por tais sistemas.

O Brasil, por sua vez, já apresenta esforços legislativos nessa questão, como a Lei

Geral de Proteção de Dados e os Projetos de Lei 5051/2019 e 5691/2019, bem como as

regras de qualidade de gestão ISO/IEC 27001, ISO/IEC 27701 e ISO/IEC 37122. Na

Estratégia Brasileira para Inteligência Artificial (EBIA) o eixo de legislação regulação e

uso ético é tratado visando o equilíbrio entre proteção de direitos, segurança jurídica e

incentivo à inovação, com foco em regulação principiológica. No mesmo documento, o

eixo de governança delineia o caminho a ser seguido para implementação de mecanismos

de responsabilidade, prestação de contas e análise de riscos.

Com isso, o presente projeto de pesquisa pretende analisar a iniciativa europeia

de estruturação de diretrizes éticas, responsabilidade civil e prestação de contas

relacionadas ao uso de IA por agentes no setor privado, em contraste com o

direcionamento adotado no Brasil pela EBIA. A partir disso será realizado diagnóstico

brasileiro quanto as lacunas presentes em nossa estrutura legislativa quanto à regulação

efetiva de responsabilidade civil por danos causados em decorrência do uso de IA.

O tema é atual e relevante como se pode constatar. E, ainda muito incipiente no

cenário brasileiro. Por isso, justifica-se o fomento em pesquisa sobre o assunto para que

se possa colaborar construtivamente para a construção do “Plano Nacional de Inteligência

Artificial”.

Além disso, a orientadora tem se dedicado ao estudo do Direito e Novas

Tecnologias, em especial proteção de dados, aspectos jurídicos do uso da Internet e

Inteligência Artificial, sendo, inclusive, coordenadora do curso de difusão em “Direito e

Internet” da Faculdade de Direito de Ribeirão Preto. Ademais, conforma se constata pelo

Currículo Lattes da orientadora, há diversas publicações na área. Um dos resultados desta

linha de pesquisa da orientadora é a tese apresentada no Concurso para Professor Titular

junto ao Departamento de Direito Privado e Processo Civil da FDRP, intitulada “Sistema

de Responsabilidade Civil para Carros Autônomos”, ainda não defendida.

4. Resultados anteriores.

O presente projeto apresenta característica de continuidade em relação ao projeto

“Plano Nacional de Inteligência Artificial: diagnósticos e perspectivas”, patrocinado

através de bolsa PUB do edital 2020-2021, no qual foi realizado levantamento dos planos

nacionais norte-americano e europeu para o tratamento dos desafios enfrentados na

regulação da Inteligência Artificial, em contraste com a iniciativa brasileira sobre o tema.

A partir disso, constatou-se que a UE iniciou suas tratativas sobre IA a partir de

estruturas intergovernamentais já estabelecidas para digitalização de mercado, como o

Digital Single Market, com plano específico para IA elaborado em 2018 e intitulado

“Artificial Intelligence for Europe”. Não obstante, apresenta esforços significativos para

criação de infraestrutura digital, com previsão de alocar 20 bilhões de euros 2 em

investimentos. Simultaneamente, realiza políticas públicas de fomento à educação, ao

incentivo industrial e à pesquisa e desenvolvimento, como as iniciativas “AI on demand”,

“Digital Education Action Plan” e “European Data Space”. Ainda, conta com marcos

normativos como a General Data protection Regulation e o Guia de Diretrizes Éticas para

uma IA de Confiança3.

No âmbito dos Estados Unidos, foi lançado em 2016 o Plano “Preparing for the

Future of Artificial Intelligence”. Dentre as iniciativas para sua concretização elenca-se a

Estratégia Americana de Pesquisa e Desenvolvimento em IA, a “Executive Order 13859”,

a criação da instituição filiada ao governo federal intitulada “Select Committe on

Artificial Intelligence”, bem como a previsão de 973,5 milhões de dólares 4 a serem

distribuídos entre agencias governamentais para gastos em IA, com intuito de aumento

progressivo até dobrar tal montante no orçamento de 2022.

2
EUROPEAN COMMISSION. Artificial Intelligence for Europe. Suíça. 2018. p.4
3
EUROPEAN COMMISSION. Annex to the Coordinated Plan on Artificial Intelligence. Bruxelas. 2018.p.4-
5
4
NATIONAL INSTITUTE OF STANDARTS AND TECHNOLOGY. U.S. Leadership in AI: a plan for federal
engagement in developing technical standards and related tools. Washington. 2019. p.4-5
 No contexto brasileiro podem ser enumeradas iniciativas prévias à elaboração do

Plano Nacional de IA que facilitam a sua implementação, como Estratégia Brasileira para

Transformação Digital, a Estratégia de Governo Digital 2020-2022, o Plano Nacional de

IoT, o Plano de Inovação Educação Conectada e os programas Start-up Brasil e IA²

MCTIC. Também, no âmbito legislativo, elenca-se a Lei Geral de Proteção de Dados, a

Política de Dados Abertos (decreto n. 8771/2016), a Portaria do Software Público

Brasileiro (portaria n. 46/2016), além dos Projetos de Lei 5051/2019 e 5691/2019.

A Estratégia Brasileira para Inteligência Artificial foi criada em 9 de abril de 2021,

estruturada em eixos similares aos propostos pelos EUA e UE. Contudo, por ser muito

recente, são necessárias ainda avaliações sobre sua implementação prática e encaixe com

outras iniciativas já existentes no país, bem como sua conformidade com ditames

internacionais.

5. Objetivos

O objetivo geral é estudar o tratamento da Estratégia Brasileira de Inteligência

Artificial a respeito dos critérios e hipóteses de incidência da responsabilidade civil dos

agentes privados presentes na cadeia de produção e consumo de sistemas com IA fazendo

uma análise crítica de suas possíveis lacunas, a fim de contribuir nas futuras consultas

públicas fomentadas pelo Ministério da Ciência, Tecnologia, Inovação e Comunicação.

Os objetivos específicos são:

5.1. Estudar as características próprias da Inteligência Artificial que ensejem risco

de dano e dificultem a determinação do agente responsável por sua reparação.

5.2. Investigar a iniciativa da União Europeia sobre o tema e os dispositivos

implementados para resolução das lacunas encontradas.

 5.3. Analisar o caminho delineado pela Estratégia Brasileira de Inteligência

Artificial para os quesitos de responsabilidade civil e reparação de danos, nos eixos de

legislação regulação e uso ético; e governança.

5.4. Identificar as fragilidades da proposta brasileira, em contraste com a europeia,

sugerindo medidas para preenchimento das lacunas identificadas.

6. Materiais e metodologia empregada na pesquisa

A realização da pesquisa se estruturará em três etapas, com metodologias distintas,

a saber:

1ª etapa: estudo teórico e prático sobre Inteligência Artificial, com levantamento

geral das características de seu funcionamento que representem risco de dano ao usuário

e aquelas que dificultem sua auditabilidade. Para o desenvolvimento desta pesquisa serão

utilizados dedutivo e indutivo. O método dedutivo na medida em que se propõe uma

análise geral sobre IA para entender seu funcionamento. O método indutivo se mostra

presente na elaboração de conclusões finais, em vista que estas serão embasadas em

premissas particulares obtidas pela análise das aplicações mais comuns de IA.

2ª etapa: análise da proposta europeia a respeito dos dispositivos criados para

viabilizar a prestação de contas pelos danos causados e as hipóteses de incidência de

responsabilidade civil aos agentes envolvidos. Nesta fase, será utilizado, além dos

métodos supracitados, o método comparativo para sopesamento dos pontos em comum e

divergências entre as propostas europeia e brasileira.

3ª etapa: analisar a proposta delineada na EBIA sobre responsabilidade civil e

prestação de contas, em particular eixos de legislação regulação e uso ético; e governança.

Nessa etapa o bolsista irá fazer levantamento das lacunas identificadas e propor sugestões

de melhoria.
7. Ações e detalhamento das atividades a serem desenvolvidas pelo bolsista

Observando o limite de 10 horas semanais, conforme o Edital 2021-2022 do

Programa Unificado de Bolsas de Estudo para Apoio e Formação de Estudantes de

Graduação (PUB – USP), o projeto de pesquisa será realizado por um bolsista que irá

realizar levantamento bibliográfico teórico, sob orientação da professora.

O bolsista elaborará esboço estrutural da pesquisa, a partir de instruções da

orientadora. Os resultados obtidos serão apresentados em eventos científicos com

submissão de resumo, parcial ou completo.

Ao final, será entregue pelo bolsista relatório da pesquisa e monografia sobre o

tema deste projeto, sistematizando o desenvolvimento do estudo realizado.

8. Resultados esperados e indicadores de acompanhamento

A partir da análise da EBIA e seu comparativo com as iniciativas adotadas pela

UE espera-se que o bolsista proponha soluções substanciais para incrementar as

discussões coordenadas pelo Ministério da Ciência, Tecnologia, Inovação e

Comunicação.

Para fins de publicidade dos resultados encontrados, espera-se participação do

bolsista em seminários e congressos de iniciação cientifica, e publicação dos resultados

por meio de artigo cientifico em periódico bem avaliado pelo critério Qualis da CAPES.

9. Cronograma de execução

Atividades e prazos 1 2 3 4 5 6 7 8 9 10 11 12

Levantamento de bibliográfica e x x
sistematização das informações obtidas
 Análise das informações levantadas x x
sobre o estudo teórico do funcionamento
da IA
Relatório parcial apresentado à x x
orientadora
Levantamento dos dados colhidos a x x
partir das iniciativas da UE sobre o tema.
Análise do tratamento brasileiro sobre o x x
tema
Síntese e correlação entre as iniciativas x x x
brasileira e europeia, e levantamentos
das eventuais lacunas da estrutura
brasileira, com proposição de sugestões
à sua resolução.
Relatório final (elaboração da x
monografia e finalização do artigo
científico)

10. Bibliografia preliminar

DIVINO, Sthefano Bruno Santos; MAGALHÃES, Rodrigo Almeida. Inteligência

Artificial e Direito Empresarial: mecanismos de governança digital para implementação
e confiabilidade. Revista dos Tribunais. vol. 1021/2020. p.191-212. nov.2020

EUROPEAN COMMISSION. Artificial Intelligence for Europe. Suíça. 2018. Disponível em: <
https://digital-strategy.ec.europa.eu/en/library/communication-artificial-intelligence-europe>.
Acesso em 13 de maio de 2021

EUROPEAN COMMISSION. Resolução do Parlamento Europeu de 16 de fevereiro de 2017

CELEX 52017IP0048. Bruxelas. 2017. Disponível em: < https://eur-lex.europa.eu/legal-
content/PT/TXT/PDF/?uri=CELEX:52017IP0048&from=EN >. Acesso em 13 de maio de 2021

TEFFÉ, Chara Spdaccini de. MEDON, Filipe. Responsabilidade civil e regulação de

novas tecnologias: questões acerca da utilização de inteligência artificial na tomada de
decisões empresariais. Revista Estudos Institucionais. v.6. n.1. jan/abr 2020. p.301-333

HIGH LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE. Ethics guidelines

for trustworthy AI. Disponível em: < https://ec.europa.eu/digital-single-
market/en/news/ethics-guidelines-trustworthy-ai >, Acesso em 13 de maio de 2021
MINISTÉRIO DA CIÊNCIA, TECNOLOGIA, INOVAÇÕES E COMUNICAÇÕES. Estratégia
Brasileira para Inteligência Artificial. Brasília. 2021. Disponível em: <
https://www.gov.br/mcti/pt-br/acompanhe-o-mcti/transformacaodigital/inteligencia-artificial >.
Acesso em 13 de maio de 2021

TOPEDINO, Gustavo. SILVA, Rodrigo da Guia. Desafios da Inteligência Artificial em matéria

de responsabilidade civil. Revista Brasileira de Direito Civil. Belo Horizonte. v.21, p.61-85.
jul./set. 2019