Quem é

responsável pela
IA em
contratos?
Prof. Dr. Guilherme Forma Klafke
FGV LAW e Centro de Ensino e
Pesquisa em Inovação, FGV Direito
SP

19 de janeiro de 2023
 Fonte: Techtudo, 2017. Disponível em:
https://www.tecmundo.com.br/mobilidade-urbana-smart-cities/123450-erro-waze-deixa-transito-pa
ulo-ainda-congestionado.htm
.

Fonte: Revista Exame, 2017. Disponível em:

https://exame.com/tecnologia/falha-no-waze
-por-ter-ajudado-a-triplicar-transito-em-sao-paulo/.
Fonte: Souvik Banerjee em Unsplash.
Fonte: Tudo Celular, 2022. Disponível em:
https://www.tudocelular.com/android
/noticias/n197597/facebook-instagram-whatsap
p-instabilidade-sexta.html
.

Fonte: TechTudo. Disponível em:

https://www.techtudo.com.br/noticias/2022/10/conta-do-insta
gram-suspensa-falha-bloqueia-perfis-e-some-com-seguidores.g
html
.
 Fonte: Jornal de Negócios, 2019. Disponível em:
https://www.jornaldenegocios.pt/trading/detalhe/quem-processar-qu
ando-e-um-
robo-que-perde-a-sua-fortuna.

Fonte: Futurism, 2019. Disponível em: https://futurism.com/

investing-lawsuit-ai-trades-cost-millions.
O que todos
eles têm em
comum?
Estrutura da apresentação

Conceitos de IA

Uso de IA em contratos: distinção de contratos algorítmicos

Problemas e responsabilidade contratual

Soluções: vantagens e desvantagens

Estrutura da apresentação

Conceitos de IA

Uso de IA em contratos: distinção de contratos algorítmicos

Problemas e responsabilidade contratual

Soluções: vantagens e desvantagens

Escopos de IA
Escopos mais amplos: semelhança com cognição
humana

Conceito da International Electrotechnical Comission

“capability of a functional unit to perform functions
that are generally associated with human intelligence,
such as reasoning and learning”
“engineered systems that generate outputs such as
content, forecasts, recommendations or decisions for a
given set of human-defined objectives” (ISO/IEC
23053:2022; ISO/IEC DIS 22989)

Exemplos: chat bots com árvores de decisão

Escopos de IA
Escopos mais restritos: operações específicas, como
machine learning ou processamento de linguagem
natural

Fonte: EIT Health; MCKinsey & Company. Transforming

healthcare with AI: The impact on the workforce and
rganisations. March 2020. Disponível em:
https://eit.europa.eu/sites/default/files/eit-health-and-mckinse
y_transforming-healthcare-with-ai.pdf
Estrutura da apresentação

Conceitos de IA

Uso de IA em contratos: distinção de contratos algorítmicos

Problemas e responsabilidade contratual

Soluções: vantagens e desvantagens

Uso de IA em contratos
Algorithmic contracts are
contracts in which one or more
parties use an algorithm to
determine whether to be bound
or how to be bound. More
specifically, algorithmic
contracts are contracts that
contain terms that were
determined by algorithm rather
than a person.
Lauren Henry Scholz
Bruno Morassutti; Alexander Cardoso. Algoritmos computacionais e contratos: uma breve introdução ao assunto,
uma proposta de classificação e algumas indagações, 2017.
Há várias possibilidades de relações jurídicas regidas por ou com ajuda de
algoritmos
Estrutura da apresentação

Conceitos de IA

Uso de IA em contratos: distinção de contratos algorítmicos

Problemas e responsabilidade contratual

Soluções: vantagens e desvantagens

Discussões legislativas

Substitutivo da CJSUBIA
• O fornecedor ou operador de sistema de inteligência artificial que cause
dano patrimonial, moral, individual ou coletivo é obrigado a repará-lo
integralmente, independentemente do grau de autonomia do sistema.
• Alto risco ou de risco excessivo: responsabilidade objetiva.
• Outras: a culpa do agente causador do dano será presumido.
• Art. 28: excludente de responsabilidade por comprovação de não autoria
ou fato exclusivo de vítima, terceiro ou caso fortuito externo.
• Aplica o CDC para contratos de consumo.
Problemas de responsabilidade
Algoritmo falha na execução de uma obrigação

Algoritmo falha na definição de algum dos elementos contratuais

Algoritmo falha na determinação ou complementação de alguma obrigação

Algoritmo falha na supervisão da execução da obrigação

Algoritmo falha na negociação de obrigações

Problemas de responsabilidade

Algoritmo falha na Algoritmo falha na Algoritmo falha na

execução de uma definição de algum determinação ou
obrigação dos elementos complementação de
contratuais alguma obrigação
Problemas de responsabilidade

Algoritmo falha na Algoritmo falha na Algoritmo causa danos

supervisão da negociação de para terceiros não
execução da obrigações envolvidos no contrato
obrigação
 Pindrop’s patented technology analyzes 147 different factors in the audio of
Exemplo a phone call in order to create a unique signature that allows contact
centers to accurately detect fraud. […] This phoneprint allows a fraud

Pindrop Inc. analyst to create a unique signature for an illegitimate caller, while also
determining the caller’s true geographic location, device type, and more.
Unlike a phone number or a voice, this information is impossible for
fraudsters manipulate. Phoneprinting allows Pindrop’s customers to catch
over 80% of fraud calls with less than a 1% false positive rate.

Fonte: https://www.pindrop.com/blog/pindrops-phoneprinting-
technology-addresses-the-400-million-fraud-problem/
Exemplo: gestão de fraudes
Possibilidades de falha segundo falso negativo e falso positivo

É golpe Não é golpe

Previu golpe Positivo verdadeiro Falso positivo

Não previu golpe Falso negativo Negativo verdadeiro

Estrutura da apresentação

Conceitos de IA

Uso de IA em contratos: distinção de contratos algorítmicos

Problemas e responsabilidade contratual

Soluções: vantagens e desvantagens

Solução: cláusulas contratuais
Estratégia 1: delimitação de responsabilidades em cláusulas e riscos
• Pensamento semelhante ao que acontece com proteção de dados
• Relatório da CJSUBIA: figuras do operador e fornecedor (p. 18-19)
“fornecedor de sistema de inteligência artificial: pessoa natural ou jurídica, de
natureza pública ou privada, que desenvolva um sistema de inteligência
artificial, diretamente ou por encomenda, com vistas à sua colocação no
mercado ou à sua aplicação em serviço por ela fornecido, sob seu próprio nome ou
marca, a título oneroso ou gratuito”.
“operador de sistema de inteligência artificial: pessoa natural ou jurídica, de
natureza pública ou privada, que empregue ou utilize, em seu nome ou
benefício, sistema de inteligência artificial, salvo se o referido sistema for
utilizado no âmbito de uma atividade pessoal de caráter não profissional”.
Solução: cláusulas contratuais
Estratégia 2: previsão de cláusula de desempenho
• Pensamento semelhante ao SLA (Service Legal Agreement), especialmente
quando a execução da obrigação depende da inteligência artificial
• Alguns tipos de previsão que podem ser feitas:
• Fixação de níveis de desempenho, como acurácia, margens de erro ou falsos
resultados etc.
• Prazos para solução de bugs, falhas no modelo, atualização do modelo para novas
realidades etc.
• Definição da documentação técnica necessária e dos procedimentos para registros
da execução da ferramenta. Possível até mesmo a realização de Relatório de
Impacto de Inteligência Artificial.
• Revisão das cláusulas de desempenho.
Solução: cláusulas contratuais
Estratégia 3: previsão de cláusula de limitação de responsabilidade
• Alternativas para fixação de responsabilidade:
• Indicar por quais operações cada pessoa da relação responde e o limite da
responsabilidade;
• Indicar a responsabilidade caso a IA tenha taxa de falsos positivos ou falsos
negativos, ou acurácia, ou outro indicador de desempenho;
• Indicar quais são os riscos esperados para a IA e que não serão suportados
por uma das partes.

Atenção: especificidades do mercado de tecnologia e das inovações

[...] foram revisadas para os fins deste estudo as minutas
dos seguintes provedores: Amazon, Google, Microsoft, IBM,
SAP, Oracle, Salesforce e Dropbox

• Bilateralidade
• Exoneração por lucros cessantes, danos indiretos e outros
tipos de danos (punitivos, incidentais, especiais etc.)
• Exoneração por perda de dados
• Limitação de responsabilidade atrelada ao valor do
contrato
• Ressalvas e limitações (ex. propriedade intelectual)

Conclusão: três cláusulas-síntese (exoneração, limitação e

exceções)
MIRANDA, Heitor Carmássio. Exoneração e limitação de responsabilidade por violações
de dados pessoais nos contratos de computação em nuvem. 2021. Tese de Doutorado.
Restaria saber, portanto, quais são essas restrições à
validade das cláusulas. Mesmo não havendo consenso
na doutrina, quatro restrições são recorrentemente
mencionadas: (i) violação de normas de ordem pública;
(ii) situações que envolvam dolo ou culpa grave; (iii)
exoneração ou limitação de responsabilidade que
recaiam sobre obrigação principal do contrato; e (iv)
exoneração ou limitação de responsabilidade com
relação à integridade física da pessoa humana. [...]
Para além disso, há autores que elencam alguns
elementos circunstanciais como condicionantes da
validade dessas cláusulas, como a existência de efetiva
contrapartida ao credor e a paridade de armas entre as
partes.
MIRANDA, Heitor Carmássio. Exoneração e limitação de responsabilidade por violações
de dados pessoais nos contratos de computação em nuvem. 2021. Tese de Doutorado.
Solução: políticas de governança de
contratos
Estratégia 4: previsão de instrumentos para relação com terceiras
partes
• Inspiração: frameworks para a governança em proteção de dados
pessoais
• Algumas possibilidades:
• Análise preliminar de riscos dos sistemas
• Verificação e comparação de resultados
• Imposição de práticas e padrões corporativos para análise de IA responsável
• Due diligence em fontes de dados, bibliotecas de códigos, fontes de modelos
(especialmente se provenientes de terceiros), políticas de teste e validação,
treinamento de funcionários etc.
Fonte: NYMITY. Framework for
Demonstrable GDPR Compliance A
mapping of the Nymity’s Privacy
Management Accountability
Framework™ to GDPR Compliance
Obligations. Disponível em:
https://iapp.org/media/pdf/resource_cent
er/Nymit-Accountability-Roadmap-GDPR
-Compliance.pdf
.
Solução: contratação de seguro
Estratégia 5: contratação de seguros para os riscos de IA

“Ao se examinar a ligação entre os riscos postos pela utilização da IA e

o universo dos seguros, deve restar claro ao estudioso que não há
atualmente a comercialização de um seguro próprio para cobrir
aqueles. Significa isso dizer que, a depender do contexto, uma
modalidade tradicional de seguro eventualmente poderá se aplicar ou
não, pois, conforme mencionado, não há hoje um seguro específico
para riscos oriundos da IA”

Thiago Junqueira. Seguros para os riscos impostos pelo uso da inteligência artificial. CONJUR, 13 out. 2022. Disponível em:
https://www.conjur.com.br/2022-out-13/seguros-contemporaneos-seguros-riscos-impostos-uso-inteligencia-artificial .
Entre as coberturas mais comuns já oferecidas no mercado de
seguros brasileiro para riscos cibernéticos de primeira e
terceira parte, vale destacar:
-Cobertura para gastos do segurado com notificação para as
pessoas afetadas pelo ataque cibernético;
-Cobertura para indenização de perdas materiais e imateriais
de partes afetadas;
-Cobertura para danos à reputação da empresa atingida pelo
ataque cibernético;
-Cobertura para lucros cessantes do próprio segurado e
de pessoas naturais ou jurídicas afetadas;
-Cobertura para gastos com procedimentos regulatórios;
-Cobertura para custos de defesa do próprio segurado;
-Cobertura para pagamento de valores de extorsão.
Outra cobertura importante é a contratação de assessoria
imediata para casos de ataques cibernéticos realizada por
equipe especializada, que atuará desde as primeiras horas do
ataque até a conclusão da investigação sobre as causas e
eventuais responsáveis.
CARLINI, Angélica. Nova regulação dos seguros de responsabilidade civil no Brasil e os
seguros para riscos cibernéticos. Revista IBERC, v. 5, n. 2, p. 1-17, 2022.
Conecte-se
comigo!
Guilherme.klafke@fgv.br
LinkedIn: Guilherme Forma
Klafke