23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

Instituto de Direito
Instituto de Direito
línguas
Internacional

Primeiro neste site Últimos trabalhos Artigo teórico Trabalhos coletados do acadêmico Membro facultativo prêmio honorário Vídeo quente

Localização atual: Casa >

Arranjos Institucionais e Regulamentos Legais na Era da Inteligência Artificial

Autor: Wu Handong Volume de navegação: 5113

[Chinês Palavras-chave] Inteligência Artificial; riscos sociais; desafios legais; arranjos institucionais
Resumo: A inteligência artificial é uma grande invenção da sociedade humana, mas também apresenta enormes
riscos sociais. Pode ser um risco causado por uma tomada de decisão "tecnológico-econômica", ou um risco trazido
própria civilização científica e tecnológica protegida por lei. Esse risco social tem características de simbiose, era e
globalidade. Ao mesmo tempo, a revolução inteligente trouxe um desafio sem precedentes às regras jurídicas e à or
jurídica atuais. Ela se formou com o sistema jurídico existente em muitos aspectos, como o direito civil, direito autora
responsabilidade civil, direito da personalidade, direito do trânsito e direito do trabalho. Os conflitos evidenciam as f
no fornecimento de produtos legais. Para os efeitos negativos da modernidade provocados pela inteligência artificia
necessário tomar medidas de risco, nomeadamente comportamentos preventivos e sistemas de resposta. Para ajusta
estrutura das normas que enfrentam a era futura, o desenvolvimento e a regulamentação da inteligência artificial de
ser o tema para formar um sistema de governança social institucional e legalizado, incluindo a segurança como a me
de valor legal central, regulamentação social orientada pela ética e sistema de controle e Mecanismo de controle de
liderado por tecnologia e legislação. Com base na experiência estrangeira e baseando-se nas necessidades locais, a
“estratégia de desenvolvimento nacional” deve ser emitida o mais rápido possível, a “carta de ética do robô” de
ser formulada a tempo e a legislação especial sobre robôs deve ser implementada em tempo hábil.
【texto completo】
Na era das rápidas mudanças na tecnologia de inteligência artificial, várias questões legais, políticas e éticas cau
pela relação humano / robô estão urgentemente diante de nós. Como ajustar as metas de valor jurídico de “promo
e “regular” o desenvolvimento da inteligência artificial? Como lidar com os riscos sociais trazidos pela tecnologia d
inteligência artificial? Como projetar o sistema de regulação e regulação na era da inteligência artificial? Essas questõ
envolvem não apenas uma reflexão profunda sobre o sistema jurídico tradicional, mas também uma exploração útil
o tema da "futura jurisprudência" [1].
1. A visão da revolução inteligente: a "última invenção" ou o maior risco
Desde o início do novo século, a evolução da civilização na sociedade humana tem apresentado uma tendência
desenvolvimento acelerado. Nos primeiros dez anos do século 21, com o uso popular da Internet como um link, a
estrutura social foi reorganizada e a sociedade humana foi amplamente conectada à sociedade física. Desde então, u
era diferente da sociedade em rede do passado foi aberta; até cerca de 2010, com base em extensas Com a aplicaçã
tecnologia de sensoriamento distribuído, armazenamento de dados em grande escala e tecnologia de comunicação,
escala dos dados aumentou exponencialmente e a aldeia global entrou na era do big data; entrando na segunda me
da segunda década do novo século, acompanhada por recursos de processamento de dados Com o rápido aumento
mundo, a inteligência artificial começou a intervir profundamente na sociedade, e o mundo está se movendo em dir
à era da inteligência artificial. No geral, "Nos três momentos principais em que a humanidade entrou no século 21, t
novas eras interconectadas, mas ligeiramente diferentes, surgiram uma após a outra, ou seja, a era da sociedade em
a era dos big data e a era da inteligência artificial. Uma nova era social ". {1} A era da inteligência leva o nome da
inteligência artificial (Artificial Intelligence, conhecida como "IA"), como uma nova pesquisa e desenvolvimento de te
métodos, tecnologias e sistemas de aplicação para simular, estender e expandir a inteligência humana A ciência técn
visa compreender a essência da inteligência e produzir uma nova máquina inteligente que pode responder de mane
semelhante à inteligência humana. Seus campos de pesquisa incluem robótica, reconhecimento de voz, reconhecime
de imagem, processamento de linguagem natural e sistemas especialistas. Esta ciência tecnológica mudará ou mesm
subverterá o trabalho de produção existente e os métodos de comunicação da humanidade, e uma nova era human
emergirá na qual uma nova estrutura tecnológica suporta uma nova estrutura social.
"Este é o melhor e o pior momento", as palavras de abertura do mestre literário britânico Dickens em seu famos
livro "A Tale of Two Cities" têm sido continuamente citadas por mais de 100 anos. Aqui, mais uma vez usamos isso p
descrever o futuro quadro da era da inteligência artificial. Por um lado, a revolução inteligente, sem dúvida, nos trará

www.iolaw.org.cn/showNews.aspx?id=61404 1/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

sociedade melhor, que é a "melhor época" de inteligência, requinte e humanização. {2} 319 Sob a catálise da comput
em nuvem, big data, algoritmos de aprendizagem profunda e chips do cérebro humano, a inteligência artificial simu
expressa o poder intelectual dos seres humanos. Baseado na atitude humana de trabalho, auxilia os humanos na
resolução de vários problemas, incluindo situações difíceis e ambientes extremos, formando assim uma forte cooper
entre as vantagens criativas da inteligência humana e as vantagens operacionais da inteligência artificial [2] . A
inteligência artificial tornou-se agora o foco de uma nova rodada de revolução global e transformação industrial Por
do "sonho científico" de aumentar infinitamente as capacidades da inteligência humana está um "novo oceano azul"
indústria com vitalidade infinita. A sociedade está se transformando de "Internet +" em "Inteligência Artificial +". Os
antigos campos deram origem a novas formas industriais e muitos campos geraram subindústrias emergentes, crian
assim um enorme valor econômico e riqueza social. Sob a liderança de empresas líderes como Google, Facebook e I
atenção global à inteligência artificial continuou a aumentar. Em 2015, a escala do mercado internacional de inteligê
artificial era de 168,3 bilhões de yuans, e deve aumentar para 269,7 bilhões de yuans até 2018, uma taxa de crescime
de 17%. Em termos de escala de investimento, foram 48,4 bilhões de yuans em 2015, e estima-se que até 2020, o
investimento total chegará a 119 bilhões de yuans [3]. Pode-se considerar que a inteligência artificial se expandirá
gradualmente de um campo altamente especializado para todos os aspectos da vida social.No futuro, os seres huma
viverão com precisão em um ambiente onde "tudo está interconectado e a computação em toda parte". Mas, por ou
lado, a revolução inteligente também nos trará muitos problemas.Talvez estejamos enfrentando um “pior momento
com inúmeros problemas sociais e riscos de segurança constantes. Até agora, a inteligência artificial estabeleceu
gradualmente seu próprio padrão ecológico em escala global e começou a intervir profundamente na vida social
humana. Em 2016, fazia exatamente 60 anos desde que McCarthy, Minsky, Shannon e outros propuseram o conceito
inteligência artificial. No ano passado, as pessoas viram muito conteúdo de ficção científica se tornar realidade: a
inteligência artificial derrotou os melhores jogadores de xadrez humanos, a tecnologia de carros autônomos amadu
e grupos de "robôs" estão ativos na linha de produção ... "A era da inteligência, o futuro já é Venha "[4]. Enquanto as
pessoas ficam maravilhadas com os poderosos recursos da inteligência artificial, eles também despertam preocupaç
gerais sobre questões de segurança da inteligência artificial. Preocupado se a inteligência artificial se tornou a "últim
invenção" da humanidade [5]? Como devemos ver os riscos potenciais da inteligência artificial?
A questão principal da inteligência artificial é a segurança, que pode ser colocada na categoria de pesquisa da te
da sociedade de risco. O estudioso alemão Baker acredita que a humanidade está enfrentando riscos criados pela
sociedade que ameaçam sua sobrevivência. A modernização está se tornando seu próprio tema e questão e, portant
torna-se reflexiva. {3} 16 O conceito de risco indica que as pessoas criaram uma civilização a fim de tornar previsíveis
consequências imprevisíveis de suas decisões e controlar coisas incontroláveis. {4} 121 Na teoria do risco, a inteligên
artificial tem o impacto negativo da modernidade, por isso é necessário tomar medidas de risco, ou seja, comportam
preventivo e sistemas responsivos. A pesquisa jurídica sobre questões da sociedade de risco concentra-se no sistema
jurídico e na ordem jurídica. “O valor e a importância de um sistema jurídico reside em regulamentar e perseguir to
os detalhes de riscos e desastres tecnicamente gerenciáveis, mesmo se a possibilidade ou âmbito de influência for
pequeno.” {5} A ordem legal é a implementação do sistema legal. E o efeito alcançado é a legalidade e
institucionalização dos aspectos básicos da vida social. A sociedade moderna é uma sociedade regida por lei, e o risc
sistema e o controle legal do risco são as conotações básicas da teoria do direito da sociedade de risco. A inteligênc
artificial não é apenas uma civilização humana, mas também riscos sociais. Pode ser um risco causado por uma decis
"tecnológico-econômica", ou um risco causado pela própria civilização tecnológica protegida por lei. {6} Em outras
palavras, as questões de conhecimento são a causa fundamental dos riscos da modernidade, e a essência do sistema
escolha legal deve ser a tomada de decisão baseada no risco. É nesse sentido que Baker propõe que a economia do
conhecimento é uma "economia de risco" e que "risco é o risco do conhecimento". {7} Especificamente, os riscos soc
na era da inteligência artificial têm as seguintes características:
Um é a simbiose de riscos. Os riscos inerentes a uma sociedade de risco são formados com base em riscos técni
riscos institucionais, e há um estado de simbiose. A era da inteligência artificial é uma sociedade altamente tecnológ
o alto desenvolvimento da ciência e da tecnologia não é apenas uma característica de uma sociedade de risco, mas
também uma causa dela. O risco na sociedade moderna é o "risco fabricado", que é causado pela influência de noss
conhecimento em desenvolvimento contínuo sobre o mundo. {8} 24 Max Weber vividamente apontou que os seres
humanos estão destinados a viver na "célula do conhecimento tecnológico" em um futuro próximo [6]. A inteligênci
artificial é a tecnologia mais representativa e influente da época na revolução do conhecimento. “A confiança no sis
de conhecimento e no conhecimento técnico é a base e a garantia para as pessoas obterem e manterem a seguranç
ontológica em uma sociedade de risco.” {9} Partindo da “modernidade reflexiva, a tecnologia avançada para o dire
sua proteção é apenas A confiança não é suficiente. A imprevisibilidade e a irreversibilidade potencial da inteligência
artificial em seu processo de desenvolvimento é, em si, um risco. Ao mesmo tempo, o significado do risco na era da
inteligência artificial também depende do fato de que a tomada de decisão civilizada pode desencadear uma série d
problemas e uma série de riscos no processo de globalização. {10} Para ser franco, "o risco é um pré-requisito para a
tomada de decisão." . {11} 4 Os riscos institucionais podem vir de nosso sistema industrial, políticas de ciência e
tecnologia e até mesmo regras legais, ou se manifestar como "falta institucional" que está perdendo novas tecnolog
ou se manifestar como "falhas institucionais", que julgamento equivocado de novas tecnologias. Esses são os riscos
falha de regra e o resultado são riscos institucionalizados.

www.iolaw.org.cn/showNews.aspx?id=61404 2/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

O segundo é a natureza contemporânea dos riscos. Na teoria da sociedade de risco, o conceito de sociedade de
não é um determinado estágio histórico do tipo de desenvolvimento social, nem é o estágio de desenvolvimento rea
uma sociedade e país específicos, mas um resumo teórico e uma descrição imagética dos problemas da era humana
atual. A revolução inteligente é o produto dos tempos e é caracterizada pela combinação da inteligência humana e d
inteligência artificial.Tecnologia inteligente leva à materialização da inteligência, à inteligência da sociedade e ao
surgimento de uma sociedade inteligente. {12} A formação de uma sociedade inteligente será um processo de longo
prazo, ou uma mudança de tempos. Caracterizado pela migração da capacidade de pensamento e consciência huma
centrado nas atividades de robôs inteligentes, o desenvolvimento da inteligência artificial gradualmente apresentará
diferentes estágios. Como lidar com a separação do mundo real e do mundo das ideias na era inteligente, como evit
que vírus e hackers corroam produtos de inteligência artificial, o alto risco causado por esta alta tecnologia dará
continuidade a todo o processo da revolução inteligente. É um risco real e também Riscos futuros potenciais.
O terceiro é a natureza global dos riscos. A globalização econômica, a globalização tecnológica, a globalização d
informação e mesmo a globalização dos mecanismos de governança inevitavelmente trazem riscos globais. Os anti-
globalistas acreditam que a globalização está dando origem a outra forma de imperialismo: a Internet é "imperialism
informação", a Organização Mundial do Comércio é "imperialismo de mercado", o Fundo Monetário Internacional é
"imperialismo financeiro" e as Nações Unidas É "imperialismo político e diplomático". {7} Baker fez seu próprio
julgamento sobre o seguinte: o mundo enfrenta fatores incertos como a desintegração da identidade social, conflito
valores e interesses, oposição entre as principais organizações, confronto entre posições nacionais e destruição do
ambiente ecológico. Essas crises e desenvolvimentos se espalham por todo o mundo, causando um impacto negativ
humanidade. Novas ameaças à sobrevivência. {7} Pode-se considerar que a sociedade de risco é uma "sociedade de
global", e o impacto espacial dos riscos transcende as fronteiras geográficas e sociais e culturais. Como disse Gidden
"Na era da globalização, o impacto do risco é universal". {13} 7 Em termos de resposta internacional aos riscos da
inteligência artificial, as Nações Unidas divulgaram o "Relatório de Política de Inteligência Artificial" em 2016,
expressando Concentre-se na inteligência artificial e proponha novas formas de pensar e resolver vários problemas
decorrentes do desenvolvimento da tecnologia de inteligência artificial. O relatório convida os países ao redor do m
a fortalecer a cooperação no campo da pesquisa e desenvolvimento de tecnologia de inteligência artificial e, em
conjunto, responder aos desafios trazidos pelos robôs inteligentes em questões de trabalho, ética e legais.
A ciência e a tecnologia sempre desempenham o papel mais ativo e revolucionário no progresso da civilização
humana. Diante da revolução inteligente, não podemos evitá-la, negá-la ou pará-la. O julgamento acima se baseia n
dois fatos a seguir: primeiro, embora a tecnologia da inteligência artificial beneficie a humanidade, ela também aum
a possibilidade de a humanidade se prejudicar.Esta é a conexão entre a negatividade da tecnologia e a incerteza do
Em segundo lugar, o sistema de governança social tradicional é incapaz de resolver os problemas sociais decorrente
desenvolvimento excessivo da sociedade industrial, que é o afastamento da certeza da lei e da incerteza do risco. Pa
países modernos, as considerações políticas para o desenvolvimento da inteligência artificial são, na verdade, escolh
institucionais e arranjos jurídicos baseados em risco. Devemos "resolver os riscos por meio de leis", "absorver riscos
meio de leis" e "colocar a sociedade de risco no contexto de uma sociedade governada por lei. "In" {14} significa
construir um novo sistema jurídico e até mesmo todas as normas sociais na era da revolução inteligente.
2. A tecnologia de inteligência artificial está desafiando nossas leis
O surgimento da revolução inteligente trouxe uma crise sem precedentes e um desafio aos atuais padrões ético
regras legais, ordem social e sistema de gestão pública. Não só entra em conflito com o ordenamento jurídico existe
mas também evidencia os vícios de fornecimento de produtos no ordenamento jurídico, e até subverte o nosso
conhecimento jurídico estabelecido. No que diz respeito ao ordenamento jurídico para ajustar as relações sociais
relacionadas à inteligência artificial, as pessoas têm mais preocupações do que expectativas e dúvidas do que a criaç
Os principais problemas são os seguintes:
(1) A questão da questão civil da qualificação jurídica de robôs
Com o rápido desenvolvimento da tecnologia de inteligência artificial, os robôs têm uma inteligência cada vez m
poderosa e a diferença entre robôs e humanos pode diminuir gradualmente. Os robôs que aparecerão no futuro ter
cérebros biológicos que podem até rivalizar com o número de neurônios no cérebro humano. Os futuristas american
até prevêem que, em meados deste século, a inteligência não biológica será 1 bilhão de vezes a sabedoria de todas
pessoas hoje. {15} Para dar aos robôs uma "qualificação de sujeito legal" virtual, filósofos, cientistas e legalistas nos
Estados Unidos, Grã-Bretanha e outros países conduziram debates ferozes no passado. Em 2016, o Comitê de Assun
Jurídicos da Comissão Europeia apresentou uma moção à Comissão Europeia, exigindo a identificação dos robôs
automatizados mais avançados para serem posicionados como "ciborgues". Além de dar-lhes "direitos e obrigações
específicos", também é recomendado o registro de robôs automatizados inteligentes , Para pagar impostos, pagar ta
e receber contas de fundos de pensão. Se a moção for aprovada, sem dúvida abalará o sistema tradicional de matéri
civil.
O fato de um robô ser uma máquina ou um ser humano está legalmente relacionado ao problema básico da
dicotomia sujeito-objeto. No sistema de direito civil, sujeito (pessoa) e objeto (coisa) são os dois sistemas básicos do
princípios gerais do direito civil. Existe uma distinção estrita entre sujeito e objeto, e entre humano e coisas. Todas a

www.iolaw.org.cn/showNews.aspx?id=61404 3/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

criaturas, exceto humanos, que não têm espírito ou significado, pertencem às coisas e são objetos de direitos. Esta la
intransponível entre sujeito e objeto agora está tremendo. {16} Uma mudança importante da era genética para a era
inteligente é que a estrutura de sujeito e objeto do direito civil tradicional foi quebrada. O material genético humano
pode ser simplesmente tratado como um objeto, e robôs sem vida, mas com inteligência artificial também podem se
Conceda qualificações legais. Considerando os robôs como "humanos" e dando a eles as qualificações de assunto
correspondentes, é difícil obter uma explicação razoável nas teorias de direito civil existentes. No sentido do direito
uma pessoa deve ter uma personalidade independente (capacidade de direitos), e este assunto inclui tanto as pesso
com atributos naturais (pessoas físicas) quanto as pessoas jurídicas (pessoas jurídicas). O estudioso japonês Kitagawa
Zentaro acredita que, no direito civil, "a pessoa com personalidade jurídica é igual à pessoa com legitimidade", e as
disposições sobre pessoas ou pessoas jurídicas "mostram o nível mais abstrato de personalidade jurídica abstrata". {
56 O significado do conceito de personalidade jurídica é revelar a unidade inerente e a essência do sujeito civil e def
relação entre o sujeito e o objeto. "A importância do conceito de capacidade civil reside em revelar as diferenças dos
sujeitos civis e, especificamente, descrever o status e as características da existência e das atividades dos sujeitos civi
{18} 18 Da perspectiva da lógica da tecnologia jurídica, o Código Civil Alemão está centrado no conceito central de
capacidade correta , Execute o design do sistema da personalidade do sujeito. No campo dos direitos de propriedad
relação lógica nesta estrutura é "capacidade econômica do homem - homem legal". No caso da personalidade de um
pessoa física, o estabelecimento de uma "pessoa jurídica" é baseado no valor ético. Depois que o valor ético é remov
da categoria dos humanos, a natureza natural da "pessoa biológica" está diretamente ligada ao atributo legal da "pe
jurídica" por meio da capacidade de direitos. conectado. No caso da personalidade da pessoa coletiva, uma vez que
capacidade de direitos desempenha o papel de "personalidade de grupo", uma relação lógica de "capacidade de gru
de direitos-pessoa coletiva" é formada, de modo que as pessoas jurídicas desfrutam de certos aspectos como as pes
físicas que também são "pessoas jurídicas". Os interesses pessoais tornam-se possíveis.
Com base na análise acima, pode-se considerar que um robô não é uma pessoa física com vida, e também é
diferente de uma pessoa jurídica com vontade própria e como uma coleção de pessoas físicas. Ainda é discutível na
jurisprudência usá-lo como uma pessoa fictícia para usufruir das qualificações de sujeito legal. Lugar, colocar. De aco
com a pesquisa da maioria dos especialistas científicos e tecnológicos, uma vez que as máquinas feitas pelo homem
têm um propósito próprio, seu propósito de trabalho é muito específico e projetado por designers humanos. Em sum
comportamento objetivo gerado pelos robôs é completamente diferente dos comportamentos intencionais e consci
dos humanos. Ao mesmo tempo, os robôs não acumularam conhecimento próprio, e o conhecimento de sua base d
conhecimento de máquina está em um campo específico e é fornecido por humanos [ 7]. Nesta circunstância, embo
robôs simulados e estendidos de "inteligência humana" sejam bastante inteligentes, eles não possuem coração e
espiritualidade humanos, e não podem ser simplesmente equiparados a pessoas naturais e agregados de pessoas
naturais a "inteligência humana". Em outras palavras, um robô controlado por uma pessoa natural, um conjunto de
pessoas naturais - um sujeito civil, não é suficiente para obter um status de sujeito independente.
(2) Questões de direitos autorais de obras geradas por inteligência artificial
A essência da inteligência artificial é "fazer as máquinas realizarem tarefas que requerem inteligência humana",
incluindo jogar xadrez, resolver problemas, se envolver em descobertas matemáticas, aprender novos conceitos,
interpretar cenas visuais, diagnosticar doenças e condições de raciocínio. {19} Com base nisso, a criação de obras
literárias, artísticas e científicas também está no escopo da inteligência robótica. O desenvolvimento de computador
para robôs é um salto da leitura para a escrita em termos de criação de trabalho. Na era dos robôs, certas obras são
geradas por inteligência artificial. De acordo com a previsão da Narrative Science dos Estados Unidos, 90% das
reportagens serão completadas por robôs nos próximos 15 anos, e um grande número de arte, música e outras obra
arte também serão criadas por inteligência artificial. {20} O método de escrita dos robôs adota o caminho técnico de
“informação → conhecimento → inteligência” [8], que leva à geração de conteúdo a partir do sistema de “cooper
homem-máquina”. Quer este comportamento constitua "inovação" ou "iniciativa subjetiva" no sentido jurídico, os
juristas de alguns países e regiões têm tentado responder positivamente. É relatado que o Japão está se preparando
legislar para proteger os direitos autorais de obras de inteligência artificial para evitar o plágio na criação de robôs; a
Comissão Europeia de Assuntos Jurídicos propôs uma moção para conceder direitos autorais aos robôs.
Em relação à criação de obras de inteligência artificial, há duas questões na lei de direitos autorais que precisam
resolvidas, a saber, as obras projetadas por robôs têm direitos? Esse direito deve pertencer à máquina ou à pessoa q
criou? De acordo com a pesquisa de especialistas, o trabalho gerado pela inteligência artificial ainda está na fase de
transmitir informações e expressar significado em um formato específico e em modelo de escrita, não sendo possíve
escrever conteúdo de forma ilimitada. Embora as habilidades de expressão de manuscritos de robôs sejam limitadas
ainda podem ser considerados como obras no sentido da lei de direitos autorais. De acordo com a interpretação
autorizada da Organização Mundial da Propriedade Intelectual, uma obra deve ser original, ou seja, "a obra é criação
próprio autor, de forma alguma ou basicamente não copiada de outra obra" [9]. Ou seja, o conteúdo gerado pela
inteligência artificial, desde que completado de forma independente por um robô, constitui uma obra protegida por
direitos autorais, sendo irrelevante seu uso, valor e avaliação social. As obras de robôs têm direitos autorais, mas os
não podem exercer seus direitos como autores pessoas físicas ou jurídicas, ou seja, os direitos autorais devem perten
ao criador ou proprietário do robô. Isso ocorre porque um robô é uma máquina e não um "humano". Ele depende d
dados e algoritmos para completar a escrita. O robô e seu caminho técnico de escrita são todos criados por humano
www.iolaw.org.cn/showNews.aspx?id=61404 4/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

Nesse caso, a lei pode proteger os criadores e todos os robôs protegendo as obras dos robôs. Em outras palavras,
referindo-se às disposições da Lei de Direitos Autorais sobre trabalhos ou empregos, as "pessoas" que criam as
máquinas, e não os robôs, podem desfrutar e exercer os direitos.
(3) Questões de responsabilidade civil sobre danos causados por sistemas inteligentes
Os "robôs de nova geração" inteligentes são diferentes dos robôs industriais tradicionais que realizam tarefas
repetitivas, possuem relativa autonomia e um nível superior de inteligência artificial, e participarão de forma ampla e
profunda na vida da sociedade humana. O uso generalizado de "robôs inteligentes" não só traz eficiência e conveniê
mas também traz inevitavelmente danos aos humanos. {21} Existem duas situações em que os robôs causam danos
pessoas: Uma é o dano causado pelo controle ilegal do infrator do sistema inteligente. Por exemplo, hackers, vírus e
outros fatores humanos invadem a Internet e, em seguida, controlam os robôs de cuidados infantis, robôs idosos, ro
enfermeiros ou outros sistemas inteligentes em famílias humanas, que colocarão em perigo os humanos. Nesse caso
nem é preciso dizer que o infrator que lançou o ataque de hacker ou transmitiu o vírus deve assumir a responsabilid
legal, não sendo esses os tópicos principais deste artigo. O segundo é o dano causado pelo defeito do próprio sistem
inteligente. Segundo relatos, já na década de 1980, houve incidentes no Japão em que máquinas industriais colocava
trabalhadores nas máquinas e os esmagavam até a morte.Em 2007, a Food and Drug Administration dos EUA recebe
mais de 200 reclamações alegando cirurgia médica. O robô causou queimaduras, cortes e infecções em pacientes,
incluindo 89 mortes. A causa acima mencionada de danos humanos, é uma lacuna técnica do criador do robô, ou o u
indevido do gerenciador de máquina inteligente? Pode até ser o "autocomportamento" do sistema de inteligência
artificial além do esquema de controle original? Nesse caso, é necessário analisar as causas do comportamento falho
robô para encontrar a composição do sujeito infrator e dividir a responsabilidade pela indenização.
Em relação à determinação da responsabilidade por danos causados por um sistema inteligente, existem duas
maneiras de escolher: Uma é a responsabilidade do produto com base na culpa do autor. Na Lei de Responsabilidad
Civil, a responsabilidade pelo produto se refere à responsabilidade civil especial que os produtores e vendedores de
produtos devem arcar devido à produção ou venda de produtos defeituosos que fazem com que outros sofram dan
pessoais ou de propriedade, ou que outros sofram danos pessoais ou de propriedade. Os produtos que causam dan
devem ter defeitos, que incluem defeitos de fabricação, defeitos de design, defeitos de aviso e defeitos de
acompanhamento. {22} 184-190 A situação acima está de acordo com as características gerais de responsabilidade p
danos causados por sistemas inteligentes. Em 2016, a UNESCO e o Comitê de Ética em Tecnologia e Conhecimento
Científico Mundial emitiram um relatório afirmando que, como os robôs são geralmente considerados produtos
tecnológicos no sentido usual, os danos causados por robôs e tecnologia robótica podem ser ajustados pelas dispos
relevantes de responsabilidade do produto na lei civil . Do ponto de vista das condições de determinação de
responsabilidade do produto, os danos causados por robôs podem ser classificados como falhas de fabricantes e
vendedores de robôs, incluindo falhas na fabricação do produto, falhas no design do produto, falhas nos avisos do
produto e falha no cumprimento do dever de cuidado razoável [ 10]. A segunda é a responsabilidade substituta base
no princípio da neutralidade tecnológica. Em relação aos danos causados por produtos tecnológicos, o princípio da
neutralidade tecnológica pode evitar responsabilidades. O chamado princípio de neutralidade de tecnologia significa
qualquer tecnologia em si não gera responsabilidade em princípio, mas o principal uso comercial de uma determina
tecnologia é para se envolver em infrações ou outras atividades ilegais, então a tecnologia não se aplica ao princípio
"neutralidade de tecnologia" . Nesse caso, é mais apropriado aplicar responsabilidade alternativa. A responsabilidade
substituição, também conhecida como responsabilidade de transferência, apareceu pela primeira vez nas relações de
agência e de emprego. Ou seja, o principal é responsável pelos atos ilícitos que o diretor "autorizou" ou "aprovou" c
o agente; o empregador será responsável pelos atos ilícitos de seus funcionários Assumir a responsabilidade pelas
infrações cometidas durante o "período de emprego" é geralmente referido como "assumir a responsabilidade pela
infração de terceiros". {23} 247-248 Na situação de responsabilidade alternativa, o robô é impecável e atende aos
requisitos do princípio da neutralidade técnica, mas o proprietário ou usuário do robô, ou não cumpre a obrigação d
um bom gerente, ou se entrega à violação do robô. Isenção de responsabilidade com base no princípio da neutralid
tecnológica.
(4) Direitos da personalidade de proteção da privacidade humana
O ciberespaço é uma existência virtual real, um mundo independente sem espaço físico. Aqui, os seres humanos
perceberam a "existência digital" separada da carne e possuíram a "personalidade digital". A chamada personalidade
digital é "delinear uma imagem pessoal no ciberespaço por meio da coleta e do processamento de informações
pessoais" - ou seja, uma personalidade estabelecida em virtude da informação digital. {24} 62 As informações pessoa
incluem informações privadas que a pessoa em questão não deseja que outras pessoas saibam ou são inconveniente
para outras pessoas saberem. As categorias principais são: identidade de login pessoal e status de saúde, crédito pe
e status de propriedade, endereço de e-mail, rastros de atividades de rede, etc. Na sociedade da informação, essas
informações pessoais dispersas e extensas podem ser coletadas e processadas em dados, sintetizando assim a cham
personalidade digital - uma personalidade que é forçada a construir em grande medida, uma personalidade da qual
indivíduo não tem conhecimento. Hoje e no futuro, quando a Internet móvel, big data e inteligência de máquina são
superpostos, vivemos em uma "sociedade sem privacidade". {2}

www.iolaw.org.cn/showNews.aspx?id=61404 5/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

Diante das ameaças potenciais do big data à privacidade pessoal, devemos dar importância à proteção da
privacidade na era da revolução inteligente.Três medidas podem ser adotadas: Primeiro, aumentar a consciência da
autoproteção. Na era atual da Internet móvel e no futuro da Internet de Todas as Coisas, somos os vazadores de
privacidade: os smartphones têm muitos aplicativos que não são usados e as redes sociais falam demais que não são
adequados para expressão pública. Causa vazamento de privacidade, existem também diversos produtos eletrônicos
desde câmeras com GPS até aparelhos inteligentes conectados ao WIFE, que registram meticulosamente a localizaçã
das pessoas e informações de vida. Na era da inteligência artificial, a mineração da privacidade pessoal é feita por
máquinas, portanto, para proteger a privacidade, você deve começar por si mesmo e estar preparado para aparelhos
inteligentes. A segunda é fortalecer a responsabilidade das empresas de proteger a privacidade do usuário. As empr
devem ter a vontade e a responsabilidade de proteger a privacidade do usuário, "esta será a chave para que a
privacidade do usuário seja efetivamente protegida" [11]. Atualmente, os dados do usuário são cada vez mais coleta
nas mãos de empresas de Internet ou de processamento de dados em grande escala, e é muito importante impor
restrições de responsabilidade na proteção da privacidade pessoal. Na União Europeia e nos Estados Unidos, de aco
com os requisitos governamentais e fora das reclamações do usuário, os termos de serviço devem declarar
especificamente que os dados obtidos do usuário pertencem ao próprio usuário, e ele será responsável pelo manuse
indevido de dados pessoais. Esta não é apenas a responsabilidade pela violação do contrato estipulado no contrato,
também a responsabilidade civil por violação da lei [12]. A terceira é fortalecer a legislação especial para proteção da
privacidade de redes e telecomunicações. A proteção dos direitos de privacidade deve ser baseada na proteção da le
civil, esclarecendo os atributos, capacidades e métodos de proteção corretos dos direitos de privacidade; ao mesmo
tempo, a proteção legal especial deve ser complementada para estipular os princípios e métodos de proteção da
privacidade de assuntos específicos em campos específicos. Por exemplo, os Estados Unidos promulgaram o "Federa
Privacy Act" em 1974, que é a lei básica para a proteção da privacidade. Mais tarde, o "Federal Electronic
Communications Privacy Act" foi aprovado em 1986 e o "Children's Online Privacy Protection Act" foi promulgado e
2000. Leis como os Regulamentos Provisórios sobre a Proteção dos Direitos de Privacidade Online dos Cidadãos,
Privacidade Pessoal e Infraestrutura Nacional de Informação. Depois que a União Europeia aprovou a "Diretiva de
Proteção de Privacidade e Processamento de Dados Pessoais da Indústria de Telecomunicações" em 1997, ela formu
sucessivamente os "Princípios Gerais para Proteção de Privacidade Pessoal Online" e "Diretrizes para a Proteção de
Direitos Pessoais durante a Coleta e Processamento de Dados Pessoais na Rodovia da Informação", etc. regulamenta
pertinente. A proteção da privacidade é um problema legal na era da informação, especialmente na era da inteligênc
artificial. O desenvolvimento profundo da revolução inteligente também é um processo de aumento dos riscos à
segurança da privacidade e do fortalecimento da proteção legal.
(5) Questões de legislação de trânsito do sistema de direção inteligente
Uma aplicação importante da inteligência artificial no campo do transporte é a direção autônoma em rede. A dir
inteligente realiza "inteligência artificial + direção não tripulada" por meio de tecnologias inteligentes, como sistema
navegação, sistemas de sensores, algoritmos de percepção inteligente e sistemas de controle de veículos, que anula
relação anterior entre pessoas e veículos, e entre veículos e veículos. A fim de promover o desenvolvimento da indús
de direção inteligente, os Estados Unidos, Alemanha, Japão e outros países estão explorando e até promulgando leis
regulamentos sobre a distribuição de responsabilidades de tráfego e políticas regulatórias para acesso ao mercado d
inspeção de segurança [13].
Os principais problemas jurídicos que os veículos não tripulados podem trazer são os seguintes: Primeiro, a alter
do objeto da regulamentação legal. A direção não tripulada significa que a qualificação para o campo do transporte
é mais a tecnologia de direção do motorista, mas o nível de inteligência do carro sem motorista. Ou seja, com o
desaparecimento do conceito de motorista na direção não tripulada, o objeto da regulamentação legal não é mais o
motorista do veículo, mas o criador e fabricante do sistema de direção inteligente. O segundo é a reconstrução do
sistema de responsabilidade legal. O sistema de responsabilidade de "alocação de risco" estabelecido com base na
responsabilidade por culpa não existirá mais nas futuras leis de trânsito. Para a determinação dos acidentes rodoviár
única razão de imputação é o "certo ou errado" do resultado, não havendo "intencionalidade" ou "negligência" subj
[14]. O terceiro é a mudança no foco da supervisão de tráfego. Com a segurança no tráfego como meta, o foco da
supervisão do departamento de gestão de tráfego anterior estava no desempenho de segurança das instalações
automotivas e nas habilidades de direção segura dos motoristas; enquanto na direção inteligente, os sistemas de
software e hardware para evitar riscos e direção precisa são a detecção e acesso ao tráfego rodoviário a chave de.
(6) Questões de legislação trabalhista do "grupo de trabalhadores" da máquina
O aspecto básico do desenvolvimento da tecnologia de inteligência artificial é mudar a relação entre o homem e
máquina. A aplicação em larga escala de robôs inteligentes, por um lado, promove o desenvolvimento da produtivid
social e melhora muito a eficiência da produção, por outro, também traz mudanças na estrutura social, tornando a
relação entre humanos e robôs um aspecto importante da vida social. A lei do trabalho, que visa proteger os interes
dos trabalhadores, enfrenta dois problemas sem precedentes: Primeiro, a função de ajuste da lei do trabalho tradicio
reduzida. Segundo relatório de pesquisa da Universidade de Oxford, no futuro, 10 milhões de empregos não técnico
serão substituídos por robôs, incluindo um grande número de cargos como secretárias, operários, intermediários e
motoristas. O relatório apontou especificamente que o trabalho dos engenheiros de software será substituído por ro

www.iolaw.org.cn/showNews.aspx?id=61404 6/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

inteligentes, ou seja, os criadores serão substituídos por produtos técnicos por eles criados [15]. Tudo isso tem impa
sobre os direitos dos trabalhadores existentes. Um grande número de trabalhadores deixa os empregos tradicionais,
seus direitos e interesses são mais para buscar a legislação previdenciária, então "A legislação trabalhista está à beira
morte?" [16] A segunda é que a legislação trabalhista enfrentará novos objetos de ajuste no futuro. Os robôs roubam
empregos dos humanos e estão se formando "trabalhadores" de inteligência artificial. A proteção dos direitos dos ro
ou a proibição do abuso de robôs, ainda é uma questão de ética social no momento e se tornará uma questão de
legislação trabalhista no futuro. A Comissão Europeia de Assuntos Jurídicos propôs que a inteligência artificial tenha
status de "trabalhadores" e concede a ela "direitos e obrigações específicas", como direitos trabalhistas. O governo s
coreano elaborou a "Carta de Ética do Robô", cujos pontos principais incluem: garantir que humanos possam contro
robôs, proteger dados obtidos por robôs, proibir humanos de usar robôs ilegalmente e impedir humanos de abusar
robôs. Deve-se perceber que robôs inteligentes são essencialmente máquinas, mas eles também têm atributos
humanos.O respeito pelos robôs inteligentes é o respeito pelos próprios humanos. É previsível que as normas éticas
acima mencionadas passem a fazer parte integrante da futura legislação.
O sistema legal sempre fica para trás, mas pensar sobre questões jurídicas deve ser voltado para o futuro.
Enfrentando a era da revolução inteligente, devemos explorar a civilização institucional que acompanha a civilização
científica com base na compreensão e análise do dilema jurídico atual e criar um sistema de normas sociais que cond
ao desenvolvimento saudável e ordenado da inteligência artificial.
3. Composição do sistema voltada para a era futura: lei, política e ética
O desenvolvimento e a transformação do sistema jurídico, a seleção do caminho e o desenho das regras de cada
processo e o pensamento jurídico são geralmente uma síntese da análise objetiva dos fatos e do juízo de valor subje
No que diz respeito à construção do sistema jurídico, se a tecnologia é sempre baseada na plena manifestação da
tecnologia e seus efeitos para formar normas sociais com base em fatos técnicos, então a defasagem no sistema jurí
será muito grave, o que acabará por levar à "correção" da tecnologia pelo direito técnico. "O fracasso e a fraqueza. "
tipo de impotência que experimentamos não é um sinal de falha pessoal, mas um reflexo da impotência de nossos
sistemas. Precisamos reestruturar esses sistemas que tínhamos antes ou construir novos sistemas." {8} Enfrentando a
futura A composição do sistema deve ter como tema o desenvolvimento tecnológico e a regulação da inteligência
artificial para formar um sistema de governança social que inclua normas legais, políticas regulatórias e normas ética
relação ao projeto de sistema de idéias, normas, sistemas e mecanismos, o autor pretende propor as seguintes idéia
(1) Múltiplos objetivos de valor com segurança como o núcleo
A análise de valor do direito da inteligência artificial origina-se da oposição entre os ideais jurídicos e a realidade
como deveriam e a realidade. O valor legal na era da inteligência artificial é a busca dos ideais e valores jurídicos
humanos e a expressão legal da categoria filosófica de valor. O valor ideal da lei é sempre superior ao valor real da le
que pode fornecer orientação de metas e motivação contínua para a evolução do sistema jurídico. O direito da
inteligência artificial possui não apenas os elementos constituintes do valor do direito geral, mas também o conteúd
valorativo de seu direito especial, formando assim seu próprio sistema de valores jurídicos. Entre eles, "a justiça é o v
primário do sistema social", {25} é também o valor universal do direito geral, e sua justiça de personalidade implícita
justiça de distribuição e justiça de ordem constituem o fundamento de legitimidade da construção de leis de inteligê
artificial. Sob a orientação do mais alto valor jurídico, a lei da inteligência artificial ainda tem o valor especial da lei
especial, que é principalmente segurança, inovação e harmonia.
A segurança é o valor jurídico fundamental na era da inteligência artificial. O valor da segurança é a manutenção
estabilidade de toda a ordem social. O valor da segurança é um objetivo comum perseguido por muitos departamen
jurídicos e é alcançado por meio de diferentes sistemas ou métodos de ajuste. Por exemplo, o direito penal e o direi
administrativo usam a responsabilidade penal ou administrativa para obter a segurança da ordem social, e o direito
usa o direito civil para proteger a segurança das transações e a ordem de propriedade. A inteligência artificial, como
tecnologia no futuro, ainda está em um processo de desenvolvimento profundo, mas tem causado preocupações
generalizadas sobre seus problemas de segurança. A possibilidade de que a inteligência artificial ultrapasse a inteligê
humana, a gravidade das consequências prejudiciais da inteligência artificial e a incerteza inerente à própria tecnolog
de inteligência artificial são suficientes para constituir a necessidade de leis e outros regulamentos para prevenir risc
Os regulamentos de segurança relativos à regulamentação de risco, incluindo os regulamentos éticos de produtos d
inteligência artificial, os regulamentos de aplicação de tecnologia de inteligência artificial e os regulamentos de
monitoramento de segurança de inteligência artificial, são todos questões que precisam ser consideradas no projeto
arranjo de sistemas jurídicos relevantes.
A inovação é a alma do valor da lei da inteligência artificial. No contexto de uma época específica, um sistema
jurídico específico conterá vários itens de valor diferentes, e seus respectivos enfoques de valor também são diferent
desenvolvimento da economia contemporânea depende fortemente da produção, distribuição e utilização do
conhecimento e da informação, e a inovação tornou-se a principal característica da era da economia do conhecimen
Enfrentando a revolução da inteligência artificial, a inovação não apenas reflete a relação entre o homem e a naturez
mas também reflete a relação entre o homem e o homem, a relação entre os indivíduos e a sociedade, e se tornou u
categoria de relacionamento de significado universal. O valor da inovação está incorporado na formulação de polític

www.iolaw.org.cn/showNews.aspx?id=61404 7/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

desenvolvimento de inteligência artificial e atividades legislativas, e seu projeto de sistema principal é: 1. Buscar a
estratégia de desenvolvimento nacional. No nível de política geral e geral, faça implantações estratégicas
correspondentes para tecnologia de inteligência artificial e mudanças sociais relacionadas. 2. Formular políticas e leis
promoção e supervisão da indústria. No nível legislativo e político, promova a P&D e a aplicação de tecnologias
essenciais, como sistemas de direção inteligente, robôs inteligentes, tratamento médico preciso, reconhecimento de
e chips do cérebro humano, ao mesmo tempo em que esclarece os regulamentos de acesso, formula padrões de
segurança, melhora as instalações de apoio e cria um ambiente saudável e ordenado Ambiente regulatório. 3. Melho
mecanismo de incentivo à inovação em propriedade intelectual. Promover a inovação tecnológica e o desenvolvime
de indústrias emergentes por meio de proteção de direitos, comércio de direitos e sistemas de restrição de direitos.
geral, o Estado, por meio de diretrizes estratégicas, normas jurídicas e arranjos políticos, elevou o comportamento d
inovação ao valor jurídico de "racionalidade do planejamento", refletindo a intervenção ativa e o controle das pessoa
descoberta de valor [17].
Harmonia é a busca de valor definitivo na era da inteligência artificial. O chamado desenvolvimento harmonioso
uma dinâmica ideal com coordenação, coordenação e ordem adequadas. Este é um sistema de metas que cobre tod
extensão, incluindo a harmonia do homem, da sociedade e da natureza, bem como a coexistência pacífica e coexistê
do homem, da sociedade e da natureza. progresso. O estado ideal de realização de valores harmoniosos é a saúde
benigna e a ordem da sociedade de inteligência artificial. No desenvolvimento de robôs inteligentes, o valor da harm
tem uma função orientadora. A fim de garantir a harmonia e estabilidade da sociedade humana, o design ético de
produtos de inteligência artificial, a limitação do escopo de aplicação da tecnologia de inteligência artificial e o cont
do nível de autonomia e inteligência da inteligência artificial devem todos ser guiados pelo valor da harmonia e dos
critérios de avaliação.
(2) Um sistema de regulação de normas sociais orientado pela ética
A civilização na era da inteligência artificial requer normas de comportamento correspondentes como um regula
das relações sociais. De modo geral, a civilização exige que a sociedade coordene conscientemente as intrincadas
relações dentro de si, de modo a melhorar continuamente sua própria organização e gestão e alcançar a ordem e a
harmonia das várias relações sociais. Desde o início da civilização humana até o início da era atual da inteligência
artificial, as normas de comportamento social se tornaram um sistema institucional. O sistema ou sistema de regulaç
controle de normas sociais refere-se a uma unidade de conexões mútuas e restrições mútuas que existe em um
determinado país, região e campo e é constituído por normas sociais determinadas por certas relações socioeconôm
No sistema de normas sociais, o direito e a moralidade, como dois importantes métodos de ajuste, exercem diferent
influências e funções em diferentes áreas da vida social a partir de diferentes aspectos, de maneiras diferentes e por
de mecanismos diferentes.
Para o ajuste das relações sociais de inteligência artificial, as normas éticas desempenham um papel prepondera
Isso ocorre porque as normas jurídicas são geradas com base na vida real e o processo legislativo é complicado,
portanto, estão sempre em uma posição defasada, enquanto as normas éticas podem ser avançadas e predefinidas p
refletir mudanças ou possíveis mudanças nas relações sociais. Nos países desenvolvidos, a pesquisa ética em inteligê
artificial é anterior à pesquisa legislativa. Nos últimos anos, a European Robotics Research Network (EURON) divulgo
"Robot Ethics Roadmap", o Ministério da Indústria e Energia da Coreia do Sul promulgou a "Robot Ethics Charter", o
Japão organizou uma equipe de especialistas para redigir as "Diretrizes para Problemas de Segurança de Robôs de
Próxima Geração", da Fundação Nacional de Ciência dos Estados Unidos Crie um fundo especial com a NASA para
conduzir pesquisas sobre a "ética do robô" [18]. Além disso, algumas organizações da indústria, empresas e
empreendimentos também estão reforçando as responsabilidades profissionais dos especialistas em inteligência art
em termos de ética. Por exemplo, a Sociedade Japonesa de Inteligência Artificial criou um comitê de ética, e o Goog
estabeleceu um "comitê de ética em pesquisa de inteligência artificial" para enfatizar a responsabilidade social dos
pesquisadores científicos e fornecer orientação para a pesquisa racional e o desenvolvimento da inteligência artificia
suma, a função de ajuste dos códigos de ética é muito original e muito importante. Por exemplo, pré-definir códigos
éticos para robôs inteligentes e fornecer diretrizes éticas para produtos de inteligência artificial; estipular padrões ét
para a pesquisa, desenvolvimento e aplicação de tecnologia de inteligência artificial e conduzir pesquisas Restrições
éticas. As referidas normas éticas fornecem uma importante fonte de direito para a posterior construção do estado d
direito, ou seja, em determinado momento, as normas éticas também podem ser transformadas em normas legais p
realizar a legalização da moralidade.
(3) Mecanismo de controle de risco liderado por tecnologia e lei
A tecnologia de inteligência artificial não é apenas alta tecnologia, mas também o núcleo da alta tecnologia, que
pode ser chamado de núcleo de alta tecnologia. {12} A “explosão nuclear” da tecnologia inteligente não só tem um
impacto transformador na economia social, mas também gera riscos técnicos, ou seja, “riscos sociais decorrentes d
violação das leis da tecnologia quando os humanos usam a tecnologia”. {26} Na era da inteligência artificial, a preve
de riscos e a governança podem adotar um mecanismo de governança abrangente de controle tecnológico e contro
legal.

www.iolaw.org.cn/showNews.aspx?id=61404 8/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

O controle legal é um meio importante de mecanismo de gerenciamento de risco. Os legisladores devem presta
atenção ao estado de direito da função de controle de risco. Por exemplo, a lei de patentes tem como função sistêm
estimular a inovação científica e tecnológica, sendo a ampliação de seus objetos autorizados e a proteção de direito
interesses as manifestações jurídicas do mecanismo de estímulo ao desenvolvimento da inteligência artificial. Ao me
tempo, a lei de patentes também deve estar atenta às áreas de exclusão de objetos de direitos e à aplicação de norm
institucionais, tais como proibir o abuso de direitos e restringir o exercício de direitos, restringir e eliminar os potenc
danos da inteligência artificial. Além disso, deve ser complementado por leis e regulamentos relevantes de ciência e
tecnologia para estabelecer um mecanismo de restrição, um mecanismo de proibição e um mecanismo de punição p
pesquisa e desenvolvimento, uso e disseminação de inteligência artificial.
O controle técnico é uma medida importante do mecanismo de gerenciamento de risco. Os regulamentos técnic
são manifestados em normas legais, regulamentos de políticas e regras éticas. As regras técnicas sob a orientação da
teoria da sociedade de risco têm as seguintes características: o principal caminho da aversão ao risco é prevenir com
antecedência, em vez de remediar depois (ou seja, iniciar a regulamentação da pesquisa técnica para prevenir os efe
negativos ou colaterais da tecnologia); o paradigma básico da aversão ao risco, É o sistema de responsabilidade des
pesquisa e desenvolvimento de tecnologia até o processo de aplicação (incluindo responsabilidade moral social,
responsabilidade ética científica e responsabilidade legal); uma medida importante para evitar riscos é buscar os
princípios da democracia tecnológica (incluindo divulgação adequada de informações técnicas, participação pública
tomada de decisão pública) [19 ]
A prevenção dos riscos técnicos da inteligência artificial não envolve apenas a transformação dos sistemas
tradicionais que fortalecem as regulamentações legais, mas também requer o estabelecimento de um sistema de
políticas com a supervisão social como um conteúdo importante, e a formação de um mecanismo de controle de ris
com racionalidade abrangente (incluindo racionalidade social e racionalidade científica) como conotação básica .
A China está caminhando para a era da inteligência artificial. A nova rodada mundial de revolução científica,
transformação industrial e transformação do desenvolvimento econômico da China formaram uma intersecção histó
Os arranjos institucionais para o desenvolvimento e a regulamentação da inteligência artificial são uma nova tendên
dos tempos, uma tendência internacional e um requisito inerente para a inovação e o desenvolvimento local. O auto
acredita que, em termos de construção de sistemas, existem atualmente três tarefas principais: uma é introduzir uma
estratégia de desenvolvimento nacional o mais rápido possível como suporte para o sistema de política de inteligên
artificial. De uma perspectiva internacional, os Estados Unidos, Alemanha, Grã-Bretanha, Japão e outros países estão
acelerando o projeto estratégico de alto nível de inteligência artificial e coordenando o desenvolvimento de inteligê
artificial em nível nacional [20]. Na China, o Plano Nacional de Inovação Científica e Tecnológica "Décimo Terceiro Ci
Anos" e o Plano Estratégico Nacional de Desenvolvimento da Indústria Emergente "Décimo Terceiro Quinquenal" faz
declarações importantes sobre o desenvolvimento da inteligência artificial. Mas, em geral, a política de inteligência
artificial da China ainda não atingiu o auge da estratégia nacional, a posição estratégica da inteligência artificial foi
destacada como insuficiente, a coordenação geral do desenvolvimento da inteligência artificial não foi esclarecida e
divisão de responsabilidades entre o governo, a sociedade e as empresas não foi esclarecida [21]. A estratégia de
desenvolvimento nacional deve ser uma estratégia holística e um arranjo geral sobre a questão da inteligência artific
uma política e um sistema institucional envolvendo objetivos estratégicos, tarefas estratégicas e medidas estratégica
China deve prestar muita atenção às perspectivas de desenvolvimento da revolução inteligente e às mudanças socia
relacionadas que ela desencadeou e fazer os desdobramentos de políticas estratégicas correspondentes o mais rápid
possível. A segunda é formular os "Regulamentos de Ética do Robô" em tempo hábil como a base moral para a pesq
o desenvolvimento e a aplicação da inteligência artificial. Em alguns países desenvolvidos, a pesquisa ética em
inteligência artificial é anterior à pesquisa legal [22], como a "Robot Ethics Charter" e o "Robot Ethics Roadmap", que
consideram a avaliação da segurança e a prevenção de riscos como normas éticas importantes da inteligência artific
conteúdo. A China pode organizar um grupo de especialistas de políticos, cientistas, empresários e juristas para com
regulamentos de ética de robôs e construir códigos de ética de inteligência artificial. Seus pontos principais incluem:
projetar uma estrutura ética, predefinir códigos morais para robôs e fortalecer uma sociedade de especialistas cientí
e tecnológicos A responsabilidade fornece orientação moral para a pesquisa, desenvolvimento e aplicação da intelig
artificial; orienta o público a aceitar a inteligência artificial e estipula modelos morais para ajustar a relação homem-
máquina [23]. A terceira é cumprir a legislação especial sobre robôs em tempo hábil como a norma básica das leis de
inteligência artificial. A tecnologia de inteligência artificial trouxe enormes desafios ao sistema jurídico tradicional, de
modo que os conceitos e regras jurídicas existentes estão quase perdidos em face da "alta tecnologia nuclear". Ness
circunstâncias, nem é preciso dizer que o sistema jurídico precisa de inovação e mudança, e buscar uma lei especial
ajuste a relação entre humanos e máquinas inteligentes será a escolha final. A este respeito, a UE tomou as medidas
legislativas mais rápidas. Segundo relatos, o Parlamento Europeu apresentou formalmente uma proposta à comissão
para formular uma "interação inteligência humana e artificial / robô
Conclusão
Esta é uma era de inovação. A inovação não apenas reflete a relação entre o homem e a natureza, mas também
reflete a relação entre o homem e o homem, a relação entre os indivíduos e a sociedade, e se tornou uma categoria
relações com significado universal. A atividade criativa das pessoas em todas as áreas de produtividade, relações de

www.iolaw.org.cn/showNews.aspx?id=61404 9/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

produção e superestruturas, ou seja, o progresso tecnológico e as mudanças institucionais, são todos um processo d
inovação. Os temas jurídicos, políticos e éticos desencadeados pela revolução inteligente apenas começaram.Com a
inovação do conhecimento da sociedade humana, precisamos acompanhar a inovação teórica e a inovação institucio
Juristas e reformadores legais precisam manter o espírito de racionalismo para descobrir e explorar um sistema lega
ideal. Temos motivos para acreditar que a luz da sabedoria da ciência e da tecnologia e a luz da racionalidade do sis
jurídico se complementarão na era da inteligência artificial.
(Editor responsável por este artigo Jiao Heping)
[Notas] Sobre o autor: Wu Handong (1951—), homem, de Dongxiang, Jiangxi, professor sênior de Wenlan,
Universidade de Economia e Direito de Zhongnan, diretor do Centro de Pesquisa de Propriedade Intelectual, doutor
direito, supervisor de doutorado.
[1] Futurologia é uma disciplina abrangente que estuda o futuro. Ela explora o impacto do desenvolvimento cien
e tecnológico e da inovação do conhecimento na sociedade humana por meio de orientações quantitativas, tempora
qualitativas e outras orientações científicas, e prevê a possibilidade de realização das escolhas feitas pelos humanos.
conhecimento de previsões e pesquisas futuras deve envolver os arranjos institucionais e o desenho normativo da
sociedade futura. Nesse sentido, a pesquisa jurídica em inteligência artificial é também uma pesquisa em questões
jurídicas futuras.
[2] Para obter detalhes, consulte Zhong Yixin: "Artificial Intelligence:" The Doorway "Behind the" Lively "", publica
na "Science and Technology Review" 2016, Edição 34, página 7.
[3] Consulte CCID Research Institute: "2016 China Artificial Intelligence Industry Speech and Investment Value
Research", lançado em agosto de 2016.
[4] Ver Li Shanyou: "A era da inteligência, o futuro chegou", citado por Wu Jun: "A era da inteligência", edição 20
do CITIC Publishing Group, prefácio dois.
[5] De acordo com um relatório da BBC em 2014, o famoso físico Hawking afirmou que “a inteligência artificial
não apenas ser o maior evento da história da humanidade, mas também pode ser o último evento”. “O
desenvolvimento geral da inteligência artificial pode levar a A extinção da humanidade ”. Ver Zhang Yan: "Artificial
Intelligence Brings Four Major Challenges to Law", publicado no Social Science News, 4 de agosto de 2016; Du Yanyo
"Artificial Intelligence Security Issues and Solutions", publicado em "Philosophical Trends", 2016 Edição 9.
[6] Para obter detalhes, consulte Anthony Giddens e Scott Rush: "Reflexive Modernization", traduzido por Zhao
Wenxue, edição de 2001 da Commercial Press, p. 74.
[7] Para obter detalhes, consulte Zhong Yixin: "Artificial Intelligence:" The Doorway "Behind the" Lively "", publica
em "Science and Technology Herald", Edição 34, 2016, página 7.
[8] O processo de escrita em computador é basicamente baseado em uma grande quantidade de dados de corp
texto (informações), por meio de leitura rápida e formação de um modelo especial (conhecimento) expressando
significado e, finalmente, processamento e síntese (inteligência) por meio de modelos de linguagem. Veja Wu Jun: "S
Times", CITIC Publishing Group 2016 Edition, páginas 314-315.
[9] Para obter detalhes, consulte "Intellectual Property Right Talk" da Organização Mundial de Propriedade
Intelectual, World Intellectual Property Press edição 1992, p. 21.
[10] Ver Instituto de Pesquisa Tencent: "Política Global de Inteligência Artificial e suas Implicações para a China",
lançado em janeiro de 2017.
[11] Ver Instituto de Pesquisa Tencent: "Política Global de Inteligência Artificial e suas Implicações para a China",
publicado em janeiro de 2017.
[12] O artigo 111 dos "Princípios Gerais do Direito Civil da República Popular da China", adotado em março de 2
estipula: "As informações pessoais de pessoas físicas são protegidas por lei. Qualquer organização ou indivíduo que
precise obter informações pessoais de terceiros deve obter e garantir a segurança das informações de acordo com a
A coleta, uso, processamento e transmissão ilegal de informações pessoais de terceiros, e não deve comercializar,
fornecer ou divulgar ilegalmente as informações pessoais de terceiros. "
[13] Em 1968, as Nações Unidas formularam a "Convenção de Trânsito Rodoviário", que estipulava que o contro
de um carro deve ser uma pessoa, não um computador. Em fevereiro de 2016, os Estados Unidos alteraram este
regulamento para permitir que carros sem motorista sejam usados nas estradas; em setembro do mesmo ano, o
Departamento de Transporte dos EUA emitiu uma diretriz para fabricantes engajados em tecnologia sem motorista,
consulte Zhang Tiankan: "Carros que dirigem não tripulados na estrada exigem primeiro a legalidade "," Beijing New
de setembro de 2016.
[14] Para obter detalhes, consulte Liu Xiaocen: "Entrevista sobre Questões Legais de Carros sem Condutor", publ
no Legal Daily, 26 de novembro de 2016.

www.iolaw.org.cn/showNews.aspx?id=61404 10/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

[15] Para obter detalhes, consulte Yu Xingzhong: "When Law Meets Artificial Intelligence", publicado no
"Procuratorate Daily" em 17 de junho de 2016.
[16] Para obter detalhes, consulte Yang Yanchao: "O robô está aqui, a lei está pronta?" ", publicado em" Econom
Information Daily "em 5 de julho de 2016.
[17] Na teoria da filosofia jurídica, a razão humana pode ser dividida em "razão prática" e "razão planejadora". A
primeira é a racionalidade receptiva, que se manifesta na medida em que a moral é naturalmente aceita como valor
pessoas após a educação de longo prazo, a segunda é a racionalidade ativa, isto é, projetar artificialmente valores qu
conformam à lei em circunstâncias específicas.
[18] Ver Tencent Research Institute: "Global Artificial Intelligence Policy and its Implications for China", publicado
janeiro de 2017.
[19] Sobre a regulamentação da tecnologia baseada na teoria da tecnologia crítica, consulte Liu Tieguang: "A
mudança de paradigma da base da regulamentação da tecnologia em uma sociedade de risco", em "Lei Moderna", n
2011.
[20] Em outubro de 2016, a Comissão Nacional de Ciência e Tecnologia dos Estados Unidos publicou sucessivam
dois relatórios estratégicos - "Plano Estratégico de Pesquisa e Desenvolvimento de Inteligência Artificial Nacional" e
"Preparando para o Futuro da Inteligência Artificial", marcando os esforços dos Estados Unidos para promover a
inteligência artificial. Esforços nacionais para o desenvolvimento inteligente. Ver He Zhe: "Rumo à Era da Inteligência
Artificial - Discutir Simultaneamente a Direção Estratégica da Inteligência Artificial Americana e sua Referência à
Estratégia de Inteligência Artificial da China", em "Governo Eletrônico", Edição 12, 2016.
[21] Ver Instituto de Pesquisa Tencent: "Política Global de Inteligência Artificial e suas Implicações para a China",
publicado em janeiro de 2017.
[22] Já em março de 2007, a fim de evitar que humanos "abusassem" de robôs e evitassem que robôs "traíssem
humanos", o governo coreano elaborou a "Carta de Ética dos Robôs", que visa estabelecer diretrizes morais para o p
e função dos robôs.
[23] As "Três Leis da Robótica" propostas pelo romancista de ficção científica americano Asimov, ou seja, os robô
não devem machucar as pessoas, nem podem ficar parados vendo pessoas sendo feridas; robôs devem obedecer a t
as ordens humanas, mas não devem violar a primeira lei ; O robô deve proteger sua própria segurança, mas não dev
violar a primeira e a segunda leis. Essa lei é amplamente considerada a lei moral da relação homem-máquina entre
humanos e robôs inteligentes.
[24] Veja Chinanews.com, 19 de fevereiro de 2017, de acordo com um relatório intitulado "The Law of Robotics"
Comes True, e a UE irá legislar para distinguir entre robôs e pessoas físicas, de acordo com o European Times.
[Referências] {1} He Zhe. Rumo à era da inteligência artificial [J]. E-government, 2016, (12): 2-10.
{2} Wu Jun. Smart Times [M]. Pequim: CITIC Publishing Group, 2016.
{3} [Alemanha] Ulrich Beck. Risk Society [M]. He Bowen, traduzido. Nanjing: Yilin Publishing House, 2004.
{4} [德] Baker, et al. Freedom and Capitalism [M]. Lu Guolin, traduzido. Hangzhou: Zhejiang People's Publishing
House, 2001.
{5} [Alemanha] Ulrich Baker. Da Sociedade Industrial à Sociedade de Risco - Pensando sobre a Sobrevivência
Humana, Estrutura Social e Iluminismo Ecológico (Parte 1) [J]. Wang Wulong, compilado. Marxismo e realidade , 200
26-45.
{6} Cheng Boqing. Questões sociais da perspectiva da "sociedade de risco" [J]. Journal of Nanjing University
(Philosophy and Social Sciences Edition), 2007, (2): 129-135.
{7} Xue Xiaoyuan, et al. Global Risk World: Present and Future - Uma entrevista com o Professor Ulrich Beck, o
fundador da famosa teoria da sociedade de risco do sociólogo alemão [J]. Marxism and Reality, 2005, (1): 44-55.
{8} [Britânico] Anthony Giddens. Um mundo fora de controle: como a globalização remodela nossas vidas [M]. Z
Hongyun, traduzido. Nanchang: Jiangxi People’s Publishing House, 2000.
{9} Xu Doudou. Conhecimento técnico e sociedade de risco [J]. Jornal da Escola do Partido do Comitê Provincial
Fujian do Partido Comunista da China, 2005, (9): 34-37.
{10} [Alemanha] Ulrich Beck. Global Risk Society after the "911" Incident [J]. Wang Wulong, compilado. Marxism
Reality, 2004, (2): 70-83.
{11} [Alemanha] Ulrich Beck. World Risk Society [M]. Wu Yingzi, traduzido. Nanjing: Nanjing University Press, 200
{12} Tong Tianxiang. Artificial Intelligence and Social Development [J]. Studies in Dialectics of Nature, 1992,
(Suplemento): 61-66.

www.iolaw.org.cn/showNews.aspx?id=61404 11/12
23/09/2020 Arranjos institucionais e regulamentações legais na era da inteligência artificial - China Law Network

{13} [Britânico] Anthony Giddens, Christopher Pearson. Modernidade — Uma Entrevista com Giddens [M]. Yin
Hongyi, traduzido. Pequim: Xinhua Publishing House, 2001.
{14} Yang Chunfu. Legal Understanding of Social Risk [J]. Legal System and Social Development, 2011, (6): 106-1
{15} Du Yanyong. On the Rights of Robots [J]. Philosophical Trends, 2015, (8): 83-89.
{16} Liang Huixing. From Modern Civil Law to Modern Civil Law [J]. Chinese and Foreign Law Science, 1997, (2): 1
{17} [Japão] Kitagawa Zentaro. Sistema de Direito Civil Japonês [M]. Li Yiduo, et al. Pequim: Science Press, 1995.
{18} Tan Qiping. Exploration of "Civil Legal Person" [M]. Beijing: Law Press, 2009.
{19} Yu Xingzhong. Quando a lei encontra a inteligência artificial [N]. Legal Daily, 28/03/2016.
{20} Yang Yanchao. O robô está aqui, a lei está pronta? [N]. The Procuratorial Times, 2016-06-17.
{21} Xiao Youdan. Os robôs precisam ser "obedientes às leis"? [N]. Diário do Povo, 21/07/2014.
{22} Yang Lixin. "A Lei de Responsabilidade Civil da República Popular da China" [M]. Pequim: Intellectual Proper
Publishing House, 2010.
{23} Xu Aiguo. British and American Tort Law [M]. Beijing: Law Press, 1999.
{24} Qi Aimin. Informações da perspectiva do direito privado [M]. Pequim: Chongqing University Press, 2012.
{25} Shen Zongling. Law · Justice · Benefits [J]. Chinese and Foreign Law Science, 1993, (5): 1-10.
{26} Wang Xuezhong. Legal Control of Technological Social Risk [J]. Technology and Law, 2008, (4): 3-6.
[Título da revista] "Legal Science" [Journal Year] 2017 [Issue Number] 5

China Law Network Últimos trabalhos Artigo teórico

Anfitriões: Instituto de Direito, Academia Chinesa de Ciências Trabalhos Membro

Sociais, Instituto de Direito Internacional coletados

prêmio honorário
do facultativo
Vídeo quente
Endereço: No. 15 Shatan North Street, distrito de Dongcheng, acadêmico
Sugestões Câmbio
Pequim seminário Educação legal
acadêmico

Copyright: Instituto de Direito, Academia Chinesa de Ciências Sociais, Instituto de Direito Internacional
Direitos autorais reservados 2017-2018 China Law Network

www.iolaw.org.cn/showNews.aspx?id=61404 12/12