Livro Eletronico IA - Final

INTELIGÊNCIA
ARTIFICIAL:
ÉTICA E
CONFIANÇA
Considerações para o Ensino Superior
Alberto Malta Junior

Inteligêcia Artificial: Ética e Confiança
2022. Office K-InTech Conhecimento. Inovação. Tecnologia.
São Paulo – SP.
Alberto Malta Junior
Material de Distribuição Gratuita.
Capa e miolo: Template Usedtotech.com
ISBN: 978-65-00-57944-4
Considerações para o Ensino Superior 2

SUMÁRIO
História..................................................................................................... 4
Terminologias ........................................................................................ 7
Aplicações da IA ...................................................................................10
IA no Ensino Superior..........................................................................12
Confiança na IA .....................................................................................16
Riscos...................................................................................................... 20
Uso Responsável da IA....................................................................... 25
Ética e IA .................................................................................................31
Regulação da IA no Brasil ................................................................. 33
Referências ............................................................................................ 36

HISTÓRIA
A inteligência artificial (IA) é estudada há décadas e ainda é um dos
assuntos mais esquivos da ciência da computação. Isso em parte devido ao
quão grande e nebuloso é o assunto. A IA varia de máquinas realmente

capazes de pensar para pesquisar algoritmos usados para jogar jogos de
tabuleiro. Possui aplicativos em quase todos os sentidos que usamos
computadores na sociedade.1
Em sua forma mais simples, a inteligência artificial é um campo que
combina ciência da computação e conjuntos de dados robustos para permitir
a resolução de problemas. Os sistemas especialistas, uma aplicação inicial
bem-sucedida da IA, visavam copiar o processo de tomada de decisão de um
ser humano. Nos primeiros dias, era demorado extrair e codificar o

conhecimento humano.2

A IA hoje inclui os subcampos de aprendizado de máquina e
aprendizado profundo, que são frequentemente mencionados em conjunto
com a inteligência artificial. Essas disciplinas são compostas por algoritmos

de IA que normalmente fazem previsões ou classificações com base em
dados de entrada. O aprendizado de máquina melhorou a qualidade de
alguns sistemas especialistas e tornou mais fácil criá-los.2
Hoje, a IA desempenha um papel muitas vezes invisível na vida
cotidiana, alimentando mecanismos de pesquisa, recomendações de
produtos e sistemas de reconhecimento de fala.
De maneira bem resumida podemos classificar alguns eventos da
história da IA usando uma linha do tempo proposta pela IBM:2
1950: Alan Turing publica Computing Machinery and Intelligence. No

artigo, Turing - famoso por ajudar a decifrar o código Enigma dos
nazistas durante a Segunda Guerra Mundial - propõe responder à
pergunta 'as máquinas podem pensar?' e introduz o Teste de Turing
para determinar se um computador pode demonstrar a mesma
inteligência (ou os resultados da mesma inteligência) que um humano.
1956: John McCarthy cunha o termo 'inteligência artificial' na primeira

conferência de IA no Dartmouth College. Posteriormente, Allen Newell,
JC Shaw e Herbert Simon criam o Logic Theorist, o primeiro programa
de software de IA em execução.
1967: Frank Rosenblatt constrói o Mark 1 Perceptron, o primeiro

computador baseado em uma rede neural que “aprendeu” por tentativa

e erro. Em seguida, Marvin Minsky e Seymour Papert publicam um livro

intitulado Perceptrons, que se torna o trabalho de referência em redes
neurais e, pelo menos por um tempo, um argumento contra futuros
projetos de pesquisa de redes neurais.
1973: A linguagem de programação PROLOG é lançada, baseada em

uma técnica de prova de teoremas chamada resolução. O PROLOG
permite que os pesquisadores encapsulem e consultem logicamente o
conhecimento e se tornem populares na comunidade de IA.
Década de 1980: As redes neurais, que usam um algoritmo de

retropropagação para treinar a si mesmas, tornam-se amplamente
utilizadas em aplicações de IA.
1997: Deep Blue da IBM vence o então campeão mundial Garry

Kasparov em uma partida de xadrez (e revanche).
2011: IBM Watson vence os campeões Ken Jennings e Brad Rutter no

Jeopardy!
2015: O supercomputador Minwa do Baidu usa um tipo especial de rede

neural profunda chamada rede neural convolucional para identificar e
categorizar imagens com uma taxa de precisão mais alta do que a
média humana.
2016: O programa AlphaGo da DeepMind, alimentado por uma rede

neural profunda, vence Lee Sodol, o jogador campeão mundial de Go,
em uma partida de cinco jogos. A vitória é significativa, dado o grande
número de movimentos possíveis à medida que o jogo avança (mais de
14,5 trilhões após apenas quatro movimentos!). O Google comprou a
DeepMind por US$ 400 milhões em 2014.

TERMINOLOGIAS
Há muitos conceitos estranhos na área de IA. Seguem alguns para
você ir conhecendo:
Inteligência artificial (IA): é a ciência e a engenharia de fazer máquinas

inteligentes, especialmente programas de computador inteligentes.2
IA fraca: é a IA treinada para realizar tarefas específicas. A IA fraca impulsiona

a maior parte da IA que nos cerca hoje. Na língua inglesa também é chamada
de Narrow IA, porque não é bem fraca como a terminologia refere. Esse tipo
de IA alimenta aplicativos poderosos, como Siri da Apple, Alexa da Amazon,
IBM Watson e veículos autônomos.2
IA forte: é composta de Inteligência Geral Artificial (AGI) e Super Inteligência

Artificial (ASI). A Inteligência Geral Artificial (AGI é uma forma teórica de IA
onde uma máquina teria uma inteligência igual à dos humanos; teria uma
consciência autoconsciente que tem a capacidade de resolver problemas,

aprender e planejar o futuro. A Super Inteligência Artificial (ASI) superaria a

inteligência e a capacidade do cérebro humano. Esse é um tipo que não
possui exemplos práticos.2
Deep learning: é um ramo do aprendizado de máquina que tenta modelar

abstrações de alto nível de dados usando várias camadas de neurônios que
consistem em estruturas complexas ou transformações não-liners.6 O
aprendizado profundo (como alguns aprendizados de máquina) usa redes
neurais. O “profundo” em um algoritmo de aprendizado profundo refere-se
a uma rede neural com mais de três camadas, incluindo as camadas de
entrada e saída.2
Machine learning (ML) ou Aprendizado de máquina: é um subconjunto

da inteligência artificial (IA), se concentra na criação de sistemas que
aprendem por meio de dados com o objetivo de automatizar e acelerar o
tempo de decisão e o tempo de retorno.3
Artificial Neural Networks (ANN) ou Redes Neurais Artificiais: são

sistemas que aprendem com suas experiências, fazendo inferências com base
no aprendizado anterior e tomando decisões, de uma maneira semelhante
às pessoas.4,5
Deep learning (2): no ensino superior o termo é usado para significar

competências cognitivas e emocionais de ordem superior que podem
construir o caráter de um aluno como um pensador e executor eficazes.7
Chatbot: um programa de computador projetado para simular a conversa

com usuários humanos, especialmente pela Internet. É um programa de
computador, que responde como uma entidade inteligente quando

conversou através de texto ou voz e entende uma ou mais idiomas humanos

pelo processamento de linguagem natural. 8
Data center: central formada por equipamentos usados para processamento

de dados (servidores), armazenamento de dados e comunicação.
Coletivamente esses equipamentos processam, armazenam e transmitem
informações digitais.9
Processamento de linguagem natural: processo que tem como meta

produzir ferramentas que compreendam a língua, ou seja, habilitar um
dispositivo eletrônico a processar a mesma linguagem que os humanos usam
no dia a dia.10
Assistente virtual: programas de computador que foram projetados para

interagir com pessoas em linguagem natural e são comandados por voz ou
texto.11 Também podem responder por voz ou texto como a Siri, Alexa,
Cortana e Google Assistant.
Inteligência adaptativa: estratégia usada por aplicativos para ajudar as

empresas a tomar melhores decisões de negócios combinando o poder dos
dados internos e externos em tempo real com a infraestrutura de ciência das
decisões e de computação altamente escalonável.3
Algoritmo: conjunto de de comandos pré-ordenados, expresso em uma

linguagem matemática.12

APLICAÇÕES DA IA
Os sistemas de inteligência artificial estão cada vez mais presentes
na rotina das pessoas, seja em aplicativos de atendimento, guiando carros
ou atuando como assistentes virtuais.

Algumas dessas aplicações são:
Reconhecimento de fala: também é conhecido como reconhecimento

automático de fala (ASR), reconhecimento de fala por computador ou fala
para texto. Esse recurso utiliza processamento de linguagem natural para
traduzir a fala humana em um formato escrito. Muitos dispositivos móveis

incorporam o reconhecimento de fala em seus sistemas para realizar
pesquisas por voz – por exemplo, Siri – ou melhorar a acessibilidade para
mensagens de texto.2

Atendimento ao cliente: os chatbots
online estão substituindo os agentes
humanos ao longo da jornada do cliente,

mudando a maneira como pensamos
sobre o envolvimento do cliente em sites
e plataformas de mídia social. Os chatbots
respondem a perguntas frequentes sobre
tópicos como envio, ou fornecem
conselhos personalizados. 2
Visão computacional: permite que os
computadores obtenham informações significativas de imagens digitais,
vídeos e outras entradas visuais e, em seguida, tomem as medidas
apropriadas. Ela possui aplicações em marcação de fotos em mídias sociais,
imagens de radiologia na área da saúde e carros autônomos na indústria
automotiva. 2
Mecanismos de recomendação: usando dados de comportamentos
anteriores, os algoritmos de IA podem ajudar a descobrir tendências de
dados que podem ser usadas para desenvolver estratégias de estudo. Os

alunos podem receber recomendações do que estudar baseado em
resultados de seus testes. 2

IA NO ENSINO SUPERIOR
A IA é uma obrigatoriedade estratégica para qualquer empresa que
queira obter maior eficiência, novas oportunidades de receita e aumentar a

fidelidade do cliente. Está rapidamente se tornando uma vantagem
competitiva para muitas organizações.3 Se isso já é verdade nas empresas,

então o sistema de ensino precisa se adaptar rápido para trazer a IA para a
cultura de formação. O ensino superior é um locus muito evidente para
aplicação dessa tecnologia.
Há vários referenciais para considerarmos a utilização da IA no

ensino superior. O primeiro deles é a Agenda 2030 e o 4 o Objetivo de
Desenvolvimento Sustentável que defende assegurar a educação inclusiva e

equitativa e de qualidade, e promover oportunidades de aprendizagem ao
longo da vida para todas e todos.13
O Consenso de Beijing14 criado em 2019 pela UNESCO recomendou
implementar as seguintes ações em resposta às oportunidades e desafios
relacionados à educação apresentados pela IA:
1. Planejar a IA nas políticas educacionais;
2. Usar a IA para gerenciamento e entrega da educação;
3. Aplicar a IA para capacitar professores e o ensino;

4. Usar a IA para aprendizagem e avaliação da aprendizagem;
5. Desenvolver valores e habilidades para a vida e para o trabalho na
era da IA;
6. Oferecer oportunidades de aprendizagem ao longo da vida para

todos com a IA;
7. Promover o uso equitativo e inclusivo da IA na educação;
8. Promover a igualdade de gênero com a IA;
9. Garantir o uso ético, transparente e auditável dos dados e algoritmos

educacionais;
10. Monitoramento, avaliação e pesquisa.
Há várias utilidades da IA no ensino superior:

Aprendizagem personalizada: abordagem educacional que visa
personalizar o aprendizado com base nas necessidades e pontos fortes dos
alunos. Os aplicativos de IA podem identificar materiais e abordagens

pedagógicas adaptadas ao nível de estudantes individuais e fazer previsões,
recomendações e decisões sobre as próximas etapas do processo de
aprendizagem com base em dados de estudantes individuais. 15
Apoiar os alunos com necessidades
especiais com IA: conforme recomenda o

ODS 4, a IA tem a capacidade de ajudar os
alunos com deficiência, por exemplo,
deficiências visuais ou auditivas ou
deficiências em habilidades sociais (idioma e

comunicação), para se beneficiar da
educação.15
Apoiar a aprendizagem de idiomas: recursos

de IA, como reconhecimento e análise de fala,
correção de pronúncia, ajuda a complementar o trabalho dos professores. 15
Aprendizagem on-line e combinada: os chatbots movidos por agentes de
IA fornecem aos alunos e professores análises sobre seu aprendizado. 15

Dinâmica da sala de aula: diferentes tipos de sensores e câmeras analisam
a dinâmica da sala de aula e o envolvimento dos alunos para fornecer aos
professores feedback de interesse para o processo de ensino e

aprendizagem.15
Gerenciamento administrativo dos estabelecimentos de ensino: por
meio de modelos preditivos e de diagnóstico.15
Redução de abandono do curso: a partir de pontos de interação da

plataforma de aprendizagem, a IA pode detectar maior ou menor interesse
pelas atividades vinculadas à aprendizagem.15
Desenvolvimento de habilidades sociais: as soft skills são alvo de muita
ocupação do mundo do trabalho. A IA pode ajudar o professor, fazendo

atividades repetitivas e deixando o docente para estar mais próximo dos
estudantes para o desenvolvimento dessas habilidades. 15

CONFIANÇA NA IA
Documento da OECD15 destaca que os sistemas de IA devem inspirar
confiança nas partes interessadas.
A confiança na IA tem várias dimensões. Na educação, a IA pode ser

considerada confiável quando faz adequadamente o que deveria fazer, mas
também quando se pode confiar que os seres humanos o usarão de maneira
justa e apropriada. Os seres humanos devem ter o direito de serem

informados de que estão interagindo com um sistema de IA, e as
capacidades e limitações devem ser comunicadas aos profissionais de IA ou

usuários finais.
Nesse contexto, países da OECD criaram 20 princípios para nortear

o uso da IA.

Quadro 1 - Princípios de inteligência artificial produzidos pelo G20 sob a alçada

da OECD, 2020.
Crescimento inclusivo, desenvolvimento sustentável e bem-estar
As partes interessadas devem se envolver proativamente em construções

responsáveis de IA confiável na busca de resultados benéficos para as pessoas e
o planeta. Devem também estar compromissadas em aumentar as capacidades
humanas e aumentar a criatividade, avançar a inclusão de populações sub-
representadas, reduzir desigualdades econômicas, sociais, de gêneros e outras,
proteger ambientes naturais, assim, revigorando o crescimento inclusivo, o
desenvolvimento sustentável e o bem-estar.
Valores e justiça centrados no homem
a) Os atores da IA devem respeitar o estado de direito, os direitos humanos e os

valores democráticos, ao longo do ciclo de vida do sistema de IA. Isso inclui
liberdade, dignidade e autonomia, privacidade e proteção de dados, não
discriminação e igualdade, diversidade, justiça, justiça social e direitos
trabalhistas reconhecidos internacionalmente.
b) Para esse fim, os atores da IA devem implementar mecanismos e

salvaguardas, como capacidade de determinação humana, que são apropriados
para o contexto e consistentes com o estado da arte.
Transparência e explicação
Os atores da IA devem se comprometer com a transparência e a divulgação

responsável em relação aos sistemas de IA. Para esse fim, eles devem fornecer
informações significativas, apropriadas ao contexto e consistente com o estado
da arte:
a) promover um entendimento geral dos sistemas de IA;

b) conscientizar as partes interessadas de suas interações com os sistemas de IA,

inclusive no local de trabalho;
c) para permitir que as pessoas afetadas por um sistema de IA entendam o

resultado; e,
d) Para permitir que aqueles afetados adversamente por um sistema de IA

contestem seu resultado com base em informações simples e fáceis de entender
sobre os fatores e a lógica que serviu de base para a previsão, recomendação ou
decisão.
Robustez, segurança e confiança
a) Os sistemas de IA devem ser robustos, seguros e confiáveis durante todo o

seu ciclo de vida, para que, em condições de uso normal, uso previsível ou uso
indevido ou outras condições adversas, funcionem adequadamente e não
representem risco de segurança irracional.
b) Para esse fim, os atores da IA devem garantir a rastreabilidade, inclusive em

relação a conjuntos de dados, processos e decisões tomadas durante o ciclo de
vida do sistema de IA, para permitir a análise dos resultados e respostas do
sistema de IA à investigação, apropriada ao contexto e consistente com o estado
de arte.
c) Os atores da IA devem, com base em seus papéis, o contexto e sua capacidade

de agir, aplicar uma abordagem sistemática de gerenciamento de riscos a cada
fase do ciclo de vida do sistema de IA em uma base contínua para abordar riscos
relacionados aos sistemas de IA incluindo privacidade, segurança digital,
segurança e preconceitos.
Responsabilidade (Accountability)

Os atores da IA devem ser responsáveis pelo funcionamento adequado dos

sistemas de IA e pelo respeito dos princípios acima, com base em seus papéis,
no contexto e consistente com o estado da arte.
O G20 também tomou nota de cinco recomendações para políticas nacionais e

cooperação internacional para a IA confiável, incluindo o investimento em
pesquisa e desenvolvimento de IA promovendo um ecossistema digital para a
IA, moldando um ambiente de possibilidade de IA, construindo capacidade
humana e preparação para o mercado de trabalho Transformação e cooperação
internacional para IA confiável.
"Esta tradução não foi criada pela OCDE e não deve ser considerada uma
tradução oficial da OCDE. A OCDE não será responsável por qualquer conteúdo
ou erro nesta tradução."

RISCOS
Apesar dos grandes benefícios e oportunidades, a IA também possui
problemas, materializados em uma só palavra: viés! Esse risco vem sendo

discutido por várias entidades e pesquisadores ao redor do planeta e requer
atenção. Nesse caso de viés, argumenta-se a necessidade de ser diligente em
abordar proativamente os fatores que contribuem para a situação.
O viés nos algoritmos pode emanar de dados de treinamento não
representativos ou incompletos ou da dependência de informações
defeituosas que refletem desigualdades históricas. Se não forem
controlados, algoritmos tendenciosos podem levar a decisões que podem
ter um impacto coletivo e díspar em certos grupos de pessoas, mesmo sem
a intenção do programador de discriminar.16

O artigo de Nicol e colaboradores16 dá alguns exemplos:
A varejista on-line Amazon, cuja força de trabalho

global é 60% masculina e onde os homens ocupam 74% dos
cargos gerenciais da empresa, recentemente interrompeu o
uso de um algoritmo de recrutamento depois de descobrir o
viés de gênero. Os dados que os engenheiros usaram para
criar o algoritmo foram derivados dos currículos enviados à
Amazon durante um período de 10 anos, que eram
predominantemente de homens brancos. O algoritmo foi
ensinado a reconhecer padrões de palavras nos currículos,
em vez de conjuntos de habilidades relevantes, e esses dados
foram comparados com o departamento de engenharia
predominantemente masculino da empresa para
determinar o ajuste de um candidato. Como resultado, o
software de IA penalizou qualquer currículo que contivesse
a palavra "mulheres" no texto e rebaixou os currículos de
mulheres que frequentaram faculdades femininas,
resultando em viés de gênero.16
No exemplo acima temos um viés de gênero; no exemplo a seguir

outro exemplo, só que desta vez envolvendo reconhecimento facial:
A pesquisadora do MIT Joy Buolamwini descobriu

que os algoritmos que alimentam três sistemas de software
de reconhecimento facial comercialmente disponíveis não
estavam conseguindo reconhecer peles mais
escuras. Geralmente, estima-se que a maioria dos conjuntos
de dados de treinamento de reconhecimento facial seja mais
de 75% masculina e mais de 80% branca. Quando a pessoa
na foto era um homem branco, o software foi preciso 99%

do tempo em identificar a pessoa como do sexo masculino.

De acordo com a pesquisa de Buolamwini, as taxas de erro
do produto para os três produtos foram inferiores a um por
cento no geral, mas aumentaram para mais de 20 por cento
em um produto e 34 por cento nos outros dois na
identificação de mulheres de pele mais escura como
mulheres. Em resposta às descobertas da análise facial da
Buolamwini, tanto a IBM quanto a Microsoft se
comprometeram a melhorar a precisão de seu software de
reconhecimento para rostos de pele mais escura.16
Na decisão de criar e trazer algoritmos para o mercado, a ética dos
resultados prováveis deve ser considerada – especialmente em áreas onde
governos, sociedade civil ou formuladores de políticas veem potencial para
danos e onde há o risco de perpetuar preconceitos existentes ou tornar os
grupos protegidos mais vulneráveis às desigualdades sociais existentes. É por
isso que é importante que os operadores de algoritmos e desenvolvedores
estejam sempre se perguntando: deixaremos alguns grupos de pessoas em
pior situação como resultado do design do algoritmo ou de suas
consequências não intencionais?16
Nestes exemplos, a decisão gera "viés", prejudicando determinados
indivíduos dentro de um grupo e onde não há diferença relevante entre os

grupos que justifique tais danos. Daí a necessidade de criar mecanismos de
mitigação e uma proposta é a criação de avaliações de impacto algorítmicas
(AIAs), que avaliam os potenciais efeitos prejudiciais de um algoritmo da

mesma maneira que as declarações de impacto ambiental, de privacidade,
de dados ou de direitos humanos.16
"Quando os algoritmos são projetados de forma responsável, eles
podem evitar as consequências infelizes da discriminação sistêmica
amplificada e das aplicações antiéticas."16
Wood alerta que o ensino superior também precisa pensar sobre o
risco de desigualdades estruturais que podem ser causadas pelos algoritmos.

Problema que pode acontecer é o algoritmo colocar um aluno em uma faixa
de aprendizado que não se alinha com suas necessidades de
aprendizagem.17 Essa autora traz a observação de que essa tecnologia pode
contribuir para amplificar algum preconceito existente, mesmo que não se

tenha a intenção.
Ela também oferece alguns exemplos em seu artigo:
Em 2020, o departamento de ciência da

computação da Universidade do Texas em Austin
abandonou um programa de aprendizado de máquina
usado para avaliar os candidatos ao seu programa de
doutorado. O banco de dados do programa usou
decisões de admissão passadas em seu algoritmo, que
os críticos alegaram que reduziam as oportunidades
para estudantes de diversas origens.

O site de notícias de tecnologia The Markup

investigou o software de aconselhamento Navigate da
empresa de consultoria EAB, que é amplamente
utilizado por grandes universidades públicas. Eles
descobriram que os estudantes negros foram
identificados como "alto risco" de não se formarem em
seu curso selecionado em quatro vezes a taxa de
colegas brancos.
Diante dos riscos apresentados, emerge uma necessidade primária

no manejo da IA: o cuidado com a ética!

USO RESPONSÁVEL DA IA
O potencial transformador e as aplicações de IA estão se
disseminando rápido e estão surgindo os riscos da adoção da tecnologia,

conforme supramencionado.18
Os sistemas de IA são complexos e operam com entradas e

operações envolvendo dados e uma lógica de análise que não são visíveis
para o usuário ou outra parte interessada. 18
Além disso, agregam aprendizado de máquina voltados para
determinados negócios e/ou avaliações de processos que podem causar
danos quando não devidamente implementados. Esses sistemas precisam

então de um tempo para seu desenvolvimento e adaptação para a realidade
de modo que possam ser eficientes em suas funções. 18
Por isso se fala em responsabilidade no uso da IA.

O Fórum Econômico Global define IA responsável como uma prática
de projetar, desenvolver e implantar IA com boas intenções e impactar a
sociedade de forma justa. Não é apenas a coisa moralmente certa a se fazer,
mas também de gerar benefícios tangíveis acelerando a inovação e ajudando
as organizações a fazer a transição para o uso da IA para se tornarem mais
competitivas. 18
O Fórum tem uma iniciativa chamada Global AI Action Alliance
(GAIA)que tem o objetivo de contribuir com o uso de IA fundamentado em
inclusão, transparência e confiança. Essa aliança já
conta com a participação de mais de 100
empresas, governos, organizações da
sociedade civil e instituições acadêmicas. 18
Dessa maneira, a abordagem da GAIA é
uma colaboração multissetorial projetada
para acelerar o desenvolvimento e a adoção
de tais ferramentas globalmente e nos
principais setores da indústria. Essa aliança está

centrada em algumas áreas que incluem: 18

• Educar líderes do governo e do setor sobre riscos, oportunidades e
melhores práticas de IA;
• Promover a aprendizagem entre pares internacional entre

legisladores focados em IA;
• Impulsionando o design e o uso responsável de produtos em
organizações orientadas por IA;
• Desenvolver uma marca de certificação para sistemas de IA
responsáveis;
• Identificando e reduzindo o viés em sistemas de IA;
• Aumentar a inclusão no ecossistema de IA e expandir os benefícios
da IA para grupos carentes;
• Desbloqueando o acesso à justiça por meio da aplicação de IA em
sistemas judiciais;
• Aproveitando a IA responsável para acelerar os Objetivos de
Desenvolvimento Sustentável;
• Preparando os cidadãos para o futuro da IA e capacitando-os para
ajudar a moldá-lo.
Existem outros tópicos sobre IA que o Fórum agrega em uma

comunidade de discussão. Conheça!

Sobre responsabilidade, mas no contexto do ensino superior,
Wood17 traz algumas recomendações para serem utilizadas de modo a
garantir benefícios:
1. Aprovação de uma lei sobre Responsabilidade Algorítmica;
2. A inclusão de identificadores sociais nos dados e, em seguida, a
melhoria do design e do uso de algoritmos para confrontar
diretamente o viés;
3. Instituições de ensino superior devem garantir a privacidade dos

dados de seus alunos e tomar medidas para evitar a discriminação
não intencional decorrente de algoritmos;
4. Os seres humanos devem fazer parte do processo de tomada de
decisão ao lado de algoritmos alimentados por IA e que as

instituições devem auditar rotineiramente algoritmos quanto a
vieses;
5. Diversificar o grupo de pessoas envolvidas na criação dos algoritmos
para apoiar a responsabilidade algorítmica.
Nicol e colaboradores16 mencionam ainda uma iniciativa para
agregar valor à implementação de algoritmos. São as práticas de regulação

que defendem alguns pressupostos:

1. Os operadores de algoritmos devem auditar regularmente o viés;
2. Os operadores de algoritmos devem confiar em equipes de trabalho
multifuncionais e experiência;
3. Aumentar o envolvimento humano no projeto e monitoramento de
algoritmos.
A OECD também faz recomendações sobre o uso responsável da IA.
Há cinco princípios
complementares baseados
em valores para a gestão
responsável da IA fiável e
apela aos intervenientes da
IA para os promoverem e
implementarem:19
1. Crescimento
inclusivo,
desenvolvimento
sustentável e bem-
estar;
2. Valores centrados
no ser humano e
equidade;
3. Transparência e explicabilidade;

4. Robustez, segurança e proteção;
5. Prestação de contas.
Seguem também cinco recomendações aos formuladores de

políticas relativas às políticas nacionais e à cooperação internacional
para uma IA confiável, a saber: 19
1. Investir em pesquisa e desenvolvimento de IA;
2. Promover um ecossistema digital para a IA;
3. Moldar um ambiente político propício para a IA;
4. Reforçar a capacidade humana e preparar a transformação
do mercado de trabalho;
5. Cooperação internacional para IA confiável.

ÉTICA E IA
A recomendação da UNESCO é que os Estados-membros possam
incentivar iniciativas de pesquisa sobre o uso ético e responsável das

tecnologias de IA no ensino, formação de professores e ensino eletrônico (e-
learning). Isso deve ser realizado como um mecanismo para favorecer as
oportunidades e reduzir os desafios e riscos envolvidos nessa área.20
As iniciativas devem ser acompanhadas por uma avaliação adequada
da qualidade da educação e do impacto do uso das tecnologias de IA em
estudantes e professores.20

É preciso que existam
garantias no sentido das
tecnologias de IA contribuírem
para o empoderamento dos
estudantes e professores e
aprimoramento de sua
experiência. A tecnologia
precisa ser colocada de modo a
favorecer os aspectos
relacionais e sociais e o valor das
formas tradicionais de educação
são essenciais nas relações
professor–estudante e
estudante–estudante.20
Os sistemas de IA utilizados na aprendizagem devem estar sujeitos
a requisitos rigorosos quando se trata de acompanhamento, avaliação de
habilidades ou previsão dos comportamentos dos estudantes. 20

REGULAÇÃO DA IA NO
BRASIL
O Brasil tem se mobilizado para regulamentar a IA. No corpo do PL
21/20 há uma proposta para estabelecer fundamentos, princípios e diretrizes
para o desenvolvimento e a aplicação da inteligência artificial.21
Antes de entrar no mérito da IA em si, é preciso que os sistemas
tenham respostas positivas para as seguintes questões: 21
1. Como o sistema garante a segurança, a privacidade e a proteção de
dados pessoais, nos termos da Lei 13.709/18?
2. O sistema está harmonizado com o marco civil da internet, com o

Sistema Brasileiro de Defesa da Concorrência (Lei 12.529/11), com o

Código de Defesa do Consumidor e com a Lei de Acesso à
Informação?
3. Como trata a segurança da informação?

O PL 21/20 defende os seguintes princípios para o uso de inteligência
artificial no Brasil:21
I - finalidade: uso da inteligência artificial para buscar resultados benéficos
para as pessoas e o planeta, com o fim de aumentar as capacidades humanas,
reduzir as desigualdades sociais e promover o desenvolvimento sustentável;
II - centralidade no ser humano: respeito à dignidade humana, à
privacidade e à proteção de dados pessoais e aos direitos trabalhistas;
III - não discriminação: impossibilidade de uso dos sistemas para fins
discriminatórios, ilícitos ou abusivos;
IV - transparência e explicabilidade: garantia de transparência sobre o uso
e funcionamento dos sistemas de inteligência artificial e de divulgação
responsável do conhecimento de inteligência artificial, observados os
segredos comercial e industrial, e de conscientização das partes interessadas
sobre suas interações com os sistemas, inclusive no local de trabalho;
V - segurança: utilização de medidas técnicas e administrativas, compatíveis
com os padrões internacionais, aptas a permitir a funcionalidade e o
gerenciamento de riscos dos sistemas de inteligência artificial e a garantir a

rastreabilidade dos processos e decisões tomadas durante o ciclo de vida do
sistema; e

VI - responsabilização e prestação de contas: demonstração, pelos
agentes de inteligência artificial, do cumprimento das normas de inteligência
artificial e da adoção de medidas eficazes para o bom funcionamento dos

sistemas, observadas suas funções.

REFERÊNCIAS
1. Smith, C. et al. The History of Artificial Intelligence. Disponível na url:
https://courses.cs.washington.edu/courses/csep590/06au/projects/history-ai.pdf.
Acesso em 10/11/2022.
2. IBM. Artificial Intelligence. Disponível na url:

https://www.ibm.com/cloud/learn/what-is-artificial-intelligence. Acesso em
13/11/2022.
3. ORACLE. O que é IA? Saiba mais sobre inteligência artificial. Disponível na url:
https://www.oracle.com/br/artificial-intelligence/what-is-ai/. Acesso em 14/11/2022.
4. Öztemel, E. (2012). Yapay Sinir Ağları [Artificial Neural Networks]. İstanbul: Papatya
Yayıncılık.
5. Aybek, HSY; Okur, MR. Predicting Achievement with Artificial Neural Networks: The
Case of Anadolu University Open Education System. International Journal of
Assessment Tools in Education 2018, Vol. 5, No. 3, 474–490.
6. Xing Hao, Guigang Zhang; Shang Ma.(2016). Deep Learning. International Journal
of Semantic ComputingVol. 10, No. 03, pp. 417-439.
7. Jamil, MG; Bhuiyan Z. Deep learning elements in maritime simulation programmes:

a pedagogical exploration of learner experiences. Int J Educ Technol High Educ (2021)
18:18. https://doi.org/10.1186/s41239-021-00255-0
8. Adamopoulou, E., Moussiades, L. (2020). An Overview of Chatbot Technology. In:

Maglogiannis, I., Iliadis, L., Pimenidis, E. (eds) Artificial Intelligence Applications and

Innovations. AIAI 2020. IFIP Advances in Information and Communication Technology,

vol 584. Springer, Cham. https://doi.org/10.1007/978-3-030-49186-4_31.
9. GENG, H (org). Data Center Handbook. New Jersey: Wiley & Sons, 2015. ISBN: 978-
1-118-43663-9.
10. Sabaini, P.A. et al. Proposta de assistente virtual inteligente para estudantes
dasinstituições federais de ensino profissional. Disponível na url:
https://sol.sbc.org.br/index.php/encompif/article/view/11069/10940 . Acesso em
14/11/2022.
11. Cruz, L.T.; Alencar, AJ; Schmitz, E.A. Assistentes virtuais inteligentes e chatbots. Um
guia teórico sobre como criar experiências e recordações encantadoras para os
clientes da sua empresa. Rio de Janeiro: Brasport, 2018.
12. ARAÚJO, Valter Shuenquener de; ZULLO, Bruno Almeida;

TORRES, Maurílio. Big Data, algoritmos e inteligência artificial na Administração
Pública: reflexões para a sua utilização em um ambiente democrático. A&C – Revista
de Direito Administrativo & Constitucional, Belo Horizonte, ano 20, n. 80, p. 241-261,
abr./jun. 2020. DOI: 10.21056/aec.v20i80.1219.
13. NAÇÕES UNIDAS BRASIL. Objetivos de Desenvolvimento Sustentável. Disponível

na url: https://brasil.un.org/pt-br/sdgs. Acesso em 17/11/2022.
14. UNESCO. Consenso de Beijing sobre a inteligência artificial e a educação.

Documento final da Conferência Internacional sobre Inteligência Artificial e Educação.
“Planejando a educação na era da IA: liderar o avanço” 16-18 de maio de 2019, Beijing,
República Popular da China. Paris: UNESCO, 2019.
15. Vincent-Lancrin, S. and R. van der Vlies (2020), "Trustworthy artificial intelligence (AI) in
education: Promises and challenges", OECD Education Working Papers, No. 218, OECD
Publishing, Paris, https://doi.org/10.1787/a6c90fa9-en.

16. Nicol Turner Lee, Paul Resnick e Genie Barton. Algorithmic bias detection and
mitigation: Best practices and policies to reduce consumer harms Disponível na url:
https://www.brookings.edu/research/algorithmic-bias-detection-and-mitigation-
best-practices-and-policies-to-reduce-consumer-harms/. Acesso em: 18/11/2022.
17. Wood, Maria. What are the risks of algorithmic bias in higher education?
Disponível na url: What Are the Risks of Algorithmic Bias in Higher Education? - Every
Learner Everywhere. Acesso em: 18/11/2022.
18. WORLD ECONOMIC FORUM. Our alliance is accelerating responsible AI.

Disponível em: https://www.weforum.org/impact/a-new-alliance-is-ensuring-
responsible-global-ai/. Acesso em: 21/11/2022.
19. OECD. Recommendation of the Council on Artificial Intelligence. Disponível na url:

https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449. Acesso em:
21/11/2022.
20. UNESCO: Recomendação sobre a Ética da lnteligência Artificial. Paris: UNESCO,

2022. 45p.
21. CÂMARA DOS DEPUTADOS. PL 21/20. Estabelece fundamentos, princípios e

diretrizes para o desenvolvimento e a aplicação da inteligência artificial no Brasil; e
dá outras providências. Disponível na url: https://www.camara.leg.br/propostas-
legislativas/2236340. Acesso em: 18/11/2022.
Créditos das imagens

1. Image by Gerd Altmann from Pixabay
3. Image by Simona from Pixabay
7. Image by Gerhard Janson from Pixabay


10. Foto de Artem Podrez: https://www.pexels.com/pt-br/foto/acao-atividade-
movimento-cabelo-trancado-7773879/
11. Foto de Oladimeji Ajegbile: https://www.pexels.com/pt-br/foto/um-homem-
lendo-interior-2325729/
12. Foto de cottonbro studio: https://www.pexels.com/pt-br/foto/mulher-com-
sueter-marrom-sentada-ao-lado-da-mulher-com-camisa-rosa-de-manga-
comprida-6209568/
13. Foto de Edmond Dantès: https://www.pexels.com/pt-br/foto/barbudo-barbado-
ocupado-ativo-4339798/
14. Foto de Vlada Karpovich: https://www.pexels.com/pt-br/foto/apartamento-
descalco-pe-descalco-navegando-4050356/

Livro Eletronico IA - Final

Enviado por

Dados do documento

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Livro Eletronico IA - Final

Enviado por

Direitos autorais:

Formatos disponíveis

INTELIGÊNCIA

Alberto Malta Junior

2022. Office K-InTech Conhecimento. Inovação. Tecnologia.

São Paulo – SP.

Alberto Malta Junior

Material de Distribuição Gratuita.

Capa e miolo: Template Usedtotech.com

Considerações para o Ensino Superior 2

Uso Responsável da IA....................................................................... 25

Regulação da IA no Brasil ................................................................. 33

Considerações para o Ensino Superior 3

quão grande e nebuloso é o assunto. A IA varia de máquinas realmente

Em sua forma mais simples, a inteligência artificial é um campo que

combina ciência da computação e conjuntos de dados robustos para permitir

a resolução de problemas. Os sistemas especialistas, uma aplicação inicial

bem-sucedida da IA, visavam copiar o processo de tomada de decisão de um

ser humano. Nos primeiros dias, era demorado extrair e codificar o

Considerações para o Ensino Superior 4

A IA hoje inclui os subcampos de aprendizado de máquina e

aprendizado profundo, que são frequentemente mencionados em conjunto

com a inteligência artificial. Essas disciplinas são compostas por algoritmos

dados de entrada. O aprendizado de máquina melhorou a qualidade de

alguns sistemas especialistas e tornou mais fácil criá-los.2

Hoje, a IA desempenha um papel muitas vezes invisível na vida

cotidiana, alimentando mecanismos de pesquisa, recomendações de

produtos e sistemas de reconhecimento de fala.

De maneira bem resumida podemos classificar alguns eventos da

história da IA usando uma linha do tempo proposta pela IBM:2

1950: Alan Turing publica Computing Machinery and Intelligence. No

1956: John McCarthy cunha o termo 'inteligência artificial' na primeira

1967: Frank Rosenblatt constrói o Mark 1 Perceptron, o primeiro

Considerações para o Ensino Superior 5

e erro. Em seguida, Marvin Minsky e Seymour Papert publicam um livro

1973: A linguagem de programação PROLOG é lançada, baseada em

Década de 1980: As redes neurais, que usam um algoritmo de

1997: Deep Blue da IBM vence o então campeão mundial Garry

2011: IBM Watson vence os campeões Ken Jennings e Brad Rutter no

2015: O supercomputador Minwa do Baidu usa um tipo especial de rede

2016: O programa AlphaGo da DeepMind, alimentado por uma rede

Considerações para o Ensino Superior 6

Inteligência artificial (IA): é a ciência e a engenharia de fazer máquinas

IA fraca: é a IA treinada para realizar tarefas específicas. A IA fraca impulsiona

IA forte: é composta de Inteligência Geral Artificial (AGI) e Super Inteligência

Considerações para o Ensino Superior 7

aprender e planejar o futuro. A Super Inteligência Artificial (ASI) superaria a

Deep learning: é um ramo do aprendizado de máquina que tenta modelar

Machine learning (ML) ou Aprendizado de máquina: é um subconjunto

Artificial Neural Networks (ANN) ou Redes Neurais Artificiais: são

Deep learning (2): no ensino superior o termo é usado para significar

Chatbot: um programa de computador projetado para simular a conversa

Considerações para o Ensino Superior 8

conversou através de texto ou voz e entende uma ou mais idiomas humanos

Data center: central formada por equipamentos usados para processamento

Processamento de linguagem natural: processo que tem como meta

Assistente virtual: programas de computador que foram projetados para

Inteligência adaptativa: estratégia usada por aplicativos para ajudar as

Algoritmo: conjunto de de comandos pré-ordenados, expresso em uma

Considerações para o Ensino Superior 9

na rotina das pessoas, seja em aplicativos de atendimento, guiando carros

ou atuando como assistentes virtuais.

Reconhecimento de fala: também é conhecido como reconhecimento

para texto. Esse recurso utiliza processamento de linguagem natural para

traduzir a fala humana em um formato escrito. Muitos dispositivos móveis