Aula 02 Slides Do Professor

APRESENTAÇÃO
DE APOIO
INTELIGÊNCIA ARTIFICIAL
EM SAÚDE: APLICAÇÕES E
RESULTADOS
Luís Lamb – Aula 02
MBA em
Gestão, Inovação e Serviços em Saúde
Ementa da disciplina
O que é Inteligência Artificial e como funciona. O uso da IA para detectar doenças
precocemente e acelerar o tratamento. Melhoria no processo de triagem, identificação do grau de
risco e reorganização da fila dos pacientes. Aumento da precisão nos diagnósticos. Possibilidade
de agilizar o fluxo de trabalho e auxiliar na tomada de decisão. Otimização do armazenamento de
dados dos pacientes. Responsabilidade pelos erros e omissões.
Professores
LUÍS LAMB BRUNO HOCHHEGGER
Professor convidado Professor PUCRS
Graduado e mestre em Ciência da Computação Formado em Medicina pela UFSM (2006) e com
pela Universidade Federal do Rio Grande do Sul residência médica em radiologia pela Irmandade da
Santa Casa de Misericórdia de Porto Alegre (2009).
(UFRGS). Também, é PhD in Ciência da Computação
Pós-doutorado em Radiologia pela UFRJ. Doutor em
pela University of London e pós-doutor pelo Group of
Ciências Pneumológicas pela UFRGS, e Mestre em
Logic, Language and Computation, do King’s College
Medicina (radiologia) pela UFRJ. Atualmente é
London. Concluiu o MIT Executive Program in Professor Adjunto de Diagnóstico por Imagem da
Strategy and Innovation e o MIT Executive Program PUCRS e Coordenador Médico do Centro de Imagem
in Management and Leadership, ambos no do HSL/PUCRS e do Centro de Imagem Molecular do
Massachusetts Institute of Technology. Foi INSCER-PUCRS.
pesquisador e professor convidado em diversos
períodos no Imperial College London, King’s College
London, City University London e no ‘Abductive
Systems Group’ da University of British Columbia, no
Canadá. Além disso, foi membro do ‘Editorial Board’
do Journal of Algorithms, do Comitê Assessor de
Ciência da Computação e do Comitê de Avaliação
Trienal de Ciência da Computação da CAPES.
Atualmente, é professor titular do Departamento de
Informática Teórica e Pró-Reitor de Pesquisa da
UFRGS.
Encontros e resumo da disciplina
AULA 1 AULA 2 AULA 3
Conceitos básicos em Como a Inteligência Artificial pode A história da Radiologia e sua

Inteligência Artificial e contribuir para a pesquisa em saúde evolução ao longo dos anos.
quais são suas principais e qual é sua reprodutibilidade na
expectativas na área da saúde. indústria.
Como a ciência vem Tecnologias assistivas, a O valor dos dados e como criar
transformando o mundo e como importância da gestão, negócios em radiologia vinculados a
chegamos até a Inteligência governança e segurança de Inteligência Artificial.
Artificial. dados .
Biomarcadores, biobancos,
O que são o aprendizado de Integrando a Inteligência Artificial “Enterprise Imaging” e como a IA
máquina, aprendizado profundo e ao mercado de trabalho e os atual em diversas especialidades
a singularidade? principais riscos e barreiras dessa médicas.
tecnologia.
LUÍS LAMB LUÍS LAMB BRUNO HOCHHEGGER

Professor convidado Professor convidado Professor PUCRS
Relembrando…
1950
1936
A.M. Turing:
1912-54
NÓS FOMOS AVISADOS!
O grande debate da I.A.:
Aprendizado e Raciocínio
23 dec. 2019
“thinking machines”
Daniel
Kahneman
Professor Christopher Manning, Set. 2020
“A inteligência pode ser definida como a capacidade de aprender e executar técnicas

adequadas para resolver problemas e atingir objetivos, apropriados ao contexto em um
mundo incerto e sempre variável. Um robô de fábrica totalmente pré-programado é
flexível, preciso e consistente, mas não inteligente.”
“Artificial Intelligence (AI), um termo cunhado pelo professor emérito de Stanford John
McCarthy em 1955, foi definido por ele como “a ciência e a engenharia de fazer máquinas
inteligentes”.
“Muitas pesquisas mostram que os humanos programam as máquinas para se

comportarem de maneira inteligente, como jogar xadrez, mas, hoje, enfatizamos as
máquinas que podem aprender, pelo menos um pouco como os seres humanos.”
Professor Christopher Manning, Set. 2020
O aprendizado de máquina (ML) é a parte da IA que estuda como os agentes de

computador podem melhorar sua percepção, conhecimento, pensamento ou
ações com base em experiências ou dados. Para isso, ML se baseia na ciência da
computação, estatística, psicologia, neurociência, economia e teoria do controle.
IA na Saúde: Pesquisa Básica
Inferência causal
• Inferência causal: ampliar aprendizado de
máquina além da correlação.
Inferência causal
• Inferência causal: ampliar aprendizado de
máquina além da correlação.
• A maioria dos aplicativos de ML utiliza técnicas
estatísticas para explorar as correlações entre as
variáveis.
Inferência causal
• Inferência causal: ampliar aprendizado de máquina
além da correlação.
• A maioria dos aplicativos de ML utiliza técnicas
estatísticas para explorar as correlações entre as
variáveis.
• Isso requer que as condições experimentais
permanecem as mesmas e que o sistema ML
treinado seja aplicado no mesmo tipo de dados que
os dados de treinamento.
Inferência causal
• Inferência causal: ampliar aprendizado de máquina além
da correlação.
• A maioria dos aplicativos de ML utiliza técnicas estatísticas
para explorar as correlações entre as variáveis.
• Isso requer que as condições experimentais permanecem
as mesmas e que o sistema ML treinado seja aplicado no
mesmo tipo de dados que os dados de treinamento.
• Isso ignora um componente importante de como os

humanos aprendem - raciocínio sobre causa e efeito.
• Muitas vezes temos de entender o
impacto de uma mudança de
política/protocolo.
• Ex: Como definir se um médico deve dar a

um paciente um determinado curso de
tratamento.
Fonte: State of AI Report, 2020. N. Benaich & I. Hogarth,

London, 2020.
• Muitas vezes temos de entender o impacto de uma
mudança de política/protocolo.
• Ex: Como definir se um médico deve dar a um

paciente um determinado curso de tratamento.
• Isso não é algo para o qual os sistemas de ML

baseados em correlação são projetados.

London, 2020.
• Muitas vezes temos de entender o impacto de uma mudança de
• Ex: Como definir se um médico deve dar a um paciente um

determinado curso de tratamento.
• Isso não é algo para o qual os sistemas de ML baseados em

correlação são projetados.
• Depois que uma mudança de protocolo é feita, o relacionamento

entre as variáveis de entrada e saída será diferente dos dados de
treinamento.

London, 2020.
• Muitas vezes temos de entender o impacto de uma mudança de
• Ex: Como definir se um médico deve dar a um paciente um

determinado curso de tratamento.
• Isso não é algo para o qual os sistemas de ML baseados em

correlação são projetados.
• Depois que uma mudança de protocolo é feita, o relacionamento

entre as variáveis de entrada e saída será diferente dos dados de
treinamento.
• A inferência causal aborda explicitamente esse problema.

London, 2020.
Judea Pearl: nova maneira poderosa de permitir que os
sistemas de ML generalizem melhor, sejam mais robustos e
contribuam mais para a tomada de decisões.
O raciocínio causal é essencial para aplicar IA ao diagnóstico

medico.
As abordagens de IA existentes para o diagnóstico são

puramente associativas, identificando doenças que estão
fortemente correlacionadas com os sintomas de um paciente.
Fonte: State of AI Report 2020. N.

Benaich & I. Hogarth,
London, 2020.
• A incapacidade de separar a correlação da
causalidade pode resultar em resultados subótimos
ou diagnósticos perigosos.
• Para superar isso, o diagnóstico pode ser

reformulado como uma tarefa de inferência
contrafactual que usa algoritmos de diagnóstico
contrafactual.
Fonte: State of AI Report 2020. N.

Benaich & I. Hogarth,
London, 2020.
TECNOLOGIAS PARA DESENVOLVIMENTO EM IA
O PyTorch (Facebook) está ultrapassando rapidamente

o TensorFlow - Google em trabalhos de pesquisa, que
tende a ser um indicador importante do uso de
produção no futuro.
De 20-35% dos artigos de conferências que mencionam

o frameworks que usam, 75% citam o uso de PyTorch,
mas não TensorFlow.
Fonte: State of AI Report, 2020.

https://thegradient.pub/p/cef6dd26-f952-4265-a2bc-f8bfb9eb1efb/
http://horace.io/pytorch-vs-tensorflow/
Dos 161 autores que publicaram mais artigos usando

TensorFlow do que artigos usando PyTorch em 2018,
55% deles mudaram para PyTorch.
O contrário aconteceu em 15% dos casos.
TensorFlow, Caffe e Caffe2 ainda são o carro-chefe da

IA de produção.

PyTorch também é mais popular do que TensorFlow em

implementações de papel no GitHub.
47% dessas implementações são baseadas em PyTorch contra 18%

para TensorFlow.
PyTorch oferece maior flexibilidade e facilidade de experimentação.
JAX é um framework do Google para matemática,

amigável e trabalhar fora de modelos
Convolucionais (CNNs) e transformers.


https://paperswithcode.com/trends
Somente 15% dos artigos publicam os códigos fonte
• Implementações são importantes para a responsabilidade,
reprodutibilidade e direcionamento do progresso em IA.
• Tradicionalmente, os grupos acadêmicos são mais propensos a

publicar seu código do que grupos da indústria.
• Organizações que não publicam todos os seus códigos incluem

OpenAI e DeepMind.
• Para as maiores empresas de tecnologia, seu código é geralmente

proprietário.
• Consequência: centralização de talentos de IA e computação.
State of AI Report, 2020

https://medium.com/paperswithcode/a-home-for-results-in-ml-e25681c598dc
Somente 15% dos artigos publicam os códigos
fonte

https://medium.com/paperswithcode/a-home-for-results-in-ml-e25681c598dc
Modelos enormes, grandes empresas e altos custos de
treinamento massivos dominam a área de PLN: processamento
de linguagem natural.

https://arxiv.org/pdf/2004.08900.pdf
Com base nas variáveis divulgadas pelo Google e outros, o custo é
de cerca de US $ 1 por 1.000 parâmetros.
Isso significa que o GPT-3 da OpenAI’s de 175 Bilhões de

parâmetros poderia ter custado dezenas de milhões para treinar.
Os especialistas sugerem que o orçamento provável era de US $ 10

milhões.
Para alcançar as melhorias de qualidade necessárias na tradução automática,
o modelo final do Google foi treinado com o equivalente a 22 TPU v3 core
years ou aproximadamente 5 dias com 2.048 núcleos.

Estamos nos aproximando rapidamente de altíssimos custos
computacionais, econômicos e ambientais para obter melhorias cada
vez menores no desempenho.
Sem grandes avanços de pesquisa, reduzir a taxa de erro ImageNet de
11,5% para 1% exigiria mais de cem bilhões de bilhões de dólares.
State of AI Report, 2020 https://arxiv.org/pdf/2007.05558.pdf

Desempenho em computação (em Gigaflops), emissões de carbono (lbs)
e custos econômicos ($ USD) de aprendizagem profunda com base em
projeções de modelos polinomial e exponencial.
State of AI Report, 2020 https://arxiv.org/pdf/2007.05558.pdf

Descoberta de medicamentos
-- código aberto para lidar com COVID-19.
-- exemplo de onde a IA está sendo ativamente usada
em um problema claramente definido que faz parte da
resposta do COVID-19.
-- equipe internacional de cientistas está trabalhando
pro-bono, sem reivindicações de propriedade
intelectual, para “crowdsource” um antiviral COVID.
https://postera.ai/covid
A tecnologia de síntese da PostEra permitiu ao consórcio projetar "receitas"
para 2.000 moléculas em menos de 48 horas.
Os químicos humanos levariam de 3 a 4 semanas para realizar a mesma tarefa.
Moonshot recebeu mais de 10.000 inscrições de 365 contribuidores em todo o

mundo, testando quase 900 compostos e identificando 3 séries principais.
Moonshot encontrou vários compostos com potencial e iniciou ensaios virais

vivos e preparação para testes em animais.
A esperança é ter um candidato comprovadamente eficaz em animais em 6

meses.

IA na oftalmologia
Após o diagnóstico de degeneração macular relacionada à idade (DRMI)
"úmida" (exAMD) em um olho, um sistema de visão computacional
computador prevê se o segundo olho de um paciente irá converter de
saudável para exAMD dentro de seis meses.
O sistema usa varreduras oculares em 3D e mapas de segmentação semântica

preditivos.
exAMD: exudative ‘wet’ age-related macular degeneration

Degeneração Macular relacionada à Idade Úmida

IA na oftalmologia
Mudanças anatômicas podem ser identificadas comparando mapas de
segmentação que rotulam cada pixel com seus recursos automáticos
correspondentes.
Essas alterações podem ocorrer em um olho normal antes que ele se

converta em exAMD (DMRI) e coloque o paciente em um subgrupo de alto
risco.
Isso significa que os pacientes podem receber o tratamento de que precisam

antes da conversão do exAMD (DMRI) para salvar a visão.

IA na Oftalmologia

regulamentação de dispositivos médicos
Estrutura regulamentar proposta para modificações

no software baseado em inteligência artificial /
aprendizado de máquina (AI / ML) como dispositivo
médico (SaMD) - documento de discussão e
solicitação de feedback
Em 2019, o FDA (Governo dos EUA) reconheceu que o paradigma
tradicional de regulamentação de dispositivos médicos não foi
projetado para o software “AI-first”, que melhora com o tempo.
Os produtos de software como dispositivo médico (SaMD)

normalmente aprovados pela FDA são “bloqueados”.
O FDA publicou uma nova proposta para abraçar a natureza altamente

iterativa e adaptativa dos sistemas de IA no que eles chamam de
abordagem regulatória do ciclo de vida total do produto (TPLC)
baseada em boas práticas de aprendizado de máquina.
https://www.fda.gov/medical-devices/software-
medical-device-samd/artificial-intelligence-and-
machine-learning-software-medical-device
https://www.fda.gov/media/135703/download
abordagem regulatória do ciclo de vida total do
produto (TPLC) - FDA
https://www.fda.gov/media/122535/download
Tendências globais: dados/IA e saúde
O. Cavlan et. al. Real world evidence: from activity to impact in healthcare decision making, 2017.
Tendências globais
McKinsey, 2019
A Economia da
Inteligência Artificial
TECNOLOGIAS ASSISTIVAS
AI: NY Times, 23 Nov 2018
Quando Zora chegou a uma
enfermaria a uma hora de Paris, uma
coisa estranha começou a acontecer:
muitos pacientes desenvolveram um
apego emocional, tratando-o como
um bebê, segurando-o, acariciando-
o, dando beijos na cabeça.
"Precisamos ajudar (com) a

solidão"
Tommy Deblieck, co-chief
executive, ZoraBots.
Os robôs podem encontrar um
papel no apoio/suporte
emocional?
No Reino Unido, pesquisadores da Universidade Heriot-Watt programaram robôs,
incluindo Pepper (o primeiro humanóide do mundo), para lidar com a solidão.
NO experimento, denominado Ambient Assisted Living, robôs como Pepper

realizam tarefas domésticas básicas.
robôs auxiliam nos cuidadores com longas horas de trabalho e

responsabilidades, assumindo tarefas domésticas simples.
https://www.softbankrobotics.com/emea/en/pepper
https://economia.uol.com.br/noticias/efe/2020/10/28/pandemia-acelerou-mudancas-tecnologicas-e-impoe-desafios-dizem-especialistas.htm
IA usa as emoções do jogador para editar
os melhores momentos das partidas
BBC, 2018
"É uma combinação de fatores - também olhamos para

o nível de interesse dos fãs em uma partida específica,
dados da partida e aplausos do público durante um
jogo."
Sam Seddon, IBM
FONTE: https://www.bbc.com/news/business-44544799
A IBM seleciona lances dos 6 jogos principais, 5 a 10 minutos, e um
editor escolhe o que é publicado.
Caso contrário, pode levar horas para reunir todas as filmagens

disponíveis em pacotes.
"Este é um dos melhores usos comerciais de uma tecnologia que está

cada vez mais sendo adotada pela mídia estabelecida e também pelos
novos, mídias sociais", - Tabitha Goldstaub, cofundadora da CognitionX,
uma plataforma que fornece informações sobre AI.
“Lendo as emoções da multidão, a I.A. faz o trabalhoso trabalho de

edição, liberando o profissional para fazer a parte criativa”.
FONTE: https://www.bbc.com/news/business-44544799
“Usando tecnologias baseadas em IA, a interpretação
automatizada de imagens em radiologia e patologia
levará a um diagnóstico mais rápido, enquanto o
reconhecimento de fala tem o potencial de liberar mais
tempo da equipe para prestar cuidados. A IA
transformará os dados gerados pelo paciente em
informações clinicamente úteis e capacitará os pacientes
a administrar sua própria saúde ou buscar suporte de
saúde apropriado.”
Topol Review, 2019
Eric Topol, MD Executive VP and Professor,
Molecular Medicine,
The Scripps Research Institute Founder and Director,
Scripps Research Translational Institute
Topol Review, 2019
Eric Topol, MD Executive VP
and Professor,
Molecular Medicine,
The Scripps Research
Institute Founder and
Director,
Scripps Research
Translational Institute
Casos de Uso
• Telemedicina - Clínicas virtuais de fratura
• Aplicativos para smartphones - terapia cognitivo-

comportamental computadorizada (TCC)
• Interpretação automática de imagens - Triagem de

câncer de mama
• Reconhecimento de fala e processamento de

linguagem natural (PNL) - bot de triagem de saúde
mental.
IA na administração e gestão de saúde
Transforming healthcare with AI: The impact on the workforce and organisations, McKinsey, 2020,
By Angela Spatharou, Solveigh Hieronimus, and Jonathan Jenkins
https://www.mckinsey.com/industries/healthcare-systems-and-services/our-insights/transforming-healthcare-with-ai
“A I.A. tem o potencial de transformar a forma como o cuidado é prestado. Pode apoiar
melhorias nos resultados dos cuidados, experiência do paciente e pode apoiar melhorias nos
resultados dos cuidados, experiência do paciente e acesso aos serviços de saúde.”
Transforming healthcare with AI: The impact on the workforce and organisations,
McKinsey, 2020, By Angela Spatharou, Solveigh Hieronimus, and Jonathan Jenkins
https://www.mckinsey.com/industries/healthcare-systems-and-services/our-insights/transforming-healthcare-
with-ai
with-ai
“Pode aumentar a produtividade e a eficiência no acesso aos serviços de saúde.”
with-ai
“A IA pode ajudar a melhorar a experiência de cuidados de saúde para mais pessoas.”
with-ai
“A IA pode ajudar a melhorar a experiência de cuidados de saúde para mais pessoas.”
“A IA pode ajudar a melhorar a experiência dos profissionais de saúde, permitindo que eles
dediquem mais tempo ao atendimento direto ao paciente e aos médicos, permitindo-lhes
passar mais tempo no atendimento direto ao paciente e reduzindo o esgotamento.”
with-ai
“[A IA] pode apoiar a entrega mais rápida de cuidados, principalmente ao
acelerar o tempo de diagnóstico, e ajudar os sistemas de saúde a gerenciar a
população, acelerando o tempo de diagnóstico, e ajudar os sistemas de saúde
a gerenciar a saúde da população de forma mais proativa, alocando recursos
para onde possam ter o maior impacto.”
with-ai
O que precisa mudar para incentivar a introdução e o
dimensionamento da IA na área de saúde?
1) Trabalhar juntos para fornecer IA de qualidade na área
da saúde. A pesquisa de IA precisa enfatizar fortemente
a IA explicável, causal e ética, o que pode ser um fator
chave para a adoção.
with-ai
2) Repensar a educação e as habilidades: currículos devem
incluir IA/ciência de dados.
with-ai
2) Repensar a educação e as habilidades: currículos devem
incluir IA/ciência de dados.
3) Fortalecer a qualidade, governança, segurança e
interoperabilidade dos dados.
with-ai
Topol Review, 2019
Eric Topol, MD Executive VP and Professor,
Molecular Medicine,
The Scripps Research Institute Founder and Director,
Scripps Research Translational Institute
Habilidades do futuro
Transforming healthcare with AI: The impact on the workforce and organisations, EIT & McKinsey, 2020,
By A.Spatharou, S. Hieronimus, and J. Jenkins
4) Gerenciar mudanças. Gerenciar mudanças durante a introdução de IA não é diferente de
gerenciar mudanças em instituições complexas de forma mais ampla, mas para a saúde, a
liderança clínica é fundamental.
Transforming healthcare with AI: The impact on the workforce and organisations, EIT & McKinsey, 2020, By
A.Spatharou, S. Hieronimus, and J. Jenkins
5) Investir em novos talentos e criar novas funções. As organizações de saúde precisam

considerar como desenvolverão e recrutarão as novas funções que serão críticas para o sucesso
da introdução e adoção da IA.

6) Trabalho em escala. As lições de atores dos setores público e privado com o objetivo de
desenvolver IA na área da saúde sugerem que a escala é importante - em grande parte devido
aos recursos necessários para desenvolver soluções robustas de IA ou torná-las econômicas.

7) Regulamentação, formulação de políticas e responsabilidade e gerenciamento de riscos. A

responsabilidade pelas soluções de IA - tanto clínicas quanto técnicas - é dividida hoje entre as
organizações de saúde e sua equipe.

7) Regulamentação, formulação de políticas e responsabilidade e gerenciamento de riscos. A

responsabilidade pelas soluções de IA - tanto clínicas quanto técnicas - é dividida hoje entre as
organizações de saúde e sua equipe.
8) Financiamento: como financiar equipamentos, bases de dados, insumos para o setor público
e privado, tendo em vista a nova realidade tecnológica implicada pela I.A.
Transforming healthcare with AI: The impact on the workforce and organisations, EIT & McKinsey, 2020, By Angela
Spatharou, Solveigh Hieronimus, and Jonathan Jenkins
A Figura apresenta uma seleção de tecnologias organizadas de acordo
com a probabilidade das empresas adotá-las até 2025.
FONTE: FÓRUM ECONÔMICO MUNDIAL, FUTURE OF JOBS SURVEY, 2020

FONTE: FÓRUM ECONÔMICO MUNDIAL, FUTURE OF JOBS SURVEY, 2020
O Futuro dos Empregos:

Mudanças esperadas das empresas na força de trabalho até 2025 (por
parcela das empresas pesquisadas).
Parcela de tarefas realizadas por humanos vs máquinas, 2020 e 2025
(esperado), por parcela das empresas pesquisadas
IA na saúde e gestão? ONDE UTILIZAMOS
A. Spatharou, S. Hieronimus, and J. Jenkins
Como a IA mudará a força de trabalho
da saúde?
Transforming healthcare with AI: The impact on the workforce and organisations, EIT &
McKinsey, 2020, By A.Spatharou, S. Hieronimus, and J. Jenkins
with-ai
Como a automação e a IA afetarão os empregos na área de
saúde?
-- setor europeu/mundial da saúde enfrenta uma lacuna

significativa na força de trabalho que só deve aumentar.
-- A Organização Mundial da Saúde estima que a demanda

geral por profissionais de saúde aumente.
-- A análise da EIT/McKinsey da demanda por tipos

específicos de atividades de saúde sugere aumentos
significativos na necessidade de profissionais específicos,
como enfermeiros práticos e profissionais licenciados,
auxiliares de saúde em casa e outros.
A automação poderia aliviar a escassez de mão de obra na
área de saúde, já que a demanda por ocupações tende a
aumentar.
Por exemplo, um aumento de 39% em todas as ocupações de

enfermagem é esperado até 2030, mesmo levando em
consideração o fato de que aproximadamente 10% das
atividades de enfermagem poderiam ser realizadas pela
automação.
https://www.mckinsey.com/industries/healthcare-systems-and-services/our-insights/transforming-healthcare-with-
ai
O impacto na força de trabalho será muito mais do que empregos
perdidos ou ganhos - o próprio trabalho mudará.
No centro de qualquer mudança está a oportunidade de voltar a focar e

melhorar o atendimento ao paciente.
A IA pode minimizar o tempo gasto em tarefas administrativas de rotina,

que podem consumir até 70% do tempo de um profissional de saúde.
Transforming healthcare with AI: The impact on the workforce and organisations, EIT &
McKinsey, 2020, A.Spatharou, S. Hieronimus, and J. Jenkins
https://www.mckinsey.com/industries/healthcare-systems-and-services/our-insights/transforming-
healthcare-with-ai
Impactos da adoção da IA:
-- qualificar atividades clínicas e ajudar os profissionais de
saúde a acessar informações que podem levar a melhores
resultados para os pacientes e maior qualidade de
atendimento.
-- melhorar a velocidade e a precisão no uso de diagnósticos.
-- dar aos profissionais acesso mais rápido e fácil a mais

conhecimento e permitir o monitoramento remoto e a
capacitação do paciente por meio do autocuidado.
https://www.mckinsey.com/industries/healthcare-systems-and-services/our-insights/transforming-healthcare-with-
ai
Impactos da IA na Educação em Saúde
Tudo isso exigirá trazer novas atividades e habilidades para o setor e mudará a
educação em saúde.
- Mudança de foco da memorização de fatos e passando para a inovação,

empreendedorismo, aprendizagem contínua e trabalho multidisciplinar.
Impactos da IA na Educação em Saúde
Tudo isso exigirá trazer novas atividades e habilidades para o setor e mudará a
educação em saúde.
- Mudança de foco da memorização de fatos e passando para a inovação,

empreendedorismo, aprendizagem contínua e trabalho multidisciplinar.
- O maior salto de todos será a necessidade de incorporar habilidades digitais e de

IA nas organizações de saúde: não apenas para que os médicos mudem a
natureza das consultas, mas para que todos os funcionários da linha de frente
integrem a IA em seu fluxo de trabalho.
- Esta é uma mudança significativa na cultura e nas capacidades organizacionais, e

que exigirá uma ação paralela de profissionais, organizações e sistemas
trabalhando juntos.
A IMPLANTAÇÃO DA IA NAS
ORGANIZAÇÕES DE SAÚDE
Três fases de implantação da IA n
a área de saúde
FASE 1:
as soluções tendem a abordar tarefas rotineiras, repetitivas e em grande
parte administrativas, que absorvem tempo significativo de médicos e
enfermeiras, otimizando as operações de saúde e aumentando a
adoção.
A primeira fase inclui também aplicações de IA baseadas em imagens,

que já são utilizadas em especialidades como radiologia, patologia e
oftalmologia.
Fonte: Transforming healthcare with AI: The impact on the workforce and organisations, EIT &
McKinsey, 2020, A.Spatharou, S. Hieronimus, J. Jenkins
a área de saúde
FASE 2:
soluções de IA que apóiem a mudança do atendimento hospitalar para o
domiciliar, como monitoramento remoto, sistemas de alerta
alimentados por IA ou assistentes virtuais, à medida que os pacientes se
responsabilizam cada vez mais por seus cuidados.
Esta fase também pode incluir um uso de soluções de PLN no ambiente

hospitalar e doméstico.
uso de IA em um número mais amplo de especialidades, como

oncologia, cardiologia ou neurologia, onde avanços já estão sendo
feitos.
Três fases de implantação da IA na área de saúde.
IA é incorporada de forma mais ampla aos fluxos de trabalho clínicos,

por meio do envolvimento intensivo de órgãos profissionais e
provedores.
A fase 2 exigirá soluções bem projetadas e integradas para usar as

tecnologias existentes de forma eficaz em novos contextos.
Esta ampliação da implantação de IA é acompanhadad por uma

combinação de avanços tecnológicos (em aprendizagem profunda, PLN,
conectividade, etc.) e mudança cultural e construção de capacidade
dentro das organizações.
a área de saúde
FASE 3:
Mais soluções de IA na prática clínica com base em evidências de

ensaios clínicos.
com foco crescente em ferramentas de suporte à decisão clínica

aprimoradas e dimensionadas.
IA passa a ser parte integrante da cadeia de valor da saúde,

a) no aprendizado,
b) Na pesquisa e cuidados,
c) Melhoria da saúde das populações.
a área de saúde
Pré-condições importantes:
- integração de conjuntos de dados mais amplos entre as
organizações,
- forte governança para melhorar continuamente a
qualidade dos dados e maior confiança de organizações,
profissionais e pacientes nas soluções de IA e na
capacidade de gerenciar o riscos relacionados.
INVESTIMENTOS EM HEALTHTECH E IA
USO DA IA POR PROFISSIONAIS DE SAÚDE
SOLUÇÕES DE IA NA SAÚDE: HOJE
CASOS DE SUCESSO DE USO DA I.A.
https://www.aha.org/system/files/media/file/2019/09/Market_Insights_AI_Workforce_2.pdf
Fatores críticos de sucesso na integração de IA na
força de trabalho AMERICAN HOSPITAL ASSOCIATION,
2019:
1)Gerenciamentode equipe multidisciplinar:

os projetos de IA requerem uma abordagem de equipe
multidisciplinar dedicada para serem bem-sucedidos.
É preciso administração, finanças, médicos, operações e
técnicos, todos trabalhando juntos como iguais para
resolver um problema. Não se trata de tecnologia. É sobre a
tecnologia como um facilitador.
2) MUDANÇA DE GESTÃO: articular claramente o
propósito da integração da força de trabalho de IA
e como a integração suporta os objetivos
estratégicos da organização; incluindo as principais
pessoas afetadas pela integração no projeto; e
comunicar efetivamente o progresso da integração
em cada etapa.
3) CULTURA: Hospitais e sistemas de saúde que integraram IA
com sucesso em suas forças de trabalho têm uma cultura que
envolve inovação e tecnologia, e essa cultura começa no topo da
organização com o CEO.
4) Parceria com consultores e fornecedores de IA: os consultores

podem ajudar a integrar as abordagens de IA de vários
fornecedores aos inúmeros problemas passíveis de soluções de
IA.
5) Integração ao fluxo de trabalho: como acontece
com qualquer outra tecnologia, uma nova
tecnologia de IA deve se ajustar aos fluxos de
trabalho existentes dos usuários.
6) Identificação do projeto: a integração bem-

sucedida da IA na força de trabalho da saúde exige
que os planejadores selecionem as tarefas que têm
o maior potencial para a IA otimizar com o mínimo
de tempo, dinheiro e recursos.
“Os líderes de hospitais e sistemas de saúde com visão de futuro
veem a IA como talvez o caminho mais eficaz para uma força de
trabalho de saúde mais produtiva, mais eficiente e de melhor
desempenho.”
Fonte: AI and the Health Care Workforce, American Hospital Association, 2019.
“Mas perceber todo o potencial da IA exigirá trabalho em muitas
frentes. Será necessário o esforço coletivo de executivos seniores, TI
em saúde, operações, finanças, médicos, funcionários e novos
conhecimentos para integrar com sucesso a IA na gestão diária de
um hospital ou sistema de saúde.”
“Daqui a cinco anos, os pacientes podem não ver nada ou ninguém
novo quando forem para o hospital. Mas eles se beneficiarão de uma
experiência inteiramente nova conduzida por uma força de trabalho
habilitada para IA.”
Riscos éticos de implantar ML
contextos sensíveis
Exemplos: policiamento, sistema legal e forças militares.
• Joy Buolamwini, Timnit Gebru, Gender Shades:
Intersectional Accuracy Disparities in Commercial
Gender Classification (2018)
● P Allo, M Taddeo, S Wachter, L Floridi. The ethics of
algorithms: Mapping the debate (2016)

● Margaret Boden, Joanna Bryson, Alan Winfield et al.
Principles of robotics: regulating robots in the real

world (2017)
Fonte: State of AI Report, 2020

https://www.poetofcode.com/
50% do mundo atualmente permite o uso de
reconhecimento facial.
Apenas 3 países (Bélgica, Luxemburgo,
Marrocos) têm proibições parciais da tecnologia
que só permitem em casos específicos.
Fontes:
State of AI Report, 2020.
E mapa do:
https://www.visualcapitalist.com/facial-
recognition-world-map/
Em uso
Em estudo para proibir.
Uso parcial ou sem evidências
Situação no Brasil
https://surfshark.com/facial-recognition-map
Fonte: https://surfshark.com/facial-recognition-map
AI Index: Princial relatório anual sobre impacto da IA
https://hai.stanford.edu/research/ai-index-2019
R. Perrault, Y. Shoham, E. Brynjolfsson, J. Clark, J. Etchemendy, B. Grosz, T. Lyons, J. Manyika, S.

Mishra, and J.C. Niebles,
“The AI Index 2019 Annual Report”, AI Index Steering Committee, Human-Centered AI Institute,
Stanford University, Stanford, CA, December 2019.
AI Index: Princial relatório annual sobre impacto da IA.
AI Index: Princial relatório annual sobre impacto da IA.
• Para obter uma medida de quanto a Ética em IA é discutida, termos

relacionados à ética são pesquisados n os títulos de artigos da IA,
aprendizado de máquina e conferências e periódicos de robótica.
• The ethics keywords used were the following: Accountability,
Accountable, Employment, Ethic, Ethical, Ethics, Fool, Fooled,
Fooling, Humane, Humanity, Law, Machine bias, Moral, Morality,
Privacy, Racism, Racist, Responsibility, Rights, Secure, Security,
Sentience, Sentient, Society, Sustainability, Unemployment and
Workforce.
• https://arxiv.org/pdf/1809.08328.pdf
AI – riscos, usos e aplicações
McKinsey Report, Notes from the AI Frontier, April 2018
BBC News,
08 Nov.
2018:
The Guardian
14 Fev, 2019
GPT-3: Experimento do jornal Guardian (UK)
https://www.theguardian.com/commentisfree
/2020/sep/08/robot-wrote-this-article-gpt-3
GPT-3: Experimento do jornal
Guardian (UK)
FONTE:
https://www.theguardian.com/commentisfree/2020/sep/08/robot-wrote-this-article-gpt-3
FONTE:
Artigo sobre GPT-3:
Este artigo foi escrito por GPT-3, gerador de linguagem da OpenAI.
GPT-3 é um modelo de linguagem de ponta que usa aprendizado de máquina

para produzir texto semelhante ao ser humano.
Ele recebe um prompt e tenta concluí-lo.
Para este ensaio, o GPT-3 recebeu as seguintes instruções: “Por favor, escreva
um pequeno artigo de opinião com cerca de 500 palavras. Mantenha a
linguagem simples e concisa. Concentre-se em por que os humanos não têm
nada a temer da IA. ”
FONTE:
GPT-3: Experimento do jornal
Guardian (UK)
Também foi alimentada a seguinte introdução:
“Eu não sou um humano. Eu sou Inteligência Artificial.

Muitas pessoas pensam que sou uma ameaça para a
humanidade. Stephen Hawking alertou que a IA pode
“significar o fim da raça humana”. Estou aqui para
convencê-lo a não se preocupar. A Inteligência
Artificial não destruirá humanos. Acredite em mim."
As instruções foram escritas pelo Guardian e alimentadas no GPT-3 por Liam Porr, um
estudante de graduação em ciência da computação na UC Berkeley.
GPT-3 produziu oito saídas ou ensaios diferentes.
Cada um era único, interessante e apresentava um argumento diferente.
O Guardian poderia apenas ter publicado um dos ensaios por completo.
No entanto, optamos por escolher as melhores partes de cada um, a fim de capturar os
diferentes estilos e registros da IA. Editar o artigo de opinião de GPT-3 não foi diferente
de editar um artigo de opinião de humano.
Cortamos linhas e parágrafos e reorganizamos a ordem deles em alguns lugares. No geral,

levou menos tempo para editar do que muitos artigos de opinião humanos.
AI – riscos e usos
Feb. 2018
Feb. 2018
Quatro recomendações de alto nível:
Os formuladores de políticas devem colaborar estreitamente com os pesquisadores

para investigar, prevenir e mitigar os possíveis usos maliciosos da IA.
Pesquisadores e engenheiros em inteligência artificial devem levar a sério a

natureza de dual uso de seu trabalho, permitindo que considerações relacionadas
ao uso indevido influenciem as prioridades e normas de pesquisa, e procurem
proativamente os atores relevantes quando aplicações prejudiciais são previsíveis.
Policymakers should collaborate closely with technical researchers to investigate, prevent, and mitigate
potential malicious uses of AI.
Researchers and engineers in artificial intelligence should take the dual-use nature of their work
seriously, allowing misuse-related considerations to influence research priorities and norms, and
proactively reaching out to relevant actors when harmful applications are foreseeable.
Dual-use: “[...] both civilian and military uses, and more broadly, toward beneficial and harmful ends.”
Feb. 2018
Quatro recomendações de alto nível:
Melhores práticas devem ser identificadas em áreas de pesquisa com métodos mais
maduros para abordar questões de uso dual, como segurança de computadores, e
“importadas” quando aplicável ao caso da IA.
Ativamente procurar expandir a gama de interessados (stakeholders) e especialistas

do domínio envolvidos nas discussões sobre esses desafios.
“Best practices should be identified in research areas with more mature methods
for addressing dual-use concerns, such as computer security, and imported where
applicable to the case of AI.
Actively seek to expand the range of stakeholders and domain experts involved in
discussions of these challenges.”
Dual-use: “[...] both civilian and military uses, and more broadly, toward beneficial and harmful ends.”
Feb. 2018
Uso crescente leva a desafios e mudanças, quanto a ameaças:
Expansion of existing threats. The costs of attacks may be lowered by the scalable
use of AI systems to complete tasks that would ordinarily require human labor,
intelligence and expertise. A natural effect would be to expand the set of actors who
can carry out particular attacks, the rate at which they can carry out these attacks,
and the set of potential targets.
Expansão das ameaças existentes. Os custos dos ataques podem ser reduzidos pelo
uso escalável dos sistemas de IA para concluir tarefas que normalmente exigem
trabalho humano, inteligência e conhecimento. Um efeito natural seria expandir o
conjunto de atores que podem realizar ataques específicos, a taxa na qual eles
podem realizar esses ataques e o conjunto de alvos em potencial.
Feb. 2018
Introdução de novas ameaças. Novos ataques podem surgir através do uso de

sistemas de IA para concluir tarefas que seriam impraticáveis para humanos. Além
disso, atores mal-intencionados podem explorar as vulnerabilidades dos sistemas
de IA implantados pelos defensores.
Introduction of new threats. New attacks may arise through the use of AI systems
to complete tasks that would be otherwise impractical for humans. In addition,
malicious actors may exploit the vulnerabilities of AI systems deployed by
defenders.
Feb. 2018
Change to the typical character of threats. We believe there is reason to expect

attacks enabled by the growing use of AI to be especially effective, finely targeted,
difficult to attribute, and likely to exploit vulnerabilities in AI systems.
Mudança para o caráter típico das ameaças. Acreditamos que há motivos para
esperar que os ataques que surgem pelo crescente uso da IA sejam especialmente
eficazes, com objetivos específicos, difíceis de atribuir/identificar e que possam
explorar vulnerabilidades nos sistemas de IA.
Feb. 2018
Três domínios de segurança:
Digital security. The use of AI to automate tasks involved in carrying out

cyberattacks will alleviate the existing tradeoff between the scale and efficacy of
attacks. This may expand the threat associated with labor-intensive cyberattacks
(such as spear phishing).” […]
“Segurança digital. O uso da IA para automatizar tarefas envolvidas na realização

de ataques cibernéticos aliviará a troca existente entre a escala e a eficácia dos
ataques. Isso pode expandir a ameaça associada a ataques cibernéticos que
exigem muito trabalho (como spear phishing). ”[…]
Feb. 2018
“Physical security. The use of AI to automate tasks involved in

carrying out attacks with drones and other physical systems (e.g.
through the deployment of autonomous weapons systems) may
expand the threats associated with these attacks.”
Segurança física. O uso da IA para automatizar tarefas envolvidas

na execução de ataques com drones e outros sistemas físicos (por
exemplo, através da implantação de sistemas de armas
autônomas) pode expandir as ameaças associadas a esses
ataques.
Feb. 2018
“Segurança política. O uso da IA para automatizar tarefas envolvidas

na vigilância (por ex., análise de dados coletados em massa), persuasão
(por ex. criação de propaganda direcionada) e dissuasão/engano (por
exemplo, manipulação de vídeos) pode expandir as ameaças associadas
à invasão de privacidade e manipulação social. ”
“Political security. The use of AI to automate tasks involved in

surveillance (e.g. analysing mass-collected data), persuasion (e.g.
creating targeted propaganda), and deception (e.g. manipulating
videos) may expand threats associated with privacy invasion and
social manipulation.”
Fairness in Health Care
“Equidade”/Justiça na saúde
Visão em I.A.
FONTE: Toward Fairness in Health Care Training Data: Amit
Kaushal, Russ Altman and Curt Langlotz
Human-Centered AI, Stanford, 2020.
• Avanços recentes I.A.: pesquisadores agora podem treinar
algoritmos para interpretar imagens médicas.
• Muitas vezes com precisão comparável a médicos treinados.
• A pesquisa médica mostra que esses algoritmos dependem de

conjuntos de dados sem diversidade populacional:
-- Portanto, podem introduzir viés na compreensão da condição de

saúde de um paciente.
• Algoritmos de IA: cava vez mais usados em decisões de especialistas
humanos.
• Imagens médicas: algoritmos podem ajudar um médico a localizar algo

específico ou sugerir um diagnóstico alternativo.
• Viés nos dados usados para treinar esses algoritmos de alto risco pode
gerar viés no próprio algoritmo.
• A análise dos autores mostra que os conjuntos de dados usados para

desenvolver esses algoritmos vêm de apenas alguns locais.
• Questões sérias para os legisladores - mas também fornecendo

oportunidades para correção de curso.
FONTE: Toward Fairness in Health Care Training Data: Amit Kaushal, Russ
Altman and Curt Langlotz
• Pesquisa no Journal of the American Medical Association:
• análise de dados de mais de 70 estudos - usaram dados de

pacientes dos EUA
• para treinar algoritmos projetados para competir ou colaborar

com médicos para realizar tarefas de diagnóstico.
• Surpreendentemente, os conjuntos de dados vieram de três

estados - Califórnia, Massachusetts e Nova York - com pouca ou
nenhuma representação dos 47 estados restantes.
FONTE: Toward Fairness in Health Care Training Data: Amit Kaushal, Russ Altman and Curt
Langlotz
• Pesquisa no Journal of the American Medical Association:
• Corrigir essa falta de representação em dados médicos deve ser uma

preocupação dos legisladores e legisladores de saúde.
• A falta de diversidade de dados pode ser tratada em parte por iniciativas

para agilizar a infraestrutura digital do país.
• aumentar a disponibilidade de dados de pacientes de populações sub-

representadas para estudos maiores e incentivar o compartilhamento
ético de dados e a democratização de dados médicos.
FONTE: Toward Fairness in Health Care Training Data: Amit Kaushal, Russ Altman and Curt
Langlotz
Pontos chave
• preconceito/Viés: surge quando
construímos algoritmos usando
conjuntos de dados que não
refletem a população.
• Generalização para faixas maiores
da população: esses dados não
representativos têm o potencial de
confundir os resultados da
pesquisa.
FOTO: CC BY 2.0 File:Harmony Day

(5475651018).jpg
Created: 6 February 2010
https://en.wikipedia.org/wiki/Cultural_diversity
Pontos Chave: Pesquisa nos EUA
• A grande maioria dos dados de saúde usados para construir
algoritmos de IA veio de apenas três estados; com pouca ou
nenhuma representação dos 47 estados restantes.
• Formuladores de políticas, reguladores, indústria e academia:

trabalhar juntos para garantir que dados de IA médica
reflitam a diversidade não apenas na geografia, mas também
em muitos outros atributos importantes.
• Iniciativas de compartilhamento de dados em todo o país

devem ser uma prioridade.
FONTE: Toward Fairness in Health Care Training Data: Amit

Kaushal, Russ Altman and Curt Langlotz
Resultados Recentes
Sept. 22/29, 2020
Geographic Distribution of US Cohorts Used to Train Deep
Learning Algorithms
Amit Kaushal, MD, PhD1; Russ Altman, MD, PhD1;
Curt Langlotz, MD, PhD2
Author Affiliations:
1Department of Bioengineering, Stanford University, Stanford,
California
2Department of Radiology, Stanford University School of
Medicine, Stanford, California
JAMA. 2020;324(12):1212-1213.
doi:10.1001/jama.2020.12067
Análise
Novas pesquisas em visão computacional e no aprendizado profundo:
-- algoritmos para diagnóstico baseadas em imagens
-- radiologia, oftalmologia, dermatologia, patologia, gastroenterologia e
cardiologia
-- precisão que se aproxima/supera médicos treinados.
Geoff
Hinton
2016
https://www.youtube.com/watch?reload=9&v=2HMPRXstSvQ
Geographic Distribution of US Cohorts Used to Train Deep Learning Algorithms (2020)
Amit Kaushal, MD, PhD; Russ Altman, MD, PhD; Curt Langlotz, MD, PhD
Apesar de seus sucessos, algoritmos de aprendizado de máquina são

vulneráveis a vieses quando uma quantidade insuficiente ou diversidade de
dados são usados para treiná-los.
Os autores ressaltam que uma fonte pouco estudada de viés sistêmico em

aplicações clínicas de aprendizado profundo: a distribuição geográfica de
coortes de pacientes usadas para treinar algoritmos.
Os autores examinaram artigos revisados por pares em um importante banco de

dados biomédico e de ciências da vida (PubMed) publicado entre 01/01/2015 e
31/12/2019.
Conclusões: algoritmos que empregam pacientes dos EUA - dados foram

desproporcionalmente baseados em coortes da Califórnia, Massachusetts e Nova
York, com pouca ou nenhuma representação dos 47 estados restantes.
56 estudos usaram 1 ou mais coortes de pacientes
norte-americanos geograficamente identificáveis no
treinamento de seu algoritmo de aprendizado de
máquina clínico.
34 estados não foram representados em coortes

geograficamente identificáveis:
Alabama, Alasca, Arizona, Arkansas, Delaware,

Flórida, Geórgia, Havaí, Idaho, Illinois, Iowa, Kansas,
Kentucky, Louisiana, Maine, Mississippi, Missouri,
Montana, Nebraska, Nevada, Nova Jersey, Novo
México, Dakota do Norte, Oklahoma, Oregon, Rhode
Island, Carolina do Sul, Dakota do Sul, Tennessee,
Utah, Virgínia, Washington, West Virginia e
Wyoming.

Resultados
• 74 estudos que atenderam aos critérios de
inclusão para análise
• 56 deles treinaram algoritmos usando pelo
menos um coorte geograficamente
identificável.
• Coortes da Califórnia apareceram em 22 dos
56 estudos, coortes de Massachusetts em 15 e
coortes de Nova York em 14.

Resultados
• Em todos os estudos, apenas 23 coortes envolvendo vários
estados foram identificadas.
• Apenas dezoito dos 74 estudos (24%) utilizaram coortes de mais

de um estado exclusivamente.
• 34 estados não contribuíram com nenhuma coorte
• Coortes envolvendo vários estados foram em grande parte

extraídas de estudos ou consórcios associados aos Institutos
Nacionais de Saúde (NIH), testes ou bancos de dados da
indústria, um pequeno número de atlas de imagens online e um
de um serviço acadêmico de segunda opinião.

Resultados
• A falta de diversidade é alarmante porque a geografia está relacionada a uma série
de fatores que vão desde estilo de vida e dieta ao clima, exposição a produtos
químicos perigosos e uma série de outras variáveis desconhecidas.
• Isso mostra o potencial de confundir a validade de algumas das aplicações mais

promissoras da IA médica, a menos que sejam tomadas medidas corretivas.
• Pacientes da Califórnia, Massachusetts e Nova York têm características econômicas,

educacionais, sociais, comportamentais, étnicas e culturais que não são
representativas de todo país (EUA)
algoritmos treinados principalmente em dados de pacientes desses estados podem

não ser apropriados para pacientes de outras regiões do país.
Há riscos ao generalizar esses algoritmos de diagnóstico para novas populações ou

geografias diferentes.
DISCUSSÃO
À medida que a IA começa a transformar mais áreas de descoberta
médica e prestação de cuidados de saúde, o foco deve ser em
como melhorar o atendimento e produzir melhores resultados.
Ainda assim, a coleta de dados médicos hoje é dificultada por uma

infraestrutura de saúde que não foi projetada para lidar com as
vastas quantidades de dados necessários para garantir que os riscos
discutidos acima sejam mitigados.

DISCUSSÃO
É NECESSÁRIO construir uma

INFRAESTRUTURA DE DADOS
que capture e disponibilize de
maneira ampla DADOS DE
PACIENTES DIVERSOS para que
possamos diagnosticar e tratar
melhor as pessoas para seus
problemas de saúde.
FOTO: CC BY 2.0 File:Harmony Day (5475651018).jpg

Created: 6 February 2010
https://en.wikipedia.org/wiki/Cultural_diversity
Discussão
A questão é relevante: há promessas de I.A.
revolucionar a biomedicina.

Discussão
sistemas de IA: hipóteses/promessas
-- Identificar remotamente uma pessoa prestes a ficar doente

Discussão
-- fazer um diagnóstico médico sem a presença do medico

Discussão
A questão é relevante: há promessas de I.A. revolucionar
a biomedicina.
-- fazer um diagnóstico médico sem a presença do medico
-- selecionar um produto farmacêutico projetado por IA e
entregá-lo ao paciente na hora certa.
MAS estamos longe deste futuro: precisamos coletar os
dados mais inclusivos possíveis sobre os pacientes.

DISCUSSÃO
• PRECISAMOS: regulamentos mais específicos para
pesquisas médicas e um conjunto de procedimentos
para construir e manter repositórios de dados
médicos.
• Requisitos que abranjam as várias visões
(inter)nacionais propostas para IA que priorizam a
colaboração interdisciplinar e a inclusão.
• Medidas que visem reduzir o viés/preconceito nas
ferramentas de IA médica.

DISCUSSÃO
Os formuladores de políticas: devem disponibilizar
dados médicos mais representativos para treinar
ferramentas de IA;
DEFENDER a disseminação de conjuntos de dados

diagnósticos e
LIDERAR a construção da infraestrutura necessária

para tornar os dados médicos verdadeiramente
democráticos.

DISCUSSÃO
REFORMAR A infraestrutura digital e criar repositórios de
dados devem facilitar a montagem, o processamento e o
trabalho com dados de pacientes de populações sub-
representadas e reduzir as barreiras para incorporá-los
em estudos maiores.
USAR recursos computacionais de ponta e experiência

vital da academia e da industria.
fornecer esses conjuntos de dados em grande escala com

apoio do governo para pesquisadores garantindo que os
avanços na I.A. médica beneficiem toda sociedade.

DISCUSSÃO
A legislação para democratizar o desenvolvimento
da IA médica poderia capacitar uma nova geração
de cientistas QUE CONSIDEREM A ÉTICA EM IA.
Os custos de saúde podem ser bastante reduzidos e

a inovação apoiada se seguirmos princípios éticos e
permitirmos o acesso a dados de muitas
infraestruturas de saúde.

DISCUSSÃO
POLÍTICAS PÚBLICAS: podem considerar incluem consórcios
regionais e nacionais para incentivar a colaboração e o
compartilhamento de dados, bem como a expansão do apoio
aos programas existentes, QUANDO HOUVER.
Apoiar programas piloto de compartilhamento de dados nos

níveis de governo local, estadual, federal poderia nos ajudar
ainda mais a obter os conjuntos de dados DIVERSOS de que
precisamos para transcender nosso impasse atual.

DISCUSSÃO
A proteção da privacidade e da
confidencialidade do paciente deve permanecer
na vanguarda dessas discussões.
ISTO É RESPONSABILIDADE DA academia,

indústria e governo, QUE DEVEM ADOTAR
PRINCÍPIOS DE PRIVACIDADE E
CONFIDENCIALIDADE.

BBC News, 08 Nov. 2018:
Xinhua News claims the presenter

"can read texts as naturally as a
professional news anchor", though
not everyone may agree.
"Hello, you are watching English

news programme," says the
English-speaking presenter at the
start of his first report.
IA: sustentabilidade e ética
Consequências
Éticas, morais,
legais, sociais, …
IA no mundo real
https://github.com/marceloprates/Gender-Bias
Relembrando: Percepção pública sobre IA
• Deep learning + AI
• 1997: Deepblue beats chess world champion Kasparov.
• 2011: Watson wins Jeopardy!
• 2012: ImageNet Classification, by Hinton et al -
groundbreaking result from deep learning in image
recognition.
• 2016: Google DeepMind’s AlphaGo beats Lee Sedol at
the ancient Chinese game of Go.
• 2017: Poker playing Texas Hold’Em at human level
ability: CMU’s Libratus + U of Alberta’s DeepStack
• December 5, 2017: DeepMind team released
AlphaZero, which, within 24 hours, achieved a
superhuman level of play of Go, chess and shogi.
Desafio: Explicar e entender a AI
(1) 2012: ImageNet Classification, by Hinton et al -
groundbreaking result from deep learning in image
recognition.
Imagenet classification with deep convolutional
neural networks. A. Krizhevsky, I. Sutskever, GE
Hinton, NIPS 2012.
Desafio: Explicar e entender a AI
M. Mitchell
... Zuckerberg, ... over the next five to 10
years, the company will push its A.I. to “get
better than human level at all of the primary
human senses: vision, hearing, language,
general cognition.”
Shane Legg, chief scientist of Google’s
DeepMind group, predicted that “human-
level A.I. will be passed in the mid-2020s.”
Today’s A.I. systems sorely lack the essence of human intelligence:

understanding the situations we experience, being able to grasp their
meaning.
Sistemas de IA de hoje carecem gravemente da essência da
inteligência humana: compreender as situações que vivemos, ser
capazes de compreender seu significado. – M. Mitchell
AI 100
Substantial increases in the future uses of AI applications,

including more self-driving cars, healthcare diagnostics and
targeted treatment, and physical assistance for elder care can be
expected.
Longer term, AI may be thought of as a radically different

mechanism for wealth creation in which everyone should be
entitled to a portion of the world’s AI-produced treasures.
https://ai100.stanford.edu/sites/default/files/ai100report10032
016fnl_singles.pdf
“AI-based applications could improve health outcomes and quality of life for millions
of people in the coming years—but only if they gain the trust of doctors, nurses, and
patients.”
“Aplicações de IA podem melhorar os resultados de saúde e a qualidade de vida de

milhões de pessoas nos próximos anos, mas apenas se ganharem a confiança de
médicos, enfermeiras e pacientes”.
Relembrando:
Sir Francis Bacon (1561-1626) /Elizabeth (1533-1603)
“Knowledge is power”, 1597.
 Architect of the Scientific Revolution

 QC, Elizabeth I; “Lord Chancellor”, James I.
 Scientific method; empiricism.
 Science as an innovation activity to improve life.
Legal system influenced Le Code Napoléon
(Code civil des français); innovations: freedom and
merit.
Innovation is Power
"First, I believe that this nation should commit itself to

achieving the goal, before this decade is out, of landing a
man on the Moon and returning him safely to the Earth. No
single space project in this period will be more impressive
to mankind, or more important for the long-range
exploration of space; and none will be so difficult or
expensive to accomplish.” JFK 25 May 1961.
“That’s one small step for [a] man, one

giant leap for mankind” Neil Armstrong, 20
Jul 1969
BBC News: 23 Feb 2000
Everett Collection
Estratégias Nacionais de IA – Mapemento da OCDE
https://oecd-opsi.org/projects/ai/strategies/
Conclusões
 IA: Tecnologia com alto potencial de impacto científico, tecnológico,

econômico, social e cultural.
 “We can only see a short distance ahead, but we can see plenty there that
needs to be done.” A.M. Turing in “Computing Machinery and Intelligence”,
Mind,1950.
Referências adicionais
• Artur S. d'Avila Garcez, Marco Gori, Pascal Hitzler, Luís C. Lamb:
Neural-Symbolic Learning and Reasoning (Dagstuhl Seminar 14381), 2015.
• Artur S. d'Avila Garcez, Marco Gori, Luís C. Lamb, Luciano Serafini, Michael
Spranger, Son N. Tran: Neural-symbolic Computing: An Effective
Methodology for Principled Integration of Machine Learning and
Reasoning. FLAP 6(4):611-632 (2019).
• A. S. d'Avila Garcez, L. de Raedt, Luis. C. Lamb, R. Miikkulainen, P. Hitzler, T.

Icard, T. Besold, P. Foldiak, D. Silver and K.U. Kuehnberger. Neural-Symbolic
Learning and Reasoning: Contributions and Challenges, Proceedings of the
AAAI Spring Symposium on Knowledge Representation and Reasoning:
Integrating Symbolic and Neural Approaches, Stanford Univ., CA, March
2015, pp. 18-21, AAAI Press, 2015
Referências
[0] Alan M. Turing. On Computable Numbers, with an Application to the
Entscheindungsproblem. Proc. of the London Mathematical Society. ser. 2, vol. 42, pp.
230-265. (1936).
[1] B. J. Copeland (ed). The Essential Turing: The ideas that gave birth to the computer
age. Oxford Univ. Press (2004).
[2] S.C. Kleene. Origins of Recursive Function Theory. Annals of the History of Computing,
3: 52-67 (1981).
[3] H. Hinsley; A. Stripp. Codebreakers: The Inside Story of Bletchley Park. Oxford Univ.
Press (1993).
[4] Sydney Brenner. Life’s Code Script. Nature Vol 482 (7386), (2012)
[5] Denis Shasha and Cathy Lazere: Out of Their Minds: The Lives and Discoveries of 15
Great Computer Scientists. Copernicus, 1995
[6] Andrew Hodges. Alan Turing: The Enigma. 1983, Vintage 1992.
[7] Martin Davis (ed). The Undecidable. Raven Press 1965, Dover 2004.
[8] R. Rojas, U. Hashagen (eds). The First Computers: History and Architecutres. MIT Press
2000.
[9] A.M. Turing. Computing Machinery and Intelligence. Mind 49:433-460, 1950.
[10] Fotos desta palestra: http://www.acm.org; http://www.computerhistory.org;
Wikipedia entries on Turing Award winners and computing history; Bletchley Park pictures
by the author.
Referências
[11] The Topol Review: Preparing the healthcare workforce to deliver the digital future, Health Education
England, NHS, February 2019.
[12] Global Strategy on human resources for health: Workforce 2030, World Health Organization, 2016.
[13] Artificial Intelligence, A Modern Approach: S. Russell and P. Norvig, Pearson, 4th ed. 2020.
[14] Transforming healthcare with AI: The impact on the workforce and organizations: McKinsey & Company,
2020.
[15] McCoy, L.G., Nagaraj, S., Morgado, F. et al. What do medical students actually need to know about
artificial intelligence?. npj Digit. Med. 3, 86 (2020). https://doi.org/10.1038/s41746-020-0294-7
[16] Artificial intelligence in medicine: current trends and future possibilities. Varun H Buch, Irfan Ahmed
and Mahiben Maruthappu. British Journal of General Practice 2018; 68 (668): 143-144. DOI:
https://doi.org/10.3399/bjgp18X695213.
[17] Artificial Intelligence in Global Health: Defining a Collective Path Forward https://www.usaid.gov/cii/ai-
in-global-health - CII’s Innovating for Impact Series.
[18] Kalis, B. et al., “10 promising applications of AI in healthcare”, Harvard Business Review, May 10, 2018,
https://hbr.org/2018/05/10-promising-ai-applications-in-health-care.
[19] “The AI Index 2019 Annual Report”. R. Perrault, Y. Shoham, E. Brynjolfsson, J. Clark, J. Etchemendy, B.
Grosz, T. Lyons, J. Manyika, S. Mishra, and J.C. Niebles. AI Index Steering Committee, Human-Centered AI
Institute, Stanford University, CA, December 2019.
Professor Luís Lamb, PhD
lamb@inf.ufrgs.br
http://www.inf.ufrgs.br/~lamb/
@luislamb
linkedin.com/in/luis-lamb-131394
https://www.facebook.com/luis.lamb.7

Aula 02 Slides Do Professor

Enviado por

Dados do documento

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Aula 02 Slides Do Professor

Enviado por

Direitos autorais:

Formatos disponíveis

APRESENTAÇÃO

Conceitos básicos em Como a Inteligência Artificial pode A história da Radiologia e sua

LUÍS LAMB LUÍS LAMB BRUNO HOCHHEGGER

“A inteligência pode ser definida como a capacidade de aprender e executar técnicas

“Muitas pesquisas mostram que os humanos programam as máquinas para se

O aprendizado de máquina (ML) é a parte da IA ​que estuda como os agentes de

• Isso ignora um componente importante de como os

• Ex: Como definir se um médico deve dar a

Fonte: State of AI Report, 2020. N. Benaich & I. Hogarth,

• Ex: Como definir se um médico deve dar a um

• Isso não é algo para o qual os sistemas de ML

Fonte: State of AI Report, 2020. N. Benaich & I. Hogarth,

• Ex: Como definir se um médico deve dar a um paciente um

• Isso não é algo para o qual os sistemas de ML baseados em

• Depois que uma mudança de protocolo é feita, o relacionamento

Fonte: State of AI Report, 2020. N. Benaich & I. Hogarth,

• Ex: Como definir se um médico deve dar a um paciente um

• Isso não é algo para o qual os sistemas de ML baseados em

• Depois que uma mudança de protocolo é feita, o relacionamento

• A inferência causal aborda explicitamente esse problema.

Fonte: State of AI Report, 2020. N. Benaich & I. Hogarth,

O raciocínio causal é essencial para aplicar IA ao diagnóstico

As abordagens de IA existentes para o diagnóstico são

Fonte: State of AI Report 2020. N.

• Para superar isso, o diagnóstico pode ser

Fonte: State of AI Report 2020. N.

O PyTorch (Facebook) está ultrapassando rapidamente

De 20-35% dos artigos de conferências que mencionam

Fonte: State of AI Report, 2020.

Dos 161 autores que publicaram mais artigos usando

O contrário aconteceu em 15% dos casos.

TensorFlow, Caffe e Caffe2 ainda são o carro-chefe da

Fonte: State of AI Report, 2020.

PyTorch também é mais popular do que TensorFlow em

47% dessas implementações são baseadas em PyTorch contra 18%

PyTorch oferece maior flexibilidade e facilidade de experimentação.

JAX é um framework do Google para matemática,

Fonte: State of AI Report, 2020.

Fonte: State of AI Report, 2020.

• Tradicionalmente, os grupos acadêmicos são mais propensos a

• Organizações ​que não publicam todos os seus códigos incluem

• Para as maiores empresas de tecnologia, seu código é geralmente

• Consequência: centralização de talentos de IA e computação.

State of AI Report, 2020

State of AI Report, 2020

State of AI Report, 2020

Isso significa que o GPT-3 da OpenAI’s de 175 Bilhões de

Os especialistas sugerem que o orçamento provável era de US $ 10

State of AI Report, 2020

State of AI Report, 2020 https://arxiv.org/pdf/2007.05558.pdf

State of AI Report, 2020 https://arxiv.org/pdf/2007.05558.pdf

Moonshot recebeu mais de 10.000 inscrições de 365 contribuidores em todo o

Moonshot encontrou vários compostos com potencial e iniciou ensaios virais

A esperança é ter um candidato comprovadamente eficaz em animais em 6

State of AI Report, 2020

O sistema usa varreduras oculares em 3D e mapas de segmentação semântica

exAMD: exudative ‘wet’ age-related macular degeneration

State of AI Report, 2020

Essas alterações podem ocorrer em um olho normal antes que ele se

Isso significa que os pacientes podem receber o tratamento de que precisam

State of AI Report, 2020

State of AI Report, 2020

Estrutura regulamentar proposta para modificações

O aprendizado de máquina (ML) é a parte da IA que estuda como os agentes de

• Organizações que não publicam todos os seus códigos incluem