Questões éticas em ciência de dados

Privacidade e segurança
O que é ética?
A ética trata sobre certo e errado.
 São valores e regras sociais compartilhadas.
 Ética não é lei.
Consentimento informado
O sujeito humano deve:
 ser informado sobre o experimento;
 consentir com o experimento voluntariamente e
 ter o direito de retirar o consentimento a qualquer momento.
Experimento de Facebook/Cornell
Estudo do "contágio emocional”
 689.003 pessoas experimentaram.
 Durou uma semana, em 2012.
 Facebook mudou deliberadamente o conteúdo do feed.
 Grupo A: removeu o conteúdo negativo do feed.

 Grupo B: removeu o conteúdo positivo do feed.

 Posts do usuário foram monitorados por uma semana por um

software.
Artigo: Experimental evidence of massive-scale emotional contagion
through social networks.
O estudo descobriu que "newsfeeds mais
negativos levaram a mais mensagens de status
negativo, e mais newsfeeds positivos levaram a
status mais positivos”.
Foi legal? Foi ético?
 Com a opinião dividida, alguns ficaram fascinados com a ideia
de contágio emocional, enquanto outros ficaram chateados
com a invasão da sua privacidade pelo Facebook.

 Diversas questões legais e éticas foram levantadas em relação

ao experimento.

 Uma questão legal importante é se o Facebook foi autorizado a

manipular as timelines dos usuários sem o consentimento
prévio destes.
Dados sensíveis e privacidade
dados sensíveis
Dados sobre indivíduos e
organizações que não devem ser
livremente divulgados e
publicados.
Ex.: saúde, educação, finanças,
demografia, crimes, localização e
comportamento.
privacidade
Limitar a disseminação de dados
sensíveis.
Muita tecnologia, mas:
 requisitos pouco claros e
 comportamentos pouco claros.
Dados sensíveis
valores identificadores privacidade

raça nascimento gênero CEP problema

preto 1985 M 000-0002 respiração

preto 1985 M 000-0002 dor no peito
preto 1985 F 000-0003 hipertensão
preto 1985 F 000-0003 hipertensão
preto 1986 F 000-0003 obesidade
preto 1986 F 000-0003 dor no peito
branco 1986 M 000-0003 dor no peito
branco 1986 M 000-0003 dor no peito
branco 1986 M 000-0003 obesidade
branco 1988 M 000-0003 dor no peito
branco 1988 M 000-0003 dor no peito
8 princípios das práticas de informações
justas da OCDE
 Um framework para a 1. limitação de coleta;
proteção de privacidade. 2. qualidade dos dados;
 Protege o uso: 3. especificação final;
 coleção para um 4. limitação de uso;
propósito; 5. salvaguardas de segurança;
 uso apenas para fins 6. abertura;
autorizados e
7. participação individual e
 prestação de contas em
8. prestação de contas.
todos esses princípios.
OCDE: Organisation for Economic Co-operation and Development
Técnicas de anonimização
Substituir identificadores por identificadores gerados aleatoriamente:
“Jorge Poco”  “Paciente1000”
Abstração: substituir valores por intervalos.
 Data de check-in: 01/03/19  Data de check-in: verão de 2019.
 Substitua o CEP por estado.
Agrupe os pontos de dados e substitua os indivíduos pelo centroide
do cluster.
 Idades: 21, 25, 28, 27, 18  5 indivíduos com idade nominal de 24.
Remover valores:
 omitir data de nascimento.
Problemas com técnicas de anonimização
Uso limitado para pesquisa:
 muito grosseiro.

Reidentificação
 A reidentificação é frequentemente trivial:
 por exemplo: lista anônima de alunos admitidos que

apresentam graduação universitária e GPA médio.

 A reidentificação é possível com alta certeza em muitos casos:
 vinculando o conjunto de dados anonimizado a outros dados

públicos não anonimizados.

Exemplos de reidentificação
87% da população pode ser identificada exclusivamente, com
base apenas na data de nascimento, sexo e CEP.

data de visita afiliação partidária

medicação CEP nome

etnia data de endereço

nascimento
diagnóstico última votação
sexo
procedimento data registrada

dados médicos lista de eleitores

Disponível em: http://dataprivacylab.org/dataprivacy/projects/kanonymity/kanonymity.html. Acesso em: jul. 2019.

TODOS OS DIREITOS RESERVADOS.