Índice

1. Considerações
introdutórias
1.1. Utilização da IA nas várias
fases do recrutamento;
1.2. Esclarecimentos
terminológicos.
2. Enquadramento
jurídico
3. Reflexões finais e
2.1. Proteção à luz do Direito Q&A
Antidiscriminatório;
2.2. Proteção decorrente do
Direito da Proteção de Dados.
IA nas várias fases do recrutamento

01 02 03
Fase de procura Fase de triagem Fase de seleção e
(sourcing) (screening) contratação
• Anúncios de emprego no • Chatbots que fazem Sistemas automatizados de
Facebook; questões de screening; contratação.
• Recomendações no • Testes online de
LinkedIn. personalidade;
• Sistemas de entrevistas
em vídeo;
• Análise automatizada de
CVs.
IA nas várias fases do recrutamento
01
Fase de procura
(sourcing)
Por que motivo
determinado anúncio de
emprego, publicitado na
rede social Facebook, é
apresentado no feed de um
utilizador e não no feed de
outro?
Que critérios definem os
recetores destes anúncios?
02
Fase de triagem
(screening)
Quais os critérios utilizados
pelos sistemas de avaliação
automatizada de currículos
para excluir um conjunto de
candidatos numa primeira
triagem? Restringir-se-ão a
requisitos e condições
essenciais?
03
Fase de seleção e
contratação
Quais os critérios que leva
em consideração um
sistema automatizado de
contratação para sugerir
determinada proposta
salarial a um candidato?
Não estará a utilização
destes sistemas a perpetuar
uma desigualdade já
existente?
Esclarecimentos terminológicos
Ex: Modelo de spam ou não-spam

Dados de treino Criação de um

(training data) modelo (model)

Etiquetas
(labels)
Esclarecimentos terminológicos

Dados de treino Identificação de Criação de modelos

padrões • Previsões acerca
dos indivíduos;
• Classificação dos
indivíduos de
acordo com
inferências.

Discriminação algorítmica?
 Enquadramento jurídico

Direito Antidiscriminatório
• Art.º 13.º da CRP;
• Art.º 22.º e ss. do C.T.; Direito da Proteção de Dados
• Art.º 21.º da CDFUE;
• Art.º 17.º e ss. do C.T.;
• Diretiva 2006/54/CE, de 5 de julho de 2006,
• Regulamento Geral da Proteção de Dados
Diretiva 2000/43/CE, de 29 de junho de 2000, e
(Regulamento(UE) n.º 679/2016, de 27 de abril).
Diretiva 2000/78/CE, de 27 de novembro de 2000.
 Vias de resposta - Direito Antidiscriminatório
Proibição da discriminação direta e da
discriminação indireta

Situação de desvantagem que o Direito procura capturar,

através das características protegidas, para a proibir

Categorias específicas de população protegidas pela lei que, Idade, género, orientação sexual,
como tal, não poderão servir de fundamento à distinção entre origem racial ou étnica, religião
ou deficiência.
indivíduos

Será suficiente para cobrir todos os casos de discriminação

algorítmica?
 Vias de resposta - Direito Antidiscriminatório
Proibição da discriminação direta e da
discriminação indireta

Situação de desvantagem de determinado indivíduo ou grupo,

que o Direito procura capturar, através das características
protegidas, para a proibir

Dados correlacionados com Novas formas de agregação

características protegidas
A (inevitável) integração da
pertença a determinada
classe protegida nas grandes
bases de dados
dos indivíduos
Através da identificação de
padrões entre os dados, os
sistemas algorítmicos podem
agregar os indivíduos à luz de
atributos (ou combinações)
que não se reconduzem às
características protegidas
Na medida em que coloque um grupo de
indivíduos em situação de desvantagem,
não corresponderá a uma forma de
discriminação que carece de proteção
jurídica?
 Solução?
RAPHAËLE XENIDIS: a característica protegida como forma de capturar
a existência de hierarquias e sistemas sociais, que geram desvantagens
para determinado grupo, por forma a proibí-las.

Conceito tecnologicamente neutro de característica

protegida à luz do art.º 21.º da CDFUE

«É proibida a discriminação em razão, designadamente, do

sexo, raça, cor ou origem étnica ou social, características
genéticas, língua, religião ou convicções, opiniões políticas
ou outras, pertença a uma minoria nacional, riqueza,
nascimento, deficiência, idade ou orientação sexual.»
Vias de resposta - Direito da Proteção de Dados

Proteção dos dados pessoais

informação relativa a uma pessoa singular identificada ou

identificável, o titular dos dados

Proibição do tratamento de dados Direitos de proteção de

sensíveis dados
Art.º 9.º n.º 1 do RGPD: Art.º 13.º e ss. do RGPD:
Origem racial e étnica, opiniões Controlo da integridade
políticas, convicções religiosas e e confidencialidade dos
filosóficas, filiação sindical… seus dados
Vias de resposta - Direito da Proteção de Dados

Dados de entrada Processamento Dados de saída

1. Da fluidez da característica da identificabilidade

Dados Aplicação dos
anonimizados ou perfis a
de terceiros Criação de perfis indivíduos
concretos
Vias de resposta - Direito da Proteção de Dados

Dados de entrada Processamento Dados de saída

2. Da mutabilidade da característica da sensibilidade

Dados
Inferências
aparentemente
algorítmicas
neutros (“não
Cruzamento de dados sensíveis
sensíveis”)
Vias de resposta - Direito da Proteção de Dados

Dados de entrada Processamento Dados de saída

Inferência algorítmica: «informação relativa a uma pessoa identificada ou

identificável, criada através de dedução ou raciocínio, e não por mera observação
ou recolha através do titular dos dados»

SANDRA WACHTER AND BRENT MITTELSTAD,

A Right to Reasonable Inferences: Re-Thinking Data Protection Law in the Age of Big Data and AI
Vias de resposta - Direito da Proteção de Dados
Direito à transparência (art.º 13.º a art.º 15.º do RGPD)

Em especial, o direito de acesso do art.º 15.º do RGPD

Permite ao titular obter do responsável do tratamento de dados a confirmação de que os seus

dados pessoais foram (ou não) objeto de tratamento e, em caso de tratamento:
• Aceder aos seus dados pessoais;
• Obter informações que vão desde os fins do tratamento, às categorias dos dados pessoais em
causa, aos destinatários (ou das categorias de destinatários da divulgação dos dados, ao
prazo estimado para a sua conservação, entre outras (cfr. n.º 1 do art.º 15.º do RGPD).
Vias de resposta - Direito da Proteção de Dados
Art.º 106.º do C.T. – Dever de informação

« 3 - O empregador deve prestar ao trabalhador, pelo menos, as seguintes informações:

(…)
s) Os parâmetros, os critérios, as regras e as instruções em que se baseiam os algoritmos ou
outros sistemas de inteligência artificial que afetam a tomada de decisões sobre o acesso e a
manutenção do emprego, assim como as condições de trabalho, incluindo a elaboração de perfis e
o controlo da atividade profissional.»

Redação da Lei n.º 13/2023, de 3 de abril, que altera o Código do Trabalho e legislação conexa, no âmbito da agenda do trabalho digno
Vias de resposta - Direito da Proteção de Dados
Direito à explicabilidade (art.º 13.º, n.º 2, al. f); art.º 14.º, n.º 2, al. g) e art.º 15.º, n.º 1, al. h), todos
do RGPD)

O titular de dados poderá obter informações sobre «[a] existência de decisões automatizadas,
incluindo a definição de perfis, referida no artigo 22.º, n.ºs 1 e 4, e, pelo menos nesses casos,
informações úteis relativas à lógica subjacente, bem como a importância e as consequências
previstas de tal tratamento para o titular dos dados.»

INTERPRETAÇÃO PROPOSTA PELO GT29: impõe o fornecimento de informação simples, mas

suficientemente completa, acerca da lógica subjacente à decisão.
Vias de resposta - Direito da Proteção de Dados
Direito à retificação e ao apagamento de dados (art.º 16.º e art.º 17.º, n.º 1, ambos do RGPD)

• Visam impedir que a decisão de contratação de determinado candidato se venha a basear em

dados falsos e não pertinentes.
• Em todo o caso, o respetivo exercício sempre pressuporá uma ponderação entre os interesses
do avaliado e do avaliador.
Vias de resposta - Direito da Proteção de Dados
Direito a não ser sujeito a decisões automatizadas

Artigo 22.º - Decisões individuais automatizadas, incluindo definição de perfis

«1. O titular dos dados tem o direito de não ficar sujeito a nenhuma decisão tomada
exclusivamente com base no tratamento automatizado, incluindo a definição de perfis, que
produza efeitos na sua esfera jurídica ou que o afete significativamente de forma similar.»
Vias de resposta - Direito da Proteção de Dados
Direito a não ser sujeito a decisões automatizadas (art.º 22.º do RGPD)

Este direito parte do pressuposto de que a intervenção humana constitui uma maior garantia de
proteção dos candidatos.
Porém:
1. A epígrafe do artigo refere-se a decisões individuais. Caberão aqui as decisões tomadas em
relação a grupos que importem danos individuais significativos?
2. Qual é o alcance de “decisão tomada exclusivamente com base no tratamento automatizado”
para efeitos deste artigo? Exclui qualquer decisão em que haja a mínima intervenção
humana?
 Proposta de interpretação
GT29: cabem no âmbito do art.º 22.º do RGPD as decisões
automatizadas com uma intervenção humana inexpressiva

PILLAR RIVAS VALLEJO - Conceito procedimental de

definitividade da decisão:
Considerar-se-á definitiva qualquer decisão de exclusão de
um candidato que coloque fim ao acesso àquele posto de
trabalho, ainda que não coloque termo ao processo de
recrutamento em si.

Supervisionamento de todas as fases por humanos, com

ressalva da admissibilidade dos sistemas automatizados
de análise de CVs.
Vias de resposta - Direito da Proteção de Dados
Direito a contestar decisões algorítmicas (art.º 22.º, n.º 3 do RGPD)

Artigo 22.º - Decisões individuais automatizadas, incluindo definição de perfis

«3. (…) responsável pelo tratamento aplica medidas adequadas para salvaguardar os direitos e
liberdades e legítimos interesses do titular dos dados, designadamente o direito de, pelo menos,
obter intervenção humana por parte do responsável, manifestar o seu ponto de vista e contestar a
decisão».
Vias de resposta - Direito da Proteção de Dados
Direito a contestar decisões algorítmicas (art.º 22.º, n.º 3 do RGPD)

À luz de uma interpretação teleológica do Direito da Proteção de Dados, este direito apenas
poderá ser exercido perante dados de entrada imprecisos ou incompletos ou em casos de
violação dos princípios de proteção de dados ou, em última análise, através da critérios
complementares de decisão impostos pela lei (v.g., o Direito Antidiscriminatório).
Vias de resposta - Direito da Proteção de Dados
Outros instrumentos de proteção contra a discriminação algorítmica

• Controlo ex ante: Avaliações de Impacto sobre a Proteção de Dados (art.º 35.º, n.º 1 do RGPD)
e a possibilidade de as autoridades de controlo poderem exercer poderes corretivos sobre os
efeitos discriminatórios detetados (art.º 58.º, n.º 2 do RGPD).

• Controlo ex post: Auditorias de proteção de dados ao cargo de autoridades nacionais (art.º

58.º, n.º 1, al. b) do RGPD).
 Insuficiência de proteção?
insuficiência da proteção dos direitos consagrados no
RGPD para detetar e colocar em causa inferências
imprecisas ou incompatíveis com direitos individuais

Direito a inferências razoáveis

SANDRA WATCHER E BRENT MITTELSTADT

Dimensão ex ante Dimensão ex post

Estabelecimento da Possibilidade de
razoabilidade das contestar inferências
inferências e de oferecer
informação
complementar
Reflexões finais

Proteção efetiva do candidato a emprego

Abordagem atualista e concertada entre os enquadramentos jurídicos

Direito Antidiscriminatório Direito da Proteção de Dados

Delimitação da distinção ética e Direitos e mecanismos de deteção e
juridicamente aceitável entre os reação à discriminação
indivíduos

Necessidade de atualização Necessidade de extensão

e abertura do conceito de da proteção além dos
característica protegida dados de entrada