Antes da iminente «parusia regulatória»,

a UE já defende o consumidores perante a IA?

(Um esboço cartográfico dos regimes presentes nas atuais fontes positivas)

Manuel David Masseno

1
 Antes da iminente «parusia regulatória»…

1 – as novas coordenadas
 depois da sua aprovação pelo Plenário do PE – Parlamento Europeu, no passado dia 13, está a
iminente o termo do processo legislativo iniciado com a Proposta de Regulamento que
estabelece regras harmonizadas em matéria de Inteligência Artificial (Regulamento
Inteligência Artificial) (COM(2021)206 final, de 21 de abril)
 embora as preocupações com a IA – Inteligência Artificial remontem à Comunicação da Comissão Para
uma economia dos dados próspera, (COM(2014)442 final, de 2 de julho), em especial nas relações de
consumo, a consideração específica desta deu-se apenas com a Comunicação da Comissão Inteligência
artificial para a Europa (COM(2018)237 final, de 25 de abril), a cual fora antecedida pela Resolução que
contém recomendações à Comissão sobre disposições de Direito Civil sobre Robótica (2015/2103(INL),
de 16 de fevereiro de 2017), do PE, esta sobretudo devida à militância da Deputada Mady Delvaux-Stehres…
 para o nosso propósito, é essencial sublinhar que os novos regimes assumem a continuidade
das disciplinas relativas à defesa dos consumidores e à proteção dos seus dados pessoais,
tendo por objetivo primário a efetivação do mercado interno
 antes de mais, a base jurídica do novo Regulamento está nos Art.ºs 114.º (Mercado interno) e 16.º (Proteção
de Dados Pessoais) do TFUE – Tratado sobre o Funcionamento da União Europeia, este para as questões
que ultrapassam o âmbito do primeiro, designadamente quanto à segurança pública e o combate ao crime, e

2
 Antes da iminente «parusia regulatória»…

 é reiterado, múltiplas vezes e de forma explícita, sobretudo nos Considerandos ((9), (10), (29), (45), (48),
(118), (121), (133), (142) e (165)), mas também no articulado (Art.º 2.º n.º 9), tendo mesmo sido reforçado
durante o processo legislativo, sobretudo por força da Posição comum em Primeira Leitura (P9_TA(2023)0236)
do PE, de 14 de junho de 2023
 por outro lado, com incidência direta nas relações de consumo, o Regulamento enuncia
“Práticas de inteligência artificial proibidas” (Art.º 5.º), disciplina detalhadamente os “sistemas
de inteligência artificial de risco elevado” (Art.ºs 6.º a 49.º e 72.º a 87.º, ademais do Anexo III,
bem como os Art.ºs 51.º a 56.º e 88.º a 94.º, estes para a IA “de uso geral”) e estabelece
“Obrigações de transparência aplicáveis a determinados sistemas de inteligência artificial”
(Art.º 50.º), relevando ainda os sistemas de risco mínimo (Art.º 2.º a contrario), a ficarem fora do
seu âmbito
 depois, teremos de aprofundar o estudo dos vários regimes, tendo em atenção que, após os 20
dias de vacatio, o prazo geral de 24 meses previsto para a aplicação, no pertinente para a defesa
dos consumidores, é encurtado para 6 no que se refere às “práticas de IA proibidas” e para 12
no referente aos “modelos de uso geral”, e às correspondentes “sanções” (Art.º 113.º)
 recordo ainda que está igualmente em curso o processo legislativo espoletado pela Proposta de Diretiva do
Parlamento Europeu e do Conselho relativa à adaptação das regras de responsabilidade civil
extracontratual à inteligência artificial (Diretiva Responsabilidade da IA) (COM(2022)496 final, de 28 de
setembro)
3
 Antes da iminente «parusia regulatória»…

2 – as coordenadas atuais
 com incidência direta na disciplina dos sistemas de IA, nas relações de consumo:
 o Regulamento (UE) 2016/679 do Parlamento Europeu e do Conselho, de 27 de abril, relativo à proteção das
pessoas singulares [naturais] no que diz respeito ao tratamento de dados pessoais e à livre circulação desses
dados e que revoga a Diretiva 95/46/CE (Regulamento Geral sobre a Proteção de Dados) – RGPD, tal como
a própria Diretiva 95/46/CE
 a Diretiva (UE) 2019/2161 de 27 de novembro de 2019, que altera a Diretiva93/13/CEE do Conselho e as
Diretivas 98/6/CE, 2005/29/CE e 2011/83/UE a fim de assegurar uma melhor aplicação e a modernização
das regras da União em matéria de defesa dos consumidores – Diretiva Omnibus
 o Regulamento (UE) 2022/2065 do Parlamento Europeu e do Conselho, de 19 de outubro de 2022, relativo a
um mercado único para os serviços digitais e que altera a Diretiva 2000/31/CE (Regulamento dos Serviços
Digitais) – Regulamento DSA, e também
 o Regulamento (UE) 2022/1925 do Parlamento Europeu e do Conselho, de 14 de setembro de 2022, relativo à
disputabilidade e equidade dos mercados no setor digital e que altera as Diretivas (UE) 2019/1937 e (UE)
2020/1828 (Regulamento dos Mercados Digitais) – Regulamento DMA

4
 Antes da iminente «parusia regulatória»…

 com incidência indireta negativa:

 a Diretiva 93/13/CEE do Conselho, de 5 de abril de 1993, relativa às cláusulas abusivas nos contratos
celebrados com os consumidores
 a Diretiva 2000/31/CE do Parlamento Europeu e do Conselho, de 8 de junho de 2000, relativa a certos aspetos
legais dos serviços da sociedade de informação, em especial do comércio eletrónico, no mercado interno
(Diretiva sobre o comércio eletrónico)
 a Diretiva 2011/83/UE do Parlamento Europeu e do Conselho, de 25 de outubro de 2011, relativa aos direitos
dos consumidores, que altera a Diretiva 93/13/CEE do Conselho e a Diretiva 1999/44/CE do Parlamento
Europeu e do Conselho e que revoga a Diretiva 85/577/CEE do Conselho e a Diretiva 97/7/CE do Parlamento
Europeu e do Conselho
 a Diretiva (UE) 2019/770 do Parlamento Europeu e do Conselho, de 20 de maio de 2019, sobre certos aspetos
relativos aos contratos de fornecimento de conteúdos e serviços digitais
 com incidência indireta positiva:
 a Diretiva 2005/29/CE do Parlamento Europeu e do Conselho, de 11 de maio de 2005, relativa às práticas
comerciais desleais das empresas face aos consumidores no mercado interno e que altera a Diretiva
84/450/CEE do Conselho, as Diretivas 97/7/CE, 98/27/CE e 2002/65/CE e o Regulamento (CE) n.º 2006/2004
(Diretiva relativa às práticas comerciais desleais), expressamente mencionada no Considerando (29) da
Proposta aprovada pelo PE

5
 Antes da iminente «parusia regulatória»…

3 – a rosa-dos-ventos
 no Norte, enquanto macroprincípio civilizacional constitucionalizado, temos a Dignidade
Humana, depois concretizada em direitos fundamentais dos cidadãos-consumidores:
 assim, no Preâmbulo e Art.º 2.º do Tratado da União Europeia, em cujos termos “A União funda-se nos
valores do respeito pela dignidade humana, da liberdade, da democracia, da igualdade, do Estado de
direito e do respeito pelos direitos do Homem [os quais] são comuns aos Estados-Membros […].”, com o
TFUE a sublinhar a relevância dos direitos dos consumidores (Art.ºs 12.º, 114.º n.º 3 e 169.º, sobretudo) e
também da proteção dos seus dados pessoais (Art.º 16.º)
 o mesmo valendo para a CDFUE – Carta dos Direitos Fundamentais da União Europeia (Preâmbulo e Art.ºs
1.º, 8.º e 38.º), com especial atenção aos mais vulneráveis, como as crianças e as pessoas idosas ou com
deficiência (Art.ºs 24.º a 26.º)
 entretanto, embora apenas como quase-direito, foi proclamada a Declaração Europeia
[interinstitucional] sobre os direitos e princípios digitais para a década digital, subscrita pelos
Presidentes do Parlamento Europeu, do Conselho e da Comissão, e publicada oficialmente a
23 de janeiro de 2023; aliás, seguido a trilha aberta pela CDFUE em 7 de dezembro de 2000…
 logo no ponto (1) do Preâmbulo, é assumido que “A União Europeia (UE) é uma «união de valores»,
consagrada no artigo 2.º do Tratado da União Europeia [e] nos termos da Carta […]”

6
 Antes da iminente «parusia regulatória»…
 no que mais nos importa, precisamente a propósito das “Interações com algoritmos e sistemas de
inteligência artificial”, no contexto do “Cap. III – Liberdade de escolha”, enuncia que “8. A inteligência
artificial deve ser uma ferramenta ao serviço das pessoas e ter o objetivo último de aumentar o bem-estar
dos seres humanos” e “9. Todas as pessoas devem poder beneficiar das vantagens dos sistemas
algorítmicos e dos sistemas de inteligência artificial, nomeadamente fazendo escolhas próprias e
informadas no ambiente digital, estando simultaneamente protegidas contra os riscos e os danos para a
saúde, a segurança e os direitos fundamentais.”
 é este também o sentido das orientações políticas da Comissão, quanto à defesa dos direitos
dos consumidores em ambientes digitais, também perante a IA, nas suas Comunicações:
 gerais, desde a referida Para uma economia dos dados próspera (COM(2014)442 final), passando pela
Estratégia para o Mercado Único Digital na Europa (COM(2015)192 final, de 6 de maio), a Construir uma
economia europeia dos dados (COM(2017)9 final, de 10 de janeiro), a Rumo a um espaço comum europeu
de dados (COM(2018)232 final, de 25 de abril), a Uma estratégia europeia para os dados (COM(2020)66
final, de 19 de fevereiro) e a Construir o futuro digital da Europa (COM(2020)66 final, de 19 de fevereiro), ou
 específicas, como a Inteligência artificial para a Europa (COM(2018)237 final), também já mencionada, a
Aumentar a confiança numa inteligência artificial centrada no ser humano (COM(2019)168 final, de 8 de
abril, recebendo as Orientações Éticas para uma IA de Confiança, do Grupo Independente de Peritos de Alto
Nível sobre a Inteligência Artificial), o Livro Branco sobre a inteligência artificial - Uma abordagem europeia
virada para a excelência e a confiança (COM(2020)65 final, de 19 de fevereiro) e ainda a Fomentar uma
abordagem europeia da inteligência artificial (COM(2021)205 final, de 21 de abril), esta apresentada em
simultâneo com Proposta de Regulamento IA
7
 Antes da iminente «parusia regulatória»…

 além de, em termos verticais, depois de a Uma Agenda do Consumidor Europeu para incentivar a
confiança e o crescimento (COM(2012)0225 final, de 22 de maio), analogamente, ter procurado o respetivo
enquadramento nos mercados digitais e na economia dos dados, enquanto a Um Novo Acordo para os
Consumidores (COM(2018)183 final, de 11 de abril), enunciou os desafios regulatórios decorrentes da
utilização da IA nas relações de consumo, a Nova Agenda do Consumidor Reforçar a resiliência dos
consumidores para uma recuperação sustentável (COM(2020) 696 final, de 30 de novembro) veio
perspetivar as respostas legislativas em preparação, resultantes das Orientações Éticas para uma IA de
Confiança e do Livro Branco sobre a inteligência artificial, sempre com o objetivo de reforçar as garantias
de autonomia dos consumidores perante máquinas (quase) omniscientes e, em si mesmas, amorais
 no mesmo sentido, incluindo a consideração dos direitos e interesses dos consumidores,
pronunciou-se o PE, com a Resolução relativa a um Regime relativo aos aspetos éticos da
inteligência artificial, da robótica e das tecnologias conexas (2020/2012(INL), de 20 de
outubro de 2020), enquanto o Conselho, nas Conclusões da Presidência [alemã] A Carta dos
Direitos Fundamentais no contexto da inteligência artificial e da mudança digital (11481/20,
de 21 de outubro), assumiu uma visão transversal, embora assinale expressamente o contributo
dos Relatórios gerais da FRA – Agência Europeia para os Direitos Fundamentais, os quais
mencionam as implicações da IA para tais direitos e interesses, e logo a seguir publicou um outro,
de síntese, Preparar o futuro. Inteligência artificial e direitos fundamentais na UE, a 14 de
dezembro de 2020
8
 Antes da iminente «parusia regulatória»…

4 – os lugares
 antes de tudo o mais, surge o rejeitar da coisificação do ser humano, excluindo que as
decisões finais, com consequências para os direitos e interesses dos consumidores, sejam
tomadas por máquinas:
 em especial, relevando o RGPD, com o regime aplicável à revisibilidade humana das “decisões individuais
automatizadas” (Art.ºs 22.º, maxime no n.º 4, e 4.º 4)), simultaneamente enquanto dever do “responsável pelo
tratamento” e “direito do titular dos dados”
 a qual terá de ser efetiva, inclusive afastando a utilização de sistemas de IA com caixas-negras, como
ocorre com a aprendizagem de máquina, como decidiu o TJUE – Tribunal de Justiça da União Europeia no
Acórdão Ligue des droits humains (Processo C-817/19), de 21 de junho de 2022, ainda que este tivesse sido
proferido a propósito da Diretiva (UE) 2016/681 do Parlamento Europeu e do Conselho, de 27 de abril de 2016,
relativa à utilização dos dados dos registos de identificação dos passageiros (PNR) para efeitos de prevenção,
deteção, investigação e repressão das infrações terroristas e da criminalidade grave, o que terá também
consequências relativamente à auditabilidade independente das “técnicas de definição de perfis de
consumidores” utilizadas pelos Gatekeepers, conforme ao Regulamento DMA (Art.º 15.º)
 depois, temos a limitação do controle dos comportamentos humanos, incluindo a vigilância e
a avaliação automatizadas, in casu por parte das empresas e outros profissionais:
 de acordo com o mesmo regime do RGPD, ao qual acresce a exigência de ser realizada uma prévia
“avaliação de impacto em proteção de dados” (Art.º 35.º n.ºs 1 e 3 a))
9
 Antes da iminente «parusia regulatória»…

 o recente Acórdão SCHUFA Holding (Scoring) (Processo C-634/21), de 7 de dezembro de 2023, também do
TJUE, veio clarificar diversas questões relativas às avaliações de crédito através de perfis
 segue-se o relativo a prevenir a manipulação das pessoas, sobretudo das mais vulneráveis,
afastando materialmente a respetiva autonomia:
 sempre no RGPD, além do Princípio da «licitude, lealdade e transparência» (Art.º 5.º n.º 1 a)) e das regras
aplicáveis ao “consentimento de crianças em relação aos serviços da sociedade da informação” (Art.º
8.º), encontramos as disciplinas relativa às “categorias especiais de dados”, ao limitar muito o tratamento
automatizado e requerer prévias avaliações de impacto (Art.ºs 9.º, 22.º n.º 2, 22.º n.º 4 e 35.º n.º 3 a))
 por seu turno, o Regulamento DSA veda a publicidade direcionada a menores com base na prévia definição
de perfis (Art.º 28.º n.º 2) e, sobretudo, a proíbe os, denominados, padrões escuros (Art.º 25.º n.º 1), pois
“Os fornecedores de plataformas em linha não podem conceber, organizar ou explorar as suas
interfaces em linha de forma a enganar ou manipular os destinatários do seu serviço ou de forma a
distorcer ou prejudicar substancialmente de outro modo a capacidade dos destinatários do seu serviço
de tomarem decisões livres e informadas”
 sendo essa também essa a razão de ser das mencionadas auditorias às “técnicas de definição de perfis de
consumidores” utilizadas pelos Gatekeepers, exigidas pelo Regulamento DMA
 a que acresce a Diretiva relativa às práticas comerciais desleais, a qual é aplicável a todos os
«profissionais», relativamente às «práticas comerciais» suscetíveis de «distorcer substancialmente o
comportamento económico dos consumidores», em especial “de consumidores particularmente
vulneráveis à prática ou ao produto subjacente” (Art.º 5.º n.º 3 ), mesmo fora dos ambientes digitais
10
 Antes da iminente «parusia regulatória»…

 por último, temos o dever de informação a quem interage com sistemas de IA, de modo a
poder tomar as necessárias precauções:
 no RGPD, com o dever específico de o “responsável pelo tratamento” facultar aos titulares informações
sobre “A existência de decisões automatizadas, incluindo a definição de perfis […] e, pelo menos nesses
casos, informações úteis relativas à lógica subjacente, bem como a importância e as consequências
previstas de tal tratamento para o titular dos dados” (Art.ºs 13.º n.º 2 f) e 14.º n.º 2 g), assim como o direito do
titular obter acesso a tais informações (Art.º 15.º n.º 1 h), sempre “de forma concisa, transparente,
inteligível e de fácil acesso, utilizando uma linguagem clara e simples” (Art.º 12.º n.º 1), ao passo que
 a Diretiva Omnibus, em 2019, aditou na Diretiva 2011/83/EU às obrigações do “profissional” a de facultar
“ao consumidor, de forma clara e compreensível, as seguintes informações: e-A) Se aplicável, que o preço
foi personalizado com base numa decisão automatizada” (Art.º 6.º n.º 1) e, bem assim, “informações
gerais, disponibilizadas numa secção específica da interface em linha que seja direta e facilmente acessível a
partir da página onde são apresentadas as propostas, sobre os principais parâmetros que determinam a
classificação […] das propostas apresentadas ao consumidor em resultado da pesquisa e a importância
relativa desses parâmetros em comparação com outros parâmetros” (Art.º 6.º-A) e, finalmente,
 no Regulamento DSA, ficou previsto que “Os fornecedores de plataformas em linha que utilizem sistemas
de recomendação estabelecem nos seus termos e condições, em linguagem clara e inteligível, os principais
parâmetros utilizados nos seus sistemas de recomendação, bem como quaisquer opções que permitam
aos destinatários do serviço alterar ou influenciar estes parâmetros.” (Art.º 27.º n.º 1)

11