UNIVERSIDADE FEDERAL DO CEARÁ

FACULDADE DE DIREITO

DISCIPLINA: DIREITO CONSTITUCIONAL III

O DILEMA DOS ALGORITMOS DAS REDES SOCIAIS.

Introdução

Nos últimos anos, o advento das redes sociais trouxe consigo uma revolução na forma
como nos comunicamos, interagimos e consumimos informações. Essas plataformas se
tornaram um espaço virtual onde milhões de pessoas compartilham suas vidas, opiniões e
ideias.

No entanto, é preciso reconhecer os desafios e riscos associados ao uso dessas

plataformas, especialmente quando se trata da relação entre algoritmos, bolhas sociais e a
disseminação de notícias falsas. O documentário "O Dilema das Redes", produzido pela
Netflix, trouxe à tona essas preocupações, gerando um debate global sobre os efeitos
negativos dessas plataformas em nossa sociedade.

Nesse contexto, torna-se essencial analisar cuidadosamente a relação entre algoritmos,

bolhas sociais e fake news, levando em consideração os princípios gerais da ordem econômica
estabelecidos no Artigo 170 da Constituição brasileira. Essa análise busca compreender os
impactos socioeconômicos dessas dinâmicas e explorar possíveis soluções para os problemas
decorrentes das redes sociais.

Assim, o objetivo deste trabalho acadêmico é investigar de maneira aprofundada os

desafios apresentados por essa interação complexa, contribuindo para a reflexão e a busca por
medidas adequadas para a solução dos problemas criados pelas redes sociais.

Desenvolvimento

"O Dilema das Redes" é um documentário lançado em 2020 pela Netflix, que se
propõe a examinar a influência das mídias sociais na sociedade contemporânea. Dirigido por
Jeff Orlowski, o filme apresenta uma abordagem perspicaz, combinando sequências
dramatizadas fictícias com entrevistas de ex-executivos e engenheiros das maiores empresas
de tecnologia, tais como Google, Facebook e Twitter.

A obra explora minuciosamente o modo como as plataformas de redes sociais utilizam

algoritmos e técnicas de engajamento com o intuito de capturar a atenção dos usuários e
prolongar seu tempo de interação. Dessa forma, são destacados os procedimentos de coleta
de dados pessoais efetuados por tais empresas, bem como sua utilização para personalizar a
experiência do usuário e direcionar anúncios.

Tais reflexões levantam preocupações acerca da falta de transparência e

responsabilidade por parte das empresas de tecnologia, considerando o poder que detêm sobre
os usuários e sobre a sociedade em geral. Dessa forma, ao suscitar questionamentos relevantes
acerca do uso responsável da tecnologia, bem como do papel desempenhado por cada
indivíduo na salvaguarda de sua privacidade e bem-estar digital, a obra provoca reflexões
pertinentes sobre os efeitos negativos dos algoritmos empregados por essas plataformas.

A fim de examinar adequadamente os efeitos desses algoritmos, é imperativo adquirir

uma compreensão aprofundada sobre como as redes sociais operam e fazem uso dessas
tecnologias.

É importante saber que as empresas de redes sociais obtêm lucro ao manter os usuários
"engajados" em suas plataformas, isso significa interagir com o conteúdo na plataforma,
incluindo visualizar, curtir, comentar, compartilhar e salvar postagens.1 Quanto mais tempo
um usuário permanece engajado, maior é a exposição dos anúncios. Uma única exposição é
chamada de "impression".2 Os anunciantes desejam que o maior número possível de clientes
em potencial veja seus anúncios e, portanto, procuram plataformas que prometem um alto
número de “impressions” em seus anúncios. Em outras palavras, as plataformas de redes
sociais têm incentivos para manter os usuários engajados, para que possam lucrar ao exibir
anúncios.3

Para manter os usuários engajados pelo maior tempo possível, as plataformas de redes
sociais desejam tornar seus feeds de notícias interessantes e relacionáveis para os usuários.

1
GRUWELL, Leigh. Constructing research, constructing the platform: Algorithms and the
rhetoricity of social media research. Present Tense, v. 6, n. 3, p. 1-9, 2018.
2
NORSTRÖM, Livia; ISLIND, Anna Sigríður; LUNDH SNIS, Ulrika M. Algorithmic work: the impact of
algorithms on work with social media. 2020.
3
KIM, Sang Ah. Social media algorithms: Why you see what you see. Geo. L. Tech. Rev., v. 2, p.
147, 2017.
Assim, torna-se crucial prever o que usuários individuais ou grupos de usuários podem achar
interessante. Para isso o algoritmo segue uma sequência de ações automatizadas.

Segundo Kim (2017); primeiro o algoritmo analisa os dados não estruturados

acumulados. Em seguida, ele prevê o conteúdo que um usuário pode achar interessante. Por
fim, preenche o feed do usuário com esse conteúdo interessante.

Durante a análise, os dados acumulados podem ser organizados em diferentes

categorias, cada uma revelando pistas sobre o que um usuário gosta de ver. O próprio
engajamento é uma indicação simples do interesse de um usuário em um determinado
conteúdo. Quanto mais frequente o engajamento, mais forte será a associação que o algoritmo
fará entre o usuário e esse conteúdo.4

Após o algoritmo criar um conjunto de conteúdo potencialmente interessante para um

usuário, ele atribui a cada conteúdo uma classificação com base em seu apelo. Em seguida, é
preenchido o feed do usuário para que o conteúdo com a classificação de interesse mais alta
seja priorizado e apareça perto do topo do feed5, pois colocar o conteúdo mais interessante no
topo do feed aumenta a chance de o usuário interagir com a postagem6.

Dessa forma, os algoritmos das redes sociais podem restringir a exposição a

perspectivas diversas e favorecer a formação de grupos de usuários com opiniões
semelhantes, o que resulta na criação e reforço de narrativas compartilhadas, conhecidas
como "echo chambers"7 ou bolha social. Essas interações contínuas em câmaras de eco criam
um ciclo de retroalimentação que tende a amplificar e perpetuar visões de mundo específicas,
limitando a exposição a perspectivas divergentes e promovendo a polarização e a estagnação
do pensamento crítico.

Garrett (2009) encontrou suporte para essa tendência em um experimento de campo

com 727 leitores de notícias online: os indivíduos manifestaram interesse em ler notícias
online que perceberam como favoráveis à sua opinião existente e mostraram desinteresse em

4
PASQUALE, Frank. The black box society: The secret algorithms that control money and
information. Harvard University Press, 2015.
5
KAUFMAN, Dora; SANTAELLA, Lucia. O papel dos algoritmos de inteligência artificial nas redes
sociais. Revista Famecos, v. 27, n. 1, 2020.
6
RAMOS, Daniela Osvald. A influência do algoritmo. Revista Communicare, v. 17, p. 70-85, 2017.
7
GUESS, Andrew et al. Avoiding the echo chamber about echo chambers. Knight Foundation, v. 2,
n. 1, p. 1-25, 2018.
consumir histórias que desafiam sua opinião. Essas bolhas sociais facilitam a propagação das
“Fake News”.

O termo "fake news" é utilizado para definir informações fabricadas que se

assemelham ao conteúdo midiático de notícias em sua forma, porém não seguem os processos
organizacionais e a intenção da mídia de notícias.8 Os veículos de notícias falsas carecem das
normas editoriais e dos procedimentos adotados pela mídia de notícias para assegurar a
precisão e a credibilidade das informações.

É importante ressaltar que ao se referir às "fake news", estamos nos referindo a uma
categoria específica de informações falsas que se assemelham ao formato de notícias, mas não
seguem os mesmos processos organizacionais ou intenções da mídia de notícias.9 Essas
informações são veiculadas por fontes que não possuem as mesmas normas editoriais e
procedimentos que garantem a precisão e a credibilidade das informações na mídia
tradicional.

Além disso, é notório que as notícias falsas se sobrepõem a outros distúrbios

informacionais, de forma que a disseminação de informações falsas, tanto de maneira não
intencional quanto as com o propósito de enganar as pessoas. Isso é facilmente observado na
imagem 110, que expõe o crescimento do número de fake news e o seu correlacionamento com
as bolhas sociais que são fomentadas pelas redes sociais.

8
LAZER, David MJ et al. The science of fake news. Science, v. 359, n. 6380, p. 1094-1096, 2018.
9
DI DOMENICO, Giandomenico et al. Fake news, social media and marketing: A systematic
review. Journal of Business Research, v. 124, p. 329-341, 2021.
10
ZIMMER, Franziska et al. Echo chambers and filter bubbles of fake news in social media.
Man-made or produced by algorithms. In: 8th annual arts, humanities, social sciences & education
conference. 2019. p. 2.
 Imagem 1 “Echo Chamber(s)/ Bolhas socias” (vermelho) and “Fake News” (verde)
2000 até 2017.

Assim, levanta-se a questão de porque e como as redes sociais possibilitam a

disseminação dessas notícias falsas?

Primeiramente, deve-se entender que as redes sociais exercem atividade econômica,

ou seja, visam o lucro. O modelo de negócios deles é baseado em engajamento, interação e
consumo de conteúdo dos usuários11. As ações dos usuários na plataforma geram dados que
indicam as preferências de cada usuário, ou seja, quanto mais usuários leem, clicam,
compartilham e engajam com o conteúdo, mais lucro é recebido12. Maximizar o engajamento
levará a um maior número de impressões nos anúncios, o que, por sua vez, resultará em lucro
ao exibir esses anúncios. Com isso, muitas vezes, relativamente menos ênfase é colocado em
precisão, veracidade e confiabilidade, mas sim em manter os usuários o mais tempo possível
usando o aplicativo13.

11
OSTERWALDER, Alexander; PIGNEUR, Yves; MOVEMENT, T. Inovação em modelos de
negócios. Rio de, 2011.
12
KANGAS, Petteri; TOIVONEN, Santtu; BÄCK, Asta. " Ads by Google" and other social media
business models. VTT Technical Research Centre of Finland, 2007.
13
. O. Solon, “Facebook Won’t Block Fake News Posts Because It Has No Incentive, Experts
Say,” The Guardian, 15 Nov. 2016.
 Outra informação importante é que as redes sociais renovaram o modo como as
plataformas devem se comportar. Os usuários podem compartilhar fotos, mensagens de texto
e notícias uns com os outros com pouca ou nenhuma filtragem de terceiros ou verificação de
fatos. Alguns indivíduos conseguem alcançar tantos seguidores e leitores quanto grandes
veículos de comunicação, como o New York Times, Fox News e CNN14.

Assim, como comentado anteriormente, os algoritmos personalizam o conteúdo

exibido para cada usuário, visando maximizar seu engajamento e tempo de permanência na
plataforma. Isso frequentemente significa que, como consequência da maneira como as redes
sociais conseguem ter lucro, é priorizada a relevância e o interesse pessoal em detrimento da
veracidade.

Em função disso, se um usuário demonstra interesse em determinado tipo de conteúdo

sensacionalista, conspiratório ou enganoso, os algoritmos tendem a fornecer mais desse tipo
de informação. Visto que, as fake news costumam ser projetadas para gerar reações
emocionais intensas, como raiva, medo ou indignação.15 Essas emoções são poderosas para
atrair a atenção e o engajamento dos usuários, fazendo com que compartilhem o conteúdo
com sua rede de contatos. Esse compartilhamento gera mais visualizações e interações,
alcançando o objetivo monetário.

Assim, é perceptível que as redes sociais, em sua busca pelo lucro e engajamento dos
usuários, muitas vezes valorizam mais a manutenção da bolha social criada e a disseminação
das fake news do que o combate à desinformação.

Nesse contexto, ao abordar a discussão sobre algoritmos e redes sociais, o artigo 170
se torna relevante, pois fundamenta a necessidade de um moderador estatal que busque
equilibrar interesses e garantir o bem-estar social. O avanço tecnológico e a crescente
influência das redes sociais e dos algoritmos na vida das pessoas demandam uma análise
cuidadosa sobre o impacto dessas tecnologias na sociedade.

14
H. Allcott and M. Gentzkow, “Social Media and Fake News in the 2016 Election,” J.
Economic Perspectives, v. 31, no. 2, 2017, pp. 211–236.
15
TESTONI, Gustavo A. et al. Um método linguístico que combina polaridade, emoção e aspectos
gramaticais para detecção de fake news em inglês. In: Anais do X Brazilian Workshop on Social
Network Analysis and Mining. SBC, 2021. p. 151-162.
 Art. 170. A ordem econômica, fundada na valorização do trabalho humano e
na livre iniciativa, tem por fim assegurar a todos existência digna, conforme
os ditames da justiça social, observados os seguintes princípios:

I - soberania nacional;

II - propriedade privada;

III - função social da propriedade;

IV - livre concorrência;

V - defesa do consumidor;

VI - defesa do meio ambiente;

VII - redução das desigualdades regionais e sociais;

VIII - busca do pleno emprego;

IX - tratamento favorecido para as empresas brasileiras de capital nacional

de pequeno porte.

Parágrafo único. É assegurado a todos o livre exercício de qualquer atividade

econômica, independentemente de autorização de órgãos públicos, salvo nos
casos previstos em lei.

Portanto, embora seja legítimo que uma empresa busque lucro, conforme estabelecido
no artigo 170 da Constituição, é necessário considerar os limites que o Direito pode e deve
impor a essa atuação. Além de garantir a liberdade negativa do Estado em não interferir nas
atividades econômicas, é também um anseio legítimo da sociedade que o Estado exerça seu
papel de proteção, visando assegurar uma existência digna para todos, conforme claramente
expresso nos princípios constitucionais.

O interesse legítimo da sociedade de que o Estado exerça seu papel de proteção, é

comprometido pelo papel dos algoritmos na formação de bolhas sociais e na propagação das
fake news nas redes sociais. A disseminação de informações falsas e enganosas por meio
desses algoritmos mina a confiança nas fontes de informação e distorce a percepção da
realidade, colocando em risco a capacidade dos indivíduos de tomar decisões informadas16.

Como consequência, a existência digna de todos é comprometida, uma vez que a

desinformação pode afetar negativamente diversos aspectos da vida das pessoas, como a
saúde, a segurança, as relações sociais e a participação cívica. Além disso, a propagação das
16
STEFANONE, Michael A.; VOLLMER, Matthew; COVERT, Jessica M. In news we trust? Examining
credibility and sharing behaviors of fake news. In: Proceedings of the 10th international conference
on social media and society. 2019. p. 136-147.
fake news pode levar a divisões e polarizações na sociedade, minando o diálogo construtivo,
a cooperação e a busca por soluções coletivas17.

Portanto, a fim de cumprir os princípios constitucionais do art 170, em especial os IV,

VII e IX, o Estado deve incitar a promoção da transparência algorítmica e a cooperação com
especialistas.

A transparência algorítmica é fundamental para que os usuários e a sociedade em geral

entendam como os algoritmos das redes sociais operam, quais critérios são utilizados para
personalizar o conteúdo e como são tomadas as decisões sobre o que é exibido aos
usuários.18 Isso permitiria uma maior compreensão sobre como as informações são
selecionadas, evitando assim possíveis vieses e manipulações, e, também, uma avaliação
crítica dos impactos sociais e individuais dessas plataformas, bem como a identificação e
correção de possíveis práticas abusivas ou prejudiciais.

A cooperação com especialistas é igualmente importante. Esses profissionais possuem

conhecimentos técnicos e experiência na análise e combate das fake news, bem como na
promoção de uma comunicação mais responsável e ética nas redes sociais. Sua participação
na fiscalização das redes sociais contribui para a construção de políticas mais embasadas e
eficazes, considerando diferentes perspectivas e garantindo a representatividade dos diversos
setores da sociedade.19

Além disso, essa cooperação fortalece a capacidade de identificar e enfrentar

problemas relacionados à desinformação, fortalecendo assim a defesa do consumidor e a
redução das desigualdades regionais e sociais, ao promover um ambiente mais equitativo,
transparente e confiável para todos os usuários.

Conclusão

17
SPOHR, Dominic. Fake news and ideological polarization: Filter bubbles and selective
exposure on social media. Business information review, v. 34, n. 3, p. 150-160, 2017.
18
DE PÁDUA, Sérgio Rodrigo. inteligência artificial e direitos humanos: o direito humano à
transparência algorítmica. interdisciplinaridade e direitos humanos, v. 2, p. 911.
19
DE BARROS TEIXEIRA, Lucas. Transparência Algorítmica em soluções utilizadas por
Governos. Revista Interface Tecnológica, v. 18, n. 1, p. 12-27, 2021.
 Ao longo deste trabalho, foram explorados os perigos dos algoritmos presentes nas
redes sociais, que têm contribuído para a criação de bolhas sociais e a disseminação de fake
news. Apresentou-se como esses algoritmos são projetados para maximizar o engajamento
dos usuários, muitas vezes às custas da diversidade de opiniões e da veracidade das
informações compartilhadas.
As bolhas sociais, resultado direto desses algoritmos, representam uma ameaça para a
sociedade, pois limitam a exposição dos indivíduos a diferentes perspectivas, reforçando seus
preconceitos e criando um ambiente propício para a propagação de desinformação. O
fenômeno das fake news se fortalece nesse contexto, uma vez que as pessoas são expostas a
conteúdos que confirmam suas crenças e raramente são confrontadas com informações
contraditórias.
No entanto, é crucial ressaltar que as redes sociais devem ser conscientes de sua
responsabilidade perante a sociedade e agir de acordo com o Artigo 170 da Constituição, a
ordem econômica deve estar pautada na valorização do trabalho humano e na promoção do
bem-estar social. Dessa forma, as plataformas sociais devem buscar um equilíbrio entre o
lucro e o respeito aos direitos dos usuários, incluindo o acesso a informações confiáveis e
diversificadas.
É necessário um esforço conjunto entre os governos, sociedade civil e empresas de
tecnologia para supervisionar adequadamente os algoritmos utilizados pelas redes sociais. É
preciso garantir que esses algoritmos sejam transparentes, éticos e levem em consideração a
importância da diversidade de opiniões e da veracidade das informações.
Ademais, é fundamental promover a educação midiática e o pensamento crítico para
capacitar os usuários a identificar e combater as fake news. Além disso, é necessário fomentar
a criação de ambientes online mais inclusivos e respeitosos, que incentivem o diálogo e o
debate saudável, contrapondo-se às bolhas sociais e à polarização.

Referências Bibliográficas

BALAJI, T. K.; ANNAVARAPU, Chandra Sekhara Rao; BABLANI, Annushree. Machine learning algorithms
for social media analysis: A survey. Computer Science Review, v. 40, p. 100395, 2021. Disponível em:
https://www.sciencedirect.com/science/article/abs/pii/S1574013721000356?casa_token=fmx2fMKeuEQAAAA
A:SNPAioRbJpgeM_ZpQ4UuEQOTYyUm1LcUcX7CRWzhceX-XNksQK34HDvH2snv9-xnJuPEylB2qGUF
Acesso em: 17 maio 2023.
BAPTISTA, João Pedro Fernandes Alves Roma. Quem consome Fake News? Uma análise comparativa do
efeito da ideologia política Esquerda-Direita na crença, interpretação e divulgação. 2022. Tese de
Doutorado. Disponível em: https://ubibliorum.ubi.pt/handle/10400.6/12245 Acesso em: 19 maio 2023.
BERCOVICI, Gilberto. Constituição econômica e dignidade da pessoa humana. Revista da Faculdade de
Direito, Universidade de São Paulo, v. 102, p. 457-467, 2007.
BRASIL. [Constituição (1988)]. Constituição da República Federativa do Brasil. Brasília, DF: Senado
Federal, 2016. 496 p. Disponível em:
https://www2.senado.leg.br/bdsf/bitstream/handle/id/518231/CF88_Livro_EC91_2016.pdf. Acesso em: 10 maio
2023.
CHIOU, Lesley; TUCKER, Catherine. Fake news and advertising on social media: A study of the
anti-vaccination movement. National Bureau of Economic Research, 2018. Disponível em:
https://www.nber.org/system/files/working_papers/w25223/w25223.pdf Acesso em: 23 maio 2023.
CINELLI, Matteo et al. Echo chambers on social media: A comparative analysis. arXiv preprint
arXiv:2004.09603, 2020. Disponível em: https://arxiv.org/abs/2004.09603 Acesso em: 18 maio 2023.
CINELLI, Matteo et al. The echo chamber effect on social media. Proceedings of the National Academy of
Sciences, v. 118, n. 9, p. e2023301118, 2021. Disponível em:
https://www.pnas.org/doi/abs/10.1073/pnas.2023301118 Acesso em: 21 maio 2023.
CLARK, Giovani; DO NASCIMENTO, Samuel Pontes; CORRÊA, Leonardo Alves. A constituição econômica
entre a efetivação e os bloqueios institucionais. Revista da Faculdade de Direito da Universidade Federal de
Minas Gerais, 2017. Disponível em:
https://repositorio.ufmg.br/bitstream/1843/40118/2/A%20constitui%c3%a7%c3%a3o%20econ%c3%b4mica%20
entre%20a%20efetiva%c3%a7%c3%a3o%20e%20os%20bloqueios%20institucionais.pdf Acesso em: 22 maio
2023.
JUNIOR, Waldir Navarro Bezerra. Expansão democrática pelas redes sociais: uma visão das eleições de
2018. Brazilian Journal of Development, v. 6, n. 7, 2020. Disponível em:
https://ojs.brazilianjournals.com.br/ojs/index.php/BRJD/article/view/12914 Acesso em: 22 maio 2023.
KITCHENS, Brent; JOHNSON, Steven L.; GRAY, Peter. Understanding Echo Chambers and Filter Bubbles:
The Impact of Social Media on Diversification and Partisan Shifts in News Consumption. MIS quarterly, v.
44, n. 4, 2020. Disponível em:
https://www.darden.virginia.edu/sites/default/files/inline-files/05_16371_RA_KitchensJohnsonGray%20Final_0.
pdf Acesso em: 21 maio 2023.
KSHETRI, Nir; VOAS, Jeffrey. The economics of “fake news”. IT Professional, v. 19, n. 6, p. 8-12, 2017.
Disponível em: https://libres.uncg.edu/ir/uncg/f/N_Kshetri_Economics_2017.pdf Acesso em: 21 maio 2023.
MITTELSTADT, Brent Daniel et al. The ethics of algorithms: Mapping the debate. Big Data & Society, v. 3,
n. 2, p. 2053951716679679, 2016. Disponível em:
https://journals.sagepub.com/doi/pdf/10.1177/2053951716679679 Acesso em: 20 maio 2023.
MOREIRA, Egon Bockmann. Os princípios constitucionais da atividade econômica. Revista da Faculdade de
Direito UFPR, v. 45, 2006. Disponível em:
http://dominiopublico.mec.gov.br/download/teste/arqs/cp072318.pdf Acesso em: 24 maio 2023.
PETRESCU, Maria; KRISHEN, Anjala S. The dilemma of social media algorithms and analytics. Journal of
Marketing Analytics, v. 8, p. 187-188, 2020. Disponível em:
https://link.springer.com/article/10.1057/s41270-020-00094-4 Acesso em: 16 maio 2023.
SATTAR, Sadiqa. Big brother of the twenty first century: a critical analysis of George Orwell’s 1984 with
the movie Snowden and Netflix documentary The Social Dilemma. 2021. Tese de Doutorado. Brac
University. Disponível em:
https://dspace.bracu.ac.bd/xmlui/bitstream/handle/10361/15883/16103031_ENH.pdf?sequence=1&isAllowed=y
Acesso em: 18 maio 2023.
SILVA, Letícia Guardiano Ribeiro. Product Placement nas atuais mídias sociais: um exame sobre a
hipervulnerabilidade infantil frente à esta prática abusiva. 2019. Disponível em:
https://repositorio.ufu.br/bitstream/123456789/28726/1/ProductPlacementAtuais.pdf Acesso em: 25 maio 2023.
VALENZUELA, Sebastián et al. The paradox of participation versus misinformation: Social media,
political engagement, and the spread of misinformation. Digital Journalism, v. 7, n. 6, p. 802-823, 2019.
Disponível em: https://www.tandfonline.com/doi/full/10.1080/21670811.2019.1623701 Acesso em: 17 maio
2023.
ZIMMER, Franziska et al. Echo chambers and filter bubbles of fake news in social media. Man-made or
produced by algorithms. In: 8th annual arts, humanities, social sciences & education conference. 2019. p. 1-22.
Disponível em: https://huichawaii.org/wp-content/uploads/2018/12/Zimmer-Franziska-2019-AHSE-HUIC.pdf
Acesso em: 22 maio 2023.