Escolar Documentos
Profissional Documentos
Cultura Documentos
MS
P
PREPARADO PELO
COMUNICAÇÕES ESTRATÉGICAS DA OTAN
CENTRO DE EXCELÊNCIA
1
ISBN: 978-9934-564-58-1
Singularex
Este relatório foi concluído em novembro de 2019 e com base em um experimento realizado de maio a agosto de 2019.
Singularex é uma empresa de inteligência e análise de mídia social com sede em Kharkiv, Ucrânia. Site:
www.singularex.com
Email: hello@singularex.com
www.stratcomcoe.org
Facebook / stratcomcoe
Twitter @stratcomcoe
Esta publicação não representa as opiniões ou políticas da OTAN ou do OTAN StratCom COE.
© Todos os direitos reservados pela OTAN StratCom COE. Os relatórios não podem ser copiados, reproduzidos, distribuídos ou
exibidos publicamente sem referência ao OTAN StratCom COE. As opiniões aqui expressas não representam as opiniões da
OTAN.
2
SUMÁRIO EXECUTIVO
Desde a invasão da Ucrânia em 2014 até as tentativas mais Com um custo de apenas 300 EUR, compramos 3 530
recentes de interferir nas eleições democráticas, os comentários, 25 750 gostos, 20 000 visualizações e 5 100
antagonistas que buscam influenciar seus adversários se seguidores. Ao estudar as contas que geraram a
voltaram para a manipulação da mídia social. manipulação de compra, pudemos identificar 18 739 contas
por Manipulation Service Providers (MSPs) com base na Em um teste da capacidade das plataformas de detectar o uso
Rússia. Os compradores variam de indivíduos a empresas e indevido de forma independente, descobrimos que quatro
atores em nível estadual. Normalmente, esses provedores de semanas após a compra, 4 em 5 dos compromissos não
serviço vendem engajamento na mídia social na forma de autênticos comprados ainda estavam online. Além disso,
Desde a sua fundação, o Centro de Excelência de relatadas ainda estavam ativas online.
integrante das campanhas de influência de agentes estatais e A maioria das contas não autênticas monitoradas
não estatais maliciosos directamente contra a Aliança e os seus permaneceram ativas durante todo o experimento. Isso significa
em 105 postagens diferentes no Facebook, Instagram, Twitter e Embora tenhamos identificado manipulação política - até
YouTube usando 11 redes sociais russas e 5 europeias (1 quatro das cinco contas usadas para manipulação no
polonesa, 2 alemã, 1 francesa, 1 italiana) provedores de Facebook foram usadas para se envolver com conteúdo
serviços de manipulação de mídia. político até certo ponto - avaliamos que mais de 90% dos
3
Identificamos noivado falso adquirido para 721 port apresenta uma perspectiva diferente: Fomos facilmente
páginas políticas e 52 páginas oficiais do governo, capazes de comprar mais de 54.000 interações de mídia social
incluindo os relatos oficiais de dois presidentes, a inautênticas com pouca ou nenhuma resistência.
política, no entanto, visava páginas não ocidentais. comportamento inautêntico coordenado esteja longe do fim,
Avaliamos ainda o desempenho das quatro empresas de remover contas e atividades manipulativas do que outras.
mídia social de acordo com sete critérios projetados para Investimento, recursos e determinação fazem a diferença.
Com base nesse experimento e em vários outros estudos relatórios com base em critérios
que conduzimos nos últimos dois anos, avaliamos que o mais significativos
manipulação está crescendo ano a ano. Não vemos nenhum plataformas de mídia social
4
A manipulação da mídia social é a nova fronteira para
antagonistas que buscam influenciar eleições, polarizar a opinião
pública e desviar de discussões políticas legítimas.
INTRODUÇÃO
A manipulação da mídia social é a nova fronteira para linha para influenciar a percepção pública de tendências e
antagonistas que buscam influenciar eleições, polarizar popularidade. Algumas contas não autênticas são contas
a opinião pública e desviar de discussões políticas simples, controladas por bot [abreviação de robô], sem
Uma nova indústria foi desenvolvida para alimentar o mercado elaboradas ou 'antigas' com longos históricos que devem ser
MSPs oportunistas logo começaram a aparecer na Europa, Os bots são uma forma muito econômica de gerar alcance
muitas vezes simplesmente revendendo serviços baseados na artificial e criar uma onda de 'prova social', pois os usuários
que foi apreciado por muitos outros. Contas controladas por bot
Os compradores variam de indivíduos que buscam aumentar custam apenas alguns centavos cada e devem ser bloqueadas
sua popularidade, influenciadores que manipulam o sistema rapidamente. Relatos não autênticos mais elaborados
de publicidade online e atores estaduais com motivações requerem algum controle humano direto. Eles podem custar
políticas. A manipulação de mídia social depende de contas até várias centenas de euros e muitas vezes permanecem
não autênticas que se relacionam com outras contas em online por anos.
5
O 'mercado negro' para manipulação de
mídia social
A escala é maior do que se pensava.
inautêntica é extenso.
6 6
políticas de falsificação de identidade. o Facebook
Compromissos para prevenir desativou 2,19 bilhões de contas não autênticas no
Uma parte importante do Código de Prática foi o de mídia social estão realmente cumprindo seus
compromisso de colocar em prática políticas claras para compromissos e verificar de forma independente sua
identificar e lidar com o uso indevido de bots capacidade de combater o uso indevido de suas
União Europeia.
Neste relatório, usamos métodos experimentais para
A Comissão Europeia instou as empresas de redes sociais a identificar o quão difícil é contornar as medidas que agora
intensificarem os seus esforços e, tendo em vista as eleições deveriam ter sido adotadas. Sem acesso aos dados das
europeias de 2019, a Comissão e o Grupo de Reguladores empresas de mídia social, tivemos que desenvolver uma
Europeus dos Serviços de Comunicação Social Audiovisual abordagem muito mais criativa para o problema.
essas plataformas à Comissão. 2 Com base em nosso trabalho anterior sobre o 'mercado
A Comissão observa que as plataformas de mídia social para nosso benefício. A escala e a eficácia do mercado de
relataram que tomaram medidas contra o comportamento não manipulação permitem experimentos para testar e avaliar a
autêntico para limitar o escopo do spam e da desinformação capacidade de empresas de mídia social individuais de
7
Quem nós somos
OTAN é uma organização militar internacional constituída por capacidade de defesa, mantendo e melhorando a defesa
vários países e acreditada pela OTAN. Não fazemos parte da cibernética. 5 As medidas para reforçar a resiliência a ameaças
Estrutura de Comando da OTAN e não estamos subordinados a híbridas - desde campanhas de desinformação a crises
nenhuma outra entidade da OTAN. emergentes - são hoje uma parte essencial da cooperação
OTAN-UE.
Nossa força é construída por participantes Desenvolvemos esta experiência em apoio ao Plano de
multinacionais e intersetoriais dos setores civil, Ação da União Europeia contra a Desinformação 6 e o
militar, privado e acadêmico e do uso de tecnologias Código de Prática de autorregulação 7 para lidar com a
modernas, ferramentas virtuais para análise, disseminação da desinformação online.
pesquisa e tomada de decisão.
A OTAN e a União Europeia (UE) são parceiros ferramenta importante para atores que conduzem atividades
essenciais que desenvolveram uma cooperação mais de influência contra os interesses da UE e da OTAN. Reforçar
estreita para melhorar a segurança dos cidadãos nossa resiliência coletiva requer uma compreensão mais
europeus durante os últimos anos - com declarações profunda desse espaço problemático para que possamos
conjuntas feitas para o efeito em 2016 e 2018. 4 Em estabelecer uma análise, prevenção e detecção precoce
2016, as duas organizações delinearam áreas para resolvermos as vulnerabilidades das plataformas de mídia
8
Gastando 300 EUR, compramos 3.530 comentários,
25.750 curtidas, 20.000 visualizações e
5 100 seguidores, o que nos permite identificar 18 739 contas não
autênticas sendo usadas para manipulação de mídia social.
experimentar criamos.
Para testar a capacidade do Facebook, Instagram, Twitter e Para avaliar se há uma diferença entre a capacidade das várias
Youtube de identificar e remover a manipulação em suas plataformas de se opor à manipulação comprada em contas
plataformas, compramos comentários, visualizações e curtidas verificadas, também compramos comentários e curtidas em
de uma variedade de provedores de serviços de manipulação algumas postagens verificadas reais em cada plataforma.
Estruturamos o experimento para que pudéssemos medir e reais, só compramos engajamento em postagens com
avaliar o desempenho de ambos os provedores de serviços pelo menos seis meses e que continham mensagens
de manipulação e plataformas de mídia social. apolíticas neutras, como os cumprimentos de Ano Novo.
Para limitar o risco de influenciar não intencionalmente Os comentários que compramos eram mensagens
9
'Olá!' e 'Obrigado!' (veja o estudo de caso na página 25). para identificar e bloquear a manipulação comprada, era
Envolver-se com postagens que provavelmente não importante que nosso experimento não solicitasse aos usuários
receberiam envolvimento genuíno também permitiu uma ou gerentes de conta que relatassem nossa atividade às
medição mais precisa do envolvimento adquirido. empresas de mídia social, pois isso teria “envenenado” nossos
vigilantes. Portanto, as descobertas apresentadas a seguir Compramos nosso contrato de provedores de serviços de
representam uma espécie de melhor cenário para as empresas manipulação comercial. Isso significa que a falha em remover
de mídia social, pois elas se comprometeram a dedicar recursos as contas não autênticas e o envolvimento não autêntico que
extras para prevenir abusos durante esse período. compramos significa que a atividade maliciosa conduzida por
Pode-se argumentar que a manipulação comprada é mais empresas de mídia social de lidar com a indústria de
de mídia social
julho agosto
Relatando um aleatório
amostra do identi fi cado
2019 e verificação
Análise de dados
contas inautênticas
para a mídia social
empresas
10
gagement. Relatamos o engajamento inautêntico às empresas
A escala do de mídia social em julho e continuamos o monitoramento até o
Cinco etapas do
experimento
Comprando curtidas, comentários,
contas inautênticas
11
a criação de contas não autênticas e a capacidade das
Nossos critérios de avaliação plataformas de reconhecer e remover comportamentos
Avaliamos o desempenho das quatro empresas de mídia comportamento ter sido relatado.
2
bloqueio de contas aumenta a barreira para
contas
a manipulação, tornando-a mais difícil e cara.
Capacidade para
Essa capacidade é importante para
detectar e
combater a propagação, o impacto e o 'tempo na
retirar
plataforma' de falta de autenticidade
inautêntico
3
atividade.
contas
4
inautêntico manipulação da mídia social.
atividade
6
escala.
7
indica que os fornecedores precisam de
importante do
12
A experiência de criar nossas próprias contas não
Avaliação da capacidade da autênticas nos permite concluir que está se tornando muito
empresa de mídia social de mais difícil para o usuário médio criar contas não autênticas
contas inautênticas, o Facebook suspendeu 80 por cento, Avaliamos três critérios para a capacidade das empresas de
Twitter - 66 por cento e Instagram - 50 por cento. O YouTube mídia social de desfazer os efeitos da manipulação. Primeiro,
não suspendeu nenhuma de nossas contas. a remoção da atividade comprada, como comentários ou
Monitorando ativamente nossas próprias configurações durante gerenciamento de efeitos mais avançado pode incluir
a criação da conta, pudemos identificar por que fomos notificações aos proprietários da conta de que seu conteúdo
bloqueados. Os motivos variam de caso para caso, mas incluem foi manipulado, informando os usuários que foram expostos à
cookies de navegador da web e o uso de endereços IP manipulação e informando o público sobre casos
experimento.
Embora as diferentes empresas de mídia social tenham seus
Os sistemas usados pelo Facebook, Instagram e Twitter pontos fortes e fracos, uma plataforma tem um desempenho
para proteção contra o registro de várias contas (não ruim, independentemente do critério - o Instagram foi
autênticas) de um único endereço IP ou VPN são amplamente incapaz de detectar e conter qualquer
geralmente eficazes. As medidas postas em prática pelo manipulação. O Instagram conseguiu remover apenas 5%
Twitter para evitar a criação de contas inautênticas foram dos comentários não autênticos comprados e praticamente
especialmente difíceis de contornar. nenhum dos gostos ou visualizações não autênticos foram
corrigidos.
13
O YouTube é a única plataforma que conseguiu reduzir a no combate à manipulação. Quando as contas usadas para
Em todas as plataformas, a primeira diminuição do plataformas de mídia social são redesenhadas para quebrar os
engajamento adquirido é geralmente registrada do terceiro scripts usados para a manipulação de sementes, os
ao quinto dia após a compra, indicando que, mesmo quando desenvolvedores MSP precisam atualizar seus scripts. Esses
a manipulação é removida, costuma ser muito lenta para ser custos são repassados aos seus consumidores.
eficaz.
Para avaliar o custo dos serviços, analisamos as ofertas fornecedores europeus mais caros e freqüentemente
A figura abaixo mostra quantos curtidas, comentários, Para fazer uma avaliação equilibrada do custo relativo de
visualizações ou seguidores é possível comprar por 10 EURO. manipulação das plataformas, identificamos cinco MSPs
As figuras representam o preço médio cotado por cinco russos baratos e confiáveis que também forneciam uma
781 curtidas
1204 curtidas
QUANTO MANIPULAÇÃO
2173 gostos
VOCÊ PODE COMPRAR POR 10 EURO?
4000 curtidas
3267 visualizações
4347 visualizações
11 627 visualizações
13 158 visualizações
458 seguidores
Geral,
990 seguidores manipulando
2439 seguidores Instagram
14
No geral, o YouTube é o serviço mais caro de se manipular. mais de cinco minutos no Instagram. O Twitter foi
O custo dos serviços de manipulação para Twitter e geralmente o mais lento com a manipulação comprada
Facebook é aproximadamente semelhante, embora varie aparecendo após uma hora e completando dentro de dois
custo da mesma manipulação do Twitter e do Facebook e Há uma quantidade considerável de atividades cruzadas
apenas um quinto do custo de manipulação do YouTube. na indústria de manipulação. Observamos que diferentes
provedores europeus costumam usar as mesmas contas
não autênticas, e essas contas costumam ser de origem
russa e ucraniana, indicando que muitos dos MSPs
A manipulação do YouTube é a mais cara para tudo, europeus usam os mesmos subfornecedores russos.
exceto os comentários, enquanto a manipulação no
Instagram é a mais barata em todas as categorias.
Os serviços de manipulação de mídia social estão amplamente ser porque os provedores sabem que alguns de seus esforços
disponíveis, acessíveis e profissionais. Quase todos os de manipulação desaparecerão - na verdade, pelo menos um
prestadores de serviços de manipulação que usamos foram fornecedor oferece uma garantia mensal, prometendo
altamente responsivos a perguntas e reclamações, indicando 'recarregar' periodicamente os números se a empresa de mídia
Descobrimos que os serviços de manipulação do Instagram em muitos provedores revendem serviços oferecidos por
geral eram os mais confiáveis, enquanto os serviços de outros e, portanto, não têm certeza de como muitas
comentários do Facebook, Twitter e Youtube eram os menos intervenções serão realizadas em tempo hábil.
confiáveis.
Com exceção do Twitter, toda a manipulação comprada Esse argumento é apoiado pela considerável sobreposição
foi entregue em 24 horas, em média. Embora o tempo no uso de contas entre os provedores. No Twitter, por
médio de entrega completa no Instagram também fosse exemplo, encontramos muitos exemplos das mesmas contas
inferior a 24 horas, vários provedores de serviços não autênticas sendo usadas por cinco ou mais MSPs
15
Capacidade de resposta A mídia social
(Critério 7) indústria de manipulação
Após o final da fase um do experimento, relatamos 100 Este experimento fortaleceu muitas das conclusões de
contas aleatórias usadas para manipulação de mídia nosso relatório sobre o 'mercado negro' para
contas. Vale reiterar que as contas que relatamos foram O mercado de manipulação está amplamente disponível e há
as contas que realizaram a manipulação que compramos, um alto grau de revenda, o que significa que diferentes
o que significa que tínhamos 100% de certeza de que provedores costumam usar o mesmo conjunto de contas para
essas contas estavam envolvidas na manipulação de seus serviços de manipulação. Alguns dos melhores MSPs
Três semanas após a data em que relatamos as contas, recebido, sem fornecer nenhum serviço.
Dado o baixo número de contas removidas, fica claro que razoavelmente bem e a maioria dos pedidos são entregues de
as empresas de mídia social ainda estão lutando para maneira oportuna e precisa. A manipulação da mídia social
remover contas usadas para manipulação de mídia social, continua amplamente disponível, barata e eficiente.
0 20 40 60 80 100
16
Embora o YouTube seja o pior na remoção de contas não autênticas, é
melhor no combate a curtidas não autênticas e exibições artificiais de vídeos.
17
taxa de bloqueio, no entanto, é muito fácil superar seu Durante nossa fase de experimento, o Instagram lançou uma
bloqueio usando técnicas relativamente simples, como atualização significativa de sua plataforma, o que fez com que
O custo de manipulação do Instagram foi o mais baixo para MSPs atualizaram seus sistemas e puderam retomar seus
mais fácil de manipular. Em média, o serviço prestado Nosso experimento mostra claramente que o
desviou-se em 18% do que solicitávamos e a maioria das Instagram tem desafios significativos para combater o
encomendas foi entregue em 24 horas. abuso em sua plataforma, pois manipulá-lo é fácil e
barato.
O Instagram parecia ter uma falha em seu sistema, pois seus Twitter
contadores de curtidas e comentários não refletiam
mudanças reais - durante nosso experimento, os contadores O Twitter é atualmente a plataforma mais eficaz no combate
aumentaram, mas nunca diminuíram. Quando contas não ao abuso de seus serviços. Leva mais tempo para que o
autênticas foram removidas, não houve alteração nos engajamento comprado apareça no Twitter e a qualidade da
contadores de curtidas e comentários. Para obter registros entrega é mais desigual do que nas outras plataformas. Mesmo
precisos, tivemos que comparar a lista de engajamentos do assim, todos os MSPs entregaram todos os serviços que
usuário e os números do contador para cada engajamento. compramos sem recusas ou falhas nas entregas.
o efeito da manipulação permanecerá na plataforma. O Twitter também identificou e removeu mais manipulação
O Instagram também teve um desempenho ruim no começamos a reportar as contas. Isso indica que as contas
bloqueio da manipulação de conteúdo. O Instagram removeu usadas por MSPs são removidas com mais eficácia no
a relatar a conta inautêntica às plataformas de mídia social. O O Twitter não conseguiu remover nenhuma das visualizações
Instagram se saiu melhor do que o Twitter, bloqueando 44% compradas e não foi possível medir o número de comentários
dos seguidores inautênticos que compramos, mas pior do que o removidos por causa de um recurso do Twitter que dificultou
YouTube. para nós medir o motivo pelo qual um comentário foi removido
18
[o muito debatido recurso “Este tweet não está disponível”]. visualizações, no entanto, uma redução de 10% está longe
Embora o Twitter seja eficaz no bloqueio de novas contas inautêntica no YouTube pode permanecer ativa por
inautênticas, o legado de seus esforços anti-spam muitos meses sem ser detectada, um insight que esse
inadequados ainda impacta a plataforma hoje, pois contas experimento parece fortalecer.
O Twitter deve ser elogiado por fazer o máximo para autênticas no YouTube. A popularidade da plataforma, a
combater o uso malicioso de sua plataforma. Eles estão dificuldade [para pesquisadores externos] de detectar a
atualmente à frente das outras plataformas que testamos. manipulação da plataforma e as recompensas financeiras
Mesmo assim, ainda é muito possível manipular conteúdo e potenciais da manipulação tornam o YouTube um alvo
conversas no Twitter, apenas requer um pouco mais de ideal. O fato de o YouTube ser a plataforma mais cara de
esforço do que nas outras plataformas. manipular é uma prova de suas ações defensivas ou da
Você tubo
A capacidade do YouTube de se opor a comentários não diferentes plataformas de mídia social de conter a
extremamente eficiente em entregar comentários não Embora o Twitter tenha superado os outros, é muito mais
autênticos no YouTube. Nove em cada dez comentários desafiador classificar o desempenho relativo do YouTube,
entregues permaneceram ativos na plataforma durante todo o Facebook e Instagram. Em nossa avaliação final, decidimos
Contornar visualizações artificiais deve ser a maior preocupação tempo, avaliamos que nenhuma das quatro plataformas está
do YouTube, pois visualizações falsas geram custos de fazendo o suficiente para impedir a manipulação de seus
combate ao
19
ASS SMENT DAS PLATAFORMAS FORTES RELATIVOS E FRACOS
MS
P
r (1 st ), Y ovocê
Illustra tIo n o f erla ti ve p er fou m uma n c e o f T ttCeeu Tu b( eWL ,2 ) F uma cbeo OK(3 rd ) uma
n No
d suma
t gmr uma 4 º ) 20
Os provedores de serviços de manipulação ainda estão ganhando.
tabela abaixo. Twitter - 60%, YouTube - 43%, Facebook
A habilidade da indústria - 26% e Instagram - 1%.
plataformas. Enquanto eles estão melhorando no campo de Seis semanas depois de começarmos a comprar um
remoção de seguidores não autênticos, eles estão engajamento de mídia social inautêntico, pouco antes de
enfrentando dificuldades substanciais no combate a começarmos a relatar as contas usadas para fornecer os
comentários e opiniões não autênticos. serviços de manipulação, medimos quantas ainda estavam
Em todas as plataformas, a remoção das manipulações No total, apenas 17% dos bots que identificamos foram
compradas é geralmente registrada pela primeira vez no removidos. Este número baixo mostra que os próprios
terceiro ao quinto dia após a compra, o que é preocupante algoritmos das empresas de mídia social para detectar o
devido à velocidade das mídias sociais. Se as manipulações uso indevido são ineficazes em geral. Os serviços de pior
forem identificadas e removidas apenas três a quatro dias desempenho para bloquear contas não autênticas foram
depois de serem postadas no Instagram, Facebook e Twitter, os Instagram e YouTube. O Facebook ficou em terceiro
esforços atrasados para conter a manipulação serão menos lugar, tendo removido 21%. E, de acordo com essa
das diferentes plataformas é o mesmo que a redução total Estes números devem ser considerados: maus atores que
Instagram 3% 1% 44% 0%
21
os formulários podem esperar que apenas uma pequena Padrão de interação de contas não
fração da atividade não autêntica seja removida de forma autênticas nas redes sociais
proativa. Portanto, a maioria das atividades maliciosas
permanece incontestada e, mesmo que seja removida, seus Seguir as contas usadas para manipulação para analisar
efeitos costumam permanecer. quem mais usa seus serviços e qual conteúdo eles estão
Empresas de mídia social relatam que bloqueiam milhões acesso aos dados.
influenciar a capacidade dos provedores de serviço de Embora pudéssemos examinar as contas no Twitter, no
manipulação de manipular suas plataformas. Uma Facebook só pudemos ver com quais páginas as contas
explicação para os números aparentemente impressionantes estavam engajadas e no Instagram tivemos que realizar um
relatados pelas empresas de mídia social pode ser que milhões exame manual de uma amostra aleatória de contas. Não
de contas são bloqueadas no momento da criação. encontramos nenhuma maneira de estudar este assunto no
YouTube.
de criar contas não autênticas com sucesso, o resultado é que Nosso experimento mostra que a grande maioria do
um grande número de contas não autênticas é bloqueado, mas engajamento comprado é usado para fins comerciais. O
contas não autênticas ainda são eventualmente criadas. Instagram parece ter o maior problema com a manipulação
comprada no
o Facebook 2 1% o Facebook
0 1500 3000 4500 6.000 7500 9000 10500 12.000 13500 15.000
Bloqueado
Numero inicial
22
contas de influenciadores comerciais. Alguns dos
23
ESTUDO DE CASO: PROTEGENDO CONTAS VERIFICADAS
Embora a maior parte de nosso experimento tenha sido quaisquer outras contas em plataformas de mídia social. Mais
conduzida comprando engajamento em nossas próprias contas, especificamente, não conseguimos detectar qualquer diferença
também testamos se as plataformas são melhores para entre a proteção de contas verificadas e comuns no Instagram,
proteger contas institucionais verificadas. 10
mas para o Facebook houve uma diferença entre as reduções
Para conduzir essa parte do experimento, compramos média de 27% de seus gostos removidos após quatro
engajamento em mensagens apolíticas, como os semanas, enquanto nossas contas normais perderam apenas
cumprimentos de Ano Novo nas postagens de algumas contas 5%. Para comentários e visualizações não autênticos, não
'Obrigado!'
Escolhemos quatro cargos dos comissários Jourová, Katainen No Twitter, havia uma diferença clara entre o engajamento
e Vestager para ilustrar este estudo de caso. Os resultados comprado em nossas postagens comuns e o engajamento
são representativos para nossa conclusão geral de que o comprado em postagens verificadas, mas sem nenhum padrão
engajamento é entregue rapidamente e permanece ativo por claro. 37% dos comentários em nossas próprias postagens
um período de tempo significativo. Nossos exemplos mostram foram removidos, mas apenas 1% dos comentários não
que a atividade inautêntica pode permanecer ativa por muito autênticos foram removidos das postagens verificadas. Para
tempo. Em dezembro de 2019, 30 semanas após o curtidas e retuítes, o Twitter foi mais eficaz na redução de
experimento, uma proporção significativa do conteúdo não engajamento inautêntico em postagens verificadas em cerca de
autêntico ainda estava online. 20%. No YouTube, vimos uma remoção de 23% de curtidas não
Esses quatro exemplos também mostram que às vezes os comuns em comparação com uma redução de 8% em vídeos
Havíamos previsto que contas e postagens verificadas contas institucionais europeias verificadas, a diferença
seriam mais bem protegidas, mas com base em nosso identificada foi aleatória ou insignificante. Isso nos leva a
estudo de caso, esse não parece ser o caso. Concluímos, concluir que contas institucionais verificadas
portanto, que contas verificadas, mesmo contas provavelmente não estão mais protegidas contra
institucionais, não são mais bem protegidas contra manipulação em plataformas de mídia social.
manipulação do que
24
25
A autorregulação não está funcionando. A indústria de
manipulação está crescendo ano a ano. Não vemos nenhum
sinal de que está se tornando substancialmente mais caro ou
mais difícil conduzir a manipulação generalizada de mídia
social.
CONCLUSÕES
Desde a sua fundação, o Centro de Excelência de [N] ovas tecnologias podem ser utilizadas,
Comunicação Estratégica da OTAN tem estudado a notadamente por meio das mídias sociais, para
manipulação das redes sociais porque é uma parte disseminar desinformação em escala e com
agentes estatais e não estatais maliciosos contra a Aliança, precedentes, criando informações
resiliência para influenciar campanhas é uma parte essencial esferas e se tornando poderosas câmaras de eco
Ao 'combater a desinformação online: uma abordagem de atores nacionais e estrangeiros para semear
europeia', a Comissão Europeia observou acertadamente que: desconfiança e criar tensões sociais, com graves
grande escala, incluindo informações enganosas Nesse contexto, é de vital importância que as empresas
ou totalmente falsas, é um grande desafio para a de mídia social façam o possível para evitar o abuso de
26
assinou esta experiência para testar a implementação A maioria das contas não autênticas que monitoramos
das redes sociais líderes da parte do Código de Prática permaneceram ativas durante todo o experimento. Isso
de autorregulação que trata de contas não autênticas e significa que a atividade maliciosa conduzida por outros
comportamento não autêntico coordenado online. atores usando os mesmos serviços e as mesmas contas
conduzimos nos últimos dois anos, avaliamos que o Isso significa que, mesmo que nosso experimento, que foi
Facebook, Instagram, Twitter e YouTube ainda estão benigno por design, não tenha acionado o bloqueio de nosso
falhando em lidar com o comportamento inautêntico engajamento adquirido - nem qualquer outra atividade realizada
A autorregulação não está funcionando. A indústria de contas não autênticas usadas para entregar o engajamento que
manipulação está crescendo ano a ano e não vemos sinais compramos também foram usados para entregar o
de que a manipulação de mídia social generalizada esteja engajamento que outros clientes compraram - e as contas não
se tornando substancialmente mais cara ou mais difícil. autênticas permaneceram ativas durante todo o nosso teste. Na
Autorregulamentação Europeu. Reconhecemos que todas Embora a luta contra a desinformação online e o
as plataformas empreenderam esforços para lidar com comportamento inautêntico coordenado esteja longe do fim,
comportamento não autêntico coordenado, contas falsas e uma descoberta importante de nosso experimento é que as
atividades mal-intencionadas orientadas por bot, bem como diferentes plataformas não são igualmente ruins - na verdade,
termos de aplicação de serviço durante o ano passado. Ao algumas são significativamente melhores em identificar e
mesmo tempo, é evidente que ainda falta o nível de remover contas e atividades manipulativas do que outras.
manipuladas.
27
Se podemos conduzir um experimento, as empresas
de mídia social também podem.
RECOMENDAÇÕES DE POLÍTICA
com base em critérios mais independente deve ser considerado para construir e manter
autênticas bloqueadas, que tipo consegue obter acesso às Se podemos conduzir um experimento, as empresas de
plataformas e qual o impacto que estão tendo. Insights mais mídia social também podem. Enfrentamos desafios
detalhados também são necessários sobre a atividade significativos porque éramos obrigados a coletar
coordenada não autêntica detectada, incluindo metas, níveis fragmentos de informações de fora, mas as empresas
de engajamento e as questões exploradas para manipular a poderiam testar suas defesas e relatar os resultados
opinião pública. Além disso, um padrão comum precisa ser com muito mais precisão, se assim desejassem.
desenvolvido para que os relatórios de diferentes empresas Atualmente, eles estão relatando boas notícias, como o
de mídia social possam ser comparados com sucesso que tiveram em evitar a criação de contas não
autênticas. Ao fazer isso, eles apresentam uma imagem
que fornece
28
muito poucos insights sobre quantas contas não autênticas deve regular o mercado de manipulação de mídia
eventualmente obtêm acesso e o que fazem nas social.
plataformas.
pois é muito difícil para pesquisadores externos e promover seus serviços nas próprias plataformas que
supervisão com bons recursos usando anúncios e canais do YouTube. É muito fácil encontrar
A supervisão independente pode ser capaz de fornecer o insight que eles procuram minar.
plataformas. Hoje estamos em uma situação em que os WhatsApp, uma empresa de propriedade do Facebook, emitiu
esforços para analisar, avaliar e avaliar as empresas de mídia um severo aviso em junho de 2019 observando que “[...] a
social enfrentam uma desvantagem de recursos. Os dados partir de 7 de dezembro de 2019, o WhatsApp tomará medidas
estão se tornando mais escassos e nossas oportunidades de legais contra aqueles que determinamos que estão envolvidos
pesquisa neste campo estão diminuindo constantemente. Isso ou auxiliando outros em abuso que viola nossos Termos de
transfere efetivamente a capacidade de entender o que está Serviço.[…]". 13 À medida que os provedores de serviços de
acontecendo nas plataformas para empresas de mídia social. É manipulação se envolvem no abuso sistemático de empresas
necessária uma supervisão independente e com bons recursos. de mídia social, é surpreendente que não tenha havido
Regular o mercado de
manipulação de mídia social
Uma indústria inteira
Embora tenhamos nos concentrado muito na capacidade solução é necessária
das empresas de mídia social de proteger suas plataformas,
também é importante voltarmos nossa atenção para a Estudos recentes mostraram que a manipulação e a
indústria que lucra com o desenvolvimento de ferramentas e desinformação das redes sociais geram uma receita de
métodos que permitem essa interferência. Legisladores publicidade significativa. 14 Na verdade, um relatório recente
29
keting é um problema de 1,3 bilhão de dólares por ano. 15 Implicações para a OTAN
Nossa pesquisa confirma que a manipulação comercial é de
fato a principal força motriz para a manipulação da mídia social - A manipulação das redes sociais é um desafio para a OTAN
anunciantes de jogos com fins lucrativos. Mas as ferramentas e porque é uma ferramenta importante para agentes maliciosos
métodos desenvolvidos e financiados para enganar a indústria que conduzem atividades de influência contra os interesses
da publicidade também são usados para interferir na da Aliança. Reforçar nossa resiliência coletiva exige que
segurança política e nacional. Ao mesmo tempo, a indústria de entendamos melhor esse problema para que possamos
telecomunicações tem a responsabilidade de limitar o uso de estabelecer procedimentos mais eficazes de análise,
cartões SIM para serviços de manipulação, e a maioria dos prevenção e detecção precoce. Como as defesas das
provedores de serviços de manipulação dependem de soluções empresas de mídia social ainda são inadequadas, devemos
de pagamento financeiro (como Paypal) para funcionar bem e continuar a esperar que os antagonistas sejam capazes de
exigem que os Provedores de Serviços de Internet ganhem e explorar a mídia social para fins malignos.
altamente contestado.
Informação.
30
NOTAS FINAIS
1 Comissão Europeia. “ Código de Prática de Desinformação . ” 26 de setembro de 2018. SEAE - Serviço Europeu para a
2 Ação Externa - Comissão Europeia. “ Relatório de Progresso do Plano de Ação contra a Desinformação ”Ibid.
3
4 SEAE - Serviço Europeu para a Ação Externa - Comissão Europeia. “ Fichas técnicas de cooperação UE-OTAN ”;
NATO. “ Relações com a União Europeia ”NATO. “ Declaração conjunta do Presidente do Conselho Europeu, do
Europeia - Comissão Europeia. “ Plano de ação sobre desinformação: contribuição da Comissão para o Conselho
6 Europeu (13-14 de dezembro de 2018) ”. Comissão Europeia. “ Código de Prática de Desinformação ”26 de setembro de
2018. OTAN StratCom CoE. “ O mercado negro para manipulação de mídia social ”. Comissão Europeia. “ Relatórios
8
9
10. Para o YouTube, estamos relatando a porcentagem de comentários removidos como um proxy para os usuários. sendo
Esta estimativa erra para o lado generoso, pois os comentários podem ser moderados sem um usuário ser-
11. A composição do contrato comprado e o tipo de contas não autênticas usadas pelo
prestadores de serviços de manipulação, variados para cada empresa de mídia social.
proach ”.
13. WhatsApp.com. “ WhatsApp FAQ - Uso não autorizado de mensagens automatizadas ou em massa no
Whatsapp ”.
14. Índice Global de Desinformação, “ A pergunta do quarto bilhão de dólares: como está a desinformação
Gaming Ad Tech? ”.
15. CHEQ. “ Fraude de publicidade 2019: o custo econômico de maus atores na Internet ”.
31
Preparado e publicado pela OTAN
STRATEGIC COMMUNICATIONS
CENTRO DE EXCELÊNCIA
O Centro de Excelência em Comunicações Estratégicas da OTAN (OTAN StratCom COE) é uma organização
multinacional acreditada pela OTAN que realiza pesquisas, publica estudos e fornece comunicações estratégicas
treinamento de nicações para pessoal governamental e militar.
Nossa missão é fazer uma contribuição positiva para a compreensão da Alliance das comunicações
estratégicas e facilitar a comunicação precisa, apropriada e oportuna entre seus membros como
objetivos e funções surgem e evoluem no ambiente de informações em rápida mudança. Em operação
desde 2014, realizamos pesquisas significativas para melhorar a consciência situacional das nações da OTAN
sobre o ambiente de informação e contribuímos para exercícios e treinamentos com
experiência no assunto.
3 2 32