Por que o TikTok não confirma que

o filtro Bold Glamour é AI?

O TikTok lançou novas ferramentas de IA para filtros no mês
passado. Mas a empresa não diz se seu novo efeito Bold
Glamour os usa - e a reação ao filtro não é totalmente
positiva.
Por Jess Weatherbed e Mia Sato (link para o texto original com imagens em inglês)

Se você navegou pelo TikTok na semana passada, provavelmente viu um vídeo mais ou menos
assim: uma mulher parece maravilhada enquanto olha para o rosto na câmera. Ela toca os lábios, as
pálpebras, as bochechas, como se questionasse se as partes de seu rosto poderiam ser reais. “Não
sou eu”, disse um usuário.

Isso porque, na verdade, o rosto que estão tocando não é realmente o seu. É o resultado de um novo
filtro de rosto extraordinariamente impressionante chamado “Bold Glamour” que está varrendo o
aplicativo, com grupos de usuários filmando suas reações ao ver como isso altera sua aparência,
seja com fascínio, prazer ou horror absoluto. E a cobertura da imprensa sobre o filtro tem sido
realmente selvagem, com manchetes referindo-se ao filtro como “guerra psicológica” e
“aterrorizante”.

As reações são garantidas: Bold Glamour é um dos efeitos mais impressionantes do TikTok até
agora, e parece ser uma primeira olhada em como as ferramentas com tecnologia AI podem tornar
as transformações faciais mais difíceis de detectar e ainda melhores na transformação da aparência
das pessoas. Mas, por enquanto, o TikTok está mantendo o segredo por trás do Bold Glamour em
silêncio - a empresa ignorou vários e-mails do The Verge pedindo confirmação de que o Bold
Glamour está usando IA, embora a empresa tenha lançado um novo conjunto de ferramentas de
filtro de IA para criadores de efeitos no mês passado. .

Em uma atualização de 22 de fevereiro para Effect House, suas ferramentas de criação de filtro,
TikTok anunciou que os criadores de efeitos agora teriam acesso a um punhado de efeitos de IA
generativos que alteram os recursos faciais de um usuário em tempo real. Os novos efeitos incluem
uma borracha de sobrancelha, um efeito de franzir os lábios e um efeito de sorriso, e os criadores
com acesso antecipado já criaram filtros usando as novas ferramentas. Em seus guias para criadores,
o TikTok promete que os efeitos generativos combinam com a pele do usuário e são perfeitos.

Essas técnicas diferem de como a maioria dos efeitos de filtro foram feitos até agora. Os filtros
tradicionais geralmente pegam o feed da câmera 2D e mapeiam seu rosto em um modelo 3D
exagerado, diz Luke Hurd, consultor de realidade aumentada que trabalhou nos filtros do Snapchat
e do Instagram. Esses efeitos podem distorcer ou falhar quando você os obstrui porque a
sobreposição 3D tem dificuldade em aderir ao layout do seu rosto.
“Este é um marco e um indicador da estranheza do mundo pós-realidade que está por vir”, diz
Memo Akten, professor assistente de arte computacional e design na UC San Diego Visual Arts, que
destaca vídeos de como com precisão o efeito muda de rosto.

O Bold Glamour transforma os rostos dos usuários da maneira que esperamos dos filtros
tradicionais de “beleza”, mas de uma maneira muito mais impressionante. Acrescenta contorno
nítido nas laterais do rosto e nariz sobre uma tez fosca e uniforme. As sobrancelhas são mais
exuberantes e simétricas. Os lábios são mais carnudos. Há um olhar brilhante e vidrado nos olhos -
presente, mas vazio. Desde que ganhou força na semana passada, mais de 9 milhões de vídeos
usando o filtro já foram compartilhados no TikTok.

Mas, apesar dos tropos de filtro de rosto presentes no Bold Glamour, os usuários do TikTok notaram
que algo sobre esse efeito é diferente. Ao contrário de outros filtros que fazem parecer que cílios de
desenhos animados ou sombra exagerada foram pintados no rosto de um usuário, as modificações
do Bold Glamour parecem se mover com o rosto humano abaixo deles e até se ajustar quando
aplicadas a rostos masculinos. E, mais notavelmente, o filtro quase não distorce quando um usuário
coloca a mão na frente de si mesmo, uma ocorrência comum com outros efeitos faciais.

Hurd diz que a Bold Glamour provavelmente está fazendo uso de tecnologias de aprendizado de
máquina – e, em particular, Generative Adversarial Networks, ou GANs – para realizar esse feito
impressionante.

“Simplificando, os GANs colocam duas redes neurais concorrentes uma contra a outra em uma luta
até a morte”, diz Hurd. No caso do Bold Glamour, é uma competição entre a visão da câmera do seu
rosto e o estilo que o TikTok quer transformar em você. “Como ele usa você, ele compara aspectos
do seu rosto com um conjunto de dados de imagens que começam a corresponder às suas
bochechas, olhos, sobrancelhas, lábios e muito mais.” Eventualmente, a tecnologia combina os dois
conjuntos de imagens em um. “Se fizermos isso rápido o suficiente, podemos atingir uma taxa de
quadros de vídeo”, diz Hurd. “E agora temos um efeito de nível superior como o Bold Glamour!”

Hurd diz que existem outros efeitos que funcionam de maneira semelhante, como o efeito de
“aparência adolescente” do TikTok e os efeitos de troca de gênero no Snapchat. Mas a razão pela
qual o Bold Glamour se destacou mais pode ser porque é menos exagerado. “É sutil o suficiente
para ainda ser você e ser convincente.”

Akten diz que a tecnologia usada pela Bold Glamour não é inovadora. “Essas tecnologias têm se
desenvolvido rapidamente nos últimos anos.” Embora a tecnologia em si não seja nova, ele acredita
que o que torna o Bold Glamour tão impressionante é a engenharia para trazer essa tecnologia para
dispositivos móveis de uma maneira muito robusta com falhas mínimas.

“Isso já foi possível em PCs de mesa usando software especializado, é claro (por exemplo,
deepfakes)”, diz Akten. “Mas isso requer software especializado e algum conhecimento técnico. O
filtro do TikTok roda em um dispositivo móvel, acessível a bilhões de pessoas, sem a necessidade
de conhecimento técnico, em tempo real, e muitas vezes (nem sempre) parece totalmente crível.”

Embora muitos usuários do TikTok estejam impressionados com o filtro Bold Glamour, muitos
também estão preocupados em como uma ferramenta de modificação facial ainda mais perfeita
pode afetar a auto-estima e o senso de identidade dos usuários. Spencer Burnham, um criador de AR
que criou efeitos populares no TikTok e no Instagram, observa que incluir algum nível de retoque
nos filtros – mesmo que não sejam explicitamente efeitos de maquiagem ou “beleza” – é a norma,
não a exceção. Mesmo os filtros de piada geralmente têm algum nível de edição facial, como tornar
a pele mais uniforme ou desfocar a acne.
Isso significa que a sensação estranha que vem com Bold Glamour é apenas o começo. Os usuários
do TikTok provavelmente começarão a ver mais e mais filtros usando IA à medida que novas
ferramentas generativas são abertas para mais criadores. Burnham teme que ter um conjunto de
ferramentas poderosas que alteram a aparência do usuário em tempo real possa ser um “terreno
fértil para a dismorfia corporal”.

“Estamos chegando a um novo lugar onde não estamos apenas aumentando a realidade, mas sim
substituindo a realidade. Isso meio que me assusta ”, diz ele.

Esses sentimentos também ecoaram no TikTok por aqueles que usam o recurso. Joanna Kenny, ex-
esteticista que agora desafia padrões de beleza irreais com seu movimento #poresnotflaws, disse em
um vídeo que o filtro consegue parecer natural enquanto cria um efeito que não se parece em nada
com ela. “Eu trabalhei muito para desaprender que devo beleza a qualquer pessoa”, disse Kenny.
Ela disse que o filtro a fez se sentir “feia” ao remover o efeito.

Há um crescente corpo de evidências de que esses filtros são prejudiciais à saúde mental por causa
das expectativas irrealistas que estabelecem para a imagem corporal. Um estudo de 2021 sobre os
impactos sociais dos filtros da City, pesquisadores da Universidade de Londres descobriram que
94% das mulheres e participantes não-binárias se sentiram pressionadas a ter uma aparência
específica, enquanto 90% admitiram usar filtros ou editar suas imagens. Outro estudo de 2017 da
revista Cognitive Research descobriu que as pessoas só reconhecem quando uma imagem é
manipulada em cerca de 60 a 70% do tempo.

Esses resultados provavelmente não serão uma surpresa para as plataformas de mídia social que
criam e implementam filtros de beleza. Um relatório do The Wall Street Journal em 2021 revelou
que Meta, no momento da publicação, já sabia que o Instagram fazia 1 em cada 3 meninas
adolescentes se sentirem mal com seus corpos e que os adolescentes que usavam o aplicativo
sentiam taxas mais altas de ansiedade e depressão.

Por enquanto, grande parte da reação ao Bold Glamour tem sido destacar o quão selvagem é o
efeito, chamando a atenção para seu uso e transformações. Mas, à medida que mais plataformas
adotam e aprimoram os filtros com tecnologia de IA, provavelmente não demorará muito para que
os criadores usem filtros de embelezamento e outros efeitos cosméticos de edição indiscerníveis da
realidade. Há uma boa chance de que eles já estejam.