24 mídia
INTELIGÊNCIA ARTIFICIAL
Vigiar ou liberar?
Polêmica do ChatGPT coincide, no Brasil, com entrega de relatório ao Senado Federal para regulamentar a IA
no País em meio a debates sobre algoritmos que discriminam e normas que podem engessar investimentos
RENAN HONORATO rhonorato@grupomm.com.br
ssunto do momento, sobretudo com
A a onipresença do ChatGPT, que é um
robô virtual, ou chatbot, que responde
perguntas, escreve textos e compõe mú-
sicas e poemas, entre outras coisas, a in-
teligência artificial (IA) é tema espinhoso
que envolve tanto ética quanto tecno-
logia. A ética, no caso, está relacionada
a algoritmos de reconhecimento facial
que contenham elementos discrimina-
tórios e pode, futuramente, ter relação
com textos igualmente ofensivos. Tudo
isso deve mudar a vida das pessoas, mar-
cas, criatividade, marketing e da publici-
dade. A pauta a que se refere a IA é ampla
porque passa por questões tecnológicas
que poderão redefinir as fronteiras entre
O que é racismo algorítmico?
O racismo algorítmico consiste na
recriação de preconceitos baseados
na etnia de coletivos historicamente
perseguidos, segregados e desenco-
rajados no mundo real, transposto
em softwares, hardwares e progra-
mas os mais variados. Pesquisador
sobre o tema, Tarcízio Silva reúne
em linha do tempo casos compro-
vados de racismo por meio do algo-
ritmo, além de iniciativas que visam
combater tais medidas. O primeiro
caso aconteceu em 2010, quando
câmeras Nikon reconheciam rostos
asiáticos em fotos de pessoas com
6 FEV 2023
o que é produção humana e algorítmica.
E existe o risco de que o arcabouço regu-
latório gere obstáculos a investimentos
e desenvolvimento de hardware e soft-
ware relacionados ao ecossistema da IA.
Por isso, o debate é político e abran-
ge vários entes. Sob a autoria do deputa-
do Eduardo Bismarck (PDT-CE), o Proje-
to de Lei 21/2020 (PL 21/20), que prevê a
criação do marco legal para o desenvol-
vimento e uso de IA nos setores público
e privado, foi aprovado, em setembro de
2021, na Câmara dos Deputados, por lar-
ga maioria: 413 votos favoráveis e 15 con-
trários. Desde então, o PL 21/20 foi alvo
de constantes críticas de especialistas.
Os favoráveis à regulação acreditam que
olhos fechados. No ano passado, fo-
ram demarcados, aproximadamente,
20 casos de programas racistas. Em
dezembro do ano passado, a Prefei-
tura de São Paulo lançou edital para
contratar sistema de monitoramen-
to que identifica pessoas suspeitas
a partir das características fenotípi-
cas, como a cor de pele, através das
lentes das 20 mil câmeras que se-
riam instaladas até 2024. O sistema
Smart Sampa também calcularia o
tempo de permanência — no caso,
sinônimo para “vadiagem”, usado
no edital — para monitorar “suspei-
o texto original era demasiado subjetivo
e pouco prático em suas definições. Por
outro lado, desenvolvedores de hardwa-
re avaliam que a regulamentação exces-
siva poderia cercear o desenvolvimento
técnico e criativo das empresas. Entre as
emendas que foram aprovadas durante o
debate desse PL, estavam questões como
a aplicação da IA para o desenvolvimen-
to científico e tecnológico; proteção do
meio ambiente; o aumento da competi-
tividade econômica e produtiva; a me-
lhoria de serviços; e o auxílio na imple-
mentação de políticas públicas. Devido
à insegurança jurídica que existia nas en-
trelinhas do PL, o Senado Federal instau-
rou, em março do ano passado, comissão
tos”. A Lei de Contravenções Penais
prevê prisão de 15 dias a três meses
aos que se dedicam à vadiagem,
ou seja, praticam "habitualmente a
ociosidade, sendo válido para o tra-
balho, sem ter renda que lhe asse-
gure meios bastantes de subsistên-
cia, ou prover a própria subsistência
mediante ocupação ilícita". No mes-
mo período, a deputada federal Erika
Hilton (PSOL-SP), o ativista Ronaldo
Lemos e a Coalizão Direitos na Rede,
dentre outras entidades e pessoas,
se manifestaram contra o edital nas
redes sociais.
de 18 juristas para subsidiar substitutivo
a esse projeto a partir de três projetos de
lei sobre IA que estavam na geladeira do
plenário: PL 5.051/2019, PL 872/2021 e o
já referido PL21/2020.
A comissão ficou responsável por esta-
belecer diretrizes, princípios e fundamen-
tos com mais detalhes práticos e contex-
tuais sobre o tema. “A comissão conseguiu
elaborar lei que não fosse extremamente
vaga, como a anterior, e que houvesse ins-
trumentos para adaptá-la no futuro”, co-
menta a professora associada de direito
civil, comercial e econômico da Univer-
sidade de Brasília e uma das integrantes
do grupo, Ana Frazão. “Além da nova pro-
posta de regulação, a comissão deixa pa-
ra a sociedade brasileira uma biblioteca
sobre o tema porque, durante as audiên-
cias públicas, conseguimos trazer semi-
naristas do mundo inteiro e do mais alto
gabarito para discutir com a sociedade”,
explica Bruno Bioni, fundador e CEO da
Data Privacy Brasil, que esteve entre os
nomes escolhidos pelo legislativo. Du-
rante os 240 dias de debate, a IA foi des-
trinchada em quatro grupos temáticos e
12 audiências públicas que, somadas, to-
talizam mais de 30 horas de exposição.
De acordo com o relatório final, um
dos juristas envolvidos, Ricardo Campos,
questionou a necessidade de se regular a
IA apontando que tal regulamentação pro-
voca grandes impactos no investimento.
Outro participante corroborou a questão
ao destacar que o excesso de obrigações
regulatórias pode prejudicar a indústria.
Para Bioni, da Data Privacy, os temores
de que regras possam desmotivar o setor
 25

consiste na reunião de algumas equa-

RAFASTOCKBR/SITTIPONG-PHOKAWATTANA-SHUTTERSTOCK | ARTE: MAYARA JADE

ções matemáticas programadas para ana- O que as empresas envolvidas com IA pensam a
lisar diferentes dados computados pre- respeito do Projeto de Lei 21/2020
viamente e selecionados e que, a partir Favorável com
daí, geram resultado programático”, ex- Empresa Setor Favorável Neutra
Ressalvas
plica Lucas Santana, fundador da Inven-
tivos. O executivo acrescenta que há um Kultua HRtech X
problema durante esse processo: a cai- ChatClass Chatbots x
xa-preta, que é um lugar insólito no qual
nem programadores e especialistas no
Qintess Data & analytics X
assunto sabem explicar, porque, basica- Triggo.ia Data & analytics X
mente, não se sabe como inteligências
Identificação
artificiais aprendem. “Sabemos o com- Minds Digital X
sensorial
portamento que esse tipo de programa
tem, mas não conseguimos auditar, de Trade Master Fintech X
fato, esse processamento inteligente e
E-Gage HRtech X
decisório”, detalha.
A CogniSigns tem hardwares de inte- Tecnologias de
CogniSigns X
ligência automatizada para potenciali- acessibilidade
zar o uso de celulares, tablets e compu- Engage Edtech X
tadores para otimizar o modo de utili-
zação para pessoas com alguns tipos de Deepen Data & analytics X
transtorno psicológico, como autismo e
depressão. Segundo o CEO da empresa,
RoutEasy Logística X
Leandro Mattos, a regulamentação pode
gerar alguns limites para o uso da IA por ficiais e ser totalmente aberto em rela- os riscos em duas categorias: IA de riscos
parte dos desenvolvedores. “O que não ção aos códigos numéricos que susten- excessivos e IA de risco alto. Os progra-
posso concordar são com aspectos que tam a interface se não temos sociedade mas que se enquadram em riscos excessi-
o PL 21/20 traz em relação à responsabi- capacitada para entender esses proces- vos seriam aqueles nos quais é recomen-
privado a investir em tecnologias no Bra- lização do desenvolvedor ou demons- sos decisórios.” dada a proibição total e irrestrita do de-
sil partem de falsas premissas. “A regula- tração de como chegou em determina- senvolvimento e aplicação do mecanis-
mentação não é um obstáculo, e sim estí- da resposta”, explica. Segundo essa ló- AVALIAÇÕES DE RISCOS mo computacional na sociedade, como
mulo que gera maior confiança no usuá- gica, uma empresa que usa chatbot, por Dentre as novas diretrizes presentes análises de social scoring (rankeamento
rio e na sociedade”, comenta. O executivo exemplo, desenvolvido por um terceiro, nas mais de 900 páginas do relatório fi- social atrelado a acessos a programas so-
destaca que muitas empresas passaram para gerar determinados resultados que nal, incluem-se, por exemplo, as avalia- ciais e políticas de Estado).
a elaborar hardwares de IA que utilizam sejam considerados ilegais pelo Estado, ções de riscos de uso da IA. Diz o docu- É o caso de sistemas de bancos e ins-
dados pessoais de forma desenfreada e não deveria ser a empresa responsabili- mento: “A necessidade de regulação ba- tituições financeiras, por exemplo, que
sem objetivos claros. Ana, integrante da zada judicialmente. seada em riscos foi posição dominante passam a usar programas para determinar
comissão, compartilha dessa linha de ra- Em consonância com essas preocupa- entre os expositores, que ainda destaca- perfis e, por algum motivo algorítmico,
ciocínio na medida em que aponta que ções de desenvolvedores, o relatório fi- ram a existência de usos inaceitáveis (re- a IA considere um cliente de vários anos
nem toda inovação é necessariamente nal propõe estimular que a jurisprudên- conhecimento facial, violação a direitos como inadimplente por ter ausentado os
boa e que a legislação é um ônus justi- cia tome para si cada caso no ecossiste- de crianças e adolescentes etc.)”. Bioni pagamentos à instituição devido a ques-
ficado para que as empresas poupem a ma das inteligências artificias como íco- ajudou na coordenação do grupo de le- tões de saúde. Noutro caso, a IA passa a
sociedade de danos futuros. ne que integre a rede de referências em gisladores, pesquisadores e sociedade triangular “bons” e “maus” pagadores
Para esta reportagem, foram consul- evolução técnica. Ana, da comissão de civil que debateu os riscos de impacto pela localização de suas residências, e,
tadas 11 empresas do setor de tecnologia juristas, diz que tentou expor a impor- da tecnologia e afirma: "O PL busca cali- a partir daí, bloqueia contas e corta cré-
que, de alguma forma, utilizam recursos tância de se criar caminhos educativos brar o peso da lei com o grau de risco que dito de determinadas regiões periféri-
de IA para sustentar ou complementar e didáticos que levassem o indivíduo a aquela IA pode desencadear, por exem- cas. Em ambos os casos, o uso irrestrito
seus modelos de negócios. A Minds Di- exercer a “cidadania digital”. E completa: plo, quando você tem um programa de da IA pode gerar danos morais, sistema-
gital trabalha com a proteção de dados “Não adianta explicar minuciosamente decisões automatizadas, como em pro- tização de preconceitos indiretamente
a partir da biometria de vozes, na qual a como funcionam as inteligências arti- cessos seletivos.” O documento dividiu e, até mesmo, sentenciar à morte indiví-
IA é programada para identificar padrões duos em necessidade.
FOTOS: DIVULGAÇÃO

sonoros que correspondam com o enun- Por outro lado, IAs de alto risco são
ciador. "Não vemos o PL como problema. aquelas que utilizam tecnologia no au-
É extremamente importante para definir xílio de processos decisórios de cará-
os limites aos quais a IA pode chegar para ter judicial, por exemplo. Em 2019, o go-
que os algoritmos não sejam treinados e verno da Bahia come-
desenvolvidos com algum viés, precon- çou a utilizar câmeras
ceito ou discriminação. Esse é um assunto Mattos, da CogniSigns: de reconhecimento fa-
regulamentação pode
extremamente sensível e que precisa de gerar limites de uso da IA
cial, durante o Carnaval,
muita discussão na sociedade”, comen- por desenvolvedores que resultou na prisão
ta o CEO da empresa, Marcelo Peixoto. de 184 pessoas, sendo
Nesse cenário, algumas empresas já de- mais de 90% negras. No
batem se podem confiar em algoritmos Rio de Janeiro, os mes-
considerados "caixas-pretas”, ao mes- mos tipos de filmadoras foram instala-
mo tempo em que os desenvolvedores se das em Copacabana e, poucos dias de-
preocupam em ocultar, no código-fonte, pois, uma mulher foi presa ao ser erro-
problemas referentes à perda da confiden- neamente identificada pelo sistema da
cialidade intelectual. “A lei traz alguns as- polícia carioca. A mulher, inocente, tinha
pectos bem positivos, como a determi- feições 70% semelhantes ao rosto da ré,
nação de princípios para o uso respon- foragida da Justiça.
sável da IA, mas alguns pontos podem Em resumo, algoritmos são programas
configurar grande limitador para o seu de computação que trabalham por meio
uso. Um dos pontos que a lei caracteriza de entradas e inputs, executando ações
como uso responsável é a transparência e tomando decisões. Porém, no caso da
e explicabilidade da IA”, comenta Lean- IA as questões são outras. Ao se desen-
dro Rocha, cofundador e líder da CRM da volver a IA, a programação do compor-
E-gage, que oferece serviços para trazer tamento ocorre através de bancos de
maior dinamismo entre empresa e cola- dados que são usados para basear de-
boradores. “Em poucas etapas, uma IA cisões que não são, necessariamente, Â

6 FEV 2023
 26 mídia
pré-definidas. “Por exemplo, na campa-
nha que fizemos sobre buscas no Goo-
gle sobre a imagens de ‘homens’, onde
aparecia com predominância fotos de
homens brancos. Para aparecer homens
negros, precisávamos especificar. Isso
não deixa de ser a reprodução das es-
truturas sociais transpassadas para o
mundo virtual”, explica Lucas Santana,
especialista em tecnologias de inova-
ção e fundador da Inventivos.
O Google está no alvo de críticas que
envolvem problemas de taxonomia (clas-
sificação dos seres vivos) das IAs do bus-
cador. Em 2015, imagens de pessoas ne-
gras apareciam quando era digitado “go-
rilas”. Cinco anos depois, o Algorithm-
Watch revelou que a foto de uma mão
branca segurando um termômetro era
tagueada como “ferramenta” enquanto
uma mão negra que segurava o mesmo
instrumento mudava o tagueamento
para “arma”. Apesar dos comunicados
dos executivos e as promessas de me-
lhoria dos softwares de reconhecimento
da empresa, em 2021 o racismo algorit-
mo reapareceu no histórico da empresa
ChatGPT: o que muda no marketing
Marcelo Coutinho Lima formou-se
em administração, mas logo foi buscar
na sociologia as respostas, ou pergun-
tas, certas para sua inquietude, o que
resultou em doutorado na USP na área
de estudos sobre adoções de tecno-
logia pela sociedade. Além de ter si-
do, diz, o autor pioneiro a publicar um
paper sobre o uso massivo das redes
sociais nas eleições de 2018, Coutinho
foi o primeiro brasileiro a entrevistar o
ChatGPT para Meio & Mensagem, em
sua coluna na edição de 23 de janeiro:
“Consequências da IA no marketing:
entrevista com o ChatGPT”. No início,
Coutinho olhava para as inteligências
artificiais e pensava que eram ótimas
otimizadoras de processos, principal-
mente, organizacionais e quantitativos.
Mas foi quando começaram seus es-
tudos sobre linguagem computacio-
nal que suas impressões passaram a
mudar. “Fiquei fascinado com a ideia
do teste de Alan Turing que consis-
te em descobrir se estamos falando
com uma máquina ou não”, comen-
ta. A primeira versão da família GPT de
textos gerados automaticamente por
mecanismos de IA que abalou Couti-
nho foi quando, em setembro de 2020,
a terceira versão do ChatGPT escreveu
o artigo de opinião para o britânico
The Guardian: “A robot wrote this enti-
re article. Are you scared yet, human?”.
Segundo o especialista, são duas coi-
sas diferentes quando uma IA reúne e
automatiza o uso de dados e quando
passa a correlacionar nexos causais.
Em outras palavras, conectar fatos e
expor linhas de raciocínios (mesmo
que simplórios, por enquanto). “Antes
de entrevistar o programa para Meio
& Mensagem, resolvi testá-lo ao pro-
por que correlacionasse o conceito de
hybris (a desmedida na tragédia gre-
ga) com os riscos de que um CEO cor-
6 FEV 2023
Bioni, da Data Privacy: "A
regulamentação não é
obstáculo, e sim estímulo
que gera maior confiança"
quando ilustrações de pessoas negras
foram classificadas como “animais”,
“mamíferos” e “organismos”. As mes-
mas imagens, porém, com a coloração
da pele entre branco e rosa-claro, eram
relatadas como “pessoas”.
ria em gerir uma empresa”, comen-
ta Coutinho. “Ele consegue relacionar
causa e efeito, mesmo que seja por
uma base já existente na internet, mas
não é apenas um comentário descri-
tivo”. A empresa de pesquisa e de-
senvolvimento tecnológico voltado ao
segmento de inteligências artificiais,
a OpenIA, da qual nasceu o ChatGPT,
já tem sob o guarda-chuva, além do
GPT-3 (terceira versão), o DALL-E, soft-
ware de criação de imagens basea-
das em inputs textuais. Em dois me-
ses desde o lançamento, o chat atin-
giu 100 milhões de usuários ativos em
janeiro deste ano, sendo que, por dia,
são cerca de 13 milhões de usuários
conforme dados da Similiar Web di-
vulgados em relatório do banco suíço
UBS. Tanto por causa do sucesso pro-
gramático da ferramenta quanto por
sua popularização, a Microsoft
oft — que
já participava como parte do
o grupo
de investidores da OpenIA —, anun-
ciou que deve investir mais US$
S$ 10 mi-
lhões no projeto. Mas o contrato
to ainda
não foi fechado pelas partes. A Micro-
soft pretende otimizar seu buscador
uscador
Bing a partir dessa parceria e, talvez,
ter relevância na concorrência
a com o
buscador do Google. De acordo
rdo com
a rede norte-americana de TV CN-
BC, o lançamento da ferramenta
enta pe-
la OpenIA fez com que o diretor-exe-
tor-exe-
cutivo do Google declarasse “aler-
ta vermelho” na empresa para
a que
as pesquisas de otimização e de-
senvolvimento de produtos fossem
ossem
intensificados. Há rumores de
e que a
empresa possa lançar chatbot
ot similar
chamado Apprentice Bard, baseado
na LaMDA, IA do Google que, no ano
passado, foi acusada de ter “adqui-
adqui-
rido consciência” por um funcioná-
cioná-
rio, o engenheiro Blake Lemoine,
ne, que
foi afastado do cargo. Em ambos
mbos os
Para tentar minimizar os danos mo-
rais que podem ser causados pelo pro-
cessamento taxonômico incoerente ou
tendenciosamente complexo, o Google
oferece os modelos de cartão de apren-
dizado de softwares. O processamento
casos, os chatbots funcionam a par-
tir de informações organizadas em
formas de perguntas feita por pes-
soas. O GPT-3 tem impactado diver-
sas entidades de ensino e de divul-
gação científica ao redor do globo.
A revista Springer Nature proibiu o
uso de softwares como coautores
em textos publicados no jornal. Es-
colas públicas na Austrália também
proibiram o uso da plataforma nas
salas de aula. Apesar de ainda não
saber como funcionará, na prática,
Coutinho pretende usar a ferramen-
ta enquanto ministra suas aulas na
FGV. Não se pode dizer, afirma Cou-
tinho, que o ChatGPT seja racional ou
BUSYFINGIE SHUTTERSTOCK
excepcional nas respostas, mas res-
salta que esse boom midiático está
acontecendo há cerca de um mês e
que a tecnologia evolui muito rápido.
“Não é que o mundo vai acabar, mas,
no mundo dos negócios em que a in-
teligência é um insumo para fa-
zermos previsões e melho-
rar processos, e vi-
rou abundan-
te, o que vai
ter valor nes-
se cenário?”,
questiona.
padronizado gera maior transparência
ao fornecer visão geral e simplificada das
formas ideais para inputs em IAs. “O Goo-
gle Model Card é a tabela nutricional da
IA. Depois da publicação dos cards, ne-
nhum algoritmo do Google lançado po-
de ter oculto seus parâmetros de progra-
mação. Por exemplo, num processo que
seja programado para reconhecer gatos
e cachorros, é preciso divulgar quantos,
quais e a variedade de dados que estão
sendo usados para treinar esse proces-
sador”, explica Santana.
Outra iniciativa que teve destaque nos
últimos anos foi a Algorithmic Justice
League (AJL), organização criada por Joy
Boulamwini em 2016 para combater e
conscientizar empresas e pessoas sobre
o uso imprudente de algoritmos inteli-
gentes e de autoaprendizado. Durante a
pós-graduação no laboratório de mídia
do MIT, Joy lançou o projeto motivacio-
nal “Aspire Mirror” para criar imagens di-
gitalizadas que pudessem ajudar na au-
toestima das pessoas. Para isso, a autora
utilizou software genérico de reconhe-
cimento facial que, apesar de ser útil em
reconhecer peles de coloração clara, não
reconhecia rostos negros. No teste icô-
nico, Joy colocou uma máscara branca e
só a partir daí o programa reconheceu os
traços humanos. O experimento se tor-
nou tão popular que rendeu um docu-
mentário que investiga o viés dos algo-
ritmos intitulado Code Bias, da Netflix.
“Apesar dos desenvolvedores saberem
como funcionam as IAs, muitas empresas
que utilizam essas programações não o
sabem. Portanto, esse uso de IAs de ter-
ceiros acaba por ter resultados inespe-
rados”, diz Santana.
Para o cofundador da Triggo.ia, Ander-
son Paulucci, toda empresa deve enten-
der que os algoritmos não são um sub-
mundo de possibilidades sem controle. E
nem imaginar que as IAs não estão vulne-
ráveis às falhas de segurança ou, até mes-
mo, a vieses socioculturais que, quando
treinados a partir de dados imprecisos e
sem curadoria, manifestarão ameaças e
questões comportamentais indevidas de
discriminação, como o racismo.
Dentre possíveis soluções para essas
questões que insistem
insiste em reaparecer
em grandes e peque
pequenas empresas, o
primeiro passo é integrar
int na equipe,
em todo o organogr
organograma empresarial,
pessoas diversas qu que sejam capazes
de trazer suas im impressões e rea-
lidades para o processo
p progra-
mático., segundo os especialistas.
Aliado a isso, modelos trans-
parentes de relacionamento
relac com
a sociedade deve
devem ser adotados:
expor os cricritérios de análise
de dados
dados, quais e de onde
vieram e esses dados. Além
disso, dizem
di esses espe-
cialistas, processos de au-
ditoria podem ser ado-
tado
tados tanto interna-
m
mente quanto
por incentivo
da legislação por
órgãos indepen-
d
dentes para que
o
os programas in-
tel
teligentes sejam
testa
testados, avaliados
e, se necess
necessário, adaptados.