Riscos e Desafios da IA

Generativa
@vitor_kessler
 Desinformação
• Criação de fake news com aparência real.
• Geração de deepfakes (áudio, vídeo, imagens manipuladas).
• Risco à democracia e confiança pública.
 Violação de Direitos Autorais
• Uso de obras protegidas sem autorização.
• Geração de textos, imagens ou músicas que imitam estilos ou
trechos originais.
• Dificuldade em atribuir autoria ao conteúdo gerado.
 Vieses e Discriminação
• A IA aprende com dados históricos cheios de preconceitos.
• Pode reforçar racismo, machismo, elitismo, etc.
• Impacto negativo em decisões automatizadas (contratação,
crédito, justiça).
 Impacto no Mercado de Trabalho
• Automação de tarefas criativas e analíticas.
• Risco de substituição de empregos em áreas como:
• Jornalismo
• Design
• Atendimento ao cliente
• Programação
• Desafio para a requalificação profissional.
 Exposição de Dados Sensíveis
• IAs podem coletar ou inferir informações pessoais durante
interações.
• Riscos de violar leis como a LGPD (Brasil) e GDPR (Europa).
• Necessidade de transparência e controle na coleta e uso de dados.
 Como mitigar esses riscos?
• Regulação ética e transparente.
• Auditorias em modelos de IA.
• Educação digital da sociedade.
• Desenvolvimento responsável por parte das empresas.
Questões de Concurso
Provas: UNESPAR - 2025 - UNESPAR - Agente Universitário - Psicólogo
No verão de 1956 na Faculdade de Dartmouth, nos Estados Unidos foi realizado um workshop que é considerado o evento
cientifico fundador do campo de pesquisa em Artificial Intelligence (AI). Em 2025 preocupações legais e éticas estão se
acelerando entorno da AI porque esta é uma tecnologia que:

A usa algoritmos para imitar processos de inteligência humana, como a tomada de decisão e a resolução de problemas.
B trabalha com o cruzamento entre duas espécies de seres vivos diferentes, e pode ser aplicada a plantas ou aruma1s.
C se vale da liberação de uma energia invisível, que atravessa o ar e as paredes, partindo de um material radioativo.
D se baseia na transferência de contaminantes, como bactérias, vírus, produtos químicos ou tóxicos, de um lugar para
outro.
E visa a realização de uma cirurgia experimental que consiste na transferência da cabeça de uma pessoa para o corpo de
outra.
Questões de Concurso
Provas: UNESPAR - 2025 - UNESPAR - Agente Universitário - Psicólogo
No verão de 1956 na Faculdade de Dartmouth, nos Estados Unidos foi realizado um workshop que é considerado o evento
cientifico fundador do campo de pesquisa em Artificial Intelligence (AI). Em 2025 preocupações legais e éticas estão se
acelerando entorno da AI porque esta é uma tecnologia que:

A usa algoritmos para imitar processos de inteligência humana, como a tomada de decisão e a resolução de problemas.
B trabalha com o cruzamento entre duas espécies de seres vivos diferentes, e pode ser aplicada a plantas ou aruma1s.
C se vale da liberação de uma energia invisível, que atravessa o ar e as paredes, partindo de um material radioativo.
D se baseia na transferência de contaminantes, como bactérias, vírus, produtos químicos ou tóxicos, de um lugar para
outro.
E visa a realização de uma cirurgia experimental que consiste na transferência da cabeça de uma pessoa para o corpo de
outra.
Questões de Concurso
Prova: CESPE / CEBRASPE - 2025 - INSA - Tecnologista Pleno 2 - Área
de Atuação: Gestão da Informação e Popularização do Conhecimento
A respeito de acessibilidade e inclusão digital, julgue o item que se
segue.

A inteligência artificial amplia a inclusão digital ao personalizar

experiências e eliminar barreiras de acesso à informação. Quando
treinada com dados diversos e aplicada com rigor técnico, sua
automação neutraliza vieses preexistentes, o que garante equidade
para grupos historicamente marginalizados.
Questões de Concurso
Prova: CESPE / CEBRASPE - 2025 - INSA - Tecnologista Pleno 2 - Área
de Atuação: Gestão da Informação e Popularização do Conhecimento
A respeito de acessibilidade e inclusão digital, julgue o item que se
segue.

A inteligência artificial amplia a inclusão digital ao personalizar

experiências e eliminar barreiras de acesso à informação. Quando
treinada com dados diversos e aplicada com rigor técnico, sua
automação neutraliza vieses preexistentes, o que garante equidade
para grupos historicamente marginalizados.
Questões de Concurso
Prova: FCC - 2025 - TRT - 6ª Região (PE) - Analista Judiciário - Área Apoio Especializado - Especialidade: Tecnologia da Informação

Uma equipe de Analistas está implementando um modelo LLM para uso no Tribunal Regional do Trabalho e precisa garantir que o modelo
não gere respostas inapropriadas ou incorretas, mantendo a relevância e coerência do conteúdo. Para ajustar o desempenho do modelo e
evitar problemas como alucinações e vieses, eles optaram por

A reduzir o número de camadas de rede neural para minimizar o processamento e aumentar a velocidade de inferência, pois isso reduziria
erros causados por dados não estruturados.

B usar o aprendizado zero-shot durante o treinamento, pois ele é suficiente para que o modelo aprenda a generalizar padrões sem
supervisão.

C utilizar Reinforcement Learning from Human Feedback (RLHF) para treinar o modelo a partir de respostas corrigidas por humanos.

D implementar fine-tuning com um conjunto de dados menor & mais especifico, sem utilizar nenhum mecanismo de atenção para evitar
sobrecarga de processamento.

E aumentar o número de tokens e embeddings durante o treinamento para que o modelo tenha mais dados contextuais disponíveis.
Questões de Concurso
Prova: FCC - 2025 - TRT - 6ª Região (PE) - Analista Judiciário - Área Apoio Especializado - Especialidade: Tecnologia da Informação

Uma equipe de Analistas está implementando um modelo LLM para uso no Tribunal Regional do Trabalho e precisa garantir que o modelo
não gere respostas inapropriadas ou incorretas, mantendo a relevância e coerência do conteúdo. Para ajustar o desempenho do modelo e
evitar problemas como alucinações e vieses, eles optaram por

A reduzir o número de camadas de rede neural para minimizar o processamento e aumentar a velocidade de inferência, pois isso reduziria
erros causados por dados não estruturados.

B usar o aprendizado zero-shot durante o treinamento, pois ele é suficiente para que o modelo aprenda a generalizar padrões sem
supervisão.

C utilizar Reinforcement Learning from Human Feedback (RLHF) para treinar o modelo a partir de respostas corrigidas por humanos.

D implementar fine-tuning com um conjunto de dados menor & mais especifico, sem utilizar nenhum mecanismo de atenção para evitar
sobrecarga de processamento.

E aumentar o número de tokens e embeddings durante o treinamento para que o modelo tenha mais dados contextuais disponíveis.
Questões de Concurso
Prova: CESGRANRIO - 2024 - BNDES - Analista - Ciência de Dados (Manhã)

Uma equipe de desenvolvimento de Inteligência Artificial (IA) em uma empresa de tecnologia está implementando um sistema de recomendação baseado em aprendizado de
máquina. Durante o processo de implementação, a equipe precisa estar atenta aos potenciais riscos e vulnerabilidades associados ao uso da IA. O sistema utiliza grandes
volumes de dados históricos de clientes para treinar seus modelos. Há uma preocupação com a possibilidade de invasores manipularem a entrada de dados para enganar o
modelo e gerar saídas indesejadas ou incorretas. A equipe deve também garantir que o modelo não exponha dados sensíveis dos clientes.

Considere as seguintes afirmativas com relação à mitigação dos riscos identificados:

I - adotar uma abordagem de fairness-aware learning para corrigir potenciais vieses no modelo, garantindo que as recomendações sejam justas para todos os grupos de usuários.

II - implementar métodos de robustness testing para simular ataques adversariais e avaliar a resiliência do modelo, e realizar auditorias regulares para identificar e corrigir vieses
algorítmicos.

III - implementar técnicas de data augmentation para aumentar a diversidade dos dados de treinamento, reduzindo o risco de viés algorítmico, e adotar uma estratégia de
monitoramento contínuo para detectar e mitigar ataques adversariais.

IV - utilizar técnicas de differential privacy durante o treinamento do modelo para proteger dados sensíveis e garantir que as previsões do modelo não revelem informações
específicas dos clientes.

Estão corretas as seguintes afirmativas:

A I e II, apenas. B II, III e IV, apenas. C I, III e IV, apenas. D II e IV, apenas. E I, II, III e IV.
Questões de Concurso
Prova: CESGRANRIO - 2024 - BNDES - Analista - Ciência de Dados (Manhã)

Uma equipe de desenvolvimento de Inteligência Artificial (IA) em uma empresa de tecnologia está implementando um sistema de recomendação baseado em aprendizado de
máquina. Durante o processo de implementação, a equipe precisa estar atenta aos potenciais riscos e vulnerabilidades associados ao uso da IA. O sistema utiliza grandes
volumes de dados históricos de clientes para treinar seus modelos. Há uma preocupação com a possibilidade de invasores manipularem a entrada de dados para enganar o
modelo e gerar saídas indesejadas ou incorretas. A equipe deve também garantir que o modelo não exponha dados sensíveis dos clientes.

Considere as seguintes afirmativas com relação à mitigação dos riscos identificados:

I - adotar uma abordagem de fairness-aware learning para corrigir potenciais vieses no modelo, garantindo que as recomendações sejam justas para todos os grupos de usuários.

II - implementar métodos de robustness testing para simular ataques adversariais e avaliar a resiliência do modelo, e realizar auditorias regulares para identificar e corrigir vieses
algorítmicos.

III - implementar técnicas de data augmentation para aumentar a diversidade dos dados de treinamento, reduzindo o risco de viés algorítmico, e adotar uma estratégia de
monitoramento contínuo para detectar e mitigar ataques adversariais.

IV - utilizar técnicas de differential privacy durante o treinamento do modelo para proteger dados sensíveis e garantir que as previsões do modelo não revelem informações
específicas dos clientes.

Estão corretas as seguintes afirmativas:

A I e II, apenas. B II, III e IV, apenas. C I, III e IV, apenas. D II e IV, apenas. E I, II, III e IV.
Questões de Concurso
Provas: Quadrix - 2024 - CRQ - 12ª Região (GO, TO e DF) - Técnico
Administrativo
A respeito das inovações que apontam para o desenvolvimento na
área de ciência da computação, Internet e inteligência artificial,
julgue o item.

A inteligência artificial evolui a ponto do aparecimento das

mensagens chamadas de deep fakes, ou seja, mensagens que
pessoas podem criar e adulterar áudios e vídeos com cada vez mais
qualidade e semelhança ao original.
Questões de Concurso
Provas: Quadrix - 2024 - CRQ - 12ª Região (GO, TO e DF) - Técnico
Administrativo
A respeito das inovações que apontam para o desenvolvimento na
área de ciência da computação, Internet e inteligência artificial,
julgue o item.

A inteligência artificial evolui a ponto do aparecimento das

mensagens chamadas de deep fakes, ou seja, mensagens que
pessoas podem criar e adulterar áudios e vídeos com cada vez mais
qualidade e semelhança ao original.
Questões de Concurso
Prova: Instituto Consulplan - 2024 - Prefeitura de Pouso Alegre - MG - Salva Vidas

IA e “deepfake” colocam eleições em risco

Apenas com punições e novas regulamentações aplicáveis terão potencial de combater as manipulações.

A Inteligência Artificial (IA) tem significado avanços importantes no mundo da tecnologia e da ciência, com contribuições nas mais diversas áreas, como saúde, comunicação e
aprendizado de máquina. São amplos, porém, os debates sobre o uso ético dessa nova ferramenta e, tratando-se de campanhas políticas, o tema torna-se ainda mais delicado. É
temerário que a IA seja transformada em instrumento de ataques em campanhas eleitorais, como já aconteceu em casos isolados, mas graves.

(Disponível em: https://oglobo.globo.com/opiniao/artigos/coluna/2024/01/ia-e-deepfake-poem-eleicoes-em-risco.ghtml. Acesso em: 05/02/2024.)

Há um grande debate sobre os benefícios e malefícios associados ao uso da Inteligência Artificial (IA). Uma das tecnologias criadas por Inteligência Artificial que têm causado
grande preocupação são as deepfakes, uma tecnologia que

A pode ser utilizada para invadir câmeras de equipamentos eletrônicos, como celulares, tablets e notebooks.

B interfere nos algoritmos das redes sociais e, consequentemente, influencia o comportamento dos seus usuários.

C captura as informações dos usuários de redes socias, como seus dados pessoais e localização, facilitando a aplicação de golpes e fraudes por criminosos.

D manipula arquivos de áudio e vídeo, colocando vozes e imagens de pessoas em contextos falsos, criando uma mídia realista de uma situação que não aconteceu.
Questões de Concurso
Prova: Instituto Consulplan - 2024 - Prefeitura de Pouso Alegre - MG - Salva Vidas

IA e “deepfake” colocam eleições em risco

Apenas com punições e novas regulamentações aplicáveis terão potencial de combater as manipulações.

A Inteligência Artificial (IA) tem significado avanços importantes no mundo da tecnologia e da ciência, com contribuições nas mais diversas áreas, como saúde, comunicação e
aprendizado de máquina. São amplos, porém, os debates sobre o uso ético dessa nova ferramenta e, tratando-se de campanhas políticas, o tema torna-se ainda mais delicado. É
temerário que a IA seja transformada em instrumento de ataques em campanhas eleitorais, como já aconteceu em casos isolados, mas graves.

(Disponível em: https://oglobo.globo.com/opiniao/artigos/coluna/2024/01/ia-e-deepfake-poem-eleicoes-em-risco.ghtml. Acesso em: 05/02/2024.)

Há um grande debate sobre os benefícios e malefícios associados ao uso da Inteligência Artificial (IA). Uma das tecnologias criadas por Inteligência Artificial que têm causado
grande preocupação são as deepfakes, uma tecnologia que

A pode ser utilizada para invadir câmeras de equipamentos eletrônicos, como celulares, tablets e notebooks.

B interfere nos algoritmos das redes sociais e, consequentemente, influencia o comportamento dos seus usuários.

C captura as informações dos usuários de redes socias, como seus dados pessoais e localização, facilitando a aplicação de golpes e fraudes por criminosos.

D manipula arquivos de áudio e vídeo, colocando vozes e imagens de pessoas em contextos falsos, criando uma mídia realista de uma situação que não aconteceu.