Tendências do Cibercrime

ChatGPT: Uma tendência observada em campanhas cibercriminosas.

Inteligência Artificial como um vetor de ameaça

2022 foi um divisor de águas significativo para a IA quando vários serviços foram lançados e
ganharam o reconhecimento do público. Em particular, os desenvolvimentos no ramo da IA
generativa, que faz algo novo a partir zero, levou a avanços recentes. Um serviço lançado
recentemente é o ChatGPT (Generative Pre-trained Transformer ou Transformador Pré-treinado
Generativo), que utiliza linguagem de processamento e aprendizado profundo para criar textos
semelhantes ao humano.

O ChatGPT é treinado em um grande conjunto de dados de conversas humanas e pode

aprender a entender e responder a uma ampla gama de entradas e contextos. O ChatGPT tem muitos
recursos, como explicar pedaços de código, depuração, criação de consultas em códigos diferentes
idiomas, resumo de texto e muito mais. Além disso, o ChatGPT possui uma interface de programação
de aplicativos, permitindo interações fáceis com suas aplicações. A Deloitte Cyber Threat Intelligence
(Deloitte CTI) examinou o serviço e soube que quanto mais específica for a pergunta do usuário,
melhor será o resultado do ChatGPT. Com o tempo, o ChatGPT e seus sucessores se tornarão o novo
mecanismos de pesquisa, sofisticados e personalizáveis para as necessidades dos usuários.

Ainda não há evidências claras de agentes de ameaças usando IA para fins nefastos. Mesmo
assim, considerando o surgimento deste novo serviço, há a probabilidade de tal cenário aumentar,
com alguns especialistas em segurança prevendo que isso acontecerá nos próximos dois a três anos.
Vários pesquisadores de segurança e a Deloitte CTI já experimentaram o ChatGPT em muitos
domínios, e as saídas variam. Essas variações nas respostas incluem saídas ausentes e, em alguns
casos, até respostas incorretas. Portanto, em uma saída maliciosa complexa hipotética (por enquanto)
do serviço, o usuário precisará de conhecimento suficiente para detectar “erros” no ChatGPT.

A Deloitte CTI observou relatórios do serviço sendo utilizados para encontrar bugs e realização
de testes de penetração, técnicas que os agentes de ameaças podem empregar para fins nefastos,
bem como saídas do ChatGPT usadas para reconhecimento, força bruta, varredura de
vulnerabilidades, ofuscação, alteração de código para outra linguagem e criação de ferramentas
personalizadas.

Fig.1: Ator de ameaça compartilhou tutorial sobre como criar malware de criptomoeda usando ChatGPT

A Deloitte CTI também observou discussões clandestinas sobre o ChatGPT e como os agentes
de ameaças o usam para gerar explorações ou alavancar o serviço em suas campanhas. Várias das
discussões giraram em torno em torno de atividades fraudulentas e como os agentes de ameaças
acharam a ferramenta útil para criar reivindicações de fraude, preencher formulários e gerar
esquemas de Engenharia Social. Alguns atores chegaram a criar ferramentas maliciosas com o serviço
(Figura 1). Devido à natureza das comunidades clandestinas, espera-se que as discussões relacionadas
à tecnologia de IA aumente, facilitando o compartilhamento de informações e o aprendizado para
atores de ameaças. O modelo de linguagem do ChatGPT será substituído em 2023 para um modelo
mais novo (GPT-4), e os especialistas preveem que será muito melhor, com capacidades aprimoradas
e melhor compreensão. Nas mãos erradas, tem o potencial de se tornar perigoso.
Em geral, O ChatGPT pode reduzir a barreira para que os agentes de ameaças iniciem ataques
cibernéticos, pois fornece orientações e melhores insumos que podem ser aproveitados para
propósitos nefastos.
Tendências do Cibercrime
ChatGPT: Uma tendência observada em campanhas cibercriminosas.

Cuidados com o uso do ChatGPT

O ChatGPT, está ficando mais inteligente com o lançamento do GPT-4. Essa tecnologia é capaz
de responder a consultas e trocas informações de forma quase humana. Com o lançamento do
ChatGPT-4, a velocidade com que a IA está evoluindo faz com que nos perguntemos: Quais serão os
impactos na Segurança Cibernética?

A utilização do ChatGPT, como uma ferramenta de comunicação e interação por meio de texto,
pode apresentar alguns desafios à Segurança da Informação.

São listadas abaixo algumas considerações sobre a utilização dessa ferramenta:

1. Vazamento de Informações Sensíveis: Ao interagir com o ChatGPT, é importante ter cuidado para
não compartilhar informações confidenciais, como senhas, números de cartão de crédito,
informações pessoais identificáveis ou segredos comerciais. Embora seja informado que o mesmo
não possui capacidade de armazenamento e não mantém registros de conversas, é sempre
recomendado evitar o compartilhamento de informações sensíveis em qualquer plataforma de
comunicação.

2. Riscos de Phishing e Engenharia Social: Embora o sistema não seja capaz de iniciar ativamente
solicitações de informações pessoais, é importante estar ciente de possíveis tentativas de Phishing ou
Engenharia Social por parte de atores maliciosos que possam tentar se passar pelo ChatGPT e mais
uma vez, nunca forneça informações pessoais ou confidenciais em fontes desconhecidas.

3. Violação da Privacidade: As informações fornecidas pelo sistema são baseadas em dados de

treinamentos, sempre avalie as informações fornecidas antes de tomar decisões importantes.

4. Limitações de Segurança: Embora medidas de segurança sejam tomadas para proteger e garantir a
segurança do ChatGPT, não é possível garantir que o mesmo esteja completamente imune a
vulnerabilidades ou ataques. Assim como qualquer sistema de software, é possível que existam falhas
de segurança desconhecidas ou que sejam descobertas no futuro.

Resumo de como minimizar os riscos e garantir a segurança da informação ao utilizar o ChatGPT:

- Evitar compartilhar informações confidenciais ou sensíveis por meio do ChatGPT;

- Não fornecer senhas, informações pessoais identificáveis ou segredos comerciais;
- Ter cuidado ao interagir com fontes desconhecidas ou suspeitas;
- Avaliar criticamente as informações fornecidas pelo sistema e considerar outras fontes e verificações
sempre que necessário.

Lembre-se, sempre é recomendado seguir as práticas de segurança e as diretrizes estabelecidas pela

Unimed-Rio para proteger a segurança das informações.
Tendências do Cibercrime
ChatGPT: Uma tendência observada em campanhas cibercriminosas.

Medidas protetivas para o uso do ChatGPT

A aplicação de medidas de proteção em Segurança da Informação com relação ao uso do
ChatGPT em uma organização pode ser alcançada por meio de uma série de medidas e práticas.

Aqui estão algumas diretrizes que podem auxiliar no processo:

1. Políticas Claras: Políticas de segurança da informação específicas para o uso do ChatGPT. Essas
políticas devem abordar a utilização adequada da ferramenta, restrições de acesso, responsabilidades
dos usuários, compartilhamento de informações confidenciais e procedimentos para reportar
incidentes de segurança.

2. Treinamento e Conscientização: Treinamentos regulares sobre Segurança da Informação e as

diretrizes específicas de utilização do ChatGPT. Isso ajudará a garantir que os usuários estejam cientes
dos riscos associados à ferramenta e conheçam as melhores práticas para minimizá-los.

3. Restrições de Acesso: Aplicação de controles de acesso ao ChatGPT, permitindo apenas que

funcionários autorizados e devidamente treinados o utilizem. Isso pode ser feito por meio de
credenciais individuais, autenticação multifator (MFA) e controle de permissões baseado em papéis.

4. Monitoramento e Auditoria: Implementação de mecanismos de monitoramento e auditoria para

registrar as interações dos usuários com o ChatGPT. Isso permitirá identificar possíveis violações de
segurança, além de ajudar na investigação de incidentes, caso seja necessário.

5. Proteção de Dados: Procurar garantir que os dados confidenciais da organização não sejam
compartilhados ou armazenados desnecessariamente durante as interações com o ChatGPT.
Implementando medidas de anonimização e pseudonimização, sempre que possível, para proteger a
privacidade dos usuários e dos dados sensíveis.

6. Atualizações e aplicações de Patches: Mantenha quaisquer componentes relacionados à Segurança

da Informação atualizados com as correções de segurança mais recentes. Isso ajudará a mitigar
vulnerabilidades conhecidas e garantir a segurança das informações.

7. Avaliação de Fornecedores: Nos casos de utilização de solução de terceiros para o ChatGPT,

verificar sempre a reputação e a segurança do fornecedor antes da implementação. Certificar-se de
que tenham implementadas as medidas adequadas de segurança da informação e conformidade com
regulamentos aplicáveis.

8. Resposta a Incidentes: Desenvolver Plano de Resposta a Incidentes que inclua procedimentos

específicos para lidar com incidentes relacionados ao uso do ChatGPT. Isso ajudará a minimizar os
danos e a tomar medidas corretivas rápidas em caso de violação de segurança.

É importante levar em consideração a necessidade de adaptar diretrizes existentes às novas

necessidades, buscando sempre as melhores práticas de Segurança da Informação e Proteção de
Dados.