22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

Home — Artigos técnicos

As implicações de governança do uso de inteligência
artificial (IA) pelas organizações

Como os sistemas de IA diferem de outras tecnologias da

informação? Como entender o ecossistema de IA? Quais são
as restrições ao uso da IA? Quais são as implicações de
governança do uso da IA? Essas questões estão sendo
mostradas na NBR ISO/IEC 38507 de 10/2023 - Tecnologia da
informação — Governança de TI — Implicações de governança
do uso de inteligência artificial pelas organizações.

22/11/2023 - Equipe Target

NBR ISO/IEC 38507 de 10/2023 - Tecnologia da informação —

Governança de TI — Implicações de governança do uso de
inteligência artificial pelas organizações

A NBR ISO/IEC 38507 de 10/2023 - Tecnologia da informação —

Governança de TI — Implicações de governança do uso de
inteligência artificial pelas organizações fornece as orientações para os
membros do órgão diretivo de uma organização para capacitar e expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes?… 1/11
22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

gerenciar o uso da inteligência artificial (IA), com o objetivo de

assegurar seu uso efetivo, eficiente e aceitável dentro da organização.
Este documento também fornece orientações para uma ampla
comunidade, incluindo: os gerentes executivos; as empresas ou
especialistas técnicos externos, como especialistas jurídicos ou
contadores, associações comerciais ou setoriais ou entidades
profissionais; as autoridades públicas e legisladores; os prestadores de
serviços internos e externos (incluindo consultores); assessores e
auditores.

Este documento é aplicável à governança dos usos atuais e futuros da

IA, bem como às implicações de uso para a própria organização. Este
documento é aplicável a qualquer organização, incluindo empresas
públicas e privadas, entidades governamentais e organizações sem
fins lucrativos. Este documento é aplicável a organizações de qualquer
tamanho, independentemente de sua dependência de dados ou
tecnologias da informação.

Acesse GRATUITAMENTE algumas dúvidas

sobre essa norma no Target Genius Respostas
Diretas:

Como os sistemas de IA diferem de outras

tecnologias da informação?

Como entender o ecossistema de IA?

Quais são as restrições ao uso da IA?

Quais são as implicações de governança do uso

da IA?

O objetivo deste documento é fornecer orientação para o órgão

diretivo de uma organização que está usando ou considerando o uso
de inteligência artificial (IA). Este documento fornece orientação sobre
o papel de um órgão diretivo no que diz respeito ao uso da IA dentro de
expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes?… 2/11
22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

sua organização e incentiva as organizações a usar normas

apropriadas para sustentar sua governança do uso da IA.

Este documento aborda a natureza e os mecanismos da IA na medida

necessária para entender as implicações de governança de seu uso:
quais são as oportunidades, riscos e responsabilidades adicionais que
o uso da IA traz? A ênfase está na governança (feita por seres
humanos) do uso de IA pela organização e não nas tecnologias que
compõem qualquer sistema de IA.

No entanto, essa governança requer uma compreensão das

implicações das tecnologias. A IA abrange uma família de tecnologias
que reúnem poder computacional, escalabilidade, rede, dispositivos e
interfaces conectados, juntamente com grandes volumes de dados. A
referência à IA neste documento destina-se a ser entendida como
referindo-se a toda uma família de tecnologias e métodos, e não a
qualquer tecnologia, método ou aplicação específica.

Para conceitos e terminologia de IA, ver a NBR ISO/IEC 22989:2023.

O uso de IA é definido neste documento no sentido mais amplo, como
o desenvolvimento ou a aplicação de um sistema de IA por meio de
qualquer parte de seu ciclo de vida para cumprir objetivos e criar valor
para a organização. Isso inclui relacionamentos com qualquer parte
que forneça ou use estes sistemas.

O escopo deste documento diz respeito às implicações para uma

organização do uso da IA. Como acontece com qualquer ferramenta
poderosa, o uso da IA traz novos riscos e responsabilidades que
convém que sejam abordados pelas organizações que a utilizam. A IA
não é inerentemente “boa” ou “má”, “justa” ou “viesada”, “ética” ou
“antiética”, embora seu uso possa ser ou possa parecer como tal.

O propósito, a ética e outras diretrizes da organização são refletidos,

formal ou informalmente, em suas políticas. Este documento examina a
aplicação das políticas organizacionais e de governança, e fornece
orientação para adaptá-las ao uso da IA. Os aspectos operacionais
das políticas são implementados por meio da direção. Este documento
refere-se a outras normas para obter detalhes sobre tópicos
expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes?… 3/11
22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

relacionados, incluindo responsabilidade social, fidedignidade (como

gestão de riscos, gestão de viés e qualidade) e gestão de compliance.

A governança das organizações é possibilitada pela aplicação de

princípios que ajudam a organização a cumprir seu propósito
organizacional e, ao fazer isso, gera valor para a organização e suas
partes interessadas. De acordo com a NBR ISO 31000:2018, 5.3, a
governança orienta o curso da organização, seus relacionamentos
externos e internos, e as regras, processos e práticas necessários para
atingir seu propósito. As estruturas de gestão traduzem a direção da
governança na estratégia e nos objetivos associados necessários para
alcançar os níveis desejados de desempenho sustentável e viabilidade
a longo prazo.

O Anexo A apresenta uma visão geral dos conceitos de governança e

de tomada de decisões organizacionais (e, em especial, as referências
às normas existentes) que devem ser seguidos. A responsabilidade do
órgão diretivo de estabelecer metas em contextos tradicionais se
estende tanto aos objetivos financeiros quanto aos resultados não
financeiros, incluindo cultura, valores e resultados éticos. As políticas
organizacionais e de governança são geralmente criadas e aplicadas
por meio de uma combinação de controles, planos de negócios,
estratégias, descrições de posições, prática profissional aceita de
disciplina, regulação, treinamento, indicadores-chave de desempenho
e uma variedade de comunicações executivas.

O órgão diretivo permanece responsabilizado por todas as atividades

de uma organização. Não é possível delegar essa responsabilização. O
órgão diretivo de uma organização tem a responsabilidade contínua de
considerar as implicações na organização de qualquer nova
ferramenta, técnica ou tecnologia que esteja sendo introduzida.
Convém que os membros do órgão diretivo se assegurem e que sejam
capazes de demonstrar às partes interessadas que suas políticas
(juntamente com a implementação dessas políticas) são suficientes
para a organização, seus produtos e interações, e os recursos
humanos, processos e tecnologia que a organização utiliza. A este
respeito, a responsabilidade por e resultante da introdução da IA não é
nova. expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes?… 4/11
22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

No entanto, a IA tem o potencial de permitir novos objetivos

organizacionais e de cumprir ou ampliar os existentes, e fazê-lo de
forma mais eficaz e eficiente. Dessa forma, o órgão diretivo determina
o propósito da organização e aprova as estratégias necessárias para
alcançar esse propósito. No entanto, é possível que a governança
existente não seja mais adequada ao propósito quando a IA estiver
sendo usada dentro dessa organização.

Convém que a escolha específica de ferramentas, por exemplo,

sistemas de IA, seja uma decisão da direção, tomada à luz e em
consonância com as orientações do órgão diretivo. A fim de
estabelecer tal orientação, convém que o órgão diretivo se informe
sobre a IA em termos gerais, porque seu uso pode trazer: benefício
significativo para a organização, do ponto de vista estratégico; risco
significativo para a organização, com potencial danos às suas partes
interessadas; e obrigações adicionais para a organização.

Convém que o órgão diretivo avalie o uso pretendido da IA como parte

de seu apetite pelo risco. O risco pode mudar rapidamente. Novos
insights e uma abordagem proativa fornecem à organização os meios
para responder aos riscos. Convém que a organização, portanto,
demonstre vontade de modificar ou abortar projetos, se considerado
necessário. Para obter mais orientações, ver a ISO/IEC 38506.

Novas implicações surgem do uso de IA, incluindo uma maior

dependência da tecnologia e dos sistemas para a aquisição de dados
e a garantia da sua qualidade; transparência e explicabilidade dos
sistemas de IA (incluindo informações sobre os objetivos,
pressupostos e regras neles incluídos), quando sistemas parcial ou
totalmente automatizados são utilizados para endereçar tarefas e
problemas que foram anteriormente executados por seres humanos
(por exemplo, pontuação de crédito), juntamente com processos
adequados para modificar e atualizar esses algoritmos; possibilidade
de que a direção e os controles existentes não sejam apropriados para
assegurar os resultados necessários (e mitigar o risco de
consequências indesejáveis) ou possam até ser comprometidos. Isso
é devido às diferenças nas suposições que podem ser feitas ao
expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes?… 5/11
22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

delegar a um ser humano, em oposição à quando se faz uso ou se

obtém apoio da IA.

Por exemplo, uma instrução para “adiar o reembolso do crédito até

depois das férias” é suficientemente clara no contexto para outro
operador humano, mas insuficientemente clara para que um sistema
de IA seja executado corretamente. Uma pressão competitiva devido
às vendas e operações de uma organização que não usa IA; aceitar a
utilização de sistemas de IA sem conhecimento ou consideração de
potencial viés, erros ou danos, ou das implicações da incorporação da
IA em sistemas complexos existentes; crescente disparidade entre a
velocidade da mudança nos sistemas de aprendizado automatizados
e os correspondentes controles humanos da compliance; impacto da
IA na força de trabalho, incluindo preocupações com a discriminação,
os danos aos direitos fundamentais dos trabalhadores, a redundância
devido à automatização ou à requalificação e a possível perda de
conhecimento organizacional, mas também a alavancagem da IA para
aumentar a criatividade humana, aumentar a qualidade do trabalho
delegando tarefas repetitivas, triviais ou perigosas a um sistema de IA;
e o impacto nas operações comerciais e na reputação da marca.

O uso da IA também pode reduzir ou eliminar certos riscos existentes,

e convém que o órgão diretivo analise criticamente e ajuste sua
avaliação de risco de acordo. Por exemplo, um sistema de IA pode
reduzir o risco de erro quando implantado para complementar os
humanos envolvidos em tarefas repetitivas, ou quando os seres
humanos são obrigados a monitorar continuamente os sistemas à
procura de anomalias raras (por exemplo, guardas de segurança).

Os membros do órgão diretivo são responsáveis pela supervisão e

pelos resultados da organização, bem como pelos sistemas e práticas
que permitem que estas garantias sejam executadas. Eles são
responsabilizados pelas decisões tomadas em toda a organização,
incluindo aquelas que são feitas por meio do uso da IA e pela
adequação da governança e dos controles nos quais a IA está sendo
implantada. Eles são, portanto, responsabilizados pelo uso da IA
considerada aceitável pela organização.
expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes?… 6/11
22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

Convém que o órgão diretivo assuma a responsabilidade pelo uso da

IA, em vez de atribuir responsabilidade ao próprio sistema de IA. Os
membros do órgão diretivo são responsáveis por se informar sobre as
possibilidades e os riscos levantados pelo uso de sistemas de IA.
Convém que os membros do órgão diretivo estejam conscientes do
risco de antropomorfização da IA, um fenômeno pelo qual as
características humanas (por exemplo, pensar, emocionar, julgar,
moralizar) são indevidamente atribuídas aos sistemas de IA, fora de
proporção ou de maneira inapropriada, àquilo que é necessário para
entender o papel desempenhado pelo uso da IA.

Os membros do órgão diretivo podem ser responsabilizados pelas más

ações da organização nos casos em que diligência, cuidado,
orientação, treinamento, supervisão e implementação inadequados
dentro da organização permitam que surjam problemas. Essa
responsabilização pode ser assegurada pelo próprio órgão diretivo ou
imposta pelas partes interessadas ou por outros meios. Os membros
do órgão diretivo podem enfrentar uma penalidade, remoção do cargo
ou reparação legal.

Convém que o órgão diretivo, portanto, assegure que suas práticas

sejam adequadas para os usos específicos aos quais a IA está sendo
aplicada dentro da organização. Isso pode incluir a análise crítica e,
quando necessário, o aprimoramento de direção: por meio de políticas,
estratégias, alocação de recursos, códigos de ética, manifestações de
valores, propósitos ou outros instrumentos relacionados ao uso da IA
na organização; supervisão: por meio de uma avaliação da IA, de uma
verificação do seu valor para a organização e do apetite pelo risco da
organização, e da garantia de implementação, monitoramento,
medição, garantia de decisão e outros mecanismos relacionados à
utilização da IA na organização.

Pode-se incluir, ainda uma avaliação: considerando diferentes

elementos, por exemplo, os fatores internos e externos relacionados à
organização, a ameaças e oportunidades atuais e futuras, aos
resultados alcançados, à eficácia e eficiência dos mecanismos de
governança em vigor e aos julgamentos sobre decisões e opções
tomadas; e relatórios: para demonstrar às partes interessadas que a expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes?… 7/11
22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

utilização da IA está sendo efetivamente controlada pelos

responsabilizados (comparar isto com as tarefas de ”avaliar”, ”orientar”
e ”monitorar“ na NBR ISO/IEC 38500:2015, 4.2).

Convém que o órgão diretivo também assegure que dispõe de

capacidades suficientes para lidar com as implicações do uso da IA.
As ações para abordar isso podem incluir: melhorar as competências
relacionadas com a IA entre os seus membros; aumentar a frequência
de análise crítica do uso de TI e da IA em particular pela organização;
examinar e atualizar os critérios utilizados para monitorar o ambiente
interno e externo; assegurar que os interesses e preocupações do
pessoal (por exemplo, segurança no local de trabalho, treinamento do
pessoal, qualidade do trabalho) estão representados; e fortalecer a
supervisão, estabelecendo ou aprimorando subcomitês que lidam com
estratégia, risco, avaliação ou auditoria e ética.

Convém que a responsabilização do órgão diretivo seja estabelecida

em todos os aspectos do uso desejado ou real da IA, de maneira
suficiente para assegurar os resultados pretendidos, notadamente ao
considerar os potenciais impactos do uso da IA; ao elaborar
estratégias de negócios que incorporem o uso da IA; na compra,
implementação, configuração, implantação, teste e outras fases do
projeto ao longo do ciclo de vida de um sistema de IA; em mudanças
nos ambientes aos quais a IA está exposta, o aprendizado e as ações,
as decisões e os resultados do sistema de IA, bem como os seus
impactos nas partes interessadas; que os controles de segurança
apropriados estão em vigor para proteger a organização, suas partes
interessadas e seus dados; e no descomissionamento, incluindo o
conhecimento e os dados contidos no sistema de IA.

Juntamente com questões associadas à própria IA, existem outras

questões associadas a tecnologias recém-introduzidas que podem
afetar a organização e suas partes interessadas, incluindo a
incompreensão da natureza das tecnologias; a tomada de decisões de
governança inapropriadas; a omissão da supervisão apropriada da
governança da IA; a não inclusão da IA no âmbito da governança
existente; a aplicação das tecnologias de forma inapropriada ou
onipresente sem conhecimento específico do contexto, planejamento, expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes?… 8/11
22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

política ou formação apropriados; falha em proteger e assegurar

informações e ativos contra ataques automatizados que usam IA para
identificar vulnerabilidades; e a falha em abordar as implicações das
relações emergentes entre humanos e sistemas de IA.

Os sistemas de IA vêm em uma variedade de formas e asseguram

diferentes graus de supervisão pelo órgão diretivo. Como tal, convém
que o órgão diretivo entenda o que o “uso da IA” implica e em que
estágio de seu uso convém que o órgão diretivo esteja envolvido
diretamente ou por meio de mecanismos de governança apropriados.
Os sistemas de IA baseiam-se em recursos de TI existentes, incluindo
redes, dispositivos de internet das coisas, por exemplo, sensores e
atuadores, big data e computação em nuvem. A maioria dos avanços
recentes no campo das tecnologias de IA está relacionada ao domínio
do aprendizado de máquina (ML) que é uma técnica de IA que fornece
aos computadores a capacidade de “aprender” sem serem
explicitamente programados.

Os dados são fundamentais: podem representar, por exemplo, texto,

números, figuras, símbolos, fórmulas, gráficos, imagens, fala, som ou
vídeos. Um modelo de um dataset existente é criado e aplicado a
novos dados para resolver um problema específico, predizer um
resultado ou categorizar novos dados de entrada.

FONTE: Equipe Target

expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes?… 9/11
22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

B A S E A D O N O S D O C U M E N T O S V I S I TA D O S

Normas recomendadas para você

expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes… 10/11
22/11/2023, 16:10 Target Normas: Acervo completo de normas ABNT NBR e Mercosul

 
NBRISO/IEC22237-3 NBRISO/IEC29134 de
de 08/2023 11/2020
Tecnologia da Informação — Tecnologia da informação - Técnicas
Instalações e infraestruturas de data de segurança - Avaliação de
center - Parte 3: Distribuição de… impacto de privacidade - Diretrizes

VER DETALHES VER DETALHES

expand_less
https://www.normas.com.br/visualizar/artigo-tecnico/4722/as-implicacoes-de-governanca-do-uso-de-inteligencia-artificial-ia-pelas-organizacoes… 11/11