Governo Federal - Participa + Brasil - Estratégia de Implantação Da Inteligência Artificial Pelas de

# Participa + Brasil
O que você procura? %

$
Órgãos Públicos Ministério da Justiça e Segurança Pública

MJ - Secretaria de acesso à Justiça do Ministério da Justiça e Segurança Pública Estratégia de Implantação da Inteligência Artificial pelas Defensorias
Públicas do Brasil ! " # $
Estratégia de Implantação da Inteligência Artificial pelas

Defensorias Públicas do Brasil
Órgão: Ministério da Justiça e Segurança Pública
Setor: MJ - Secretaria de acesso à Justiça do Ministério da Justiça e Segurança Pública
Status: Ativa
Abertura: 21/12/2023
Encerramento: 22/04/2024
Contribuições recebidas: 98
Responsável pela consulta: Secretaria de Assessoria à Justiça - SAJU, CONDEGE, DPU
Contato: assessoria.saju@mj.gov.br
RESUMO
As Defensorias Públicas dos Estados e do Distrito Federal, representadas pelo Conselho Nacional das Defensoras e Defensores Públicos-Gerais (CONDEGE), e
a Defensoria Pública da União apresentam sua intenção de formular e executar estratégia unificada de implementação de tecnologias de inteligência artificial em seus
órgãos.
A presente consulta pública pretende colher contribuições de diferentes setores da sociedade para subsidiar a iniciativa, desde defensores e demais servidores dos próprios
órgãos até organizações, movimentos e coletivos da sociedade civil, grupos de pesquisa, iniciativa privada e especialistas de diversos campos como tecnologia da
informação, direitos humanos e sistema de justiça, estando aberta a todas as pessoas interessadas em participar.
As contribuições poderão ser feitas ao longo de todo o texto, inclusive em resposta às perguntas formuladas em cada tópico. A expectativa é a recepção de críticas,
sugestões e comentários sobre impactos sociais e humanos da inteligência artificial, hipóteses de aplicação da tecnologia nas Defensorias Públicas, parâmetros éticos e
técnicos a serem considerados, governança da estratégia de implementação, participação e colaboração da sociedade e da comunidade técnico-científica, entre outros
elementos.
A ambição das Defensorias Públicas do Brasil é construir um processo de implantação de inteligência artificial eticamente responsável, transparente e colaborativo,
orientado para potencializar os órgãos no cumprimento de sua missão institucional, com impacto positivo para a sociedade, especialmente na realização do direito
constitucional ao acesso à justiça.
A iniciativa conta com o apoio do Ministério da Justiça e Segurança Pública, liderado pela Secretaria de Acesso à Justiça, bem como da Controladoria-Geral da União e da
Secretaria de Comunicação Social da Presidência da República.
CONTEÚDO
- Clique no balão ! ou no parágrafo que deseja contribuir -
1 O surgimento e a rápida evolução das tecnologias de inteligência artificial representam grandes desafios para o poder público e para a sociedade brasileira como um !5
todo. As Defensorias Públicas, que desempenham um papel fundamental de acolhimento das demandas por justiça da população hipossuficiente no Brasil, serão
profundamente afetadas por esse processo, assim como todas as organizações públicas e privadas.
2 É comum que, ao realizar o atendimento para peticionamento, defensores utilizem modelos pré-prontos de petição inicial e contestação. Parte desse trabalho, por !4
exemplo, pode ser executado e otimizado pelo uso de sistemas de Inteligência Artificial (IA) já com o atual estágio da tecnologia, especialmente ao tratar de tarefas
repetitivas e automatizáveis.
3 No último ano, o processo de transformação digital acelerou ainda mais e assumiu outra dimensão a partir do desenvolvimento e implantação da Inteligência Artificial !0
Generativa (IAG), que promete impactar quase todos os setores da sociedade em ritmo exponencial. A IAG é uma tecnologia que, em seu uso mais conhecido,
produz conteúdo em resposta a perguntas (ou prompts, em inglês) criadas pelos usuários. Esses sistemas são capazes de produzir conteúdos ?novos? em formato
de texto, imagem ou vídeo a partir da análise e aprendizagem de um enorme amontoado de dados processados, que frequentemente incluem grandes varreduras
pela Internet.
4 De acordo com relatório recente da Unesco, em um curto período de tempo, a Inteligência Artificial Generativa redefiniu a discussão em torno das tecnologias digitais !0
e seus impactos sobre a sociedade. Muitas pessoas têm se familiarizado com inteligências artificiais generativas mais conhecidas, como ChatGPT, Claude, Bard,
LlaMA, MidJourney, Dall-E, dentre outros. No entanto, há um amplo espectro de soluções que variam de modelos desenvolvidos por grandes companhias de
tecnologia até modelos abertos construídos coletivamente.
5 A esse respeito, a Academia Brasileira de Ciências destaca que: !0
6 ?O futuro da sociedade brasileira será moldado pelas escolhas que o governo e a própria sociedade fizerem em relação à IA. O senso de urgência em relação !7
aos investimentos em IA e a formulação de políticas públicas emergem como prioridades cruciais em todo o mundo, abrangendo países desenvolvidos e em
desenvolvimento.? (Academia Brasileira de Ciências, Recomendações para o avanço da inteligência artificial no Brasil, nov. 2023, p. 18)
7 O momento histórico que vivenciamos impõe à Defensoria Pública desafios de duas dimensões. De um lado, há grande expectativa sobre os impactos que a !1
implementação de sistemas de inteligência artificial podem gerar na sociedade brasileira, com possíveis repercussões no mercado de trabalho - substituição da mão-
de-obra humana e crescimento do desemprego e da pobreza/miséria -, nas tecnologias de controle social aplicadas à segurança pública e política criminal -
ampliação do Estado de vigilância - e, ainda, em novas dinâmicas de violação de direitos humanos.
8 Por outro lado, as capacidades observadas em sistemas de inteligência artificial generativa chamam a atenção quando vislumbramos as diversas possibilidades de !4
utilização para a qualificação da atuação das Defensorias Públicas, com potencial de contribuir sobremaneira para a ampliação do acesso à justiça. Assim, diante da
nova realidade, caberá às instituições a quem a Constituição Federal atribuiu a defesa das pessoas vulneráveis a adoção de uma postura de vigilância e atuação
incansável na defesa dos direitos humanos em período tormentoso de profunda transformação tecnológica, ao mesmo tempo em que conduz, internamente em suas
instituições, um processo intencional de implantação de Inteligência Artificial de forma responsável, transparente e ética, em diálogo e colaboração com a sociedade e
com a comunidade técnico-científica do país.
9 Nesse sentido, a presente consulta pública busca ampliar a discussão sobre os impactos sociais e humanos da inteligência artificial - seja a partir de possíveis !2
ferramentas a serem utilizadas pela Defensoria, seja em relação às ferramentas utilizadas na sociedade como um todo, orientando e qualificando a atuação dos
órgãos no exercício de sua missão institucional em cenário de transformação tecnológica com repercussões em direitos humanos.
10 !0
Impactos sociais e humanos da Inteligência Artificial
11 A primeira dimensão de análise diz respeito às possíveis consequências sociais, positivas e negativas, que podem ser esperadas a partir da implementação de !1
sistemas de inteligência artificial generativa no país, tanto na iniciativa privada quanto no serviço público.
12 Entre as possíveis aplicações e benefícios da inteligência artificial nos próximos anos estão o aumento da eficiência e a otimização dos processos; o acesso a !2
assistentes pessoais que possam automatizar diversas tarefas no âmbito profissional e privado; a aceleração da pesquisa e da inovação científica; e a disponibilidade
de sistemas inteligentes a baixo custo e escalável para diversas dimensões da vida social, como educação, saúde, cultura, meio ambiente e acesso à justiça.
13 Porém, considerando a missão de atuar em defesa dos necessitados - justamente aqueles que se encontram mais vulneráveis em períodos de turbulência -, a !3
Defensoria deve dedicar grande atenção não apenas aos potenciais benefícios, mas também aos riscos e desafios sociais e humanos associados à inteligência
artificial.
14 A sociedade brasileira convive com cenário marcado por profunda dependência tecnológica no campo digital, com consumo intenso de produtos e serviços ofertados !0
por empresas estrangeiras, situação agravada nos últimos 15 anos com o surgimento e popularização das redes sociais e outras plataformas digitais de grande
dimensão. Os grandes modelos de linguagem e outras tecnologias emergentes sinalizam para um aprofundamento sem precedentes deste cenário, em que podemos
nos ver importando como serviço a própria inteligência utilizada para desempenho de tarefas cognitivas que são motor da nossa economia e de serviços essenciais e
sensíveis. Esse contexto gera preocupações em relação ao desenvolvimento econômico, social e tecnológico do país, especialmente quanto à sua soberania digital.
15 Da mesma forma, o avanço da inteligência artificial e sua rápida incorporação pela iniciativa privada e sociedade pode vir a resultar em impacto de dimensão ainda !1
incerta no mercado de trabalho, havendo expectativa de progressiva substituição de mão-de-obra humana por sistemas de IA em tarefas cognitivas, resultando em
maior desemprego. O tema merece maior estudo considerando o estado da arte da tecnologia e as tendências de curto e médio prazo, levando em consideração os
direitos fundamentais relativos ao trabalho, especialmente a proteção em face da automação prevista na Constituição.
16 Outras preocupações dizem respeito ao potencial de manipulação humana por sistemas de IA generativa utilizados para influenciar comportamentos e opiniões, em !0
áreas como eleição e consumo; ao uso abusivo de dados pessoais e à ampliação da desinformação e discursos de ódio; aos prejuízos à diversidade e pluralidade de
vozes a partir da adoção de modelos treinados em bases de dados estrangeiras, em detrimento do conhecimento e dos saberes nacionais (que expressam nossa
diversidade cultural e registros históricos); ao recrudescimento do Estado de vigilância a partir da adoção acrítica e indiscriminada da IA em áreas de segurança
pública, investigação criminal, monitoração eletrônica e justiça penal; e ao alinhamento dos sistemas de IA generativa, inclusive em termos de direitos humanos e viés
e racismo algorítmico.
17 !8
PERGUNTA 1. Quais riscos e desafios a sociedade brasileira enfrenta no contexto atual de rápida evolução das tecnologias de inteligência artificial? Como as
Defensorias Públicas podem se preparar para atuar em defesa dos direitos humanos e das pessoas vulneráveis diante desse cenário?
18 !1
Inteligência artificial na Defensoria Pública
19 São diversas as soluções de inteligência artificial que podem contribuir para a qualificação e eficiência do trabalho da Defensoria Pública, com resultados positivos !3
para o acesso à justiça. Ao longo dos próximos anos, sistemas construídos em cima de grandes modelos de linguagem e devidamente alinhados podem contribuir
para a análise e sumarização de processos judiciais, elaboração de minutas de peças processuais e mesmo servir como canal complementar para interação direta
com os cidadãos por texto, vídeo ou áudio, fornecendo orientações em linguagem simples (ampliando o acesso à justiça) e coletando e tratando documentos e dados
de modo a otimizar a atuação institucional. Outras aplicações podem ser construídas para tarefas específicas utilizando modelos de linguagem menores, treinados em
bases de dados próprias das instituições ou compartilhadas entre os órgãos (respeitando os parâmetros da Lei Geral de Proteção de Dados Pessoais), bem como
adotando-se técnicas de treinamento supervisionado ou outras modalidades de inteligência artificial.
20 Em todo caso, a inteligência artificial deve estar orientada a potencializar a atuação de defensores e defensoras, reduzindo progressivamente o tempo gasto em !0
tarefas mais burocráticas ou repetitivas, ampliando a produtividade e permitindo o enfoque em tarefas que exijam a participação humana. Assim, para além de
possibilitar que mais pessoas possam acessar o serviço da Defensoria, mitigando os efeitos socialmente danosos da estrutura insuficiente dos órgãos, a tecnologia
poderá permitir que defensores e servidores gastem mais tempo com atuação estratégica e atividades como acolhimento dos usuários, inspeção de espaços de
privação de liberdade, participação em audiências e espaços de participação popular, articulação com comunidades e instituições, entre outras.
21 Em 2022, a China unificou o uso de IA no sistema de justiça que, de acordo com as autoridades, é capaz de buscar referências nos casos da corte, recomendar leis, !0
rascunhar documentos legais e alterar possíveis erros humanos percebidos. Boa parte dos benefícios mencionados diz respeito à eficiência, com a economia de
tempo e de recursos financeiros, havendo também importantes críticas ao processo de implantação da tecnologia.
22 Entre os cuidados que devem ser considerados durante a adoção dos sistemas está a segurança, a proteção de dados e a confiabilidade dos outputs dos modelos, !1
devendo a forma de utilização dos sistemas estar alinhada com o estado da arte da tecnologia adotada, assegurando a supervisão humana de todas as etapas em
que for necessária, sendo fundamental a realização de ações de qualificação continuada de defensores e servidores para a melhor utilização desses sistemas e para
monitoramento das métricas de performance dos modelos utilizados, podendo ser desenvolvidas pelos centros de estudos, fundações e escolas das Defensorias
Públicas.
23 É importante destacar que definições aparentemente técnicas, geralmente delegadas às áreas de tecnologia da informação, como a escolha dos modelos de !0
linguagem a serem adotados, as bases de dados utilizadas para treinamento e os mecanismos de pré-treino e alinhamento dos sistemas, terão grandes implicações
no conteúdo dos textos gerados e, portanto, na própria atuação das instituições. Assim, esses aspectos devem ser analisados com grande atenção, a partir de
abordagem interdisciplinar e em diálogo com a sociedade e comunidade técnico-científica.
24 !8
PERGUNTA 2. Quais soluções baseadas em inteligência artificial podem contribuir para a missão institucional da Defensoria Pública e para a ampliação e
qualificação do acesso à justiça? Que critérios devem ser utilizados para priorização dos sistemas a serem adotados ou desenvolvidos?
25 !6
PERGUNTA 3. Quais riscos, desafios e impactos sistêmicos devem ser considerados na implementação de sistemas de inteligência artificial pelas Defensorias
Públicas? Que estratégias podem ser adotadas para eliminação ou mitigação desses riscos?
26 !3
PERGUNTA 4. Quais aspectos técnicos relacionados a sistemas de inteligência artificial devem ser objeto de análise e deliberação estratégica mais minuciosas,
considerando as implicações políticas e institucionais? Que elementos devem ser considerados nos processos decisórios?
27 !0
Estratégia de implantação da Inteligência Artificial
28 As Defensorias Públicas do Brasil têm a intenção de desenvolver um processo de implantação de inteligência artificial transparente, participativo e colaborativo, ao !0
mesmo tempo em que buscam agilidade na adoção de sistemas que possam contribuir para a qualidade do serviço prestado à população.
29 Considerando os desafios técnicos e políticos existentes, objetiva-se desenvolver uma estratégia unificada abarcando todos os órgãos do país - Defensorias Públicas !0
dos Estados, do Distrito Federal e da União -, reduzindo os riscos associados à adoção acrítica das ferramentas e assegurando o alinhamento da inteligência artificial
com a missão institucional dos órgãos.
30 A partir de interface de programação das aplicações (APIs), as soluções desenvolvidas ou adotadas poderão servir a todas as Defensorias, ainda que utilizem, !0
internamente, sistemas variados para gestão de seus processos ou atividades - contribuindo assim para mitigar as diferenças de estrutura entre os órgãos, de modo
que todos possam se beneficiar igualmente da tecnologia.
31 As bases de dados utilizadas no treinamento dos sistemas são cruciais para a sua qualidade, representando um desafio conjunto de todos os órgãos. A princípio, !0
entende-se como etapa necessária da estratégia a criação de repositório unificado de bases de dados a serem utilizadas em treino e validação dos modelos. As
bases de dados podem conter não apenas conteúdos de processos judiciais, mas também estudos e pesquisas empíricas, materiais teóricos no campo do Direito,
Ciência Política, Sociologia, Criminologia, entre outros conteúdos a serem identificados, privilegiando os conteúdos em língua portuguesa.
32 Como o treinamento de modelos pode, eventualmente, exigir infraestrutura significativa de computação, a implementação conjunta da estratégia de inteligência !0
artificial pode facilitar ainda o acesso a esses recursos, a partir de parcerias que as Defensorias podem estabelecer com órgãos públicos nos Estados, Distrito Federal
e/ou União.
33 Um dos desafios a serem considerados está na proteção de dados, assegurando os direitos legais e constitucionais de usuários e usuárias das Defensorias e, ao !0
mesmo tempo, resguardando a soberania dos órgãos sobre as suas bases de dados - bens preciosos em tempos de big data e inteligência artificial -, de modo que
sejam utilizadas para a promoção e proteção de direitos de pessoas e grupos vulneráveis e não para fins mercadológicos.
34 Ao mesmo tempo, a transparência aparece como princípio fundamental norteador da estratégia em formulação. Além de impulsionar a presente consulta pública, em !0
que as Defensorias Públicas do Brasil apresentam de forma translúcida suas intenções e buscam a promoção de diálogo aberto com a sociedade no tema, a
transparência algorítmica também deve ser aplicada às soluções a serem adotadas ou desenvolvidas.
35 Tratando-se de tecnologias extremamente novas, os sistemas de IA generativa devem também ser transparentes e buscar constante aprimoramento em termos de !0
segurança e confiabilidade, reduzindo progressivamente a quantidade de erros e os riscos de sua utilização para finalidades danosas não previstas. Clareza nas
informações sobre os sistemas, inclusive quanto a seus limites e modo de funcionamento, e realização de processos de qualificação de defensores e servidores serão
essenciais para que as ferramentas sejam utilizadas de forma adequada, assegurando a supervisão humana de forma condizente com o estado da arte das
tecnologias.
36 Igualmente, a promoção e proteção de direitos humanos deve estar no cerne da estratégia de implantação de IA das Defensorias Públicas do Brasil. É de amplo !0
conhecimento que, treinados com dados que estão disponíveis na Internet, os sistemas de IA comumente reproduzem preconceitos e vieses difundidos nas diversas
sociedades do mundo, podendo assim ser reprodutores de violações de direitos humanos, sendo o racismo algorítmico uma das características mais criticadas de
muitas dessas ferramentas.
37 A participação da sociedade é fundamental para eliminar ou mitigar esses e outros riscos, podendo ser realizada a partir de iniciativas como essa consulta pública ou !0
outros espaços de escuta e diálogo, a exemplo de audiências públicas, podendo ser considerado para tanto o protagonismo do Colégio de Ouvidores das Defensorias
Públicas do Brasil. Indo além, é de interesse das Defensorias estabelecer dinâmicas de colaboração efetiva com a comunidade técnico-científica durante todo o
processo, estabelecendo parcerias com Instituições de Ensino Superior, organizações da sociedade civil e outros atores estratégicos.
38 O olhar crítico e tecnicamente apurado obtido a partir de processos participativos e colaborativos será fundamental para qualificar processos decisórios estratégicos !0
previstos ao longo da formulação e execução da estratégia. Há intenso debate na sociedade acerca da conveniência e oportunidade de adoção de modelos de
linguagem menores, treinados para tarefas específicas, ou a adoção dos modelos de linguagem generalistas treinados com imensos volumes de dados para tarefas
diversas (?one-size-fits-all?), discussão que envolve ainda o desenvolvimento de soluções a partir de modelos existentes em código-aberto ou o estabelecimento de
parcerias com empresas que mantém modelos proprietários.
Por fim, um dos primeiros desafios das Defensorias Públicas do Brasil no desenvolvimento da iniciativa diz respeito à própria governança de sua estratégia de
39 inteligência artificial, considerando as distintas realidades dos órgãos e suas experiências até aqui no campo da inteligência artificial. Atualmente, o CONDEGE já !0
dispõe de Comissão de Tecnologia instituída e operando, formada por defensores e servidores das Defensorias de todo o país, que tem entre suas atribuições a
condução de temas relacionados à inteligência artificial, havendo também discussão sobre a conveniência de se criar uma comissão específica para inteligência
artificial, considerando a centralidade e caráter interdisciplinar do tema. Também se vislumbra a criação de Comitê Executivo para implementação da Estratégia de
Inteligência Artificial, responsável pela gestão colaborativa dos projetos, com formato ainda a ser definido.
40 !4
PERGUNTA 5. Quais aspectos relacionados à proteção de dados e transparência devem ser considerados pelas Defensorias Públicas na formulação e
implementação de sua estratégia de inteligência artificial? Como esses aspectos podem ser articulados e mobilizados para assegurar a proteção de dados e
transparência, inclusive a transparência algorítmica?
41 !1
PERGUNTA 6. Quais medidas devem ser adotadas durante todo o ciclo dos projetos para garantir a segurança dos sistemas de inteligência artificial? Como
promover a maior confiabilidade das soluções a serem adotadas e assegurar que seu uso seja adequado e condizente com as capacidades e limitações dos
sistemas, inclusive em relação à supervisão humana e monitoramento das métricas de performance dos modelos utilizados?
42 !5
PERGUNTA 7. Como sistemas de inteligência artificial podem promover ou agravar violações de direitos humanos, considerando, inclusive, o racismo algorítmico e
outros vieses potenciais da tecnologia? Quais medidas podem ser adotadas nas diferentes etapas dos projetos para assegurar que as soluções de inteligência
artificial não reproduzam preconceitos e, ao contrário, possam contribuir para a promoção dos direitos humanos a partir da atuação da Defensoria Pública?
43 !2
PERGUNTA 8. Quais cuidados devem ser adotados para a construção de repositório unificado de bases de dados voltados ao treinamento e alinhamento de
modelos, de modo a resguardar a proteção de dados pessoais e a soberania dos órgãos em relação a suas bases e outros aspectos relevantes? Que dados devem
constar no repositório e que métodos podem ser adotados para proporcionar melhores soluções de inteligência artificial, alinhadas com a missão institucional da
Defensoria Pública?
44 !3
PERGUNTA 9. Quais aspectos devem ser considerados para a decisão sobre modelos de inteligência artificial a serem adotados, em termos de tamanho, soluções
proprietárias ou de código aberto, linguagens, idioma, entre outros?
45 !1
PERGUNTA 10. Quais aspectos, métodos e cuidados devem ser considerados para o fine-tuning dos modelos?
46 !3
PERGUNTA 11. Quais parcerias podem ser estabelecidas com órgãos públicos estaduais, distritais e federais para o desenvolvimento dos projetos, inclusive em
relação a etapas que possam exigir grande capacidade de computação? Como essas parcerias podem ser materializadas?
47 !2
PERGUNTA 12. Como assegurar a ampla participação social e a colaboração com comunidade técnico-científica, especialmente com as Instituições de Ensino
Superior, para o desenvolvimento da estratégia de inteligência artificial das Defensorias Públicas? Que benefícios podem ser obtidos a partir dessas parcerias? Quais
arranjos podem ser utilizados para a operacionalização das colaborações?
48 !2
PERGUNTA 13. Que elementos devem ser considerados para a promoção da educação e qualificação de defensores e demais servidores no tema da inteligência
artificial, pelos centros de estudo, fundações e escolas das Defensorias Públicas e outros caminhos complementares para formação e capacitação continuada?
49 !4
PERGUNTA 14. Quais recomendações podem ser feitas para a melhor governança da estratégia unificada das Defensorias Públicas para adoção de soluções de
inteligência artificial?
50 PERGUNTA 15. Há outras sugestões ou comentários a serem feitos, relacionados a aspectos não explorados no texto e nas perguntas, que possam contribuir para a !2
formulação e implementação da estratégia de inteligência artificial das Defensorias Públicas?
PARTICIPE!
Título
" Informe o título da contribuição
Resumo
" Informe o resumo da contribuição (até 2000 caracteres)
Escolher Arquivo nenhum arquivo selecionado
" Escolha o arquivo da contribuição. Somente PDF.
Enviar
CONTRIBUIÇÕES RECEBIDAS
98 contribuições recebidas
98 contribuições pendentes, Nenhuma contribuição aprovada, Nenhuma contribuição recusada
Número: CP-598351
Parágrafo: 8
Ética na Inteligência Artificial
Integrar diretrizes éticas ao longo de todo o ciclo de vida do desenvolvimento do sistema, assegurando o diálogo aberto entre as equipes de
desenvolvimento e a população, mantendo o compromisso com a ética, são fundamentais para garantir o desenvolvimento e utilização responsável da
IA.
Baixar arquivo
Contribuinte: EDSON IBIAPINA SOARES FILHO

Status Pendente
Número: CP-599249
PENALIZAÇÃO AO ALUNO QUE USAR O CELULAR INDEVIDAMENTE EM SALA DE AULA SEM A PERMISSÃO DO PROFESSOR.
É possível observar que a tecnologia é muito importante no contexto escolar para aprender com vídeos, filmes, imagens e dentre outros, é importante
que analisar que alunos ficam nas escolas com celular com fone de ouvido escutando música, jogando joguinhos e usando redes sociais o que causa a
desconcentração no professor e no conteúdo além do vício do celular durante as horas na escolas acarretando inúmeros prejuízos segundo estudos .
Contribuinte: JEFERSON FABIANO MAZARO

Status Pendente
Número: CP-600591
Concordo plenamente.
Concordo plenamente com a implementação e aperfeiçoamento da IA na Segurança Pública em todo o Brasil.
Contribuinte: YOANNER GONZALEZ INFANTE

Status Pendente
Número: CP-601948
Inteligência artificial
Contra câmeras nos uniformes de políciais, desde que não identifica o criminoso e ainda usam máscaras e bonés.
Contribuinte: GLORIA HELENA RODRIGUES

Status Pendente
Número: CP-601947
Inteligência artificial
Contra câmeras nos uniformes de políciais, desde que não identifica o criminoso e ainda usam máscaras e bonés.
Contribuinte: GLORIA HELENA RODRIGUES

Status Pendente
Número: CP-605780
Parágrafo: 17
Desafios da IA para a Sociedade Brasileira e o Papel das Defensorias Públicas na Defesa dos Direitos Humanos
A rápida evolução das tecnologias de Inteligência Artificial (IA) apresenta riscos como violações de privacidade, discriminação algorítmica, automação de
empregos, desigualdade digital e manipulação de informações. Para enfrentar esses desafios, as Defensorias Públicas no Brasil podem se preparar
através da capacitação em tecnologia, advocacia, auditoria de algoritmos, parcerias com especialistas em tecnologia, educação pública e defesa de
políticas públicas que promovam a transparência e equidade no uso da IA. Seu papel é crucial na proteção dos direitos humanos e das pessoas
vulneráveis em um contexto tecnológico em constante evolução.
Baixar arquivo
Contribuinte: ANUAR JOSE MINCACHE

Status Pendente
Número: CP-605816
Parágrafo: 24
Soluções
A capacidade de fornecer assistência preliminar a questionamentos jurídicos corriqueiros, mediante a disponibilização de conhecimentos elementares
sobre direitos e procedimentos legais, é inerente aos chatbots e assistentes virtuais embasados em Inteligência Artificial. Essa abordagem, ao propiciar,
notadamente, a ampliação do acesso à justiça, destina-se a beneficiar aqueles que carecem de um acesso facilitado a um defensor público.
Contribuinte: RICARDO JOSE GOUVEIA CARNEIRO

Status Pendente
Número: CP-605817
Parágrafo: 40
Informações
Possibilitar que os usuários acessem de forma simplificada as informações coletadas sobre si e disponibilizar canais para a retificação de dados
imprecisos.
Contribuinte: RICARDO JOSE GOUVEIA CARNEIRO

Status Pendente
Número: CP-614991
Parágrafo: 1
Sobre a expressão "Inteligência Artificial"
Penso que uma primeira observação tem a ver com o termo usado. Tendo em vista a perspectiva a partir da qual realizamos nossos estudos sobre a
relação "tecnologia, políticas sociais e intervenções profissionais, a chamada IA não é nem "inteligência" nem "artificial". É a capacidade humana
transferida para uma ferramenta maquínica que passa a desenvolver determiandas atividades, considerando uma estrutura previamente definida
também pelo ser humano. Não se trata de um autômato que pensa, mas de um equipamento que procede considerando o conjunto de informações
com o qual aponta possíveis decisões as quais também foi previamente definidas pelo agente humano. Sugiro a leitura de inúmeras contribuições do
filósofo brasileiro Álvaro Vieira Pinto - O conceito de tecnologia - e do professor Miguel Nicolelis - Overdadeiro criador de tudo . Este último, inclusive, é
um médico e cientista brasileiro, considerado um dos vinte maiores cientistas em sua área. Por oportuno, desde logo, merece advertência que as
tecnologias não têm capacidae teleológica, não são "boas" ou "más" em si. Por isso, o que se deve questionar é a racionalidade que orienta o uso delas.
O que pretende a Defensoria Pública intensificando a adoção de novas tecnologias, considerando o público alvo de suas ações? Eliminar a relação entre
agentes públicos (defensores, assistentes sociais etc.) e a população usuária? Em nome da eliminação da burocracia, desumanizar o atendimento e
acabar restringindo o acesso aos serviços, considerando que grande parte da população brasileira, especialmente os segmentos mais pobres, sequer
têm conexão à internet de qualidade (tanto móvel como fixa)? Ou, por outro lado, quer fazer uso de ferramentas tecnológicas para potencializar o
acesso, a partir de um processo de transição que permita a população optar entre diferentes tipos de atendimentos (remoto e presencial), de maneria a
não promover, mais uma vez, óbices para o acesso aos sereviços da Defensoria Pública?
Contribuinte: JAIME HILLESHEIM

Status Pendente
Número: CP-615729
AGILIDADE
Prezados, é de suma importancia que o tema I.A. seja aplicado em todas as areas da Administração Pública, e no futuro essas areas possam ser
integradas gerando um novo modelo de gestão publica.
Assim quem sabe os mais de R$304.000.000,00 estimado para realização das reuinões do G20 pudessem ser melhor aplicados
Vinhos e Champagne ambos com minimo de 4 premiações internacionais, safra não inferior a 10 anos., Todo esse cuidado para dar de beber a uns
poucos em quanto o povo impostos absurdos, sem falar no IR, o miseravel que ganha R$5.000,00 ja vai ter desconto..
Não acredita no estou dizendo, segue o link
https://pncp.gov.br/app/editais/00489828000155/2023/146
Baixar arquivo
Contribuinte: JOAO CARLOS APARECIDO DA SILVA

Status Pendente
Número: CP-616576
Parágrafo: 2
IA elaborar partes da petição
Não acredito que o uso desta ferramenta seria benéfico aos assistidos, tendo em vista que cada caso dos assistidos tem suas peculiaridades, uma vez
que passem a usar a ferramenta para a elaboração parcial das petições, haverá o risco potencial de que as peculiaridades do caso do assistido não
sejam abordadas e, a depender do tipo de demanda, tal erro poderia prejudicar a demanda do assistido.
Contribuinte: ESTHEFANNY KELY DA SILVA REIS

Status Pendente
Número: CP-616579
Parágrafo: 8
IA para a ampliação do acesso à justiça
Do ponto de vista nacional, de fato o uso da inteligência artificial tem a capacidade de contribuir com a ampliação do acesso à justiça, mas a referida
contribuição não seria tão impactante nas regiões brasileiras cujo acesso à internet é instável ou quase inexistente, principalmente se o funcionamento
da IA depender exclusivamente da conexão com a internet, se este for o caso, a implementação da IA nestas regiões não surtirá o mesmo efeito que terá
nas regiões com acesso ininterrupto à internet.
Contribuinte: ESTHEFANNY KELY DA SILVA REIS

Status Pendente
Número: CP-616626
Parágrafo: 17
Pergunta 1
Aumentar o número de prestações jurídicas
Contribuinte: KARINA ROSCOE ZANETTI

Status Pendente
Número: CP-616627
Parágrafo: 17
Pergunta 1
Aumentar o número de prestações jurídicas
Contribuinte: KARINA ROSCOE ZANETTI

Status Pendente
Número: CP-616638
Parágrafo: 24
Consultas e agendamentos
Utilização de chatbots ou tecnologias semelhantes capazes de fornecer atualizações sobre o andamento processual em aplicativos já disseminados na
população (ex: whatsapp) minimizando a necessidade de intervenção humana. De preferência, com uma opção final, subsidiária, de agendamento de um
atendimento mais circunstanciado.
Contribuinte: GUSTAVO PIRES DE CARVALHO

Status Pendente
Número: CP-616639
Parágrafo: 25
Vulnerabilidade dos sistemas e transparência
São necessários mecanismos de checagem para aferir se a pessoa que solicita informação sobre o andamento processual, por exemplo, efetivamente
corresponde ao diretamente interessado. Para isso, eventuais tecnologias (ex: reconhecimento facial) deverão ser construídas com funcionamento
conhecido pela instituição e pelas ouvidorias a fim de evitar episódios de discriminação algorítmica.

Status Pendente
Número: CP-616640
Parágrafo: 25
Vulnerabilidade dos sistemas e transparência
São necessários mecanismos de checagem para aferir se a pessoa que solicita informação sobre o andamento processual, por exemplo, efetivamente
corresponde ao diretamente interessado. Para isso, eventuais tecnologias (ex: reconhecimento facial) deverão ser construídas com funcionamento
conhecido pela instituição e pelas ouvidorias a fim de evitar episódios de discriminação algorítmica.

Status Pendente
Número: CP-616641
Parágrafo: 25
Vulnerabilidade digital
Compreensão do público-alvo da Defensoria Pública, que envolve pessoas vulneráveis que, por alguma razão, não dominam as tecnologias envolvidas
(ex: idosos), não tem acesso a elas (ex: pessoas sem banda larga ou residentes de área sem cobertura de internet adequada), necessitam de adaptações
razoáveis (ex: PCDs), culturalmente não utilizam as tecnologias de informação (ex: certos grupos de comunidades tradicionais, caso não desejem) ou são
efetivamente impedidas de usá-las (ex: pessoas privadas de liberdade). Ou seja, a implementação de tecnologias de informação deve funcionar como
via adicional de acesso à justiça e à Defensoria Pública, sem substituir os canais já existentes - ainda que seja possível otimizá-los.

Status Pendente
Número: CP-617108
Parágrafo: 1
TECNOLOGIA X EVOLUÇÃO HUMANA
Sabe-se que o avanço tecnológico acontece de forma exponencial e o conhecimento humano de forma linear, desta forma, mesmo que parássemos no
tempo e ENSINASSIMOS todos os cidadãos brasileiros, ainda assim, estaríamos ultrapassados. Toda iniciativa de evolução tecnologica TEM QUE ser
acompanhada de uma EVOLUÇÃO HUMANA, caso contrário, há muitas possibilidades do desastre acontecer nas futuras gerações, e NÓS SEREMOS
CULPADOS DISSO.
Contribuinte: WALDIR RODRIGUES ALVES

Status Pendente
Número: CP-617110
Parágrafo: 6
Que coeficiente de amostragem foi usado nesse estudo?
Não há como formular e implantar mecanismos usando modelos de paises desenvolvidos, não é possivel. Por que? Por que a grande maioria dos
brasileiros não tem uma cultura cibernética ensinada, treinada e pronta para defender a sí e ao estado. Basta uma pessoa "disparar" ataques de "robôs",
que servidores "caem". Quantas pessoas no Brasil tem consciência do risco que corre ao navegar na internet usando um pc ou celular?

Status Pendente
Número: CP-617114
Parágrafo: 7
PRIORIDADES - MODERNIZAÇÃO - CONTROLE HUMANO
É um perigo enorme automatizar algo que não funciona adequadamente apenas com controle humano. Não bastasse o desemprego que provocará, há
um risco maior - O DAS MAQUINAS CRIAREM ALGORITMOS BASEADOS EM ATUAÇÕES DAS FORÇAS DO ESTADO NOS ULTIMOS 20 ANOS. Há sim de
buscarmos uma evolução tecnológica, mas ADEQUADA, HUMANA E CORRIGINDO OS ERROS COMETIDOS PELOS HUMANOS, NÃO COMPIANDO-OS.

Status Pendente
Número: CP-617121
Parágrafo: 9
ACESSO UNIVERSAL A DEFENSORIA PÚBLICA
Penso que, antes da implantação da I.A. , a DEFENSORIA PÚBLICA deveria ser UNIVERSAL , acessivel a todos os BRASILEIROS, sem limitações. Como
modernizar algo que limita o acesso a um serviço ESSENCIAL a tres salarios minimos de RENDA FAMILIAR? Esse tema passa "ao vento", e discutisse uma
modernização tecnológica para acesso de QUEM?

Status Pendente
Número: CP-617126
Parágrafo: 12
ACESSO AOS DADOS
Hoje, não se tem estatisticas quanto aos processos onde a DEFENSORIA PÚBLICA atua, como será com a I.A.?

Status Pendente
Número: CP-617130
Parágrafo: 17
OUÇA A POPULAÇÃO - VÁ DE ENCONTRO À ELA
As DEFENSORIA PÚBLICAS, podem (devem), IR AO ENCONTRO DA POPULAÇÃO, ouça, pergunte, explique. Sugiro alguns locais - hospitais, escolas,
presidios, delegacias, shoping center, ponto de ônibus, batalhões de policia militar, sala de monitoramento das GCMs, etc. OUÇAM a SOCIEDADE. Não
online, pessoalmente. Da mais trabalho mas é mais eficiente.
Status Pendente
Número: CP-617137
Parágrafo: 19
ACESSO UNIVERSAL - II
Hoje não temos nem ASSINATURA DIGITAL, vivemos em um modelo hibrido - metade online, metado offline. Para alguns casos , como a DECLARAÇÃO
ANUAL DE IMPOSTO DE RENDA, o contribuinte faz em casa. Para entrar com um pedido nos J.E.C. precisa ir pessoalmente. Sem uma universalização de
verdade, ensinada (não um PDF com dezenas de paginas cheia de termos técnicos que quase ninguem entende), algo educativo, que ensine o
CIDADÃO a usar uma ferramenta paga por ele, para ele.

Status Pendente
Número: CP-617142
Parágrafo: 22
CONTROLE ABSOLUTO DO SER HUMANO
Há de se criar mecanismos de auditoria constante, mas externos às DEFENSORIAS PUBLICAS ou quem usar o sistema. Todo sistema automatizado
precisa ser auditado com frequência, pois bugs acontecem o tempo todo.

Status Pendente
Número: CP-617146
Parágrafo: 24
UNIVERSALIZAÇÃO PRIORITARIAMENTE
Sem uma UNIVERSALIZAÇÃO do acesso a DEFENSORIA PÚBLICA. Sem uma CULTURA CIDADÃO DE BUSCA POR DIREITOS. Sem um ACOLHIMENTO
pela DEFENSORIA PÚBLICA, A Inteligência Artifcial será mais uma ferramenta patrocinada pelo erário público, que TODOS contribuiem, mas nem todos
tem acesso. Há de se difundir o acesso UNIVERSAL a DEFENSORIA PÚBLICA, há ferramentas disponiveis: redes sociais, e-mails institucionais,
divulguem, modifiquem, busquem a SOCIEDADE.

Status Pendente
Número: CP-617154
Parágrafo: 42
AUDITORIA CONSTANTE E ABERTA
Relatórios abertos (salvaguardando informações pessoais do/a atendido/), Como o maior número de informações possiveis relacionadas, catalogadas,
planilificadas, de modo que não apenas tecnicos em T.I. , auditem o sistema, mas a SOCIEDADE auditará COMO O SISTEMA ESTA AGINDO.

Status Pendente
Número: CP-617155
Parágrafo: 44
CODIGO ABERTO
Penso que, um sistema com código aberto, além de mais seguro, envolve um número maior de "auditores".

Status Pendente
Número: CP-617158
Parágrafo: 47
Responsabilização
Toda parceria será bem vinda, acreditando que todos busquem o melhor para o Brasil. Não que tais parcerias sejam voluntárias, adquirir conhecimento
custa caro, mas não há motivos para criar parcerias como acontece hoje com os convênios realizados pelas DEFENSORIAS PUBLICAS DOS ESTADOS.

Status Pendente
Número: CP-617164
Parágrafo: 49
CRIAÇÃO DE UM COMITÊ DE GOVERNANÇA
Envolvendo UNIÃO, ESTADO, PODERES LEGISLATIVO, JUDICIARIO , SOCIEDADE CIVIL, e organizações civis.

Status Pendente
Número: CP-617166
BUSQUEM A SOCIEDADE
Não esperem a SOCIEDADE precisar da DEFENSORIA PÚBLICA, busquem um contato mais humano, mais presente no cotidiano das pessoas, Vão ao
encontro das pessoas, nos hospitais, escolas, presidios, delegacias, pontos de ônibus, lugares com muitas pessoas. Falem com eles, não via telefone,
online, e-mail, etc, Pessoalmente, mostre-se.

Status Pendente
Número: CP-617230
Parágrafo: 8
Atendimento remoto e aumento de cobertura
Com a implementação de políticas coordenadas de atendimento remoto, é possível expandir o atendimento institucional da Defensoria, em comarcas
onde o serviço não é diretamente prestado, possibilitando que Defensores de carreira coordenem as atividades de servidores alocados em regiões
estratégicas, sendo inclusive, possível criar postos de atendimento híbridos com servidores que podem ser coordenados por Defensores nos
encaminhamentos de alçada da instituição, com atuação institucional em mais de uma comarca/região (polos de atendimento regionalizado).
Contribuinte: LEONARDO AZEVEDO DE MENDONCA

Status Pendente
Número: CP-617238
Parágrafo: 12
Postulação por IA e formulários
Com exceção as demandas de maior complexidade, existem diversas demandas que podem ser perfeitamente otimizadas com o uso da tecnologia, em
especial, demandas que envolvem direito aplicável a casos concretos, como por exemplo em ações de família de (pedidos consensuais de divórcio,
guarda, visitas e alimentos), ações indenizatórias de menor complexidade, pedidos de medicamentos e serviços de saúde, pedidos de benefícios
previdenciários, dentre outros.
A atuação por formulários/IA , além de otimizar o tempo, possibilita maior cobertura e análise mais célere de casos que demandem tão somente análise
dos direitos que envolvem as questões.

Status Pendente
Número: CP-617245
Parágrafo: 13
São riscos da atuação tecnológica
A não contemplação de usuários do serviço da Defensoria, por conta de falta de acessibilidade, seja decorrente de meios de acesso ao serviço ou
conhecimento das formas de sua prestação é uma realidade, razão pela qual, acredito ser ideal compatibilizar as inovações do atendimento, com postos
fixos de atendimento presencial, mesmo de que forma periódica, tendo por objetivo desfragmentar eventuais dificuldades de acesso ao serviço das
Defensorias estaduais e federal, por meio de apoio/atendimento presencial.

Status Pendente
Número: CP-617249
Parágrafo: 18
Necessária para atingir a sua finalidade constitucional
Além de permitir a prestação da assistência em comarcas onde não existe, a inteligência artificial permitirá a otimização do tempo em demandas de
menor complexidade, permitindo a simplificação de pedidos que envolvam direitos líquidos/certos, e otimizando o tempo de servidores e defensores
da instituição.

Status Pendente
Número: CP-617262
Parágrafo: 19
Convênios com órgãos públicos e entidades financeiras x autoatendimento em avaliações financeiras para demandas cíveis
Considerando a necessidade de comprovação da qualidade de usuário hipossuficiente, em especial, em demandas de matéria civil, acredito que a IA
possibilite a implantação de um "autoatendimento" para a realização de avaliações financeiras, mediante autorização dos usuários para pesquisas em
entidades conveniadas (Receita Federal, Bacen, e demais instituições financeiras), a fim de identificar se o perfil financeiro da pessoa que procura
atendimento se enquadra nos critérios de atendimento das Defensorias.
Penso, inclusive, que o critério de atendimento cível deve ser padronizado entre a DPU e DPES, sendo inclusive, possível a realização de convênios entre
as Defensorias, onde viabilizara-se o aproveitamento da avaliação financeira realizada em uma Defensoria pelas outras, sendo possível também, um
convênio para utilização de plataforma unificada entre as instituições, o que permitiria o encaminhamento do usuário para a Defensoria que tenha
atribuição para tratar de sua questão, mesmo sendo em outro estado (princípio da unidade institucional aplicado)

Status Pendente
Número: CP-618132
Parágrafo: 17
Capacitação
a rápida evolução das tecnologias de inteligência artificial traz consigo diversos desafios e riscos para a sociedade brasileira. Alguns desses desafios
incluem a questão da privacidade e proteção de dados, o viés algorítmico que pode perpetuar preconceitos e discriminações, e o impacto no mercado
de trabalho, com a automação substituindo empregos tradicionais.
As Defensorias Públicas podem se preparar para atuar nesse cenário por meio de capacitação e atualização constante de seus profissionais, incluindo
advogados e especialistas em tecnologia. Elas também podem buscar parcerias com instituições acadêmicas e organizações da sociedade civil para
promover a conscientização sobre os impactos da inteligência artificial nos direitos humanos e nas pessoas vulneráveis. Além disso, é importante que as
Defensorias Públicas estejam atentas à legislação relacionada à inteligência artificial e participem ativamente do debate público sobre o tema.
Essa é uma questão complexa que demanda um esforço conjunto da sociedade, do poder público e das instituições para garantir que os direitos
humanos sejam protegidos diante do avanço da inteligência artificial.
Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Status Pendente
Número: CP-618140
Parágrafo: 24
Atendimento
As soluções baseadas em inteligência artificial podem contribuir significativamente para a missão institucional da Defensoria Pública e para a ampliação
e qualificação do acesso à justiça. Por exemplo, sistemas de triagem automatizada de casos podem ajudar a identificar demandas urgentes e direcionar
recursos de forma mais eficiente. Além disso, chatbots e assistentes virtuais podem ser utilizados para fornecer informações básicas sobre direitos e
procedimentos legais, atendendo a um maior número de pessoas de forma acessível e eficaz.
Para priorizar os sistemas a serem adotados ou desenvolvidos, a Defensoria Pública deve considerar alguns critérios importantes, tais como: o potencial
de impacto na eficiência e eficácia dos serviços prestados; a capacidade de atender às necessidades específicas das pessoas vulneráveis e em situação
de vulnerabilidade; a segurança e privacidade dos dados dos usuários; a viabilidade técnica e financeira da implementação; e, por fim, a conformidade
com as normas éticas e legais relacionadas à inteligência artificial e ao direito.
A escolha criteriosa das soluções baseadas em inteligência artificial é fundamental para garantir que elas realmente contribuam para a missão da
Defensoria Pública e para o acesso à justiça, atendendo às demandas reais da população mais necessitada.

Status Pendente
Número: CP-618148
Parágrafo: 25
Quais riscos, desafios e impactos sistêmicos
Na implementação de sistemas de inteligência artificial pelas Defensorias Públicas, é crucial considerar uma série de riscos, desafios e impactos
sistêmicos. Entre os principais riscos estão a possibilidade de viés algorítmico, que pode resultar em decisões discriminatórias; a segurança e
privacidade dos dados dos usuários; a dependência excessiva da tecnologia, o que pode comprometer a autonomia e expertise dos profissionais; e a
falta de compreensão ou confiança por parte dos usuários em relação aos sistemas de IA.
Para mitigar esses riscos, as Defensorias Públicas podem adotar estratégias como a realização de auditorias regulares nos sistemas de IA para identificar
e corrigir viés algorítmico; o desenvolvimento de políticas claras de proteção de dados e segurança da informação; a promoção da transparência no uso
da inteligência artificial, explicando como as decisões são tomadas e garantindo o direito à explicabilidade; e o investimento na capacitação e educação
continuada dos profissionais para garantir que compreendam e saibam lidar com as ferramentas de IA.
Além disso, é fundamental envolver stakeholders diversos, como comunidades atendidas, especialistas em ética da IA, organizações da sociedade civil
e órgãos reguladores, para garantir que a implementação de sistemas de inteligência artificial pela Defensoria Pública seja feita de forma
responsável, ética e eficaz.

Status Pendente
Número: CP-618152
Parágrafo: 26
Quais aspectos técnicos relacionados a sistemas de inteligência artificial
Ao analisar e deliberar estrategicamente sobre a implementação de sistemas de inteligência artificial, as Defensorias Públicas devem considerar
diversos aspectos técnicos, políticos e institucionais. Alguns pontos-chave que merecem atenção especial incluem:
1. Viés algorítmico: É fundamental analisar se os algoritmos utilizados nos sistemas de IA estão propensos a reproduzir ou amplificar preconceitos ou
discriminações existentes.
2. Privacidade e segurança dos dados: As Defensorias Públicas devem garantir que os sistemas de IA estejam em conformidade com as leis de proteção
de dados e que haja mecanismos eficazes para proteger as informações dos usuários.
3. Explicabilidade e transparência: Os processos decisórios dos sistemas de IA devem ser compreensíveis e transparentes, permitindo que os
profissionais e os usuários entendam como as decisões são tomadas.
4. Capacitação e treinamento: É necessário avaliar a capacidade técnica e o treinamento dos profissionais responsáveis pelo uso e manutenção dos
sistemas de IA.
Nos processos decisórios, é essencial considerar a participação de múltiplos atores, incluindo especialistas em tecnologia, representantes da
comunidade atendida, advogados especializados, além de promover debates internos para garantir uma visão abrangente sobre as implicações
técnicas, políticas e institucionais da implementação de sistemas de inteligência artificial. A transparência e a prestação de contas também são
elementos fundamentais para garantir que as decisões sejam tomadas de forma ética e responsável.

Status Pendente
Número: CP-618157
Parágrafo: 40
Quais aspectos relacionados à proteção de dados e transparência
Na formulação e implementação de sua estratégia de inteligência artificial, as Defensorias Públicas devem considerar cuidadosamente os aspectos
relacionados à proteção de dados e transparência. Alguns pontos-chave a serem considerados incluem:
1. Consentimento e privacidade: As Defensorias Públicas devem garantir que os dados pessoais dos usuários sejam coletados e utilizados de acordo
com as leis de proteção de dados, garantindo o consentimento informado e a privacidade dos indivíduos atendidos.
2. Segurança da informação: É fundamental implementar medidas robustas de segurança da informação para proteger os dados armazenados nos
sistemas de inteligência artificial contra acessos não autorizados ou vazamentos.
3. Explicabilidade e transparência algorítmica: Os algoritmos utilizados nos sistemas de IA devem ser projetados para serem compreensíveis, permitindo
que os profissionais e os usuários entendam como as decisões são tomadas. Além disso, as Defensorias Públicas devem se esforçar para disponibilizar
informações sobre o funcionamento dos algoritmos e como eles impactam as decisões.
Para assegurar a proteção de dados e transparência, as Defensorias Públicas podem adotar diversas estratégias, tais como:
- Realizar avaliações de impacto à proteção de dados antes da implementação de sistemas de IA, identificando potenciais riscos e propondo medidas
mitigatórias.
- Fomentar a cultura da transparência, divulgando informações sobre o uso de IA e como ela impacta os serviços prestados pela Defensoria Pública.
- Estabelecer canais para que os usuários possam acessar, corrigir ou solicitar a exclusão de seus dados pessoais armazenados nos sistemas de IA.
Ao articular e mobilizar esses aspectos, as Defensorias Públicas podem garantir que a implementação de sistemas de inteligência artificial seja feita com
responsabilidade, respeitando os direitos individuais e promovendo a confiança dos usuários nos serviços prestados.

Status Pendente
Número: CP-618167
Parágrafo: 41
Quais medidas devem ser adotadas durante todo o ciclo dos projetos
Durante todo o ciclo dos projetos de inteligência artificial, diversas medidas podem ser adotadas para garantir a segurança dos sistemas e promover a
confiabilidade das soluções a serem adotadas. Além disso, é fundamental assegurar que o uso dos sistemas seja adequado e condizente com suas
capacidades e limitações. Algumas medidas importantes incluem:
1. Avaliação contínua de riscos: Realizar avaliações regulares para identificar e mitigar possíveis vulnerabilidades nos sistemas de inteligência artificial,
levando em consideração ameaças internas e externas.
2. Garantia da qualidade dos dados: Assegurar que os dados utilizados para treinar os modelos de IA sejam precisos, representativos e estejam em
conformidade com as regulamentações de proteção de dados.
3. Implementação de mecanismos de supervisão humana: Garantir que haja a supervisão humana adequada no uso dos sistemas de IA, especialmente
em casos onde as decisões automatizadas possam ter impacto significativo sobre os direitos individuais.
4. Monitoramento das métricas de performance: Estabelecer procedimentos para monitorar regularmente as métricas de performance dos modelos de
IA, verificando se estão atingindo os resultados esperados e identificando possíveis desvios ou viéses indesejados.
5. Atualização e manutenção dos sistemas: Manter os sistemas de IA atualizados e realizar manutenções periódicas para corrigir falhas, atualizar
algoritmos e garantir a conformidade com as melhores práticas de segurança.
Para promover a confiabilidade das soluções a serem adotadas, é essencial que as Defensorias Públicas realizem testes extensivos dos sistemas de IA
antes da implementação em escala, além de buscar certificações e auditorias independentes que atestem a conformidade com padrões de segurança
reconhecidos.
Ao adotar essas medidas, as Defensorias Públicas podem garantir que seus sistemas de inteligência artificial sejam seguros, confiáveis e utilizados
adequadamente, respeitando as capacidades e limit

Status Pendente
Número: CP-618181
Parágrafo: 42
Como sistemas de inteligência artificial podem promover ou agravar violações de direitos humanos
Os sistemas de inteligência artificial podem tanto promover quanto agravar violações de direitos humanos, e é crucial considerar o risco de vieses e
discriminação algorítmica ao implementar essas tecnologias. O racismo algorítmico e outros vieses potenciais da IA podem resultar em decisões
discriminatórias ou prejudiciais, especialmente em contextos sensíveis como a atuação da Defensoria Pública. Para mitigar esses riscos, diversas
medidas podem ser adotadas nas diferentes etapas dos projetos de IA:
1. Coleta e seleção de dados: Garantir que os dados utilizados para treinar os modelos de IA sejam representativos e livres de viéses, levando em
consideração a diversidade e a equidade.
2. Avaliação de vieses: Realizar análises sistemáticas para identificar e corrigir potenciais vieses nos algoritmos, garantindo que as decisões tomadas pela
IA não reproduzam preconceitos existentes na sociedade.
3. Transparência algorítmica: Disponibilizar informações sobre o funcionamento dos algoritmos utilizados, permitindo que os profissionais da Defensoria
Pública e os usuários compreendam como as decisões são tomadas.
4. Supervisão humana: Assegurar a supervisão humana adequada no uso dos sistemas de IA, especialmente em casos onde as decisões automatizadas
possam impactar diretamente os direitos individuais.
5. Educação e conscientização: Promover a conscientização sobre os riscos de vieses algorítmicos entre os profissionais envolvidos na implementação e
uso dos sistemas de IA.
Além disso, é fundamental que as Defensorias Públicas estejam atentas à conformidade com regulamentações de proteção de dados e direitos
humanos, buscando garantir que o uso da inteligência artificial contribua para a promoção dos direitos humanos. Isso pode incluir a realização de
avaliações de impacto à proteção de dados, o estabelecimento de mecanismos para lidar com reclamações relacionadas ao uso da IA, e a busca por
certificações que atestem a conformidade com padrões éticos e legais.

Status Pendente
Número: CP-618189
Parágrafo: 43
Quais cuidados devem ser adotados para a construção de repositório unificado
Para a construção de um repositório unificado de bases de dados para inteligência artificial na Defensoria Pública, é importante garantir a proteção dos
dados pessoais e a soberania dos órgãos. Isso pode ser feito através da anonimização dos dados, controle de acesso, consentimento transparente e
segurança da informação.
Os dados a serem incluídos devem ser relevantes para a missão da Defensoria Pública, como informações demográficas e jurídicas dos assistidos.
Para melhores soluções de inteligência artificial, é essencial coletar dados de forma ética, desenvolver modelos específicos para as necessidades da
instituição e realizar avaliações regulares para identificar possíveis problemas éticos.
Essas medidas visam garantir um repositório seguro e alinhado com as necessidades da Defensoria Pública.

Status Pendente
Número: CP-618203
Parágrafo: 44
Quais aspectos devem ser considerados para a decisão sobre modelos de inteligência artificial
Na decisão sobre modelos de inteligência artificial a serem adotados, vários aspectos devem ser considerados, tais como o tamanho do modelo, a
escolha entre soluções proprietárias ou de código aberto, as linguagens de programação e o idioma.
Tamanho do modelo: Deve-se avaliar o tamanho do modelo de acordo com a complexidade das tarefas a serem realizadas. Modelos maiores podem ser
mais precisos em certos contextos, mas também exigem mais recursos computacionais.
Soluções proprietárias ou de código aberto: A escolha entre soluções proprietárias e de código aberto depende das necessidades específicas da
Defensoria Pública. As soluções proprietárias podem oferecer suporte especializado, enquanto as de código aberto proporcionam maior transparência e
flexibilidade.
Linguagens de programação: A escolha da linguagem de programação pode influenciar a eficiência e a facilidade de desenvolvimento dos modelos.
Linguagens populares para IA incluem Python, R e Julia.
Idioma: Se os modelos forem utilizados para lidar com dados em um idioma específico, é crucial considerar a capacidade do modelo em processar e
compreender esse idioma.
Além desses aspectos, outros fatores importantes a serem considerados incluem a disponibilidade de recursos computacionais, o suporte da
comunidade para modelos específicos e a ética envolvida no uso dos modelos de inteligência artificial.
A decisão sobre os modelos de inteligência artificial deve ser baseada nas necessidades específicas da Defensoria Pública e nas características dos
dados e tarefas que serão enfrentadas.

Status Pendente
Número: CP-618214
Parágrafo: 45
Quais aspectos, métodos e cuidados devem ser considerados para o fine-tuning dos modelos?
O fine-tuning de modelos de inteligência artificial requer cuidados especiais para garantir que os resultados sejam precisos e éticos. Alguns aspectos,
métodos e cuidados a serem considerados incluem:
1. Escolha dos hiperparâmetros: Os hiperparâmetros do modelo (como taxa de aprendizado, tamanho do lote, etc.) devem ser ajustados cuidadosamente
para otimizar o desempenho do modelo.
2. Validação cruzada: A validação cruzada é uma técnica importante para avaliar o desempenho do modelo em diferentes conjuntos de dados. Isso ajuda
a garantir que o modelo não esteja superajustado aos dados de treinamento.
3. Regularização: A regularização é uma técnica para evitar o sobreajuste, penalizando os pesos do modelo. Métodos como L1 e L2 podem ser aplicados
para evitar que o modelo se torne muito sensível aos dados de treinamento.
4. Ética e viés: Durante o fine-tuning, é crucial considerar e mitigar viés e injustiça nos dados e nos resultados do modelo. Isso pode envolver a análise
cuidadosa dos dados de treinamento e a aplicação de técnicas para mitigar viés, como reamostragem equitativa ou ajuste de métricas de desempenho.
5. Monitoramento contínuo: Após o fine-tuning, é importante monitorar continuamente o desempenho do modelo em produção para identificar possíveis
degradações ou mudanças no comportamento do modelo.
6. Documentação e transparência: Documentar todo o processo de fine-tuning, incluindo os conjuntos de dados utilizados, os hiperparâmetros
escolhidos e as decisões éticas tomadas ao longo do processo.
Ao considerar esses aspectos e adotar esses métodos e cuidados durante o fine-tuning dos modelos, é possível garantir que os modelos resultantes
sejam precisos, justos e éticos em seu uso pela Defensoria Pública.

Status Pendente
Número: CP-618222
Parágrafo: 46
Quais parcerias podem ser estabelecidas com órgãos públicos estaduais, distritais e federais
Para o desenvolvimento de projetos que exijam grande capacidade de computação na área de inteligência artificial, a Defensoria Pública pode
estabelecer parcerias estratégicas com órgãos públicos estaduais, distritais e federais. Algumas parcerias que podem ser consideradas incluem:
1. Universidades e centros de pesquisa: Instituições de ensino superior e centros de pesquisa muitas vezes possuem infraestrutura de computação de
alto desempenho e especialistas em inteligência artificial que podem contribuir para o desenvolvimento dos projetos da Defensoria Pública.
2. Ministério da Ciência, Tecnologia e Inovações: O órgão federal responsável por políticas públicas relacionadas à ciência, tecnologia e inovação pode
oferecer suporte técnico e recursos para projetos de inteligência artificial.
3. Empresas estatais de tecnologia: Empresas estatais voltadas para o desenvolvimento tecnológico podem ser parceiras estratégicas, fornecendo
acesso a recursos computacionais avançados e expertise técnica.
4. Agências reguladoras: Órgãos reguladores podem oferecer orientação sobre o uso ético e legal da inteligência artificial em projetos governamentais,
além de fornecer diretrizes para a proteção de dados sensíveis.
A materialização dessas parcerias pode ocorrer por meio de acordos formais de cooperação, convênios ou termos de colaboração, nos quais as partes
envolvidas estabelecem as responsabilidades, os recursos disponibilizados e os objetivos comuns do projeto. Além disso, a Defensoria Pública pode
promover reuniões regulares entre as partes para alinhar estratégias, compartilhar conhecimento e monitorar o progresso dos projetos.
Ao estabelecer parcerias com órgãos públicos e entidades especializadas, a Defensoria Pública poderá contar com recursos adicionais, expertise
técnica e infraestrutura de computação avançada para impulsionar o desenvolvimento de projetos inovadores na área de inteligência artificial.

Status Pendente
Número: CP-618227
Parágrafo: 47
Como assegurar a ampla participação social e a colaboração com comunidade técnico-científica
Para assegurar a participação da comunidade técnico-científica no desenvolvimento da estratégia de inteligência artificial das Defensorias Públicas, é
importante estabelecer parcerias com instituições de ensino superior. Isso traz benefícios como acesso a conhecimento especializado, inovação
conjunta e maior legitimidade dos projetos. A operacionalização dessas colaborações pode ocorrer por meio de convênios, grupos de trabalho e
consultas públicas. Essas parcerias e arranjos operacionais fortalecem as estratégias de inteligência artificial das Defensorias, garantindo que sejam
informadas por diversos pontos de vista e atendam às necessidades da sociedade.

Status Pendente
Número: CP-618229
Parágrafo: 48
ue elementos devem ser considerados para a promoção da educação e qualificação de defensores
Para promover a educação e qualificação de defensores e demais servidores no tema da inteligência artificial, os centros de estudo, fundações e escolas
das Defensorias Públicas podem considerar os seguintes elementos:
1. Currículo especializado: Desenvolvimento de programas de formação que incluam disciplinas específicas sobre inteligência artificial, abordando desde
conceitos básicos até aplicações práticas dentro do contexto das Defensorias Públicas.
2. Parcerias com instituições de ensino: Estabelecimento de parcerias com universidades e instituições de pesquisa para oferecer cursos, palestras e
workshops ministrados por especialistas em inteligência artificial.
3. Capacitação prática: Inclusão de atividades práticas, como estudos de caso e simulações, que permitam aos defensores e servidores aplicar os
conhecimentos adquiridos em situações reais.
4. Atualização constante: Promoção de programas de capacitação continuada para acompanhar as evoluções tecnológicas e as melhores práticas em
inteligência artificial.
Além disso, outros caminhos complementares para formação e capacitação continuada podem incluir a participação em eventos, congressos e
seminários sobre inteligência artificial, bem como a realização de parcerias com especialistas externos para oferecer treinamentos específicos.
Esses elementos contribuem para garantir que os defensores e servidores das Defensorias Públicas estejam preparados para compreender, utilizar e
avaliar as aplicações da inteligência artificial em seu trabalho cotidiano, promovendo a eficácia e a ética no uso dessa tecnologia.

Status Pendente
Número: CP-618235
Parágrafo: 49
Quais recomendações podem ser feitas para a melhor governança da estratégia unificada
Para a melhor governança da estratégia unificada das Defensorias Públicas para adoção de soluções de inteligência artificial, algumas recomendações
importantes podem ser consideradas:
1. Estabelecimento de comitê gestor: Criação de um comitê responsável por coordenar e monitorar a implementação da estratégia de inteligência
artificial, composto por representantes de diferentes áreas e níveis hierárquicos das Defensorias Públicas.
2. Transparência e prestação de contas: Garantia de transparência nas decisões relacionadas à adoção de soluções de inteligência artificial, bem como a
prestação de contas sobre os impactos e resultados obtidos com o uso dessa tecnologia.
3. Ética e responsabilidade: Incorporação de princípios éticos e responsáveis no desenvolvimento e utilização de soluções de inteligência artificial,
assegurando a proteção dos direitos fundamentais e a equidade no acesso à justiça.
4. Avaliação contínua: Implementação de mecanismos para avaliar continuamente o desempenho das soluções de inteligência artificial, incluindo a
coleta e análise de dados, feedback dos usuários e revisão periódica das práticas adotadas.
5. Participação da comunidade técnico-científica: Promoção do envolvimento e consulta a especialistas em inteligência artificial, acadêmicos e
profissionais do setor para contribuir com conhecimentos especializados na definição e execução da estratégia unificada.
6. Capacitação interna: Investimento na formação e capacitação dos colaboradores das Defensorias Públicas para compreender, utilizar e avaliar as
soluções de inteligência artificial adotadas.
Essas recomendações visam garantir que a governança da estratégia unificada das Defensorias Públicas para adoção de soluções de inteligência
artificial seja pautada pela transparência, responsabilidade, ética e eficácia, promovendo impactos positivos no acesso à justiça e na prestação de
serviços jurídicos à população.

Status Pendente
Número: CP-618241
Parágrafo: 50
Por fim...
Além das questões abordadas até o momento, é importante considerar a necessidade de estabelecer parcerias estratégicas com órgãos
governamentais, organizações da sociedade civil e setor privado para compartilhar recursos, conhecimentos e experiências na implementação da
estratégia de inteligência artificial das Defensorias Públicas.
Também é relevante promover a conscientização e a educação pública sobre o uso da inteligência artificial no contexto jurídico, visando esclarecer a
população sobre os benefícios, limitações e precauções necessárias ao adotar essa tecnologia na prestação de serviços jurídicos.
Além disso, a avaliação constante dos impactos sociais, econômicos e jurídicos das soluções de inteligência artificial utilizadas pelas Defensorias
Públicas é fundamental para garantir que tais ferramentas estejam em conformidade com os princípios democráticos, os direitos humanos e as
necessidades da comunidade atendida.
Por fim, a promoção da diversidade e inclusão na concepção e implementação das estratégias de inteligência artificial pode contribuir para mitigar
viéses algorítmicos e assegurar que as soluções desenvolvidas atendam às demandas de grupos sociais diversos.
Essas sugestões visam enriquecer a formulação e implementação da estratégia de inteligência artificial das Defensorias Públicas, promovendo uma
abordagem ampla, colaborativa e responsável em relação ao uso dessa tecnologia no contexto jurídico.

Status Pendente
Número: CP-620625
Parágrafo: 17
Automação x Necessidade do Atendimento Presencial ou Remoto por Seres Humanos
O avanço é bem-vindo e em muito contribuirá, com práticas possíveis de serem realizadas pela IA, todavia, há que se ter cuidado nas atividades
eminentemente humanas. No caso específico das Defensorias Públicas, a interação com as pessoas nos atendimentos e envolvimento nas comunidades
e atuação em atividades extrajudiciais, sobretudo na conciliação e mediação, é imprescindível que tais atuações sejam realizadas por pessoas e não
máquinas, que jamais substituirá o contato humano.
Contribuinte: GILMARA ANDRADE DOS SANTOS MACIEL

Status Pendente
Número: CP-621413
Qual a base dados será utilizada
Como será utilizada para gerar teses ,com base em todos o processo já com sentença existente ou com decisões jurisprudência recentes ?
Contribuinte: ANDRE SANTOS SILVA

Status Pendente
Número: CP-621954
Parágrafo: 2
IMPORTÂNCIA
Entendo ser muito importante o desenvolvimento de IA para o peticionamento a ser realizado por defensores públicos em diversas áreas e em petições
e áreas nas quais é possível haver uma padronização e possibilitar uma maior produtividade e eficiência, bem como uma otimizaçao de tempo para que
os defensores consigam destinar o seu tempo as atribuições prioritariamente extrajudiciais, bem como para atendimento e peticionamentos mais
complexos e que demandam mais tempo. Além do exposto, verifica-se que a atuação da Defensoria Pública tem que acontecer em grande escala para
que consigamos verdadeiramente atender o maior número de pessoas hipossuficientes possível e de uma forma mais eficiente. Exemplos: Ações de
alimentos, peticionamento do cumprimento de sentença de obrigação de alimentos, petições simples de desarquivamento, alteração de endereço,
revogação de medidas cautelares diversas da prisão, defesas prévias e respostas à acusação padrões, habeas corpus (situações comuns e mais
padronizadas), ações, defas e petições intermediárias na área cível e direito público que sejam mais padronizadas, dentre outras.
Contribuinte: ROBERTA DE MESQUITA RIBEIRO

Status Pendente
Número: CP-621955
Parágrafo: 6
Prioridade no investimento de Inteligências Artificiais com a regulamentação sobre a utilização dessas e proibição em algumas situações
Entendo que o investimento em IA tem que ser priorizado e realizado pelos poderes e instituições públicas, uma vez que diante do aumento de volume
e complexidade das informações e da virtualização e automatização dos processos, faz necessário que a inteligência artificial tem que ser utilizada para
otimizar processos, serviços e atendimentos, bem como para buscar uma maior rapidez e eficiência na prestação dos serviços, bem como reduzir o
gasto de tempo e energia utilizado por trabalhadores e servidores na realização de atos que podem ser padronizados e feitos com o auxílio da
inteligência artificial, possibilitando assim um maior desempenho e produtividade por parte desses. Portanto, entendo que tem que haver um maior
investimento nas tecnologias da informação por todos os poderes e instituições com prioridade e urgência, uma vez quem não fizer estará fadado à
ineficiência e ao não desenvolvimento.

Status Pendente
Número: CP-621957
Parágrafo: 6

Status Pendente
Número: CP-621959
Parágrafo: 6

Status Pendente
Número: CP-621956
Parágrafo: 6

Status Pendente
Número: CP-621958
Parágrafo: 6

Status Pendente
Número: CP-622133
Parágrafo: 1
Hipossuficiência vs vulnerabilidade
Alterar o termo "população hipossuficiente" por "população vulnerável", uma vez que abarca não só situações de vulnerabilidade econômica, mas
também outras vulnerabilidades que não se vinculam a questões financeiras, como a vulnerabilidade social.
Contribuinte: GUILHERME GOMES VIEIRA

Status Pendente
Número: CP-622134
Parágrafo: 2
Peças e automaticação
Substituir a expressão "modelos pré-prontos de petição inicial e contestação" por "modelos pré-prontos de manifestações", o que engloba diferentes
peças processuais, mas que também possa abarcar manifestações extrajudiciais, a exemplo de ofícios, contemplando-se a atuação judicial e
extrajudicial da Defensoria. É possível, por exemplo, padronizar um ofício enviado, de forma administrativa, ao CRAS/CREAS e otimizar o trabalho.. Além
disso, é possível mencionar que a automatização não prejudica a complementação do modelo com as peculiaridades do caso concreto.

Status Pendente
Número: CP-622135
Parágrafo: 19
Dados e vulnerabilidade econômica
Tendo em vista a grande quantidade de dados de usuários das Defensorias Públicas, é importante haver segurança no tratamento dessas informações, a
fim de que não haja vazamento de questões pessoais/sigilosas, nos termos da LGPD. Ademais, a proposta de se criar alternativas automáticas em
termos de análise da vulnerabilidade econômica é algo positivo e que pode ser construído de forma a não violar quebra de sigilo bancário/fiscal (ex:
consulta a base de dados construída com apoio do BACEN/Receita Federal que indique se a pessoa recebe, mensalmente, mais do que 3 salários
mínimos; se tem mais de 20 salários mínimos em conta bancária; etc).

Status Pendente
Número: CP-622136
Parágrafo: 24
Soluções
Automatização de manifestações extrajudiciais/judiciais mais comuns (e que permitam alteração no conteúdo para inclusão de peculiaridades dos
casos concretos); sistemas que permitam com que o usuário possa acompanhar suas demandas no âmbito da Defensoria Pública (qual a situação de um
pedido administrativo ou judicial); banco de cadastro de usuários e possibilidade de agendamento de atendimento ou de realização do atendimento de
forma remota; sistema que interligue as Defensorias Públicas e facilite a comunicação entre essas instituições.

Status Pendente
Número: CP-622137
Parágrafo: 26
Aspectos técnicos
Seria importante que os sistemas possuíssem módulos específicos de atuação em Tribunais Superiores, de forma a aprimorar a litigância estratégica das
Defensorias nesses espaços (ex: identificação de demandas massificadas; possibilidades de modificação jurisprudencial; casos relevantes em que há
necessidade de atuação das Defensorias; etc).

Status Pendente
Número: CP-622138
Parágrafo: 46
Parcerias
SERPRO, universidades, Ministério da Ciência, Tecnologia e Inovação mediante termos de parceria

Status Pendente
Número: CP-625009
Parágrafo: 8
Evitar o Impacto Negativo da IA
Para não haver o risco do aumento do desemprego e pobreza pela adoção de sistemas de inteligência artificial pelo Estado e sociedade é necessário
que a jornada de trabalho, hoje acima de 40 horas semanais de acordo com CLT e a jornada média de servidores públicos, seja reduzida pela metade
para que haja inclusão social e não o agravamento da exclusão. A redução da jornada de trabalho é essencial para que a consolidação dos sistemas de
inteligência artificial contribua para o aumento da qualidade de vida e para a construção de uma sociedade ética, justa e sustentável.
Contribuinte: Letícia Paranhos da Silva

Status Pendente
Número: CP-625286
Parágrafo: 15
Evitar Danos Sociais
Para não haver o risco do aumento do desemprego e pobreza pela adoção de sistemas de inteligência artificial pelo Estado e sociedade é necessário
que a jornada de trabalho, hoje acima de 40 horas semanais de acordo com CLT e a jornada média de servidores públicos, seja reduzida pela metade
para que haja inclusão social e não o agravamento da exclusão. A redução da jornada de trabalho é essencial para que a consolidação dos sistemas de
inteligência artificial contribua para o aumento da qualidade de vida e para a construção de uma sociedade ética, justa e sustentável.

Status Pendente
Número: CP-625363
Evitar Danos Sociais
Para não haver o risco do aumento do desemprego e pobreza pela adoção de sistemas de inteligência artificial no Estado e sociedade, é necessário que
a jornada de trabalho, hoje acima de 40 horas semanais de acordo com CLT e a jornada média de servidores públicos, seja reduzida pela metade para
que haja inclusão social e não o agravamento da exclusão. A redução da jornada de trabalho é fator determinante e essencial para que a consolidação
dos sistemas de inteligência artificial contribua para o aumento da qualidade de vida e para a construção de uma sociedade ética, justa e sustentável.

Status Pendente
Número: CP-626785
Parágrafo: 2
IA em petições
Acredito que a utilização da inteligência artificial para o preenchimento de modelos pré-prontos de petição inicial e contestação prejudicaria o objetivo
da criação e da instituição das Defensorias Públicas, por meio de uma atendimento humanizado e acolhedor, há limites para a utilização de algumas
tecnologias. Em contra partida, é possível a visualização de modelos para atos de gestão, bem como de mero expediente, os quais irão ajudar no
atendimento mais célere para a Justiça e para uma dinamicidade de atendimento para as partes assistidas pelos defensores.
Contribuinte: ANA VITORIA DOS SANTOS DUTRA

Status Pendente
Número: CP-626788
Parágrafo: 6
O "senso de urgência"
O surgimento da inteligência artificial e os estudos por trás demonstram como a sociedade contemporânea é recebida por uma grande fluxo de
informações que prejudicam o desenvolvimento de determinadas políticas públicas, bem como dificultam o acesso de grupos á instituições. A
inteligência artificial pode ser usada nas Defensorias Públicas como um meio de atendimento mais célere digitalmente. No entanto, colocar como uma
urgência, sem estudos técnicos e preliminares, dos impactos que a IA terá na sociedade e na utilização pelos órgãos do setor público, pode prejudicar a
formulação de políticas públicas

Status Pendente
Número: CP-626791
Parágrafo: 13
Missão das defensorias
O texto retrata muito bem tanto nesse parágrafo quanto no anterior, o impacto das Inteligências Artificiais no setor público. É possível notar a
colaboração para uma justiça e determinados atendimentos mais céleres, mas com relação ao projeto de Defensoria, tanto ressaltado na Constituição
Federal como no texto, é preciso do atendimento pessoal como uma forma de demonstração do acesso á Justiça para todos os grupos da sociedade
civil, e possibilitar que a internet não seja um obstáculo para o atendimento do jurisdicionado, mas um auxiliar.

Status Pendente
Número: CP-626793
Parágrafo: 40
Lei Geral de Proteção de Dados
A informação, como bem citada na Constituição e nas Leis que protegem os dados, é vista como ouro na sociedade atual. É importante a utilização de
meios que assegurem a proteção de dados, como senhas complexas, face id e seguranças que possibilitem a autenticidade da informação e seguridade
da leitura do dado pelo verdadeiro "dono". Além disso, facilitar no preenchimento, articular com os órgãos do judiciário e as diferentes defensorias, um
ambiente concentrado de informações, como um PJe

Status Pendente
Número: CP-626795
Parágrafo: 44
Modelos
É preciso destacar a importância de uma linguagem accessível ao remetente (o jurisdicionado). O desenvolvimento de modelos de inteligência artificial
deve buscar atender demandas urgentes e imprevistas, principalmente quando há um lacuna de defensores em exercícios, buscando modelos simples
e que auxiliem de maneira crucial a justiça.

Status Pendente
Número: CP-629060
Parágrafo: 24
Critério de Priorização
Acredito que um dos critérios para priorização dos sistemas a serem a adotados é sua capacidade de resolução de demandas de massa, repetitivas,
dado ao enorme volume de demandas similares a que respondem as Defensorias Públicas.
Contribuinte: JOSE CARLOS TEIXEIRA COSTA JUNIOR

Status Pendente
Número: CP-633626
Parágrafo: 42
Promoção e reprodução de violações aos Direitos Humanos em razão do uso de IA pela rede de proteção às garantias processuais
O Brasil é caracterizado por violências sistemáticas a grupos minoritários, onde perfis são marginalizados e desprovidos de acesso a direitos
fundamentais e dignidade humana e/ou perseguidos em nome da segurança pública. Práticas históricas, sociais e culturais discriminatórias podem ser
agravadas ou reproduzidas pelo uso de inteligência artificial, considerando que até o momento os sistemas existentes não têm capacidade de
contextualizar e evoluir com as demandas impostas aos programas; principalmente em relação à justiça criminal brasileira que está inserida numa
seletividade penal.
É conferida uma aparência de neutralidade aos sistemas de inteligências artificiais, todavia, os dados não são elementos naturais tampouco neutros,
considerando que são resultados de softwares complexos desenvolvidos por um programador parcial e corrompidos pela estrutura social. A análise de
informações pela máquina pode estar comprometida ante as preconcepções próprias do codificador, e ao identificar e apontar um suspeito resultar no
aumento de opressões e abusos presentes na sociedade. A interpretação dos dados é crucial para enfrentar as limitações e preconceitos contidos no
exame desses elementos.
Pensar o Direito de forma utilitarista, sobretudo no âmbito criminal, conduz a regimes de opressão e desrespeito às garantias constitucionais como
contraditório e a ampla defesa, integralidade da assistência jurídica, acesso à justiça, não discriminação, igualdade, dignidade da pessoa humana, devido
processo legal. Há necessidade de um olhar sensível e crítico aos sistemas de inteligência artificial a fim de não institucionalizar modelos padronizados e
sem identificação com as circunstâncias do caso, retirando o caráter humanizado das Defensorias Públicas e massificando petições/ ações desconexas
com as demandas. O enquadramento em modelos inteligentes proporciona a sensação de que as pessoas não foram efetivamente ouvidas e acolhidas
colocando em dúvida o entendimento da situação.
Baixar arquivo
Contribuinte: YANKA DOS SANTOS PINTO

Status Pendente
Número: CP-633630
Parágrafo: 43
Adoção de preceitos e princípios fundamentais em relação ao uso de IA que sejam correspondentes a missão institucional da Defensoria Pública
O uso de sistemas de inteligência artificial pode levar à discriminação algorítmica ou inconformidade e distanciamento do modelo ao caso concreto, por
isso, a necessidade de estabelecer preceitos e princípios fundamentais na condução e desenvolvimento do projeto, como segurança da informação,
qualidade dos dados, auditabilidade, não discriminação, proporcionalidade, livre acesso, transparência, responsabilização e prestação de contas. Além
de vedar o tratamento de dados pessoais por entidades privadas e permitir intervenção humana no manejo dos modelos automatizados, prevendo a
audição desses sistemas e comprovação da sua precisão, grau de acurácia e não discriminação. O tratamento dos dados pessoais deve ser precedido
de autorização, assim como os projetos devem disponibilizar informações cristalinas a respeito dos critérios e dos procedimentos usados pelos modelos,
e um relatório de impacto dos modelos automatizados para verificar a garantia da não discriminação e transparência.
Baixar arquivo
Contribuinte: YANKA DOS SANTOS PINTO

Status Pendente
Número: CP-633822
Parágrafo: 11
As duas faces da tecnologia artificial generativa
A presente contribuição na questão 11 da consulta popular realizada pela Secretaria de Assessoria à Justiça - SAJU, CONDEGE, DPU, dependente do
Ministério da Justiça e Segurança Pública, no marco da “estratégia de implantação da Inteligência Artificial pelas Defensorias Públicas do Brasil”
responde a um trabalho social que é realizado pelo Programa de Mestrado em Direito e Justiça Social -FURG- o qual pretende contribuir na promoção
de estudos críticos que visem resolver as novas demandas sociais deste tempo, contextualizadas na realidade social -Brasileira- da qual formamos
parte, e para a qual nos constituímos como apenas um veículo mais de sua expressão. Neste contexto o surgimento e a rápida evolução das tecnologias
de inteligência artificial generativa traz consigo muitas consequências positivas derivadas de sua utilização e que se refletem em um aprimoramento da
qualidade de vida, no entanto esta realidade nem sempre é positiva, algumas vezes tem reflexos negativos que incidem sobre os direitos humanos
fundamentais dos cidadãos Brasileiros, por tanto é indispensável abrir estes espaços de participação coletiva que contribuem com a tomada de decisão
sobre políticas públicas de caráter estrutural. Para abordar os paradoxos que esta realidade social apresenta objetivamos intervir na realidade com
contribuições centradas teórica e empiricamente, embaçadas nos princípios fundamentais da justiça social.
Baixar arquivo
Contribuinte: IGNACIO ALFREDO FONTANA

Status Pendente
Número: CP-633823
Parágrafo: 1
Integração digital: um direito e um veículo para o exercício dos direitos fundamentais.
A presente contribuição na questão 1 da consulta popular realizada pela Secretaria de Assessoria à Justiça - SAJU, CONDEGE, DPU, dependente do
Ministério da Justiça e Segurança Pública, no marco da “estratégia de implantação da Inteligência Artificial pelas Defensorias Públicas do Brasil”
responde a um trabalho social que é realizado pelo Programa de Mestrado em Direito e Justiça Social -FURG- o qual pretende contribuir na promoção
de estudos críticos que visem resolver as novas demandas sociais deste tempo, contextualizadas na realidade social -Brasileira- da qual formamos
parte, e para a qual nos constituímos como apenas um veículo mais de sua expressão. Neste contexto o surgimento e a rápida evolução das tecnologias
de inteligência artificial produz um forte ponto de encontro no qual se geram disputas por espaços de poder entre novos atores internacionais e o Estado
que afetam os direitos humanos. Para abordar os paradoxos que esta realidade social apresenta objetivamos intervir na realidade com contribuições
centradas teórica e empiricamente, embaçadas nos princípios fundamentais da justiça social.
Baixar arquivo
Contribuinte: IGNACIO ALFREDO FONTANA

Status Pendente
Número: CP-638866
Parágrafo: 1
Não deshumanizar
Resalto a importância de evitar a falta de senso humano nas relações. Que a IA resolva a questão burocrática, sim. Mas que em hipótese nenhuma
apresente resultado, avaliação ou sugestão qualitativa. Apenas levantamentos de dados de firma seja impossível tomar uma decisão baseado em
programação.
Contribuinte: INGRID ELENA SANCHEZ SCHNOOR NUNES

Status Pendente
Número: CP-646519
Parágrafo: 17
Quem irá operar o banco de dados e os algoritmos?
A inteligência artificial, (IA), depende dos dados e da forma como é feita a inferência neles. A arquitetura dos dados e a lógica do algoritmo devem ser
abertas e de atualização periódica para que possamos ter bons resultados. Mas, é claro que depende da concepção do modelo feita pelos criadores do
sistema de IA.
Contudo, além disso, os operadores (ex. defensores públicos) e os usuários (ex. : pessoas vulneráveis) podem se valer da estratégia tecnológica desde
que sejam respeitados tipos de dados dados pela LGPD (pessoais, sensíveis, abertos, anonimizados, pseudoanonimizado, etc) para aprimorar a
confiabilidade dos resultados obtidos com o em´prego da IA.
Assim, a adoção das recomendações na anonimização dos dados precisam ser observadas. Tais como a apresentada no estudo técnico anexpo, "a
avaliação do contínuo processo de anonimização deve se dar de acordo com um modelo baseado em riscos" .
Baixar arquivo
Contribuinte: ADROALDO PANDOLFO

Status Pendente
Número: CP-646530
Parágrafo: 9
Utilizar a IA para fomentar maior eficiência das Sessões de Conciliação e não na produção de demandas Judiciais
As Sessões de Conciliação poderiam ser o foco da lógica do sistema de IA. Um algoritmo que buscasse a resolução dos problemas das partes sem
demandar judicialmente parece ser o ideal. Assim, teríamos uma maior eficácia na implementação de resultados positivos pela atuação da Defensoria
Pública.

Status Pendente
Número: CP-646538
Parágrafo: 13
Suprimir o trecho "em períodos de turbulência"
Não se justifica manter o texto como está: ".... defesa dos necessitados - justamente aqueles que se encontram mais vulneráveis em períodos de
turbulência -, ....."
Pois , sempre existem vulneráveis em quaisquer períodos. Sejam eles "turbulentos" ou não;
Além do mais, o emprego de IA não se daria por causa do conteúdo do termo "em períodos de turbulência", o qual não é específico e não expõe a ideia
de modo apropriado.
A sugestão é suprimir "em períodos de turbulência", :
Resultando o seguinte texto: "...defesa dos necessitados - justamente aqueles que se encontram mais vulneráveis -, ... "

Status Pendente
Número: CP-646614
Parágrafo: 17
CONSOLIDAR O VERDADEIRO ASSISTIDO.
Em que pese a pergunta indicar riscos, questiona-se a pessoalidade do atendimento, ainda que virtual. O atendimento na defensoria deve ter face, ainda
que pelo meio virtual, totens e etc. A preparação envolve, antes de dissipação, o rigoroso controle de quem é hipossuficiente econômico. Comumente se
verifica a atuação da Defensoria em pessoas que não são vulneráveis, possuindo patrimônio fora do comum. A simples declaração firmada em várias
defensorias estaduais. Não raro igualmente se encontram pessoas atendidas pela Defensoria Estadual e que, ao procurarem a DPU, não se enquadram.
A verdade é que na DPU há rigoroso controle, o que inocorre em diversas defensorias estaduais. Ademais, desde que o STF firmou o entendimento e
previsão de honorários para as Defensorias, tem sido comum a ânsia de vários Defensores(as) atuar desprovido o seu assistido da qualidade de
hipossuficiente. A preparação, antes, é estabelecer critérios básicos de comprovação da qualidade de hipossuficiente.
Contribuinte: Wilbran Schneider Borges Junior

Status Pendente
Número: CP-646616
Parágrafo: 24
soluções interligadas
A IA deve ser utilizada pela Defensoria para, primeiro, estabelecer o verdadeiro assistido, COM DOCUMENTAÇÃO e NÃO SIMPLES DECLARAÇÃO. Há
necessidade de interligar a declaração do assistido com programas fazendários e os próprios sistemas da justiça e da OAB, em especial para saber se,
de fato, não haveria algum advogado disposto a atuar de forma êxitosa. Com isso, filtraria muito os atendimentos e ações e a Defensoria deveria primar
pelo atendimento aos verdadeiros vulneráveis: população de rua, quilombolas, índigenas, hipossuficientes econômicos, população de favelas, etc.
É sabido que os veradeiramente carentes demandam tempo quadruplicado de atendimento em contraste com um que não é.

Status Pendente
Número: CP-646618
Parágrafo: 24
As estratégias sistemas de IA englobam tamb´ém a verificação prévia da existência de documentos e provas para demanda. As vezes se vê formulação
de manifestações judiciais sem qualquer amparo probatório. (fotos, documentos atuais, constatação por servidores públicos, etc). Antes de chegar ao
Defensor(a) é necessário que exista filtro de IA que esclareça eventual necessidade da parte formule pedidos de provas prévias e produza as
necessárias.

Status Pendente
Número: CP-646622
Parágrafo: 26
ANALISE E ESTUDOS
Haverá necessidade interpretação, por cursos, do jeito que os algorítimos irão trabalhar.

Status Pendente
Número: CP-646621
Parágrafo: 25
RISCOS E FILTRAGEM
Há necessidade de filtragem de quem solicita andamentos processuais; da pessoa verdadeiramente hipossuficiente econômica; de acesso e informação
à população ribeirinha, aldeias, de rua, desabrigados, de asilos, de casas de adoção, de instituições de medidas socioeducativas, e sobretudo verificação
face da pessoa a ser atendida.

Status Pendente
Número: CP-646625
Parágrafo: 46
NECESSIDADE DE INTERLIGAÇÃO
Haverá necessidade de estabelecer interligação com órgãos fazendários, penais, previdenciários, bem como incluir a própria OAB nesta discussão,
porquanto há necessidade imprescindível de filtragem de quem realmente é hipossuficiente.

Status Pendente
Número: CP-646627
Parágrafo: 49
Haverá necessidade de discussão com a OAB, bem como Poder Judiciário e Ministério Público, pois devido o valor da Defensoria Pública para a
sociedade, acabam verificando os casos como de necessário interesse da Justiça. Todavia, esses órgãos não sabem, por exemplo, que várias
Defensorias utilizam de filtragem com a simples declaração do assistido.

Status Pendente
Número: CP-657727
Contribuição à consulta sobre a implementação de Inteligência Artificial nas Defensorias Públicas do Brasil; (IRIS)
O trabalho primoroso realizado pelas Defensorias Públicas no Brasil é fundamental para garantir o acesso à justiça, principalmente daqueles e daquelas
que não teriam condições de contratar um profissional de advocacia para ajuizar suas demandas. Assim, trata-se de uma instituição que interage
diariamente com pessoas hipossuficientes, vulnerabilizadas e/ou marginalizadas, além de, muitas vezes, atravessadas por importantes marcadores
sociais, como raça, gênero, etnia, orientação sexual, dentre outros.
Em vista disso, qualquer sistema de inteligência artificial que venha a ser implementado em sua rotina deve ter especial atenção com relação à
possibilidade de discriminação contra esses corpos já vulnerábilizados. No contexto brasileiro, destaca-se o risco de reprodução de racismo algorítmico,
compreendido como “o modo pelo qual a disposição de tecnologias e imaginários sociotécnicos em um mundo moldado pela supremacia branca
realiza a ordenação algorítmica racializada de classificação social, recursos e violência em detrimento de grupos minorizados”
Neste sentido, para evitar a propagação de vieses é necessária a adoção de estratégias sistêmicas, que visem propiciar a mitigação de vieses durante
todo o ciclo de vida dos sistemas de IA. Equipes responsáveis pela implementação dos sistemas devem ser diversas, inclusivas e capacitadas, processos
de auditorias por terceiros e com participação social devem ser considerados e avaliações de impacto algorítmico, principalmente para sistemas de alto
risco, devem ser feitas de forma periódica. É igualmente relevante a transparência em relação a quais bases de dados foram utilizadas para o
treinamento desses sistemas, medidas de cibersegurança para impedir o vazamento ou uso indevido de dados pessoais de cidadãos e cidadãs,
comunicação aos usuários sobre a interação ou uso de sistemas automatizados e justificação prévia para adoção de qualquer sistema que possa ser
considerado de alto risco.
Baixar arquivo
Contribuinte: ANA BARBARA GOMES PEREIRA

Status Pendente
Número: CP-657752
Parágrafo: 25
Riscos na implementação
As Defensorias Públicas precisam implementar estratégias para que o emprego de IA em suas atividades administrativas não prejudique sua função
principal de assistência jurídica e promoção dos direitos humanos. Essas estratégias incluem governança participativa e democrática, a implementação
de mecanismos de avaliação de riscos e impactos e supervisão humana do processo automatizado.
A incorporação de uma metodologia de avaliação de riscos e impactos, que pode ser inspirada em modelos atualmente em discussão, como a
Avaliação de Impacto Algorítmico (AIA), permite identificar e mitigar riscos, que são potenciais prejuízos conhecidos, previsíveis e especulativos às
liberdades fundamentais e aos direitos individuais e coletivos. Para um órgão público com mandato constitucional de promoção e defesa de direitos
humanos, a AIA permite a identificação prévia de riscos inaceitáveis ou altos, a decisão pela proibição em defesa dos direitos humanos e/ou liberdades
fundamentais, e a identificação de tecnologias com riscos menores que, com medidas de prevenção, mitigação e monitoramento, poderiam ser
implementadas.
É importante garantir, ainda, o direito de revisão dos processos e decisões automatizadas, estabelecer mecanismos de participação cidadã, controle
social, prestação de contas e auditoria.
A implementação da IA, se não acompanhada de tais medidas, desconsidera que os direitos humanos são universais, inalienáveis, indivisíveis,
interdependentes e interrelacionados e negligencia o interesse público e o acesso efetivo à justiça pelos mais vulneráveis, indo de encontro com a
própria missão e atribuição legal do órgão. A tecnologia não pode se tornar uma barreira ao acesso à justiça, portanto é importante avaliar
constantemente que a tecnologia não funcione como mecanismo de exclusão a pessoas hipossuficientes e que as pessoas consigam, de fato, usar a
tecnologia.
Contribuinte: JOHANNA KATIUSKA MONAGREDA

Status Pendente
Número: CP-657753
Parágrafo: 40
proteção de dados e transparencia
O acelerado e massivo fluxo e processamento de dados com a implementação de IA, a opacidade algorítmica associada à tecnologia, o grau de
autonomia envolvida na IA de machine learning e deep learning colocam desafios à proteção de dados pessoais na implementação de IA.
As Defensorias Públicas, em seu duplo papel como agente controlador de dados pessoais de pessoas especialmente vulneráveis, e como órgão de
justiça responsável pela proteção de dados da cidadania frente a terceiros, deverá garantir a proteção dos dados pessoais dos titulares e adequar o
processo de implantação de IA às exigências da LGPD para a implementação de IA. Torna-se indispensável a supervisão em todo o processo de
implementação da IA pela figura de Encarregado de Proteção de Dados, bem como pela Autoridade Nacional de Proteção de Dados, como garantia aos
direitos dos titulares dos dados pessoais.
É recomendável a elaboração de instrumentos de governança de dados como a política de privacidade e o relatório de impacto à proteção de dados
pessoais; o estabelecimento de sistemas de autenticação, mecanismos de segurança dos dados, de prestação de contas e auditoria, com especial
atenção para o tratamento de dados sensíveis, e informar sobre o compartilhamento de dados pessoais entre órgãos da administração pública, as
garantias de segurança da informação frente a riscos de vazamento, ou desvio de finalidade, especialmente frente aos perigos de vigilância excessiva
que envolvem o uso de algoritmos de machine-learning e deep-learning que podem responder a diferentes finalidades.
Os princípios da proteção de dados, bem como transparência, responsabilização e prestação de contas podem tornar o processo de implementação de
IA mais justo. É recomendável a incorporação de elementos de explicabilidade da IA e do processo de implementação da tecnologia no que se refere
aos dados envolvidos, especialmente relevantes quando se trata de IA generativa ou programada mediante aprendizado de máquina.

Status Pendente
Número: CP-657756
Parágrafo: 42
Direitos humanos
Sistemas de IA têm o potencial de agravar violações de direitos humanos, uma vez que a capacidade de processar Big Data aumenta os riscos de
vigilância excessiva, perda da privacidade e apropriação indevida de dados sensíveis. Eles podem datificar a vida cotidiana de grupos historicamente
vulnerabilizados, automatizar vieses e injustiças associadas ao racismo, sexismo e desigualdades socioeconômicas, facilitando o perfilamento racial e
discriminação e produzem impactos negativos no livre desenvolvimento da pessoa humana e no princípio da dignidade humana, entre outros.
Além do alcance e a própria finalidade da tecnologia, a utilização de bases de dados enviesadas, a utilização de proxys raciais ou de gênero com fim de
discriminaçao ilícita; a programação, intencional ou não, do algoritmo; ou o próprio aprendizado da máquina na interação humana, no caso de tecnologia
machine learning, tem sido apontados como possíveis causas de resultado discriminatório e contrário aos direitos humanos da IA.
Para proteger os direitos, é crucial seguir exemplos globais e locais de regulação e uso desses sistemas, como medidas protetivas definidas por
organizações internacionais como a ONU e UNICEF, além de organismos como a Access Now. A inclusão dos mais vulneráveis na aplicação de sistemas,
juntamente com estratégias de governança para o desenvolvimento seguro dessas tecnologias, são fundamentais.
Localmente, exemplos incluem o PL 2.338/2023, que reconhece grupos especialmente vulneráveis e garante o direito à correção de vieses
algorítmicos e a revisão humana. Medidas de mitigação, como abordagem baseada em princípios de não-discriminação, responsabilização de atores em
casos de discriminação algorítmica, uso de software aberto e Avaliação de Impacto Algoritmico também são essenciais, assim como a inclusão de
atores sociais no desenvolvimento de políticas públicas.

Status Pendente
Número: CP-657759
Parágrafo: 48
educação e qualificação
Existem três camadas a serem consideradas: técnica, de compreensão sobre como as ferramentas funcionam; social, com as implicações contextuais
sobre seu uso; e procedimental, relacionada à administração pública.
As Defensorias precisam capacitar seus quadros para entender os conceitos da IA, incluindo algoritmos, aprendizado de máquina, redes neurais, entre
outros. É recomendado fornecer cursos introdutórios sobre IA e tecnologias relacionadas, considerando seus aspectos técnicos e uma compreensão
geral sobre como são obtidos os resultados das ferramentas. Esse tipo de estudo pode ser concomitante a treinamentos de usos das plataformas.
Na camada social, deve-se considerar imposições legais e éticas da aplicação da IA em áreas como justiça criminal, saúde, educação e assistência
social, compreendendo como ferramentas de IA aplicadas pelo setor público e privado podem violar direitos individuais e coletivos. As perspectivas das
DPEs devem ser consideradas tanto na atividade fim quanto em eventuais usos desses sistemas para gestão de processos judiciais e demandas
administrativas. O trabalho interdisciplinar garante uma série de perspectivas a partir de pesquisas e interlocução com atendidos e atendidas pela
instituição. Destaca-se o trabalho da assistência e ciências sociais nesse campo, uma vez que a análise jurídica, não basta para compreensão do
fenômeno. Essas reflexões devem ser validadas por profissionais técnicas para destacar os limites e possibilidades da ferramenta.
A camada procedimental deve levar em conta não apenas o treinamento para uso lícito e ético sobre IA, mas também considerar o desenvolvimento
dessas ferramentas. Havendo contratações externas, é importante destacar no procedimento administrativo - licitatório ou outras formas contratuais -
requisitos técnicos e documentação dos processos para eventual auditoria Importante realizar a documentação das práticas com Relatórios de Impacto
com metodologias validadas por organismos legais e científicas

Status Pendente
Número: CP-657754
Parágrafo: 42
Direitos humanos
Sistemas de IA têm o potencial de agravar violações de direitos humanos, uma vez que a capacidade de processar Big Data aumenta os riscos de
vigilância excessiva, perda da privacidade e apropriação indevida de dados sensíveis. Eles podem datificar a vida cotidiana de grupos historicamente
vulnerabilizados, automatizar vieses e injustiças associadas ao racismo, sexismo e desigualdades socioeconômicas, facilitando o perfilamento racial e
discriminação e produzem impactos negativos no livre desenvolvimento da pessoa humana e no princípio da dignidade humana, entre outros.
Além do alcance e a própria finalidade da tecnologia, a utilização de bases de dados enviesadas, a utilização de proxys raciais ou de gênero com fim de
discriminaçao ilícita; a programação, intencional ou não, do algoritmo; ou o próprio aprendizado da máquina na interação humana, no caso de tecnologia
machine learning, tem sido apontados como possíveis causas de resultado discriminatório e contrário aos direitos humanos da IA.
Para proteger os direitos, é crucial seguir exemplos globais e locais de regulação e uso desses sistemas, como medidas protetivas definidas por
organizações internacionais como a ONU e UNICEF, além de organismos como a Access Now. A inclusão dos mais vulneráveis na aplicação de sistemas,
juntamente com estratégias de governança para o desenvolvimento seguro dessas tecnologias, são fundamentais.
Localmente, exemplos incluem o PL 2.338/2023, que reconhece grupos especialmente vulneráveis e garante o direito à correção de vieses
algorítmicos e a revisão humana. Medidas de mitigação, como abordagem baseada em princípios de não-discriminação, responsabilização de atores em
casos de discriminação algorítmica, uso de software aberto e Avaliação de Impacto Algoritmico também são essenciais, assim como a inclusão de
atores sociais no desenvolvimento de políticas públicas.

Status Pendente
Número: CP-657763
Parágrafo: 49
Governança
Os mecanismos de governança da IA devem incorporar uma gestão ética e orientada pela promoção e defesa dos direitos humanos em todas suas
etapas, transparência, explicabilidade algorítmica, participação e controle cidadão, com mecanismos adequados de avaliação de impactos e prestação
de contas pública.
Parte da estratégia de governança implica a identificação das etapas e/ou tarefas centrais para a efetivação do acesso à justiça e que - de acordo com a
natureza do órgão, a competência constitucional e as características da população atendida - se automatizadas colocariam em risco a própria missão da
instituição; a partir disso, estabelecer parâmetros éticos compartilhados para a implementação de sistemas de IA e para a capacitação e atualização do
recurso humano e da Infraestrutura tecnológica; estabelecer mecanismos de segurança da informação; incluir mecanismos de fácil identificação da
autenticidade e veracidade do conteúdo digital produzido pela instituição; explicitar o ciclo de vida da IA, os agentes envolvidos (desenvolvedores,
importadores, operadores), as obrigações, as responsabilidades e a análise prévia em casos em que a implementação da tecnologia possa resultar em
vulneração de direitos ou princípios, as medidas de mitigação e os meios de reparação do dano, caso haja.
A estratégia de governança precisa ser capaz de lidar com a complexidade e dinamismo das tecnologias de IA, especialmente de IA generativa, onde a
capacidade de deep-learning pode distanciar o funcionamento da tecnologia da finalidade inicial programada, e inclusive produzir riscos difíceis de
prever. O grau de autonomia da tecnologia não exime da responsabilização humana.
É recomendável estabelecer mecanismos de avaliação contínua do próprio modelo de governança (procedimentos organizacionais, estruturas de
responsabilização dos agentes internos e externos), do modelo algorítmico (programação, desempenho, taxa de erro), do impacto nos direitos humanos,
na cidadania e no acesso à justiç

Status Pendente
Número: CP-657764
Parágrafo: 50
documentos importantes
AccessNow. “Radiografía normativa: ¿dónde, qué y cómo se está regulando la inteligencia artificial en América Latina?: Informe de políticas públicas de IA
en América Latina”, 2024.
Bioni; Mesquita; Monagreda; Zanatta (Orgs). Construindo caminhos para a justiça de dados no Brasil: o papel das Defensorias Públicas na proteção de
dados pessoais, Data Privacy Brasil, 2022.
Bioni, B, Garrote, e Guedes. “Temas centrais na Regulação de IA: O local, o regional e o global na busca da interoperabilidade regulatória”. Data Privacy
Brasil, 2023.
Gonçalves, A; Torres, e Melo (Orgs). Inteligência artificial e algoritmos - Desafios e oportunidades para os media, LabCom, 2024.
Lima, T. Racismo algorítmico. Coleção Panorama. Rio de Janeiro, RJ: CESec, 2023.
Mantelero, A. Beyond Data: Human Rights, Ethical and Social Impact Assessment in AI. Information Technology and Law Series, 36. Asser Press, 2022.
Monagreda, J K. “Por que falar de raça quando falamos de dados pessoais, inteligência artificial e algoritmos?” Em Inteligência artificial e algoritmos -
Desafios e oportunidades para os media, organizado por Adriana Gonçalves, Luisa Torre, e Paulo Victor Melo, 2024.
Noble, Safiya. Algorithms of oppression: how search engines reinforce racism. New York: New York University Press, 2018.
O’Neil, C. Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy.Broadway Books, 2017.
Pacheco, R. Projeto de Lei. Dispõe sobre o uso da Inteligência Artificial, Pub. L. No. 2338 (2023). https://www25.senado.leg.br/web/atividade/materias/-
/materia/157233.
Silva, T. Racismo algorítmico: inteligência artificial e discriminação nas redes digitais. Edições Sesc SP, 2022.
UNESCO. “Recomendação sobre a Ética da Inteligência Artificial”, 2022.
Declaración de Montevideo sobre IA
Estratégia Brasileira para Transformação Digital
Estratégia Brasileira de Inteligência Artificial -EBIA-
Encuesta - Herramienta de autoevaluación ética para el sector público
ETHICALLY ALIGNED DESIGN

Status Pendente
SOBRE CONSULTAS OPINE AQUI ÓRGÃOS COLEGIADOS AUDIÊNCIAS AJUDA PARA NAVEGAÇÃO
PÚBLICAS PÚBLICOS PÚBLICAS USUÁRIOS
&
VOLTAR AO T

Governo Federal - Participa + Brasil - Estratégia de Implantação Da Inteligência Artificial Pelas de

Enviado por

Dados do documento

Título original

Direitos autorais

Formatos disponíveis

Compartilhar este documento

Compartilhar ou incorporar documento

Opções de compartilhamento

Você considera este documento útil?

Este conteúdo é inapropriado?

Direitos autorais:

Formatos disponíveis

Governo Federal - Participa + Brasil - Estratégia de Implantação Da Inteligência Artificial Pelas de

Enviado por

Direitos autorais:

Formatos disponíveis

# Participa + Brasil

O que você procura? %

Órgãos Públicos Ministério da Justiça e Segurança Pública

Estratégia de Implantação da Inteligência Artificial pelas

Setor: MJ - Secretaria de acesso à Justiça do Ministério da Justiça e Segurança Pública

Responsável pela consulta: Secretaria de Assessoria à Justiça - SAJU, CONDEGE, DPU

5 A esse respeito, a Academia Brasileira de Ciências destaca que: !0

" Informe o título da contribuição

" Informe o resumo da contribuição (até 2000 caracteres)

Escolher Arquivo nenhum arquivo selecionado

" Escolha o arquivo da contribuição. Somente PDF.

98 contribuições pendentes, Nenhuma contribuição aprovada, Nenhuma contribuição recusada

Contribuinte: EDSON IBIAPINA SOARES FILHO

Contribuinte: JEFERSON FABIANO MAZARO

Concordo plenamente com a implementação e aperfeiçoamento da IA na Segurança Pública em todo o Brasil.

Contribuinte: YOANNER GONZALEZ INFANTE

Contribuinte: GLORIA HELENA RODRIGUES

Contribuinte: GLORIA HELENA RODRIGUES

Contribuinte: ANUAR JOSE MINCACHE

Contribuinte: RICARDO JOSE GOUVEIA CARNEIRO

Contribuinte: RICARDO JOSE GOUVEIA CARNEIRO

Contribuinte: JAIME HILLESHEIM

Contribuinte: JOAO CARLOS APARECIDO DA SILVA

Contribuinte: ESTHEFANNY KELY DA SILVA REIS

Contribuinte: ESTHEFANNY KELY DA SILVA REIS

Aumentar o número de prestações jurídicas

Contribuinte: KARINA ROSCOE ZANETTI

Aumentar o número de prestações jurídicas

Contribuinte: KARINA ROSCOE ZANETTI

Contribuinte: GUSTAVO PIRES DE CARVALHO

Contribuinte: GUSTAVO PIRES DE CARVALHO

Contribuinte: GUSTAVO PIRES DE CARVALHO

Contribuinte: GUSTAVO PIRES DE CARVALHO

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: WALDIR RODRIGUES ALVES

Contribuinte: LEONARDO AZEVEDO DE MENDONCA

Contribuinte: LEONARDO AZEVEDO DE MENDONCA

Contribuinte: LEONARDO AZEVEDO DE MENDONCA

Contribuinte: LEONARDO AZEVEDO DE MENDONCA

Contribuinte: LEONARDO AZEVEDO DE MENDONCA

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO

Contribuinte: RAFAEL RIBEIRO DO NASCIMENTO