Ferramenta de IA do Tribunal identifica comandos ocultos e emite alerta para prevenir tentativas de manipulação em documentos processuais.
O Tribunal de justiça do Amazonas (TJAM) ampliou a segurança da plataforma de Inteligência Artificial generativa Arandu, usada diariamente por magistrados e servidores para a produção de minutas, análises jurídicas e apoio às atividades processuais. A ferramenta detecta automaticamente tentativas de ‘prompt injection’ em documentos processuais e emite alertas para que haja verificação humana.
Desenvolvimento e objetivos
Desenvolvida pela Secretaria de Tecnologia da Informação e Comunicação (SETIC) do TJAM, sob a coordenação da desembargadora Vânia Marques Marinho, presidente da Comissão de Gestão de Tecnologia da Informação, a plataforma foi projetada para identificar demandas repetitivas e predatórias no sistema judicial. Conforme a assessoria, o objetivo é contribuir para uma gestão processual mais eficiente e segura.
Reconhecimento e aprimoramento técnico
Após conquistar o primeiro lugar no Expojud Portugal 2026, realizado na Faculdade de Direito da Universidade de Lisboa, a plataforma incorporou uma camada de proteção contra a técnica conhecida como ‘prompt injection’. O sistema identifica trechos suspeitos inseridos em petições e impede que a IA interprete essas mensagens como instruções válidas.
Na prática, Arandu trata o conteúdo como parte documental do processo, desconsidera instruções maliciosas e recomenda conferência humana. Entre os exemplos detectados estão comandos para que a IA deixe de impugnar documentos, realize análises superficiais ou omita informações relevantes do processo. Ao perceber esse tipo de tentativa, a ferramenta emite alertas automáticos.
Funcionalidades integradas
A plataforma atua de forma integrada aos sistemas judiciais e oferece funcionalidades como elaboração de despachos, decisões e sentenças; identificação de processos semelhantes; análises jurídicas automatizadas; e mecanismos de combate a demandas predatórias. As soluções do ‘Arandu GPT’ visam centralizar informações em um ambiente supervisionado e integrado às rotinas do Tribunal.
O acesso à plataforma é restrito e realizado exclusivamente por usuários autorizados por meio do login institucional do Projudi, garantindo controle institucional sobre a utilização da ferramenta e proteção das informações processuais.
Normas e conformidade
O desenvolvimento considerou conformidade com a Resolução CNJ n.º 615/2025 e com a Lei Geral de Proteção de Dados (LGPD), estabelecendo parâmetros de transparência, rastreabilidade e responsabilidade no uso da tecnologia aplicada ao ambiente judicial. Segundo especialistas da área de tecnologia, o ‘prompt injection’ é uma das principais formas de ataque a sistemas de IA e consiste na inserção de comandos enganosos dentro de textos, documentos ou arquivos para tentar burlar diretrizes de segurança.
Carlos Eduardo Rocha
Foto: Marcus Phillipe
ASSESSORIA DE COMUNICAÇÃO SOCIAL | TJAM
E-mail: Este endereço de email está sendo protegido de spambots. Você precisa do JavaScript ativado para vê-lo.
(92) 99316-0660
Assuntos nesse artigo:
#arandu, #tjam, #setic, #vaniamarquesmarinho, #promptinjection, #inteligenciaartificial, #ia, #arandugpt, #projudi, #lgpd, #resolucaocnj6152025, #expojudportugal2026, #faculdadedereito, #universidadedelisboa, #gestaodetecnologia, #demandaspredatorias, #segurancadigital, #analisesjuridicas, #minutas, #assessoriadecomunicacao
