Foi publicada nesta quarta-feira, 19, no Diário da Justiça, a Nota Técnica n. 2/2025, elaborada pelo Comitê de Governança em Inteligência Artificial do Tribunal de Justiça de Rondônia (CGIA), com orientações e medidas de segurança voltadas à prevenção de manipulações maliciosas em documentos destinados a sistemas de inteligência artificial utilizados no âmbito do Judiciário. O documento destaca o compromisso institucional com o uso responsável de tecnologias emergentes e atende às diretrizes da Resolução CNJ n. 615/2025, que estabelece parâmetros de segurança e auditoria para soluções de IA no sistema de Justiça.
A nota alerta para o risco conhecido como prompt injection, prática que consiste na inserção intencional de comandos ocultos em arquivos processuais, capazes de alterar o comportamento de ferramentas automatizadas de análise, classificação ou sumarização. O fenômeno, já reconhecido internacionalmente como ameaça relevante, pode comprometer a integridade das informações, gerar vieses em resumos e impactar a segurança dos sistemas. Entre as técnicas identificadas estão textos invisíveis, instruções ocultas em metadados, camadas não visíveis de PDFs e comandos embutidos em fontes ilegíveis.
Além de contextualizar os riscos, o documento apresenta fundamentos jurídicos e éticos que reforçam a gravidade da prática, podendo configurar violação à boa-fé processual, litigância de má-fé, deveres profissionais previstos no Estatuto da Advocacia e princípios constitucionais como devido processo legal e isonomia. Para mitigar vulnerabilidades, a Nota Técnica estabelece uma série de medidas de controle, como registro detalhado de logs, revisão humana obrigatória de resultados automatizados, validação de formatos documentais e capacitações contínuas a magistrados, servidores e equipes de tecnologia.
A orientação também prevê ampla divulgação do tema à comunidade jurídica e comunicação à OAB Rondônia, destacando que condutas de manipulação intencional de sistemas de IA podem resultar em responsabilização administrativa, processual e ética.
