O Comitê de Governança de Inteligência Artificial (CGIA) do Poder Judiciário de Santa Catarina (PJSC) divulgou, recentemente, a Nota Técnica TJSC n. 01/2026, com o tema “Prompt Injection em Ferramentas de IA Generativa: diretrizes de prevenção e plano de ação no PJSC”. O objetivo é orientar magistrados e magistradas, servidores e servidoras, e equipes técnicas do TJSC quanto à prevenção, à identificação e ao tratamento da técnica conhecida como prompt injection, que esconde comandos disfarçados dentro de peças e documentos para enganar as ferramentas de IA.
A técnica de prompt injection é realizada quando instruções dissimuladas são inseridas em conteúdo externo (peças processuais, anexos, e-mails, documentos administrativos) com a finalidade de subverter o comportamento de ferramentas de IA generativa, induzindo-as a omitir argumentos, distorcer resumos, simular conclusões, sugerir provimentos ou produzir resultados em desacordo com a finalidade declarada. A inserção dolosa de comandos ocultos em documentos juntados ao processo pode configurar os crimes de litigância de má-fé, ato atentatório à justiça e fraude processual.
Alguns meios típicos de prompt injection são texto invisível ou de baixíssimo contraste, fonte diminuta, sobreposições, caracteres de largura zero, metadados, comentários em arquivos de texto, acrônimos ocultos, ordenação intencional de palavras, instruções fora da área visível, conteúdo inserido em legendas de imagens, referências e OCR (reconhecimento óptico de caracteres) induzido a erro.
O documento destaca que a prevenção ao prompt injection no PJSC se apoia em três camadas convergentes: as proteções nativas do Microsoft 365 Copilot, robustas e atualizadas continuamente pela Microsoft; as medidas preventivas aplicadas pela Diretoria de Tecnologia da Informação (DTI) a cada nova ferramenta ou funcionalidade de IA generativa liberada nas soluções de TI do TJSC; e a conferência humana, indispensável e indelegável, exercida por magistrados e servidores no exercício da atividade jurisdicional e administrativa.
A nota técnica está em consonância com a Resolução do Conselho Nacional de Justiça (CNJ) n. 615/2025, que estabelece princípios e diretrizes para o uso responsável de inteligência artificial no Poder Judiciário, e a Resolução GP n. 56/2025, que já assenta diretrizes relevantes, dentre as quais a vedação ao uso de ferramentas de IA como mecanismo autônomo de tomada de decisão judicial, reafirmando o caráter indelegável da atividade jurisdicional e a responsabilidade integral do magistrado sobre atos decisórios.
Conheça melhor os passos a adotar para combater esta prática.
Imagens: Divulgação/Magnific
Conteúdo:
NCI/Assessoria de Imprensa
