TJ-BA detecta comando escondido em documento que buscava influenciar inteligência artificial em pedido de habeas corpus

O Tribunal de Justiça da Bahia (TJ-BA) identificou uma tentativa de manipulação de ferramentas de inteligência artificial (IA) utilizadas pela Corte durante a análise de um pedido de habeas corpus. A técnica, conhecida como prompt injection, estava inserida de forma oculta em um documento digital apresentado pela defesa.

VOCÊ ESTAVA LÁ? Acesse a galeria completa de fotos da 4ª edição da Cavalgada do Grupo Novo Horizonte

O comando foi detectado pela área técnica do tribunal durante a análise de um arquivo em PDF. Segundo o TJ-BA, o documento continha uma camada de texto que não aparecia na visualização convencional, mas apresentava instruções direcionadas aos sistemas de inteligência artificial.

De acordo com o relator do processo, desembargador Pedro Guerra, a análise realizada pela Diretoria de Modernização do tribunal identificou um mecanismo deliberado de injeção de instruções.

“A área técnica certificou tratar-se de mecanismo deliberado de injeção de instruções (prompt injection)”, afirmou o relator no voto.

Segundo o tribunal, o conteúdo oculto no PDF orientava que o pedido de habeas corpus fosse deferido caso a análise do processo fosse realizada por uma ferramenta de inteligência artificial.

O documento foi apresentado pela defesa de um homem investigado por crimes como homicídio qualificado, sequestro e cárcere privado, adulteração de sinal identificador de veículo automotor e organização criminosa armada.

O habeas corpus foi analisado pela 2ª Turma da Primeira Câmara Criminal do TJ-BA, que negou o pedido de liberdade.

A advogada responsável pelo protocolo do documento atua no Mato Grosso do Sul.

O que é prompt injection?

Prompt injection é uma técnica que consiste na inserção de instruções ocultas, manipuladas ou maliciosas em textos, arquivos ou outros conteúdos digitais com o objetivo de influenciar o comportamento de um sistema de inteligência artificial.

Na prática, a técnica procura fazer com que a IA siga comandos diferentes daqueles previstos originalmente pelo sistema. Dependendo do contexto, uma tentativa de prompt injection pode buscar alterar uma resposta, direcionar uma análise ou induzir a ferramenta a executar determinada ação.

No caso identificado pelo TJ-BA, as instruções estavam escondidas em uma camada de texto do documento apresentado no processo e foram detectadas pela equipe técnica do tribunal.

TJ-BA envia caso à OAB-MS e ao Ministério Público

Diante da identificação do comando oculto, o colegiado determinou o envio de um ofício à Ordem dos Advogados do Brasil – Seccional Mato Grosso do Sul (OAB-MS) para a instauração de procedimento disciplinar destinado a apurar a conduta dos envolvidos.

Uma cópia do documento também foi encaminhada ao Ministério Público da Bahia (MPBA), para investigação de eventuais ilícitos.

As medidas foram determinadas no contexto do processo em que a defesa buscava a revogação da prisão preventiva do investigado.

Pedido de habeas corpus foi negado

No julgamento, a 2ª Turma da Primeira Câmara Criminal do TJ-BA manteve a prisão preventiva.

Segundo o voto do relator, a prisão, determinada pela Vara Criminal de Iguaí, foi fundamentada em elementos considerados concretos e obtidos durante a investigação.

O desembargador também afirmou que medidas cautelares alternativas à prisão seriam inadequadas e insuficientes diante das circunstâncias analisadas no processo, considerando a necessidade de garantir a ordem pública, preservar a investigação e assegurar o cumprimento de eventual condenação.

O tribunal informou que a utilização de ferramentas de inteligência artificial generativa segue regras relacionadas à segurança da informação, proteção de dados pessoais e governança.

Segundo o TJ-BA, os sistemas de IA não substituem a atuação dos magistrados. Os juízes permanecem responsáveis pela análise e revisão dos processos e pelo conteúdo das decisões judiciais.

O episódio envolvendo o prompt injection no TJ-BA também chama atenção para os riscos associados ao uso de documentos digitais em ambientes que utilizam ferramentas de inteligência artificial.

Justiça da Bahia criou orientação sobre prompt oculto

O Centro de Inteligência da Justiça Estadual da Bahia (CIJE-BA) aprovou, em julho, uma nota técnica sobre o chamado prompt oculto.

O documento tem como objetivo alertar magistrados para os riscos da técnica e orientar a identificação, prevenção e repressão de tentativas de manipulação de sistemas de inteligência artificial utilizados no Judiciário.

A iniciativa reforça a necessidade de mecanismos de segurança capazes de identificar instruções ocultas em documentos digitais, especialmente em ambientes nos quais ferramentas de IA são utilizadas como apoio à análise de informações processuais.