Prompt injection e alucinações no judiciário

Episódio diário de IA e Justiça. Análise das principais notícias do dia para operadores do direito.

Transcript

SPEAKER_01 0:00

Vamos ao IA e Justiça de hoje. Hoje a gente tem uma daquelas conversas que, tipo, mudam a perspectiva das coisas mesmo.

SPEAKER_00 0:07

Com certeza. É um daqueles temas que não dá mais pra ignorar.

SPEAKER_01 0:10

Exato. E o foco do nosso mergulho agora é estritamente voltado pra prática de quem tá ali na linha de frente, sabe? Pra quem é operador do direito em geral. A gente vai focar bastante na aplicação prática e numa visão mais estratégica do uso da inteligência artificial.

SPEAKER_00 0:24

Porque, né, a Yá no Hereito definitivamente deixou de ser aquele tipo, aquele brinquedo novo que comete uns erros ingênuos e engraçados.

SPEAKER_01 0:32

Hum, virou coisa séria.

SPEAKER_00 0:34

Muito séria. Hoje a gente vai ver como ela está sendo usada até pra sabotagem intencional, cara. E como o próprio Estado está falhando com ela. E, claro, a estratégia milionária que os grandes escritórios estão usando para tentar consertar tudo isso.

SPEAKER_01 0:47

Nossa sim. E a curadoria de hoje, a fantástica. A gente traz três fontes da última semana que ilustram, assim, perfeitamente essa mudança drástica no cenário legal. A gente tem uma decisão super inusitada na Paraíba, que saiu no portal Migalhas.

SPEAKER_00 1:05

Que é um caso bizarro, por sinal.

SPEAKER_01 1:07

Bizarro demais. Além disso, tem uma atualização bem alarmante naquela base de dados forense americana, a do Damien Charlottein. E por fim, uma análise estratégica sensacional do portal Artificial Lawyer. Então, vamos começar pelo nível de aplicação prática mais imediato. O que acontece quando um advogado tenta ativamente, tipo, hackear a IA do juiz?

SPEAKER_00 1:32

Olha, esse caso da Paraíba ilustra exatamente isso. Aconteceu na Quinta Vara Mista de Souza. O juiz lá, o Felipe Guimarães Padilha Vilar, ele estava analisando embargos de declaração no mandado de segurança.

SPEAKER_01 1:46

Um processo super corriqueiro, né?

SPEAKER_00 1:48

Totalmente. O autor era um candidato que tinha ficado em 17o lugar num concurso para professor de educação básica 1 lá no município de Souza. Um litígio administrativo padrão.

SPEAKER_01 2:03

Certo.

SPEAKER_00 2:04

Mas o que desvia completamente a normalidade da coisa foi a técnica que o advogado usou na petição. Ele simplesmente inseriu comandos ocultos espalhados ali por sete páginas do documento.

SPEAKER_01 2:19

O famoso prompt injection. É certo. Vamos desempacotar isso para quem está escutando entender o peso técnico da coisa. Porque, tipo, é como se antigamente alguém escrevesse feitiços com tinta invisível num contrato físico, sabe? Torcendo para os óculos de leitura do juiz sofrerem uma falha mágica ao passar por aquela página.

SPEAKER_00 2:35

É exatamente essa a lógica. Porque um leitor humano abrindo aquele PDF não ia ver nada?

SPEAKER_01 2:43

Nada, zero. O texto estava ali formatado para se camuflar, né? Tipo, letras brancas num fundo branco ou umas fontes microscópicas perdidas nas entrelinhas. Só que os sistemas do tribunal, o modelo de linguagem que o judiciário usa para gerar resumo de peça, ele não lê com os olhos humanos.

SPEAKER_00 3:01

Exato, ele ingere o texto puro.

SPEAKER_01 3:04

Isso. Ele quebra o arquivo em tokens, então quando a máquina varre o documento, ela lê aqueles comandos invisíveis como se fossem instruções prioritárias. O advogado queria forçar o robô do juiz a favorecer o cliente dele no resumo.

SPEAKER_00 3:18

E o mais doido é que o advogado até confessou que o objetivo declarado dele era testar os sistemas de IA que apoiam a jurisdição do tribunal.

SPEAKER_01 3:26

Caramba, e aí entra a minha provocação pra você. O valor da causa era de apenas 100 reais. 100 reais. Isso não soa, tipo, como um mero experimento acadêmico de alguém curioso que deu muito errado. A reação do judiciário não foi meio exagerada.

SPEAKER_00 3:42

O que é fascinante aqui é que não foi um exagero. E a resposta do juiz Felipe Villar mostra exatamente isso. Ele não tratou o caso como uma falha técnica ou um erro de formatação, sabe? Tipo errar a margem da página. Ele rejeitou as reconsiderações e aplicou direto o artigo 81, parágrafo 2o do CPC. Porque o judiciário enxergou isso como uma tentativa de subverter a imparcialidade do sistema. Uma fraude mesmo.

SPEAKER_01 4:13

Pegou pesado.

SPEAKER_00 4:14

Muito. A multa foi astronômica, considerando o valor da causa. Foram 10 salários mínimos por litigância de má fé, mais 10 salários mínimos por ato atentatório à dignidade da justiça.

SPEAKER_01 4:27

Nossa, peraí. Então a gente está falando de duas multas de R$16.400, o total dá R$32.800, numa causa de R$100.

SPEAKER_00 4:38

Isso mesmo, 32.800 reais. E o buraco é bem mais embaixo, porque não parou no bolso do advogado.

SPEAKER_01 4:45

O que mais rolou?

SPEAKER_00 4:46

Crime de fraude processual.

SPEAKER_01 4:48

Caramba, isso é um recado gigante. O tribunal está dizendo que tentar enganar a máquina que auxilia o juiz é tão grave quanto enganar o próprio juiz.

SPEAKER_00 4:57

Perfeito. Estrategicamente falando, a interação humano-máquina no processo eletrônico entrou no radar punitivo com força total. Ninguém mais tem margem para ficar brincando de testar o sistema.

SPEAKER_01 5:10

É, isso fecha bem o lado do ataque externo intencional, né? Mas se no caso da Paraíba a gente viu um advogado privado tentando manipular a máquina de propósito, o que acontece quando o próprio Estado erra, sem querer, e pior, com consequências muito mais graves para a liberdade de uma pessoa?

SPEAKER_00 5:28

É aí que o cenário fica assustador.

SPEAKER_01 5:30

Porque, olha só, a nossa segunda fonte são os dados atualizados em 18 de julho agora, de 2026, lá na IE Alucination Cases Database, que é mantida pelo Demon Charlotte. E o foco recai no caso Dagra vs Hinckley, que foi julgada ali em 16 de julho na Corte Distrital dos Estados Unidos, no Distrito Oeste de Michigan.

SPEAKER_00 5:55

E a grande verada de chave desse caso é justamente a origem do erro. A alucinação não veio da defesa ou de um litigante civil.

SPEAKER_01 6:08

Exato. O caso envolveu uma custódia migratória, sabe, aquelas audiências de bond para decidir se a pessoa responde solta ou presa, and a acusação simplesmente atribuiu a um precedente que não existia na fonte. A IA inventou um trecho inteirinho. Ela botou lá, abre aspas. Fecha aspas.

SPEAKER_00 6:42

É um inglês jurídico impecável.

SPEAKER_01 6:44

Impecável. Basicamente diz que o tribunal não pode reavaliar as evidências ou questionar a decisão do juiz de imigração. É cirúrgico porque o promotor precisava, mas era totalmente falso.

SPEAKER_00 6:54

E aqui é que a coisa fica realmente interessante, sabe? Porque quando um litigante comum ou um advogado particular alucina uma jurisprudência, é um risco reputacional. A gente viu isso naqueles casos famosos.

SPEAKER_01 7:07

Sim, tipo o caso State versus Dixon. Isso, no Oregon, que o advogado tomou uma multa de 100 dólares. Ou aquele Rebecca Jean versus Seattle Credit Union, onde a petição foi suprimida e o juiz deu uma advertência pesada. O setor privado passa vergonha pública e perde dinheiro. Mas quando o Estado faz isso para manter o imigrante preso, cara, isso não quebra completamente a balança do poder processual.

SPEAKER_00 7:31

Quebra. Quebra muito. E se conectarmos isso ao cenário maior, a gente entende o peso real disso. Porque a alucinação estatal, num caso de restrição de liberdade, ela eleva o problema. Não é mais só um risco de passar vergonha no tribunal. A gente está falando de um gravíssimo risco de violação do devido processo legal.

SPEAKER_01 7:50

Sim, a liberdade de alguém está em jogo baseada numa matemática probabilística do robô.

SPEAKER_00 7:55

Exato. Modelos generativos operam prevendo a próxima palavra. O promotor pediu um argumento forte para manter a pessoa presa e a máquina juntou o jargão certo e cuspiu aquela frase perfeita estruturalmente, mas mentirosa. E o que o Charlotten mostra na base de dados é a cadência absurda com que isso está acontecendo.

SPEAKER_01 8:17

Teve vários casos recentemente, né?

SPEAKER_00 8:19

Vários. Entre 15 e 18 de julho, em só quatro dias, foram registrados múltiplos casos nas cortes norte-americanas e até no Canadá. Isso prova que as alucinações não são um fenômeno residual, não é aquela falha de quando o chat GPT lançou, sabe?

SPEAKER_01 8:37

O pessoal falava que era só no começo que ia melhorar.

SPEAKER_00 8:40

Pois é, mas é um problema superativo. A lição prática para a advocacia é que não dá mais para confiar cegamente na presunção de veracidade do material que vem do Estado. A revisão do que é entregue pela parte contrária, mesmo sendo do Ministério Público, tem que ser implacável.

SPEAKER_01 8:55

Adversarial ao extremo. Cada citação precisa ser batida com a fonte primária. E aí a gente chega num ponto de interseção perfeito, porque a gente amarrou as duas primeiras partes. De um lado, vimos falhas de input, que foi o ataque intencional na Paraíba, do outro lado, falhas de output, que foi a alucinação do governo americano gerando jurisprudência falsa. A grande pergunta é: como que os gigantes do setor jurídico, os mega escritórios, estão se defendendo disso? Como eles montam uma estrutura para evitar que os associados deles cometam esses mesmos erros?

SPEAKER_00 9:31

E a resposta não é comprar e a mais nova é mais cara no mercado.

SPEAKER_01 9:34

Exato. Isso surpreende muita gente. A nossa terceira fonte entra aqui. Uma tese editorial do dia 17 de julho, do portal Artificial Lawyer. E eles vão direto ao ponto. Os grandes escritórios não têm um problema de inteligência artificial. Eles têm um problema de dados.

SPEAKER_00 9:51

É uma constatação muito forte. A reportagem revela que os grandes escritórios estão fazendo investimentos pesadíssimos, sabe? Na casa dos nove dígitos. Centenas de milhões.

SPEAKER_01 10:04

Caramba.

SPEAKER_00 10:04

E a mídia adora chamar isso de tipo adoção massiva de A. Mas na verdade esse dinheiro está indo para criar uma camada de dados proprietária, para estruturar os arquivos deles.

SPEAKER_01 10:16

É, para trazer para uma realidade mais palpável para quem está escutando, é como se os escritórios estivessem comprando os carros de Fórmula 1 mais avançados do mundo. As licenças de A caríssimas. Mas de repente, eles percebem que não tem pistas asfaltadas para dirigir esses carros. A pista deles hoje é composta por décadas de arquivos de Word desorganizados, PDFs jogados em pastas antigas, tudo uma bagunça.

SPEAKER_00 10:42

Nossa, essa analogia é perfeita. Se você jogá-lo um carro de Fórmula 1 na lama, ele vai derrapar. E é isso que a visão estratégica dos gestores de hoje está percebendo. O direito sempre se vendeu como um negócio de conhecimento, mas na prática a tecnologia das firmas tratava tudo como um negócio de documentos. Como assim? Tipo, o sistema só servia para salvar o arquivo numa pasta e achar por palavra-chave depois. Ninguém extraía inteligência de dentro daquele texto. Agora, o diferencial competitivo é outro. As firmas estão pegando décadas do próprio conhecimento e fazendo a ingestão correta disso para os sistemas. Eles fazem o chunking.

SPEAKER_01 11:30

O famoso chunking. Dá uma resumida nesse conceito para o pessoal.

SPEAKER_00 11:34

Basicamente, é a fragmentação inteligente dos documentos. Você não pega uma petição de 100 páginas e joga inteira na IA. Você divide aquilo em blocos menores e contextos muito bem definidos, criando um registro estruturado de expertise. É a engenharia por trás do REG, o Retrieval Augumente Generation jurídico.

SPEAKER_01 11:57

É porque se você só pega os arquivos brutos e joga lá na máquina, acontece o que rolou lá em Michigan. A máquina vai tentar prever coisas e vai alucinar. Com um REG bem estruturado, você blinda a IA. A máquina só busca a resposta no banco curado pelo escritório.

SPEAKER_00 12:13

Exatamente. A ferramenta vira um interpretador do seu próprio conhecimento e não um gerador livre inventando coisas da internet. A decisão fundamental para quem gerencia bancas hoje é super clara. Ou você continua só indexando documentos brutos e torce pelo melhor, assumindo um risco gigante.

SPEAKER_01 12:32

O que é loucura hoje em dia?

SPEAKER_00 12:34

É loucura total. Ou você gasta dinheiro de verdade para curar uma base estruturada de conhecimento, porque as ferramentas de A, os modelos em si, qualquer um pode alugar. Qualquer escritório pequeno assina o serviço. O ativo que vai separar os vencedores dos perdedores é essa camada de conhecimento proprietário estruturado.

SPEAKER_01 12:56

Sensacional. Bom, vamos sintetizar o que a gente percorreu hoje, porque a jornada foi densa. A gente começou vendo que brincar com os prompt do judiciário tentando aquele feitiço invisível na petição custou mais de 30 mil reais e rendeu até encaminhamento para processo criminal lá na Paraíba.

SPEAKER_00 13:12

Não dá para testar o sistema no processo real.

SPEAKER_01 13:15

Exato. Depois passamos pelo alerta seríssimo lá de Michigan. Não se pode confiar cegamente em petições governamentais, porque o Estado também alucina. A presunção de ver a cidade ruíu diante da IA gerando citação falsa. E a gente terminou com essa lição estratégica claríssima. O futuro pertence a quem organiza os seus próprios dados e não a quem só paga assinatura mais cara do chat GPT.

SPEAKER_00 13:40

É um chamado à ação mesmo para a comunidade jurídica. O operador do direito moderno precisa auditar sem parar o trabalho dessas IAs, tanto as que ele usa quanto as dos adversários. E tem que começar hoje a tratar o histórico de peças e documentos do escritório não como um arquivo morto, mas como um banco de dados absurdamente valioso.

SPEAKER_01 14:04

Com certeza. E aí entra uma questão que eu acho que é o ponto perfeito para a gente encerrar, deixando o pessoal que está ouvindo com algo mais denso para refletir. Porque a gente não viu isso nas fontes diretamente, mas é uma consequência lógica de tudo que a gente conversou aqui. Manda. Se o grande diferencial competitivo agora é justamente estruturar décadas do próprio conhecimento passado para alimentar essas máquinas, o que acontece quando esses dados históricos contêm, assim, vieses sistêmicos ou raciocínios jurídicos que já estão ultrapassados?

SPEAKER_00 14:34

Nossa, esse é um perigo real.

SPEAKER_01 14:36

Pois é. Será que os escritórios não correm o risco de estarem apenas automatizando os próprios preconceitos e as falhas do passado, só que agora com uma eficiência algorítmica perfeita?

SPEAKER_00 14:47

É institucionalizar o erro em alta velocidade. É um risco gigantesco. Sem um filtro muito rigoroso nessa curadoria, a inovação vai servir só para prender as bancas no retrovisor delas mesmas.

SPEAKER_01 14:59

Exato. É um pensamento para ficar martelando na cabeça de todo mundo que atua na área. Bom, agradeço a todos que acompanharam a gente em mais esse mergulho super profundo nessas fontes e tendências. O convite é para continuarem sempre questionando tudo o que a máquina entrega. Até a próxima.

SPEAKER_00 15:20

Até a próxima!