IA & Justiça
Curadoria Anti-Hype de notícias de Inteligência Artificial Juridica.
IA & Justiça
Os riscos da IA no Judiciário
Use Left/Right to seek, Home/End to jump to start or end. Hold shift to jump forward or backward.
Vamos ao YAI Justiça de hoje. Imaginem gastar uma fortuna em um cão de guarda de elite, super treinado para proteger o patrimônio, e, bom, na primeira noite em que esse cão é solto no quintal, ele simplesmente ataca o próprio dono em vez de atacar o invasor.
SPEAKER_01Nossa, é o pior pesabelo, né?
SPEAKER_00Exatamente. E foi basicamente essa dinâmica que a gente acabou de ver explodir nos tribunais de Nova York. Só que o cão de guarda, nesse caso, era uma ferramenta avançada de inteligência artificial. E a missão da nossa exploração de hoje é muito clara para quem atua no ecossistema jurídico. Nós vamos cruzar três cenários bem distintos, sabe? Para entender onde a teoria futurista da IA colide brutalmente com a trincheira da prática forense, depois com a formação estratégica de novos profissionais e, no limite, com a própria essência do que a gente considera uma decisão judicial válida.
SPEAKER_01O interessante dessa transição tecnológica que a gente está vivendo é que a promessa sempre chega embalada naquele discurso de eficiência impecável, sabe?
SPEAKER_00Sempre, a bala de prata.
SPEAKER_01Exato. Mas quando colocamos essa tecnologia sobre o peso real do sistema de justiça, as engrenagens começam a ranger feio. E a seleção de fontes que nós vamos analisar hoje cria um retrato assustadoramente preciso desse momento.
SPEAKER_00Com certeza.
SPEAKER_01Nós temos desde um advogado sofrendo sanções pesadíssimas por confiar na máquina, passando por uma mudança radical no ensino do direito, até chegarmos a um debate puramente constitucional sobre sentenças escritas por algoritmos.
SPEAKER_00Certo, vamos desconstruir isso começando pela prática diária. Porque para falar de qualquer estratégia de alto nível, a gente precisa primeiro olhar para o campo de batalha, né?
SPEAKER_01Sem dúvida.
SPEAKER_00E o caso Dixon versus Cartagena é um verdadeiro divisor de águas. Até agora, o grande medo de todo mundo era a IA gerar informações falsas do nada - o famoso problema da alucinação.
SPEAKER_01Que já causou estragos antes.
SPEAKER_00Pois é. Mas o que aconteceu nessa decisão de 10 de julho de 2026, assinada pela magistrada Jennifer Willis, lá no Distrito Sul de Nova York, mostra que a ferramenta feita justamente para consertar esse problema também quebrou.
SPEAKER_01O que é fascinante aqui é a ironia técnica da situação.
SPEAKER_00Total.
SPEAKER_01O advogado de defesa, o Tyrone A. Blackburn, não usou o chat GPT genérico para escrever a peça. Ele estava enfrentando a Rock Nation, a empresa de entretenimento, e decidiu usar uma ferramenta assistida de verificação de citações.
SPEAKER_00Tá, uma ferramenta de auditoria, basicamente. Isso.
SPEAKER_01A premissa de um sistema desses é auditar o trabalho humano. Ela avarre a peça da parte contrária, faz o cruzamento de dados com a jurisprudência e, teoricamente, aponta onde o adversário errou.
SPEAKER_00A ideia parece ótima no papel.
SPEAKER_01Sim. A estratégia dele era usar a máquina para demolir a argumentação da Hocnation. O grande problema é que a própria ferramenta de auditoria começou a inventar falhas que simplesmente não existiam.
SPEAKER_00É um nível de falha muito mais insidioso, porque vem disfarçado de correção, né? Pelo que consta na decisão, o advogado listou 40, repito, 40, supostos erros de citação contra outra parte.
SPEAKER_0140?
SPEAKER_00É absurdo. E tudo isso baseado exclusivamente no que a máquina entregou. Mas como exatamente essa IA alucinou na hora de verificar?
SPEAKER_01O erro mais gritante envolveu uma confusão de contexto que, sinceramente, só uma máquina cometeria. Como assim? A Rock Nation tinha citado um caso de 2001 chamado Bern vs. Neshat. Ao fazer essa citação, eles incluíram uma nota padrão informando que aquele julgamento havia sido superado em alguns pontos por um caso posterior, de 2008, o Bridge vs Phoenix Bondian Indeminit Cole.
SPEAKER_00Uma prática super comum. Uma atualização jurisprudencial.
SPEAKER_01Perfeitamente normal. Mas o que a IA de verificação fez? Ela não conseguiu interpretar a nuance dessa relação cronológica. Ela simplesmente procurou pelo texto exato do caso de 2008, viu que a Rock Nation não havia citado aquele trecho específico na peça e sinalizou isso como uma omissão maliciosa.
SPEAKER_00Nossa!
SPEAKER_01É. A ferramenta afirmou que a Rock Nation deixou de citar a jurisprudência correta, quando na verdade a citação do caso de 2001 com a ressalva estava tecnicamente perfeita.
SPEAKER_00Ou seja, a máquina não tem a menor ideia do que é um contexto cruzado.
SPEAKER_01Nenhuma.
SPEAKER_00Ela apenas identificou um padrão de texto ausente e suou o alarme vermelho. E o advogado, em vez de, sei lá, ir ler os acóruns originais para confirmar o alerta da máquina.
SPEAKER_01O que seria o mínimo esperado, né?
SPEAKER_00Exato. Ele simplesmente pegou esse relatório furado da IA, assinou embaixo e protocolou no tribunal acusando a outra parte de má fé. E fica pior. Ai, meu Deus.
SPEAKER_01A corte foi investigar afunda a peça inteira do Blackburn e descobriu que ele próprio incluiu 17 citações no documento, com aspas, trazendo trechos de textos que simplesmente não existiam em lugar nenhum da jurisprudência americana.
SPEAKER_0017 citações inventadas. E a desculpa dele para colocar texto falso entre aspas foi dizer que a IA estava fazendo uma paráfrase?
SPEAKER_01Sim, ele usou esse termo, paráfrase.
SPEAKER_00O que, bom, para qualquer pessoa que passou do primeiro semestre de Direito é um absurdo técnico e ético gigantesco.
SPEAKER_01Com certeza!
SPEAKER_00Aspas significam transcrição literal. Ponto final. A magistrada obviamente não engoliu essa desculpa, excluiu a peça dos autos e mandou o advogado direto para o comitê disciplinar, o Grievance Committee. Mas o detalhe que mais me chamou a atenção nas nossas notas é que esse não foi o primeiro tropeço dele, confere?
SPEAKER_01Longe disso. É aí que a gente vê o tamanho do problema. A decisão da magistrada faz questão de destacar o histórico recente dele. Em 2025, ele tomou uma multa de 5 mil dólares na Pensilvânia pelo mesmo motivo.
SPEAKER_00Caramba!
SPEAKER_01E em dezembro de 2025, sofreu outra sanção em Nova Jersey por citar casos inexistentes gerados por inteligência artificial.
SPEAKER_00O cara simplesmente não aprende. É uma dependência crônica da tecnologia. E isso expõe uma ferida gigantesca na prática forense moderna. Porque ele tomou a multa, percebeu que gerar texto com o IA era perigoso e aí pensou: bom, vou usar IA só para verificar o texto do adversário, então.
SPEAKER_01Mas a cegueira continuou exatamente a mesma. O comportamento de não ler o original se manteve.
SPEAKER_00E isso é assustador.
SPEAKER_01Se conectarmos isso ao cenário maior das ferramentas que estão sendo vendidas hoje para os escritórios de advocacia, o recado é brutal.
SPEAKER_00Qual seria o principal alerta?
SPEAKER_01O vetor de risco menos discutido no momento é essa falsa sensação de segurança. Na aplicação prática diária, delegar a checagem cruzada a um software destrói a premissa de diligência do advogado. Os modelos de linguagem, os famosos LLMs que rodam por trás desses sistemas de verificação, eles continuam operando pela lógica da previsão de padrões, não da verdade factual. Exatamente. Se o padrão estatístico sugerir que apontar uma falha faz sentido ali, a máquina vai apontar a falha com uma confiança absoluta. Ela não sabe que está mentindo.
SPEAKER_00Bom, e se advogados formados, com carteira da ordem, com anos e anos de atuação, estão caindo nesse abismo de confiar cegamente na verificação automatizada, a pergunta lógica é o que vai acontecer com quem está entrando na faculdade de Direito agora. É uma preocupação gigante. Como a gente evita que a próxima geração inteira de advogados se transforme em meros repetidores de alucinações de software? Isso nos leva à atitude bem drástica que a Universidade de Chicago acabou de tomar.
SPEAKER_01Uma atitude que realmente mexeu com todas as estruturas do ensino jurídico. Ao longo do último ano, a direção da Faculdade de Direito de Chicago fez um mapeamento intenso. Eles conversaram com egressos, com líderes de grandes bancas de advocacia e até desenvolvedores de Legal Tech.
SPEAKER_00Uma pesquisa de campo pesada.
SPEAKER_01Pesadíssima. E o resultado prático dessa investigação foi publicado também no dia 10 de julho de 2026, em um documento chamado Repensando a Educação Jurídica na Era da IA.
SPEAKER_00E qual foi o veredito?
SPEAKER_01O diagnóstico deles foi de que a educação não precisa de mais tecnologia nas salas de aula. Ela precisa, na verdade, de resistência à tecnologia.
SPEAKER_00Aqui é onde a coisa fica realmente interessante. Porque, olha só, se a gente parar para pensar, a reação natural de uma instituição de elite com muito dinheiro seria modernizar tudo, né?
SPEAKER_01Encher a sala de gadgets.
SPEAKER_00Exato. Colocar uma tela de última geração na frente de cada aluno, dar licenças premium das melhores IAs, colocar uma disciplina de engenharia de prompt no currículo, mas o plano estratégico deles para o ano acadêmico de 2026 para 2027 é, pasmem, proibir completamente laptops, tablets e celulares em todas as turmas dos nove cursos nucleares do primeiro ano de direito.
SPEAKER_01O famoso um L, o ano de fundação.
SPEAKER_00Isso. De processo civil até advocacia transacional, as telas estão sumariamente banidas. As provas vão ser feitas a moda antiga, no papel, sem acesso à internet ou arquivos digitais. As únicas exceções são bem restritas, tipo para questões de acessibilidade previstas em lei ou para alunos específicos designados para fazer as anotações oficiais da turma. Todo o resto está desconectado.
SPEAKER_01O contraste com o que o mercado prega é fortíssimo, não é? Esse plano de Chicago tem três pilares muito definidos. Primeiro, criar uma pedagogia que seja resistente à IA. Segundo, focar pesado no ensino do uso ético da tecnologia. E o terceiro, que eu acho mais vital, colocar uma ênfase implacável nas competências essenciais humanas.
SPEAKER_00Mas espera um pouco. Vamos olhar para o mercado de trabalho real. Banir laptops em pleno 2026, não só como um retrocesso pedagógico gigantesco, pode parecer num primeiro momento. Porque, bom, os escritórios de advocacia hoje são ambientes puramente digitais. Ninguém peticiona em máquina de escrever. Esse não seria o equivalente a proibir que estudantes de engenharia civil usassem calculadoras ou softwares de desenho 3D durante a faculdade?
SPEAKER_01É uma ótima analogia. Mas a resposta da Universidade de Chicago inverte essa lógica de uma maneira brilhante. Na verdade, a visão deles é de que você só pode usar um software de cálculo estrutural com segurança lá na engenharia se a sua mente dominar muito bem a física e a matemática por trás daquela estrutura.
SPEAKER_00Ah, entendi. O alicercio humano.
SPEAKER_01Exato. Se o programa cometer um erro bizarro e desenhar uma viga que não suporta o peso do prédio, o engenheiro precisa olhar para aquele número na tela e pensar: opa, isso está fisicamente errado. Não faz sentido.
SPEAKER_00Tem que ter o instinto crítico.
SPEAKER_01E no direito é a mesmíssima coisa. A meta prática imposta pela universidade é que, ao fim do primeiro ano, o aluno precisa ter a capacidade mental de revisar, avaliar criticamente e aprimorar o resultado de qualquer ferramenta de ar.
SPEAKER_00O que faz total sentido quando a gente lembra do Tyrone Blackburn, no caso lá de Nova York.
SPEAKER_01Perfeito.
SPEAKER_00O advogado falhou catastroficamente porque ele não tinha o filtro crítico aguçado para olhar aquela citação gerada pela máquina e perceber o erro lógico. Faltou a base.
SPEAKER_01É humanamente impossível auditar o output de um modelo de linguagem se o cérebro de quem está lendo não possuir a estrutura lógica fundamental da argumentação jurídica bem consolidada.
SPEAKER_00E como é que se constrói essa estrutura no cérebro de um calo de 20 e poucos anos hoje em dia?
SPEAKER_01Forçando o esforço cognitivo raiz. A tese deles é que, quando um alino digita rápido num laptop, ele tende a atuar como um estenógrafo, sabe? Ele apenas transcreve mecanicamente o que o professor fala.
SPEAKER_00Fica no automático.
SPEAKER_01Isso. Mas quando ele é obrigado a usar papel e caneta, a velocidade física da escrita é menor. Então o cérebro dele é forçado a sintetizar a informação, conectar as premissas, avaliar a jurisprudência na hora para notar só o que importa. Essa fricção, esse esforço analítico puro é isso que constrói o diferencial competitivo humano.
SPEAKER_00É a diferença entre fluência e preguiça mental. Eles estão basicamente dizendo que, para dominar a máquina lá na frente, você precisa primeiro aprender a pensar sem ela.
SPEAKER_01Exatamente isso.
SPEAKER_00Então, recapitulando, nós temos a advocacia quebrando a cara na prática e as faculdades de ponta correndo para fechar os laptops e salvar o raciocínio lógico dos alunos. Mas tem um terceiro elemento nessa equação que, sinceramente, é o mais pesado de todos.
SPEAKER_01E o mais estrutural também.
SPEAKER_00Sim. E quando a gente olha para o topo da pirâmide do sistema de justiça, quando o usuário da inteligência artificial não é o advogado redigindo um recurso, mas o juiz, o magistrado, decidindo o futuro, a liberdade ou o patrimônio de alguém?
SPEAKER_01Aí nós entramos em um campo minado que não envolve apenas ética profissional, mas esbarra direto em garantias constitucionais básicas. E esse é o foco do brilhante artigo publicado no Conjur pela advogada e mestre em direito processual Juliana França David.
SPEAKER_00Esse artigo causou um impacto enorme.
SPEAKER_01Causou, porque ela traz um debate que vai muito além de discutir se a IA economiza tempo no gabinete do juiz. Ela questiona a própria validade jurídica de uma sentença que é gerada por uma máquina.
SPEAKER_00Então, o que isso tudo significa na arquitetura do nosso sistema jurídico? A autora toca num ponto super sensível sobre o dever de motivação das decisões, né? Que está lá no artigo 93, inciso 9 da Constituição e também no artigo 155 do Código de Processo Penal. Qual é a tese principal dela em relação ao uso desses algoritmos por magistrados?
SPEAKER_01A tese central é de que uma decisão judicial que é gerada primariamente por inteligência artificial e que sofre apenas uma revisão superficial pelo juiz no final do processo não atende ao dever constitucional de motivação.
SPEAKER_00Forte isso.
SPEAKER_01Muito. E a argumentação dela não tem absolutamente nada a ver com ficção científica, exterminador do futuro ou medo de robôs. É uma argumentação técnica baseada na arquitetura matemática da tecnologia atual.
SPEAKER_00Traduzindo esse técnico para quem não é desenvolvedor de software, qual é a raiz matemática do problema?
SPEAKER_01A raiz do problema é que os modelos de linguagem de grande escala, os LLMs, são sistemas puramente probabilísticos. Eles não deliberam sobre fatos. Eles não pensam sobre o caso.
SPEAKER_00Eles só calculam.
SPEAKER_01Isso. Um juiz humano, ao analisar um processo, faz uma valoração moral complexa, ele avalia o peso de uma prova testemunal que vacilou, considera o drama concreto daquele réu específico e aplica o direito com base em uma escolha consciente. O LLM não faz absolutamente nada disso. O que ele faz é um cálculo estatístico absurdo para prever qual é a sequência de tokens que são os fragmentos de palavras mais provável de aparecer em seguida naquele bloco de texto.
SPEAKER_00Deixa eu ver se eu entendi o mecanismo para ver se a minha metáfora faz sentido. É como contratar um tradutor para um tribunal que não fala uma palavra sequer do idioma, mas ele tem o maior dicionário do mundo decorado e uma memória estatística perfeita. Ele apenas sabe que, estatisticamente, aquelas palavras costumam aparecer juntas nasquelas posições específicas.
SPEAKER_01Uma analogia perfeita. A máquina busca exclusivamente plausibilidade sintática e semântica. Ela calcula que, diante de um padrão X de palavras nos altos processuais, uma condenação Y tem, digamos, 98% de chance de ser o texto estatisticamente correto para completar aquele documento.
SPEAKER_00É matemática fria.
SPEAKER_01O cálculo probabilístico desconhece completamente a justiça, a moral e o livre convencimento motivado do juiz.
SPEAKER_00E isso não é um problema para um futuro distante de milênios, não. O artigo da Juliana menciona explicitamente que os sistemas já estão em operação na alta cúpula do Judiciário Brasileiro agora.
SPEAKER_01Sim, já é realidade.
SPEAKER_00A gente tem o Maria no Supremo Tribunal Federal e o Logos no Superior Tribunal de Justiça que entrou no ar no final de 2025. Mas olha, alguém poderia argumentar do outro lado da mesa, mas o Conselho Nacional de Justiça já regulou isso. O CNJ editou a Resolução 615 de 2025, que obriga a supervisão humana em todos esses casos. Isso não resolve o problema da terceirização da decisão.
SPEAKER_01Isso levanta uma questão importante, porque a autora do artigo ataca justamente essa premissa da resolução. O grande alerta dela é que impor a supervisão humana no final do processo, aquela regra famosa do Human in the Loop, não altera a natureza de como o texto foi gerado.
SPEAKER_00Continua sendo probabilidade.
SPEAKER_01A resolução do CNJ acaba tendo um efeito reverso e perigoso. Ela transforma o magistrado em um mero instrumento de legitimação de um cálculo matemático. O juiz vira na prática uma espécie de carimbo humano de luxo, só para chancelar um documento industrial.
SPEAKER_00Mas e as atualizações tecnológicas mais recentes? Porque quem acompanhou a evolução da IA de perto sabe que agora os modelos usam ferramentas externas, o chamado tool calling. Se a máquina pode, por exemplo, chamar uma calculadora externa confiável para checar dados objetivos, isso não elimina o risco dela gerar uma fundamentação falha.
SPEAKER_01Essa é uma confusão muito comum no meio jurídico. E a autora desconstrói isso brilhantemente. O tool calling, de fato, ajuda a resolver problemas muito, muito específicos. Por exemplo, a IA pode acionar uma calculadora externa para fazer a dosimetria da pena ou fazer o cálculo de juros de mora sem cometerros de aritmética simples.
SPEAKER_00Aí ela é ótima.
SPEAKER_01Maravilhosa. Porém, isso não muda em absolutamente nada a natureza de como o texto argumentativo da sentença é gerado. A calculadora externa acerta o número final da pena. Maravilha. Mas o raciocínio jurídico sobre o porquê aquela pena exata está sendo aplicada, avaliando as nuances do caso, continua sendo apenas o resultado de um jogo de previsão da próxima palavra pelo LLM.
SPEAKER_00A máquina adivinhando o texto.
SPEAKER_01Isso. A justificativa processual ainda nasce da probabilidade estatística e não de uma convicção deliberada de um ser humano. Probabilidade não é fundamentação.
SPEAKER_00Essa frase é muito forte. Probabilidade não é fundamentação. E é crucial que a gente faça uma distinção que o próprio texto também pontua com clareza. Ninguém aqui está dizendo para os juízes jogarem os computadores pela janela e voltarem para a caneta Tinteiro.
SPEAKER_01Claro que não.
SPEAKER_00Existe um cenário onde a IA é extremamente útil e totalmente válida no gabinete. Se o magistrado estudou o processo, redigiu o corpo da decisão com seu próprio intelecto e no final do dia pede para a IA ler o que ele mesmo escreveu e gerar apenas a ementa, que é aquele resumo para a publicação, isso é perfeitamente válido.
SPEAKER_01Sim, porque a máquina está apenas estruturando uma informação que a mente humana já concebeu e decidiu.
SPEAKER_00O limite é muito claro, então.
SPEAKER_01É muito claro. Usar para resumir o que já foi deliberado e decidido por um humano, tudo bem. Agora, pedir para a máquina cruzar os autos, analisar provas complexas e gerar o conteúdo decisório de forma autônoma, ainda que sob uma supervisão rápida posterior, é o que fere de morte o dever constitucional de motivação.
SPEAKER_00Quebra a regra do jogo. E pense nas consequências práticas disso. Para o operador do direito que atua na ponta, no balcão do fórum, isso abre um flanco gigantesco para novas estratégias de defesa. Saber identificar se uma decisão desfavorável tem indícios técnicos de ter sido estruturada probabilisticamente por um LLM pode embasar teses inteiramente novas de nulidade processual.
SPEAKER_01Uma tese de nulidade por falta de deliberação humana.
SPEAKER_00Exatamente. Se a motivação não veio de um raciocínio deliberado, a sentença é nula. É como um quebra-cabeça cujas peças estão finalmente se encaixando na nossa frente hoje, sabe? A consistência dessa nossa análise atinge outro patamar quando amarramos as três fontes que trouxemos para a mesa.
SPEAKER_01O fio condutor é muito nítido e é um alerta vermelho para qualquer profissional da área jurídica. Primeiro, na linha de frente da advocacia, nós vemos que confiar cegamente na capacidade de autorregulação da tecnologia destrói a prática diária. O caso lá de Nova York mostra que delegar a verificação é um atalho direto para sanções disciplinares pesadas.
SPEAKER_00Um desastre total.
SPEAKER_01Depois, em resposta a esse apagão cognitivo no mercado, vemos que proteger a essência do raciocínio jurídico exige freios imediatos e severos na educação de base, que é a lição ousada da Universidade de Chicago, banindo telas para forçar o aprendizado analítico puro no primeiro ano.
SPEAKER_00Cortando mal pela raiz.
SPEAKER_01E por fim, no topo da cadeia do sistema judiciário, nós entendemos que a eficiência métrica não pode atropelar o artigo 93 da Constituição, porque transformar juízes em meros validadores de estatísticas destrói o fundamento básico da justiça.
SPEAKER_00É a tecnologia nos encostando na parede e perguntando o que de fato nos torna indispensáveis, né? E diante de toda essa reestruturação no ensino, nas cortes e nos grandes escritórios, fica uma provocação para todo mundo levar consigo - uma semente para a reflexão sobre o cenário macro que está se desenhando bem debaixo dos nossos narizes. Se o raciocínio puramente humano, sem atalhos, forjado na leitura profunda e na conexão de ideias, é considerado algo tão valioso e insubstituível a ponto de ser protegido a todo custo pelas faculdades de elite e exigido pela própria Constituição Federal, como ficará o desenho do acesso à justiça na próxima década?
SPEAKER_01É a pergunta de um milhão de dólares.
SPEAKER_00Será que estamos caminhando para um abismo de duas classes processuais distintas? Onde apenas os litigantes que puderem pagar por escritórios tradicionais e superestruturados terão acesso a uma justiça artesanal focada na deliberação humana real?
SPEAKER_01Enquanto a grande massa?
SPEAKER_00Exato. Enquanto a grande massa da população vai ser engolida e processada por uma justiça probabilística, rápida, automatizada e implacável. O que hoje a gente chama de justiça automatizada vai ser a regra fria para os vulneráveis, enquanto a verdadeira justiça ponderada vai virar um artigo de luxo humano. Fica a reflexão para quem acompanhou a análise de hoje. Continuem sempre questionando as ferramentas ao redor, leiam muito bem nas entrelinhas e nunca, sob hipópise alguma, terceirizem o peso do próprio raciocínio. Até a próxima.