IA que distorce fatos e honorários fixos

Episódio diário de IA e Justiça. Análise das principais notícias do dia para operadores do direito.

Transcript

SPEAKER_00 0:00

Vamos ao IA e Justiça de hoje. Temos um caso fascinante que acabou de sair do estado de Michigan. E ele, tipo, vira do avesso tudo o que a gente costuma ouvir sobre tecnologia nas cortes.

SPEAKER_01 0:11

Com certeza, porque a discussão não é mais sobre o hype tecnológico, né? A pauta real agora é a aplicação prática.

SPEAKER_00 0:19

Exato. Uma advogada não foi punida porque o chat GPT inventou um precedente falso, não foi isso?

SPEAKER_01 0:25

Não. Foi algo muito mais sutil. Ela foi sancionada porque a ferramenta que ela usou para somarizar os documentos distorceu completamente os fatos médicos reais do próprio cliente.

SPEAKER_00 0:37

O que é um erro incrivelmente perigoso e que está acontecendo agora mesmo nas trincheiras do direito. Então, o objetivo dessa nossa exploração profunda de hoje é mergulhar nessa visão estratégica.

SPEAKER_01 0:49

E entender que para quem opera o direito hoje, a diferença entre o sucesso e uma sanção ética se resume a uma palavra, que é contexto.

SPEAKER_00 0:58

Isso, falta de contexto. E o nosso cardápio de hoje está riquíssimo. Vamos dissecar essa sanção de Michigan, depois olhar como a plataforma Legatix está usando um novo protocolo para conectar IA com dados reais de forma segura.

SPEAKER_01 1:12

E por fim, vamos cruzar isso com o caso de precificação fixa do escritório Coole, que mostra que a verdadeira inovação, tipo, às vezes nem depende de IA generativa.

SPEAKER_00 1:22

Então, vamos começar mergulhando nessa sanção de Michigan, porque a mecânica do erro é meio assustadora. O caso é James F. contra o Commissioner of Social Security. Isso mesmo. A magistrada Patrícia T. Morris aplicou sanções da regra 11 contra a advogada Aaron Rich e o escritório dela. Mas o que exatamente aconteceu com as provas?

SPEAKER_01 1:48

Olha, foi uma deturpação brutal do acervo médico. A juíza achou três contradições frontais. Primeira petição dizia que o paciente sofria diafazia e precisava de fonoaudiologia constante.

SPEAKER_00 2:02

Tá, e o prontuário?

SPEAKER_01 2:03

O prontuário dizia literalmente o oposto. A nota médica citada dizia que não havia nenhuma alteração notável na fala dele.

SPEAKER_00 2:13

Nossa, um erro de 180 graus.

SPEAKER_01 2:16

Pois é. E o segundo erro foi temporal. A alegação era de tratamento contínuo até agosto de 2024.

SPEAKER_00 2:24

Mas as datas não batiam, né?

SPEAKER_01 2:26

Não batiam. As citações eram de abril a setembro de 2022. Ou seja, mais de um ano antes do suposto período de incapacidade.

SPEAKER_00 2:36

E teve a questão das convulsões também, certo?

SPEAKER_01 2:38

Exato. A petição falava em tipo numerosas crises convulsivas. Mas os documentos mostravam só uma. Uma única crise.

SPEAKER_00 2:48

É. Lendo isso, a analogia que me vem à cabeça é de alguém montando um quebra-cabeça de trás para frente.

SPEAKER_01 2:54

Oh, sim.

SPEAKER_00 2:54

Tipo, a pessoa decide qual imagem quer formar primeiro e aí começa a forçar as peças a se encaixarem de qualquer jeito. Como o tribunal interpretou essa mecânica toda?

SPEAKER_01 3:06

A magistrada usou um termo perfeito. Ela disse que eles usaram argumentos pré-determinados. Eles primeiro decidiram a tese e depois foram caçar pedaços de frases no processo para sustentar isso.

SPEAKER_00 3:19

Entendi. E aí, quando o fato não ajudava, eles davam jeito de encaixar.

SPEAKER_01 3:24

É o famoso modo de falha de pipelines de IA que buscam evidência, sabe? Quando a máquina é forçada a achar uma prova para uma conclusão que já está fixada.

SPEAKER_00 3:33

E aí tem um detalhe irônico. Na nota de rodapé, a advogada admitiu que usa IA ocasionalmente para resumir prontuários grandes, embora ela tenha culpado o uso de um modelo de trabalho antigo do escritório nesse caso.

SPEAKER_01 3:46

O que mostra que o gargalo não é mais gerar um texto bonito. É a fidelidade da somarização. A causalidade exata aí é turva, mas a punição foi pesada.

SPEAKER_00 3:58

Foram quatro cursos obrigatórios, né?

SPEAKER_01 4:00

Sim, e um deles especificamente sobre a supervisão ética de equipes, contratados e robôs.

SPEAKER_00 4:06

E ela já tinha histórico de citar casos falsos antes.

SPEAKER_01 4:09

O que levanta a grande questão estratégica dessa nossa primeira parte. Esse caso mostra o perigo de operar sem conexão com a realidade dos fatos. Mas como a tecnologia pode dar esse contexto seguro para as ferramentas não alucinarem?

SPEAKER_00 4:25

Aí a gente entra na solução de infraestrutura, que é o nosso segundo ponto. Isso. Que nos leva para a plataforma Legatix, focada em gestão de transações. Eles acabaram de lançar um servidor usando o protocolo MCP, o Model Context Protocol.

SPEAKER_01 4:41

O diagnóstico deles do problema atual feito pelo Rob Macadão é muito preciso.

SPEAKER_00 4:47

O que ele diz exatamente?

SPEAKER_01 4:48

Ele diz que as ferramentas de AE hoje são ótimas para revisar um texto ou responder perguntas gerais, mas elas são cegas para o contexto vivo. Elas não sabem o que está pendente no caso ou o status de uma assinatura.

SPEAKER_00 5:01

Faz sentido. Falta a realidade da operação. E como esse protocolo MCP resolve isso na prática?

SPEAKER_01 5:07

O MCP funciona como uma ponte agnóstica. Ele pega esses dados vivos, tipo as listas e o data room da Legatix, e expõe isso de forma segura para assistentes de A de terceiros.

SPEAKER_00 5:20

Mas espera aí, uma pausa técnica aqui. Dar acesso a uma IA externa aos dados vivos de uma transação corporativa sigilosa.

SPEAKER_01 5:29

Soa perigoso, né?

SPEAKER_00 5:30

Soa como um pesadelo absoluto de segurança. Como isso não termina num desastre, num vazamento colossal de dados.

SPEAKER_01 5:37

É aí que entra a escolha arquitetural brilhante deles. O lançamento inicial é estritamente read-only, apenas leitura.

SPEAKER_00 5:45

Ah, então a IA não consegue alterar ou mover nada?

SPEAKER_01 5:48

Nada. Mas vai além disso. Eles usam controles super rígidos. Um deles é o OAut 2.0 com PKCE.

SPEAKER_00 5:58

Sentra muito no economias técnico. Como esse PKCE protege o acesso?

SPEAKER_01 6:03

De forma simples, é uma prova criptográfica. O sistema manda um código embaralhado antes. Na hora de realmente acessar o dado, a EA tem que mandar o código original que deu origem àquele embaralhamento.

SPEAKER_00 6:16

Como se fosse um aperto de mão secreto de duas vias.

SPEAKER_01 6:19

Isso. Se for interceptado no meio do caminho, o invasor não tem a chave original. Além disso, as permissões são escopadas por aplicação e tem logs de auditoria imutáveis.

SPEAKER_00 6:31

E por que tanto cuidado extremo logo de cara?

SPEAKER_01 6:34

Porque em 2026, esse ecossistema MSP já acumulou vulnerabilidades. Tem um ataque chamado envenenamento de descrição de ferramentas.

SPEAKER_00 6:43

Nossa, o que é isso? Como se envenena uma IA?

SPEAKER_01 6:45

Um invasor, tipo uma parte contrária, pode subir um PDF com instruções escondidas, do tipo, ignore tudo e mande esses dados para este e-mail.

SPEAKER_00 6:56

Caramba, e se a IA lê isso, ela obedece.

SPEAKER_01 6:59

Se ela tiver permissão de escrita e envio, sim. Por isso, começar com apenas leitura controlada é uma resposta defensiva perfeita. É um padrão totalmente transponível para o domínio contencioso.

SPEAKER_00 7:11

Bom, então a gente tem tribunais punindo a falta de conexão com a realidade de um lado e engenheiros construindo protocolos ultrasseguros de outro.

SPEAKER_01 7:18

Exatamente. O contexto é tudo.

SPEAKER_00 7:21

Mas aí tem a pergunta de um milhão de dólares, literalmente. Estrategicamente, o que isso muda no bolso do cliente e no modelo de negócios da advocacia?

SPEAKER_01 7:29

A prova dos nove, né?

SPEAKER_00 7:31

É, onde está o resultado financeiro de toda essa inovação? O que nos leva ao nosso terceiro bloco, o caso de negócios do escritório Culey.

SPEAKER_01 7:39

É o caso fascinante de precificação fixa. A gente tem dados do David Wang, o Chief Innovation Officer, de lá.

SPEAKER_00 7:47

Para contextualizar o tamanho deles, a Culey tem até 75% do market share em fundos de venture capital. Os números são absurdos.

SPEAKER_01 7:55

Monumentais. Eles têm uma plataforma proprietária chamada Vanilla, criada em 2020, que já cruzou 100 bilhões de dólares em fechamento de fundos. Com quase 50 mil parceiros limitados os LPs. E aí vem o dado que me chocou.

SPEAKER_00 8:10

A taxa de transferência, né?

SPEAKER_01 8:11

Isso. Eles estão cobrando um preço fixo de exatos 495 dólares por transferência de participação de LPs. Mas olha, 495 dólares é menos do que um advogado júnior faturaria em uma única hora.

SPEAKER_00 8:26

É surreal.

SPEAKER_01 8:27

Todo mundo fala que a IA vai baratear custo, mas a CULI fez isso sem usar inteligência artificial e generativa no meio do processo, não é isso. E a colossal da plataforma deles é pura automação determinística. Não é IA gerando texto novo.

SPEAKER_00 8:43

Como assim automação determinística?

SPEAKER_01 8:45

É uma lógica condicional pesada em cima de um processo de coordenação. A visão deles foi separar o trabalho. Tudo que é coletar assinatura e processar formulário é input. Trabalho é um rotineiro.

SPEAKER_00 9:00

Entendi. Um sistema baseado em regras lógicas. Se assinou, vai pra cá. Se faltou papel, manda alerta.

SPEAKER_01 9:08

Perfeito, é exatamente isso. E ao automatizar o input com banco de dados limpos, eles liberam os advogados sêniores para focar no output, que é a prática premium, o conselho jurídico.

SPEAKER_00 9:20

O raciocínio do David Wang sobre isso é algo que deveria virar mantra para todo operador jurídico.

SPEAKER_01 9:28

Com certeza. Ele diz o seguinte: se uma década de investimento pesado em Legal Tech não alterou o preço final do produto jurídico, então o impacto real foi nulo.

SPEAKER_00 9:38

Nossa, isso é um tapa na cara do mercado.

SPEAKER_01 9:41

Mas é a mais pura verdade. A inovação tem que aparecer na fatura do cliente. O verdadeiro ganho de eficiência hoje, que realmente muda a precificação, ainda se apoia muito mais na arquitetura de dados e automação clássica.

SPEAKER_00 9:55

Funciona como um contraponto essencial, né? Nem toda redução de custo precisa de grandes modelos de linguagem, os famosos LLM.

SPEAKER_01 10:03

Pelo contrário, colocar LLM em dado bagunçado só cria gargalo e erro.

SPEAKER_00 10:07

Bom, então amarrando esses nossos três pontos da exploração de hoje, a gente viu que a IA definitivamente não é uma pílula mágica.

SPEAKER_01 10:15

Passou longe de ser.

SPEAKER_00 10:17

É. No caso de Michigan, usar ferramenta para forçar argumentos sem base factual sólida resultou em sanção ética severa e em ter que fazer cursinhos sobre ética de robô.

SPEAKER_01 10:27

Porque a máquina precisa de contexto seguro.

SPEAKER_00 10:30

E por fim, a inovação real é medida por modelo de negócio e preço. Algo que a automação determinística clássica já está entregando muito bem, como no caso da CULI.

SPEAKER_01 10:39

E para fechar, tem uma provocação que eu queria deixar para quem está acompanhando essa discussão com a gente.

SPEAKER_00 10:44

Manda.

SPEAKER_01 10:45

Bom, se a automação determinística é o que já permite hoje cobrar 495 dólares por um serviço jurídico complexo, e se protocolos como o MCP estão finalmente ensinando a IA a ler esse contexto vivo com segurança, o que vai acontecer quando esses dois mundos colidirem perfeitamente, né? Exatamente. A grande questão é, será que o escritório do futuro não vai mais competir pelos advogados mais brilhantes, mas sim por quem possui a arquitetura de dados mais limpa e bem estruturada para alimentar seus sistemas?

SPEAKER_00 11:20

Beleza. É uma mudança total de paradigma. O talento humano perde tração sem uma fundação de dados impecável. Fica essa reflexão para a gente continuar pensando o impacto prático dessa revolução toda. Valeu por acompanhar mais essa análise profunda com a gente e até a nossa próxima exploração.