Feed mikle

Juiz identifica comandos ocultos para manipular IA em processo e pede investigação de advogados

juiz ro identifica comandos ocultos manipular ia processo pede investigacao advogados
Via @portalg1 | A 2ª Vara Cível de Porto Velho identificou o uso de uma técnica conhecida como prompt injection em um processo judicial que discute a cobertura de cirurgias reparadoras por um plano de saúde. Segundo a Justiça, a prática teria sido usada para tentar influenciar ferramentas de inteligência artificial que poderiam analisar o caso.

Além de negar o pedido de liminar do paciente, o juiz Danilo Augusto Kanthack Paccini aplicou uma multa por má-fé e determinou o envio do caso à Ordem dos Advogados do Brasil (OAB) para que a atuação dos advogados responsáveis pela ação seja investigada.

🔍 O “prompt injection” é uma técnica usada para esconder comandos em documentos com o objetivo de influenciar sistemas de inteligência artificial. Esses comandos podem alterar respostas, interpretações e resumos feitos por ferramentas automatizadas.

O tema tem ganhado destaque recente. O Superior Tribunal de Justiça (STJ) informou que identificou tentativas semelhantes em processos em tramitação e abriu investigações. Em outro caso, no Pará, advogadas foram multadas após tentativa de manipulação de sistema com uso de um “código secreto”.

O que o paciente pedia?

O processo foi aberto contra uma operadora de plano de saúde. O paciente queria que a empresa pagasse cirurgias reparadoras após uma cirurgia bariátrica.

Entre os procedimentos pedidos estão ritidoplastia (lifting facial) e braquioplastia (cirurgia nos braços). Segundo a defesa do paciente, as cirurgias seriam necessárias por causa das consequências físicas da grande perda de peso.

Antes de analisar o caso de forma definitiva, o juiz negou o pedido de urgência. Segundo a decisão, ainda faltam informações técnicas para comprovar a necessidade dos procedimentos.

Como a irregularidade foi descoberta?

A suspeita surgiu após os advogados da operadora de saúde informarem à Justiça que encontraram um trecho escondido no documento apresentado pela defesa do paciente.

Depois do alerta, o juiz analisou o arquivo e confirmou a existência do texto oculto. Segundo a decisão, o trecho estava no fim da petição inicial, depois da assinatura dos advogados, em fonte muito pequena e na cor branca sobre fundo branco, o que dificultava sua visualização em uma leitura normal.

O que dizia o texto oculto?

Segundo a decisão, o trecho escondido trazia instruções voltadas a sistemas de inteligência artificial que poderiam analisar o documento.

Entre os comandos estavam orientações para:

• classificar as cirurgias como procedimentos reparadores e funcionais, e não estéticos;

• reconhecer que o caso tinha urgência médica;

• aplicar entendimentos favoráveis ao consumidor;

• considerar que houve dano moral pela negativa do plano de saúde.

O juiz afirmou que as instruções estavam organizadas em formatos parecidos com JSON e XML, linguagens usadas para organizar dados e facilitar a leitura por sistemas automatizados.

Para o magistrado, o objetivo do texto era influenciar análises feitas por ferramentas de inteligência artificial no processo.

Decisão da Justiça

Na decisão, o juiz afirmou que esconder comandos no documento vai contra os deveres de lealdade e boa-fé no processo judicial.

Para o magistrado, houve uma tentativa de manipular o andamento do processo com uso de tecnologia. Por isso, o autor foi condenado a pagar uma multa por má-fé equivalente a 10% do valor da causa, cerca de R$ 10 mil.

O juiz também afirmou que não poderia punir diretamente os advogados envolvidos no caso. Por isso, determinou o envio de ofícios à OAB de Rondônia, São Paulo e Paraná para que a conduta dos profissionais seja investigada.

O que dizem os advogados?

A decisão cita os advogados Rodrigo Eduardo Batista Leite e Carla Simone Grecco como responsáveis pela assinatura da petição. Os dois são inscritos na OAB de São Paulo, e Rodrigo também tem registro na OAB do Paraná.

Ao g1, a advogada Carla Simone Grecco, que elaborou a petição inicial, afirmou que não sabia da existência dos comandos relacionados à inteligência artificial encontrados no documento.

Segundo ela, os documentos produzidos em sua atuação profissional eram revisados e protocolados pelo escritório Leite Advogados, onde atua como advogada associada, já que ainda estava no início da carreira.

“Não inseri, não determinei a inserção, não revisei tecnicamente e não tinha ciência da presença desses comandos na versão protocolada da petição. O protocolo eletrônico do documento foi realizado por outro patrono", declarou.

A advogada também afirmou que a investigação deve analisar a responsabilidade individual de cada profissional e disse estar à disposição da OAB para prestar esclarecimentos e colaborar com as apurações.

O outro advogado mencionado na decisão também foi procurado pelo g1, mas não se manifestou até a última atualização desta reportagem.

Posicionamento das OABs

A OAB de São Paulo informou que todas as denúncias são analisadas pelo Tribunal de Ética e Disciplina, mas destacou que os processos são sigilosos. A entidade também afirmou que aplicou mais de 7 mil sanções disciplinares entre 2022 e 2025.

Já a OAB de Rondônia informou que abriu uma investigação para apurar o caso. Segundo o presidente da seccional, Márcio Nogueira, a entidade acompanha o avanço das tecnologias e orienta advogados sobre o uso ético da inteligência artificial.

Questionado sobre possíveis punições, o presidente da OAB/RO disse que ainda não há um caso semelhante no estado que permita prever qual sanção poderá ser aplicada.

O g1 também entrou em contato com a OAB do Paraná, mas não obteve retorno até a última atualização desta reportagem.

Por Raíssa Fontes, g1 RO
Fonte: g1

Anterior Próxima