Doutor Valdemir Ferreira Santos observa que, à medida que as ferramentas tecnológicas passam a tarefas auxiliares dentro dos tribunais, surge uma pergunta que a sociedade ainda está aprendendo a responder: se um sistema automatizado ajudou a embasar uma decisão, o cidadão tem direito de saber exatamente como esse sistema chegou àquele resultado? A resposta, no Direito brasileiro, tende cada vez mais para o sim, à medida que normas específicas sobre o tema serão consolidadas pelos órgãos responsáveis pela gestão do Judiciário.
Esse direito de compreender os critérios por trás de uma decisão fundamentada por tecnologia é chamado, em termos técnicos, de explicabilidade. Trata-se de um princípio que ganhou força justamente porque sistemas automatizados, principalmente os mais sofisticados, podem produzir resultados sem que nem mesmo seus operadores consigam detalhar, com precisão, o raciocínio interno que levou àquele resultado específico. Essa característica, comum às diversas ferramentas de inteligência artificial atualmente disponíveis, exige atenção redobrada quando aplicada a um contexto tão sensível quanto o julgamento de casos concretos.
O que a regulamentação brasileira exige?
A Resolução CNJ n.º 615, de 2025, que organiza o uso de inteligência artificial no Judiciário, trata a transparência como um dos pilares centrais dessa regulamentação. Isso significa que os tribunais precisam ser capazes de indicar, sempre que solicitado, quais critérios uma ferramenta tecnológica utilizada para gerar determinados resultados, ainda que esse resultado tenha apenas apoiado, e não substituído, a decisão final do magistrado. Na prática, isso pode envolver desde relatórios técnicos sobre o funcionamento de um determinado sistema até uma simples indicação, dentro da própria decisão, de que uma ferramenta automatizada foi utilizada em alguma etapa do processo.
Segundo o Doutor Valdemir Ferreira Santos, essa exigência protege algo essencial para a legitimidade da Justiça: a possibilidade de que qualquer decisão, tecnológica ou não, seja informada e questionada por quem foi afetado por ela. Sem essa possibilidade de questionamento, o próprio direito ao contraditório e à ampla defesa ficaria comprometido diante de resultados produzidos por sistemas cuja lógica interna ninguém consegue explicar.
Diferença entre apoio tecnológico e decisão automática
É importante destacar que, no sistema brasileiro, nenhuma ferramenta de inteligência artificial pode substituir integralmente o julgamento humano em decisões que afetam direitos das partes. A tecnologia pode organizar informações, sinalizar riscos ou indicadores semelhantes, mas cabe sempre ao juiz avaliar essas sugestões à luz das particularidades do caso concreto, antes de proferir qualquer decisão. Essa distinção separa claramente o que é ferramenta de apoio daquilo que seria, na prática, uma delegação indevida da função jurisdicional.
Valdemir Ferreira Santos costuma explicar que essa distinção evita um risco relevante: transformar o magistrado em mero validador de resultados que ele próprio não é capaz de auditar, o que comprometeria tanto a qualidade quanto a legitimidade da prestação jurisdicional. Por essa razão, a formação continuada de juízes sobre o funcionamento básico dessas ferramentas tem se tornado cada vez mais relevante dentro dos programas oferecidos pela ENFAM.
Os riscos de uma tecnologia opaca
Quando uma ferramenta tecnológica opera como uma caixa preta, sem que seus critérios possam ser explicados, aumenta o risco de visões ocultas que influenciam em decisões sem que ninguém perceba. Por isso, a exigência de explicabilidade não é apenas uma formalidade burocrática, mas uma proteção concreta contra distorções que poderiam, de outra forma, passar despercebidas dentro de um sistema aparentemente neutro. Ferramentas treinadas a partir de dados históricos, por exemplo, podem reproduzir padrões de desigualdade já existentes na sociedade, caso não sejam auditadas com cuidado, ou que reforcem a importância de uma supervisão humana atenta em cada etapa de sua utilização.
Assim, a transparência sustenta a confiança na Justiça
Assim, compreender esse princípio ajuda o cidadão a entender que a modernização tecnológica dos tribunais não dispensa, em nenhuma hipótese, a obrigação de explicar. Doutor Valdemir Ferreira Santos conclui que, quanto mais sofisticada se tornar a tecnologia utilizada pelo Judiciário, maior será a responsabilidade de garantir que suas contribuições permaneçam compreensíveis, auditáveis e seguras, ao mesmo controle que sempre recai sobre qualquer decisão judicial, independentemente do grau de automação envolvida no processo que a precedeu. Nenhuma inovação, por mais promissória que pareça, justifica abrir mão dessa transparência, sob pena de comprometer a própria essência do que se espera de uma decisão justa.
