A Justiça na Ero dos Alogartímos

Há pouco mais de uma década, a expressão inteligência artificial pertencia quase exclusivamente ao vocabulário da ficção científica e dos laboratórios de pesquisa. Hoje, ela integra o cotidiano de bancos, hospitais, tribunais, escritórios de advocacia e órgãos públicos, sustentando decisões que definem se um crédito será concedido, se um paciente receberá determinado tratamento, se um réu permanecerá preso preventivamente ou se um trabalhador será dispensado. Essa migração silenciosa da máquina do laboratório para o centro das relações jurídicas impõe uma pergunta que já não pode ser postergada: quando o sistema erra e o erro produz dano, quem responde por ele?

O avanço da inteligência artificial nas relações jurídicas não é um fenômeno pontual, mas estrutural. Sistemas de pontuação de crédito, mecanismos de triagem processual, ferramentas de reconhecimento facial usadas por forças de segurança e algoritmos de recomendação empregados por plataformas digitais compõem hoje uma arquitetura invisível que orienta decisões antes tomadas exclusivamente por seres humanos. No Judiciário brasileiro, tribunais já utilizam sistemas de inteligência artificial para classificar processos, sugerir minutas e identificar precedentes aplicáveis, prática que promete ganhos de eficiência, mas que também desloca parte do juízo humano para camadas técnicas cuja lógica interna escapa ao escrutínio imediato das partes. O Projeto de Lei 2.338/2023, aprovado pelo Senado Federal em dezembro de 2024 e hoje em tramitação na Câmara dos Deputados, reconhece expressamente essa expansão ao estabelecer normas gerais de governança para sistemas de inteligência artificial em todo o território nacional, fixando como fundamento a centralidade da pessoa humana em qualquer processo decisório automatizado.

As decisões automatizadas, contudo, carregam riscos que não podem ser subestimados apenas porque a tecnologia promete precisão. Um sistema treinado com dados históricos tende a reproduzir, e por vezes amplificar, os padrões de discriminação presentes nesses próprios dados. Se um algoritmo de concessão de crédito aprende, a partir de registros passados, que determinado grupo social recebeu historicamente menos empréstimos, ele pode perpetuar essa exclusão sob a aparência de neutralidade matemática. O mesmo se aplica a sistemas de recrutamento que descartam automaticamente currículos de candidatos com determinado perfil, ou a ferramentas de vigilância que identificam com maior frequência de erro rostos de pessoas negras. O risco não está apenas na falha técnica isolada, mas na escala: um juiz humano comete um erro por vez, mas um algoritmo defeituoso pode repetir o mesmo erro milhões de vezes antes que alguém o perceba.

Esse cenário conduz a um dos problemas mais delicados da regulação contemporânea, conhecido como o problema da caixa-preta algorítmica. Trata-se da dificuldade, muitas vezes insuperável, de compreender exatamente como um sistema de inteligência artificial chegou a determinada conclusão. Modelos baseados em redes neurais profundas processam milhões de parâmetros de forma simultânea, e mesmo os próprios desenvolvedores frequentemente não conseguem reconstruir, passo a passo, o raciocínio que levou a determinado resultado. Estudos recentes sobre modelos que externalizam cadeias de pensamento têm revelado que essas explicações nem sempre correspondem fielmente ao processo real de decisão, o que agrava ainda mais a opacidade. Para o direito, essa característica é particularmente perturbadora, porque todo o sistema de responsabilidade civil e processual foi construído sobre a premissa de que é possível reconstituir o nexo causal entre uma conduta e um dano. Quando a conduta se torna ininteligível até para quem a programou, a prova desse nexo se torna um desafio de proporções inéditas.

Diante disso, a responsabilidade por erros produzidos ou potencializados pela inteligência artificial exige um redesenho dos conceitos tradicionais de culpa e nexo causal. O anteprojeto que tramita no Congresso Nacional distingue, para esse fim, a figura do fornecedor do sistema, aquele que o desenvolve e o coloca no mercado, da figura do operador, aquele que o utiliza em seu nome ou benefício. Ambos são tratados como agentes de inteligência artificial e, segundo o texto em discussão, respondem integralmente pelos danos patrimoniais, morais, individuais ou coletivos causados, independentemente do grau de autonomia conferido ao sistema. Nos casos classificados como de alto risco, a proposta avança ainda mais ao prever responsabilidade objetiva, dispensando a necessidade de comprovar culpa e bastando demonstrar o dano e a participação do agente na cadeia que o produziu. Trata-se de uma escolha normativa relevante, porque transfere para quem desenvolve e para quem opera a tecnologia o ônus de garantir sua segurança, em vez de deixar a vítima buscar, sozinha, provar falhas num sistema que ela jamais teve condição de compreender.

A quinta e última dimensão desse debate talvez seja a mais determinante: a necessidade de supervisão humana efetiva. Não basta que exista, em algum ponto do processo, um ser humano nominalmente responsável pela revisão das decisões algorítmicas. O próprio texto legislativo em tramitação exige que essa supervisão seja efetiva e adequada, capaz de permitir que a pessoa encarregada compreenda, interprete, decida e intervenha sobre o sistema, sobretudo quando envolvidos riscos irreversíveis. Críticos do anteprojeto já apontaram, em audiências públicas, que essa formulação ainda carece de parâmetros mais objetivos, sob pena de se tornar uma cláusula de estilo sem eficácia prática. É preciso, portanto, ir além da retórica da supervisão e construir mecanismos concretos, como auditorias periódicas, avaliações prévias de impacto algorítmico e trilhas de auditoria documentadas, que permitam reconstituir, a qualquer momento, o caminho percorrido pela máquina até sua conclusão.

Se uma máquina participa de uma decisão que prejudica alguém, quem responde pelo erro? A resposta que o direito brasileiro está construindo, ainda que de forma incompleta e sujeita a novos adiamentos legislativos, aponta para uma direção clara: a autonomia técnica não gera vácuo de responsabilidade. Fornecedores e operadores continuam obrigados a reparar os danos que seus sistemas produzem, e quanto maior o risco envolvido, maior a exigência de transparência e de controle humano sobre o processo. A inteligência artificial pode acelerar, sugerir e até decidir em primeira instância, mas não pode ser transformada em um álibi tecnológico capaz de dissolver a responsabilidade que sempre acompanhou o exercício do poder sobre a vida de outra pessoa. Entre a eficiência prometida pelos algoritmos e a proteção devida a quem por eles é julgado, o direito é chamado, uma vez mais, a lembrar que toda decisão automatizada nasce, em algum momento anterior, de uma escolha humana, e é sobre essa escolha que a lei precisa manter os olhos abertos.