Direito à explicação inteligível diante da decisão algorítmica em saúde

Helena tem 58 anos, é contadora aposentada e há mais de duas décadas paga, sem atraso, o mesmo plano de saúde. Em fevereiro recebeu o diagnóstico que ninguém quer ouvir: carcinoma de pulmão de células não pequenas, estágio IIIB. A oncologista prescreveu imunoterapia com pembrolizumabe associada à quimioterapia. A operadora autorizou a quimioterapia e negou a imunoterapia. Negou em 47 segundos, com 15 linhas padronizadas que apenas registravam a “ausência de evidência clínica suficiente”. Quem decidiu não foi uma pessoa: foi um sistema proprietário de inteligência artificial, depois confirmado por um médico-auditor que dedicou ao caso 90 segundos de revisão.

Helena foi ao Judiciário e, em oito dias, obteve a liminar. Recebeu a primeira dose. O caso dela se resolveu. O algoritmo, esse, continuou — operando sobre milhares de outros beneficiários, com os mesmos critérios opacos, na mesma cadência de poucos segundos por decisão. A pergunta que proponho é simples de enunciar e difícil de responder: o que, exatamente, a liminar de Helena resolveu?

Sustento uma tese que dispensa lei nova. Decisões algorítmicas que afetam o acesso a prestações de saúde — venham da operadora privada, do gestor do Sistema Único de Saúde ou do próprio Judiciário em triagem processual — submetem-se a um direito constitucional à explicação inteligível. Esse direito não é favor regulatório nem inovação a ser conquistada no Congresso. Está na Constituição de 1988, à espera de leitura sistemática. E a falta de explicação inteligível, mais do que vício formal, compromete a validade da decisão e desloca, em favor do paciente lesado, o ônus de demonstrar a razoabilidade do critério empregado.

O que a liminar não alcança

O Brasil construiu, em três décadas, um modelo robusto de tutela judicial do direito à saúde. A jurisprudência do Superior Tribunal de Justiça é hoje densa: ao julgar os Embargos de Divergência em Recurso Especial 1.886.929/SP e 1.889.704/SP, em junho de 2022, a 2ª Seção fixou que o rol da Agência Nacional de Saúde Suplementar é, em regra, taxativo, mas admite exceções quando demonstrada a pertinência técnica do tratamento prescrito pelo profissional habilitado. Não falta, portanto, sensibilidade jurisprudencial. Falta outra coisa.

Em 2026, quem decide já não é, na maioria dos casos, uma pessoa. As grandes operadoras processam dezenas de milhões de autorizações por ano em sistemas de inteligência artificial, e a revisão humana é, com frequência, nominal. O controle judicial individual — por mais ágil e generoso que seja — alcança a decisão de Helena, não o critério que a produziu. Imagine-se o juiz que, num único dia, concede oito tutelas idênticas contra a mesma operadora. Faz justiça nos oito casos. E sobre o algoritmo? Nenhum efeito. O algoritmo não é parte do processo; o critério não foi examinado; a operadora autoriza, paga e segue. Os pacientes que não chegaram àquela vara permanecem entregues ao mesmo padrão opaco.

Há três razões para a inadequação do remédio tradicional. A primeira é temporal: o controle reativo opera depois do dano, e os oito dias de Helena equivalem a ciclos de tratamento que não voltam em um câncer estágio IIIB. A segunda é estrutural: a liminar resolve a paciente, não o sistema. A terceira é institucional: a jurisprudência heterogênea de dezenas de tribunais gera o que a doutrina brasileira de direito digital — em autoras como Ana Frazão, Caitlin Mulholland e Laura Schertel Mendes — vem chamando de fragmentação regulatória, em que cada tribunal exige um padrão distinto e a operadora calibra o sistema para o foro mais permissivo.

Poder-se-ia objetar que tudo se resolve quando o caso amadurece no Judiciário, como no litígio norte-americano travado contra a UnitedHealth. No processo movido pelo espólio de Gene Lokken perante a corte federal de Minnesota, ajuizado em novembro de 2023, o juízo determinou, apenas em março de 2026, a abertura ampla dos documentos do algoritmo nH Predict por meio da fase de produção de provas. Entre a propositura e a ordem, dois anos e quatro meses — e um sistema que operava desde a década anterior. O controle reativo, mesmo quando chega, chega tarde. Não por acaso, relatório do Subcomitê Permanente de Investigações do Senado dos Estados Unidos, de outubro de 2024, documentou que a taxa de negativa de cuidados pós-agudos da própria UnitedHealth mais que dobrou no período em que a empresa automatizava a triagem.

A questão central, então, deslocou-se. Não se trata mais apenas de saber se Helena tem direito ao pembrolizumabe — embora também se trate disso. Trata-se de saber se o critério algorítmico que produziu a negativa, e que segue operando sobre milhões de decisões análogas, satisfaz o padrão constitucional de razoabilidade material exigível de toda decisão que afeta o acesso à saúde.

O que a Constituição já respondeu

Três dispositivos, lidos isoladamente, têm sido invocados em compartimentos estanques. O artigo 5º, inciso LIV, fixa o devido processo legal, que a doutrina contemporânea, na linha de Ingo Sarlet, lê em chave substantiva. O artigo 196 consagra a saúde como direito de todos. O artigo 1º, inciso III, erige a dignidade da pessoa humana em fundamento da República. Lidos em conjunto, produzem uma exigência única: toda decisão que afete o acesso a prestações de saúde deve poder submeter-se a controle de razoabilidade material — e esse controle pressupõe, como condição lógica, que a decisão seja cognoscível. O que não pode ser conhecido não pode ser controlado. A dignidade, na fórmula objetiva que vem de Kant a Ingo Sarlet, exige que o paciente seja tratado como sujeito de razões inteligíveis para si próprio; a decisão opaca o instrumentaliza.

A Lei Geral de Proteção de Dados confere conteúdo regulatório a essa exigência constitucional. Os artigos 11 e 20 submetem os dados de saúde a tratamento restrito e asseguram a revisão de decisões automatizadas, pressupondo explicação inteligível — terreno que Laura Schertel Mendes mapeou em dogmática rigorosa, que Bruno Bioni desenvolveu no regime dos dados sensíveis e que Marcela Mattiuzo aprofundou na análise da discriminação algorítmica. O Superior Tribunal de Justiça, no Recurso Especial 2.121.904/SP, julgado pela 3ª Turma em fevereiro de 2025 sob relatoria da ministra Nancy Andrighi, reconheceu a responsabilidade objetiva do fornecedor pelo vazamento de dados sensíveis, com dano moral presumido — sinal de que a corte trata a proteção de dados de saúde como dever incontornável, e não como obrigação de meio.

Há ainda um movimento jurisprudencial que, à primeira vista, parece contrariar a tese, mas a fortalece. Em março de 2026, ao julgar o Tema 1.365 dos recursos repetitivos (Recursos Especiais 2.197.574/SP e 2.165.670/SP, relatados pelo ministro Ricardo Villas Bôas Cueva), a 2ª Seção do STJ fixou que a recusa indevida de cobertura não gera, por si só, dano moral presumido, exigindo elementos adicionais. Longe de enfraquecer a proteção, a decisão desloca o eixo de análise: da presunção rasa do dano individual para o exame do critério da decisão. E o critério, no nosso problema, é precisamente o algoritmo.

O direito comparado oferece sustentação em três continentes. O Tribunal Constitucional Federal alemão decidiu, em fevereiro de 2023, que o tratamento automatizado de dados configura interferência autônoma no direito à autodeterminação informacional, qualitativamente distinta da coleta que o antecede e a exigir justificação própria; o contexto era o policiamento preditivo, mas o princípio é transponível ao tratamento de dados sensíveis de saúde por algoritmo de operadora. O Tribunal de Justiça da União Europeia, no caso Dun & Bradstreet, em fevereiro de 2025, definiu o conteúdo mínimo do direito à explicação: informação clara e inteligível, suficiente para permitir a contestação, sem divulgação do código-fonte e sem que o segredo comercial bloqueie o direito. E a Corte Constitucional sul-africana, na trilogia Soobramoney, Grootboom e Treatment Action Campaign, construiu o controle de razoabilidade sistêmica como alternativa ao ativismo individual — exatamente o modelo de que precisamos.

Uma governança distribuída

O fundamento, sozinho, não basta; exige operacionalização. Proponho o que chamo de governança distribuída. A Agência Nacional de Saúde Suplementar regula o algoritmo no setor. O Conselho Federal de Medicina define o conteúdo da revisão humana significativa na decisão médica. A Autoridade Nacional de Proteção de Dados fiscaliza o cumprimento da Lei Geral de Proteção de Dados. E o Poder Judiciário — não como gestor primário, mas como coordenador do diálogo — convoca essas manifestações setoriais, na qualidade de amigo da corte (o amicus curiae da tradição processual), e as articula sob fundamento constitucional unificado ao decidir o caso concreto.

Essa arquitetura conversa com normas que já temos. O Código de Ética Médica e a recém-promulgada Lei nº 15.378, de abril de 2026, que institui o Estatuto dos Direitos do Paciente, consagram o direito à participação informada na decisão clínica e impõem deveres de informação clara e acessível a operadoras e serviços de saúde. O caminho que defendo é, portanto, o quarto: o juiz recebe a tutela de Helena, concede a liminar, mas convoca a Agência, o Conselho e a Autoridade a se manifestarem sobre o algoritmo, sobre a revisão humana e sobre o tratamento do dado sensível — e decide com fundamento que vincula o critério, não apenas a decisão individual. É exigente. Mas é viável com o material institucional que já existe.

A objeção da caixa-preta

Resta a objeção mais séria: a de que as redes neurais profundas são tecnicamente inescrutáveis, de modo que exigir explicação seria exigir o impossível. A confusão, aqui, é conceitual. Explicabilidade técnica do modelo é uma coisa; inteligibilidade jurídica da decisão é outra. Cynthia Rudin demonstrou, em estudo de 2019 publicado na Nature Machine Intelligence, que em decisões de alto impacto os modelos interpretáveis por construção alcançam precisão equivalente à das caixas-pretas. O direito pode, legitimamente, deslocar a escolha do modelo. E onde a opacidade for irrenunciável — na radiologia complexa, por exemplo — a inteligibilidade se torna institucional: documentação, revisão humana significativa, auditoria contra vieses, canal de contestação. A tese não exige que se abra a máquina; exige que a decisão seja justificável a quem a recebe.

De volta a Helena

Helena está hoje no terceiro ciclo da imunoterapia, com resposta clínica satisfatória. O caso dela terminou bem. O algoritmo, porém, continuou. No tempo em que se lê este texto, os sistemas das operadoras brasileiras produziram milhares de novas decisões — algumas autorizando, outras negando, muitas seguindo agora para outras Helenas, em poucos segundos cada, com os mesmos critérios opacos, sem que o paciente saiba quais variáveis foram processadas, sem que o médico assistente seja ouvido, e sem que a Constituição que tanto custou a construir tenha sido invocada como aquilo que de fato é: norma imediatamente aplicável à decisão que afeta o acesso à saúde.

A liminar resolveu Helena. Não resolveu o algoritmo. E é esse o trabalho que cabe a esta geração de juristas — concretizá-lo agora, antes do escândalo sistêmico que, sem desenho preventivo, virá. A conclusão é mais simples do que sua arquitetura sugere, e é estritamente dogmática: três dispositivos constitucionais conjugados a dois artigos da Lei Geral de Proteção de Dados, iluminados por precedentes de três continentes. Numa linha: quando a máquina decide, a Constituição não se cala — ela exige que toda decisão sobre saúde seja inteligível a quem a recebe.