O SUS entrou na nuvem. Falta trazer a lei, o médico e o cidadão

Há uma cena que todo brasileiro conhece: o paciente chega ao especialista com uma sacola plástica cheia de exames, receitas amassadas e laudos de três cidades diferentes. Durante décadas, essa sacola foi o verdadeiro prontuário do SUS. Se ela se perdia, a história clínica se perdia junto. Escrevo este artigo porque essa cena está, finalmente, com os dias contados, e porque acredito que a forma como ela vai desaparecer diz muito sobre o tipo de sistema de saúde que queremos.

Os números impressionam. A Rede Nacional de Dados em Saúde, criada às pressas em 2020 para enfrentar a pandemia, virou política de Estado por decreto em 2025 e hoje reúne mais de 5 bilhões de registros de vacinas, exames, atendimentos, prescrições e internações. O Censo das UBS mostra que quase todas as unidades básicas têm internet e que a imensa maioria já usa prontuário eletrônico. A telessaúde passou de 6 milhões de atendimentos. E, desde agosto, esses dados começaram a migrar para uma nuvem pública operada em território nacional.

Reconheço o avanço sem ressalvas: é uma das transformações mais importantes da saúde pública brasileira desde a criação do próprio SUS. Justamente por isso, acho que ela merece mais do que aplausos. Merece vigilância. E essa vigilância cabe a três públicos que raramente conversam entre si.

Ao cidadão: seus dados são seus

Se você usa o Meu SUS Digital, já percebeu a conveniência de ver a caderneta de vacinação no celular ou acompanhar a fila do transplante sem depender de telefonemas. Mas talvez não saiba de duas coisas.

A primeira é que o aplicativo apenas espelha o que as secretarias estaduais e municipais registram. Se houver um erro, a correção precisa ser pedida no posto onde o atendimento aconteceu, e não em Brasília. Ninguém avisa isso com clareza, e o cidadão fica perdido entre esferas de governo.

A segunda é mais séria. Dados de saúde são, pela Lei Geral de Proteção de Dados, dados sensíveis, com proteção reforçada. Você tem direito de saber quem acessa seu histórico, para quê, e de pedir revisão de decisões tomadas exclusivamente por máquinas. Com o CPF consolidado como identificador único na saúde, essa informação passa a ser mais valiosa, e mais cobiçada, do que nunca. Conveniência não pode ser moeda de troca da privacidade.

Ao médico: a caneta continua na sua mão, e o risco também

Desde 26 de agosto está em vigor a Resolução CFM nº 2.454/2026, a primeira norma brasileira sobre inteligência artificial na medicina. Ela diz o óbvio que precisava ser dito: a IA é ferramenta de apoio, o médico continua sendo o responsável final pela decisão, e é vedado delegar a um sistema a comunicação de diagnósticos ou prognósticos ao paciente.

A resolução não pode ser vista como formalidade. Não é. Na rede pública, onde algoritmos de triagem e apoio diagnóstico começam a chegar por contratos que o médico da ponta nunca leu, o profissional pode acabar respondendo por uma ferramenta que não escolheu e não entende. O conselho que dou é prático: registre no prontuário quando e como usou a IA, informe o paciente e exija do gestor informações claras sobre o sistema que lhe foi entregue. Em eventual processo, o prontuário será sua principal testemunha.

Ao profissional do direito: a lei ainda não chegou

Aqui está, a meu ver, a maior fragilidade de todo o processo. O Marco Legal da IA, o PL 2.338/2023, foi aprovado no Senado em 2024 e segue parado numa comissão especial da Câmara. Com o calendário eleitoral, dificilmente sairá este ano. Enquanto isso, o Estado brasileiro opera uma das maiores bases de dados de saúde do mundo e incorpora IA ao atendimento amparado em portarias, decretos, na LGPD e numa resolução ética de conselho profissional.

A LGPD dá conta de muita coisa, mas não de tudo. Perguntas cruciais seguem sem resposta clara. Quem responde quando um algoritmo contratado pelo município erra na classificação de risco de um paciente: o médico, o ente público ou o fornecedor? Qual o regime de responsabilidade do Estado por vazamento de dados sensíveis armazenados numa estrutura centralizada? Como o cidadão contesta, na prática, uma decisão automatizada numa fila de regulação? Essas questões vão chegar aos tribunais antes de chegarem à lei, e a jurisprudência costuma ser uma forma cara e lenta de legislar.

O que está em jogo

A digitalização entrou na campanha presidencial como raro ponto de consenso, e o consenso é justamente o que me deixa atento. Todos defendem o SUS digital. A divergência real está no modelo: até onde vai a integração com o setor privado e quem terá acesso a esses dados. É uma escolha legítima e deve ser debatida às claras, à luz do artigo 196 da Constituição, que define a saúde como direito de todos e dever do Estado.

Também registro um cuidado: os números que celebramos vêm, quase todos, do próprio governo. Auditorias independentes, relatórios públicos de incidentes de segurança e avaliações sobre a qualidade real do atendimento por telessaúde deveriam acompanhar cada anúncio. Conectar uma UBS é diferente de garantir que ela funcione bem numa tarde de chuva no interior do Amazonas.

A sacola plástica de exames vai sumir, e isso é ótimo. O que não pode sumir junto é a certeza de que, por trás de cada registro, existe uma pessoa com direitos, um profissional com responsabilidades e um Estado que presta contas. Tecnologia sem essas três garantias não é modernização. É só uma forma mais eficiente de repetir velhos problemas.

 

Inteligência Artificial, Responsabilidade Civil e o Futuro do Direito Médico

 

José Anselmo de Oliveira

Mestre em Direito Constitucional pela UFC. Professor de Direito Médico e da Saúde. Membro da World Association Medical of Law (WAML).

A inserção da Inteligência Artificial (IA) nos consultórios, alas de triagem e centros cirúrgicos deixou de ser um distante roteiro de ficção científica para se consolidar como uma ferramenta cotidiana. Sistemas algorítmicos complexos já são perfeitamente capazes de cruzar milhões de dados genéticos, históricos clínicos, resultados de exames e artigos científicos em frações de segundo para sugerir diagnósticos precisos e recomendar tratamentos personalizados. No entanto, essa revolução tecnológica traz consigo uma indagação imediata e urgente para tribunais, hospitais e pacientes: quando a máquina, operando em sua imensa base de dados, "alucina" e indica o medicamento errado, de quem é a culpa pela lesão gerada ao paciente?

A resposta a essa pergunta não é simples e exige desvendar uma intrincada teia de responsabilidades que envolve profissionais da saúde, instituições hospitalares e gigantes globais de tecnologia. O fascínio inegável pela automação não pode ofuscar a premissa maior e inegociável de que o paciente é o elo vulnerável dessa cadeia. Garantir o acesso a serviços médicos integralmente seguros é um imperativo civilizatório, diretamente alinhado ao Objetivo de Desenvolvimento Sustentável 3 (ODS 3) da ONU, que preconiza a saúde e o bem-estar de todos. Quando um software de IA prescreve uma substância trocada que resulta em agravamento do quadro ou novos danos ao paciente, o ordenamento jurídico precisa fornecer uma resposta cirúrgica. Do contrário, abrimos as portas para o agravamento de uma verdadeira crise constitucional no mundo contemporâneo, cenário em que o rápido e desregulado avanço tecnológico atropela sistematicamente direitos fundamentais inalienáveis, como o direito à vida e à integridade física.

O primeiro passo para compreender esse novo cenário jurídico é analisar detidamente a conduta do profissional de saúde. No estágio atual da tecnologia e da legislação, a IA não detém personalidade jurídica; ela atua legalmente como um sofisticado assistente virtual, um instrumento de apoio à decisão. Isso significa, na prática forense, que o dever final e indelegável de validação permanece inteiramente nas mãos do médico. O fenômeno estudado pela bioética conhecido como "viés de automação" — a tendência psicológica humana de confiar cegamente na resposta gerada por um computador, abdicando do próprio escrutínio e senso crítico — representa, hoje, o maior risco imediato nos consultórios. Se um médico acata uma sugestão algorítmica sem confrontá-la rigorosamente com a anamnese do paciente e com a “lex artis” (o conjunto de regras, protocolos e melhores práticas da medicina), prescrevendo assim o remédio errado, sua responsabilidade civil continuará sendo julgada de forma subjetiva, conforme dita o artigo 14, parágrafo 4º, do Código de Defesa do Consumidor (CDC). Ele responderá pessoalmente por negligência ou imprudência ao terceirizar seu raciocínio clínico indevidamente para a máquina.

Contudo, a falha do médico na ponta do atendimento não isenta quem criou e quem lucrou com a tecnologia. As empresas desenvolvedoras desses softwares enfrentam a regra da responsabilidade civil objetiva. Elas respondem financeiramente por defeitos na concepção do produto, independentemente da comprovação de dolo ou culpa. Uma estratégia de defesa extremamente comum na indústria tecnológica é tentar invocar perante os juízes a chamada "tese do risco do desenvolvimento". Por essa tese, as empresas argumentam que a falha do algoritmo era cientificamente impossível de ser prevista no momento exato de sua introdução no mercado. Trata-se, contudo, de um argumento que encontra imensa fragilidade perante a jurisprudência protetiva brasileira. As chamadas "alucinações" da IA — situações em que o modelo matemático gera informações inteiramente falsas ou associações medicamentosas inexistentes com extrema aparência de veracidade — são falhas estruturais mapeadas e amplamente documentadas na atual arquitetura de redes neurais generativas. Não há, portanto, imprevisibilidade técnica. Trata-se do que o direito classifica como fortuito interno, ou seja, um risco inerente à própria atividade econômica explorada pela empresa. O desenvolvedor não pode, sob o manto da inovação, transformar pacientes em cobaias involuntárias para testar inovações que ainda carecem de maturidade técnica e de filtros rígidos de segurança.

No centro dessa intrincada equação encontram-se os hospitais e as clínicas, seja uma tradicional unidade hospitalar ou um gigantesco complexo hospitalar nos grandes centros urbanos. Quando a instituição de saúde decide adquirir, implementar e disponibilizar institucionalmente um sistema de IA para otimizar o trabalho de seu corpo clínico, ela passa a integrar formalmente a cadeia de fornecimento do serviço de saúde. Pela ótica do CDC, o hospital responde de forma objetiva e solidária pelos danos causados por falhas nos equipamentos e sistemas que oferece para a consecução de sua atividade. Se a ferramenta instalada pelo hospital errar e causar lesão, a instituição tem o dever imediato de indenizar o paciente. Restará ao hospital, em momento posterior, exercer o seu direito de regresso, cobrando o prejuízo da empresa desenvolvedora do software (se comprovada a falha de programação) ou do médico (se comprovada a negligência grotesca na revisão).

O grande obstáculo processual e probatório nessa dinâmica de responsabilização é a opacidade dos algoritmos de aprendizado profundo, fenômeno conhecido no meio tecnológico como "caixa preta" (black box). Em grande parte das vezes, nem os próprios criadores originais do código conseguem rastrear e explicar exatamente qual intrincado caminho lógico e estatístico a máquina percorreu para chegar àquela indicação desastrosa da substância trocada. Essa assimetria técnica e informacional extrema torna a prova material do erro algorítmico um fardo praticamente impossível de ser carregado pelo cidadão comum que busca reparação no Judiciário.

É exatamente para reequilibrar essa balança processual e garantir justiça efetiva que o Congresso Nacional debate ativamente o Projeto de Lei nº 2338/2023, estruturado para ser o Marco Legal da Inteligência Artificial no país. A proposta acerta ao adotar uma regulação assimétrica baseada no grau de perigo, classificando expressamente os sistemas utilizados na área da saúde como "sistemas de alto risco". Essa classificação rígida impõe deveres severos de governança, auditoria e transparência, além de consagrar de maneira inconteste a inversão automática do ônus da prova a favor da vítima lesionada. Na prática forense, em caso de processo judicial oriundo de um erro médico induzido por IA, caberá ao desenvolvedor do software e ao estabelecimento de saúde o complexo trabalho de provar documentalmente que a máquina operou perfeitamente dentro dos padrões de segurança, ou que o desfecho danoso derivou de culpa exclusiva do médico, retirando dos ombros do paciente o pesado encargo de tentar desvendar o incompreensível código de programação.

Além dessas salvaguardas processuais, o marco regulatório consolida a exigência da manutenção permanente do que a engenharia conceitua como “human-in-the-loop”, que se traduz no dever legal de supervisão humana efetiva. A inserção da tecnologia de ponta na medicina não surge com a finalidade de substituir o calor e a intuição do julgamento clínico, mas para instrumentalizá-lo e aumentá-lo de forma segura. Exige-se que o sistema computacional forneça ao médico não apenas o veredito final, mas a justificativa compreensível, os parâmetros e as literaturas que embasaram aquela recomendação terapêutica específica.

A evolução contínua do direito médico diante do avanço veloz da inteligência artificial não possui caráter proibitivo; ela não busca, de forma alguma, frear a inovação tecnológica estruturante, que inegavelmente guarda o potencial de salvar milhões de vidas humanas por meio da precisão terapêutica e do diagnóstico ultraprecoce. O que a jurisprudência, a regulação estatal e a moderna doutrina exigem, de forma uníssona, é que o alto custo do aprendizado da máquina não seja financiado pela saúde, pela integridade física ou pela vida do paciente. O ponto de equilíbrio jurídico e ético reside em tratar a Inteligência Artificial exatamente como ela deve ser encarada: uma ferramenta extraordinariamente poderosa, mas falível, mantendo o ser humano não apenas no centro do cuidado e da empatia, mas, primordialmente, no centro da responsabilidade final.