A inteligência artificial na medicina deixou de ser uma possibilidade distante e passou a integrar tarefas cada vez mais presentes na rotina de médicos, clínicas e hospitais. Ferramentas de IA já são utilizadas para organizar informações, transcrever consultas, auxiliar na elaboração de documentos, analisar imagens, apoiar decisões clínicas e automatizar atividades administrativas.
Entre as soluções mais pesquisadas por profissionais da saúde estão a inteligência artificial em prontuários, o uso do ChatGPT por médicos, os sistemas de apoio à decisão e as ferramentas voltadas ao aumento da produtividade.
Apesar dos ganhos de eficiência, a adoção dessas tecnologias também cria riscos jurídicos relevantes. O tratamento de dados de saúde, a possibilidade de erros, a ausência de transparência e a dependência excessiva de respostas automatizadas podem gerar consequências para o profissional, para a clínica e para os fornecedores dos sistemas.
Por isso, a pergunta mais importante não é apenas se médicos podem utilizar inteligência artificial. O ponto central é compreender como utilizar a IA na medicina de forma segura, ética, documentada e compatível com as obrigações jurídicas aplicáveis.
O uso da IA na medicina pode gerar responsabilidade profissional?
A inteligência artificial não elimina a responsabilidade dos profissionais que participam do atendimento. Em uma eventual discussão judicial, a análise tende a considerar a conduta adotada, o dano alegado, o nexo causal e a existência de culpa, além das circunstâncias concretas do caso.
O Código de Defesa do Consumidor estabelece que o fornecedor de serviços pode responder pela reparação de danos relacionados a defeitos na prestação ou a informações insuficientes e inadequadas. Ao mesmo tempo, a responsabilidade pessoal dos profissionais liberais depende da verificação de culpa.
Na prática, isso significa que o simples uso de uma ferramenta de IA não comprova, por si só, a existência de erro médico. Entretanto, a utilização descuidada, sem revisão adequada ou sem observância das informações clínicas disponíveis, pode ser considerada na avaliação da conduta profissional.
Um médico que utiliza uma ferramenta automatizada como apoio à organização de dados continua responsável por conferir o conteúdo produzido. Da mesma forma, não é recomendável aceitar uma sugestão diagnóstica ou terapêutica sem avaliar sua compatibilidade com o quadro clínico, os exames, o histórico do paciente e os conhecimentos técnicos aplicáveis.
Inteligência artificial em prontuários: quais são os principais cuidados?
O prontuário médico é um dos documentos mais importantes para demonstrar como o atendimento foi realizado. Ele pode ser utilizado para reconstruir a sequência dos fatos, identificar as informações disponíveis no momento da decisão e verificar as orientações fornecidas ao paciente.
Em julgamento sobre prontuário eletrônico, o Tribunal de Justiça do Distrito Federal destacou a importância de registros detalhados, completos e compreensíveis, incluindo informações sobre exames solicitados e resultados obtidos.
A inteligência artificial pode auxiliar na transcrição de consultas, na organização de informações e na elaboração de rascunhos. Porém, o texto produzido pela ferramenta pode conter omissões, interpretações equivocadas ou informações que não foram efetivamente fornecidas pelo paciente.
Por essa razão, o uso de IA em prontuários deve seguir algumas cautelas:
- revisar todo o conteúdo antes de incorporá-lo ao prontuário;
- corrigir informações imprecisas ou incompletas;
- evitar que a ferramenta acrescente sintomas, condutas ou orientações não registrados;
- preservar a cronologia dos atendimentos;
- identificar quem realizou a revisão final;
- manter registros dos ajustes relevantes feitos pelo profissional;
- impedir que informações geradas automaticamente substituam o raciocínio clínico efetivamente realizado.
Um dos riscos mais graves é a criação de um prontuário aparentemente completo, mas que não corresponde ao atendimento real. A documentação clínica não deve ser tratada como um texto genérico produzido por sistema automatizado. Ela precisa refletir, com precisão, o que foi observado, decidido, prescrito e comunicado ao paciente.
Posso usar o ChatGPT para elaborar documentos médicos?
O ChatGPT para médicos pode ser utilizado em atividades administrativas, educacionais ou de organização, desde que a ferramenta seja empregada com critérios de segurança e sem transferência automática da responsabilidade profissional.
Entre os usos potencialmente menos sensíveis estão a criação de modelos gerais, a revisão de linguagem, a organização de informações não identificáveis e a elaboração de listas administrativas. O risco aumenta quando o profissional insere na plataforma dados identificáveis de pacientes, exames, diagnósticos, imagens ou informações detalhadas do tratamento.
A Lei Geral de Proteção de Dados (LGPD) considera como dado pessoal sensível a informação referente à saúde, além de definir como tratamento operações como coleta, uso, acesso, reprodução, armazenamento, transmissão e arquivamento.
Assim, inserir dados de pacientes em uma ferramenta de IA pode representar uma operação de tratamento de dados. Antes de fazê-lo, a clínica deve avaliar, entre outros aspectos, a finalidade do uso, a base legal aplicável, o nível de segurança oferecido pela plataforma, a possibilidade de retenção das informações e o compartilhamento com terceiros.
A LGPD admite o tratamento de dados pessoais em hipóteses como a tutela da saúde, realizada por profissionais ou serviços de saúde. Entretanto, a existência dessa hipótese não dispensa o cumprimento dos demais princípios e obrigações previstos na lei.
Quando se tratar de dados pessoais sensíveis, a legislação também estabelece hipóteses específicas para o tratamento, incluindo situações relacionadas à tutela da saúde, ao exercício regular de direitos e à proteção da vida.
O cuidado, portanto, não consiste apenas em perguntar se a ferramenta é gratuita ou conhecida. É necessário verificar se sua utilização é compatível com a política de privacidade da clínica e com a proteção esperada para dados médicos.
Como proteger os dados dos pacientes ao utilizar IA?
A adoção de inteligência artificial em clínicas deve estar acompanhada de medidas técnicas, administrativas e contratuais de proteção.
A LGPD determina que os agentes de tratamento adotem medidas de segurança capazes de proteger os dados contra acessos não autorizados, perda, destruição, alteração, comunicação ou qualquer forma de tratamento inadequado ou ilícito, nos termos do art. 46 da Lei.
Nesse contexto, algumas medidas podem reduzir a exposição jurídica:
1. Evitar dados identificáveis em ferramentas abertas
Sempre que possível, o profissional deve substituir nomes, documentos, endereços, datas específicas e outros identificadores por informações anonimizadas ou fictícias. A anonimização, contudo, precisa ser avaliada com cuidado, pois a simples retirada do nome não impede necessariamente a identificação do paciente.
2. Avaliar o fornecedor da solução
A clínica deve verificar onde os dados serão armazenados, quem terá acesso, se existe transferência internacional, qual é o período de retenção e se a ferramenta utiliza as informações para treinar modelos.
3. Criar regras de acesso
Nem todos os colaboradores precisam ter acesso às mesmas informações. O uso de sistemas de IA deve respeitar níveis de autorização, autenticação e rastreabilidade.
4. Formalizar políticas internas
A clínica pode estabelecer uma política específica para o uso de inteligência artificial, definindo quais ferramentas são autorizadas, quais dados podem ser inseridos e quais atividades exigem revisão obrigatória.
5. Preparar resposta a incidentes
Em caso de vazamento ou acesso indevido, a instituição precisa ter um procedimento de resposta. A LGPD prevê que o controlador comunique à autoridade nacional e ao titular a ocorrência de incidente de segurança capaz de gerar risco ou dano relevante.
Além disso, a própria LGPD prevê a possibilidade de responsabilização civil quando o tratamento irregular de dados causar dano patrimonial ou moral ao titular.
A inteligência artificial pode substituir a decisão médica?
As ferramentas de apoio à decisão podem apresentar probabilidades, organizar dados, sugerir hipóteses e identificar padrões. Ainda assim, a decisão clínica exige análise individualizada e consideração de elementos que nem sempre estão disponíveis para o algoritmo.
O sistema pode não compreender adequadamente uma informação apresentada de forma incompleta, interpretar um exame fora do contexto ou reproduzir uma associação estatística que não se aplica àquele paciente específico.
Por isso, a IA deve ser utilizada como instrumento de apoio, e não como substituta automática da avaliação profissional. A decisão final precisa ser compatível com o quadro clínico e deve ser passível de explicação e registro.
Em decisão envolvendo alegação de erro médico, o Superior Tribunal de Justiça (STJ) reconheceu que a análise sobre culpa, imperícia, negligência e dever de informação depende do conjunto de fatos e provas do processo.
Esse entendimento é relevante para a discussão sobre inteligência artificial porque demonstra que a responsabilidade não será analisada apenas com base no resultado final. Também poderão ser avaliados o processo decisório, os dados disponíveis, as cautelas adotadas e a forma como o profissional utilizou as ferramentas tecnológicas.
Em julgamento mais recente, o STJ analisou situação em que uma alergia havia sido informada e registrada no prontuário, mas, ainda assim, foi administrado medicamento contraindicado. A decisão tratou a conduta como questão dependente da análise dos fatos e das provas do caso.
A situação mostra a importância de integrar a tecnologia aos protocolos de segurança, sem permitir que alertas, registros ou informações relevantes sejam ignorados.
O paciente deve ser informado sobre o uso de IA?
A resposta depende da finalidade e da intensidade do uso da ferramenta. Utilizar um sistema para corrigir a redação de uma comunicação administrativa pode ter impacto diferente de empregar inteligência artificial para auxiliar em diagnóstico, triagem, interpretação de exames ou definição de tratamento.
Quanto maior for a influência da IA sobre o cuidado, maior é a importância de avaliar a transparência da relação médico-paciente. A comunicação pode incluir informações sobre:
- a finalidade do sistema;
- a função de apoio exercida pela tecnologia;
- a necessidade de revisão pelo profissional;
- as limitações conhecidas da ferramenta;
- a forma de proteção dos dados utilizados.
O consentimento do paciente não deve ser tratado como uma autorização genérica para qualquer uso de informação médica. Também é importante diferenciar o consentimento para o tratamento de dados do consentimento informado para o atendimento ou procedimento médico. São institutos relacionados, mas não necessariamente equivalentes.
Uma política de transparência ajuda a preservar a confiança do paciente e permite demonstrar que a clínica adotou uma postura responsável na incorporação da tecnologia.
Como criar uma política de inteligência artificial para clínicas?
A política interna de IA deve ser compatível com o porte da instituição, os tipos de atendimento realizados e o nível de sensibilidade das informações processadas.
O documento pode estabelecer:
- quais ferramentas estão autorizadas;
- quais profissionais podem utilizá-las;
- quais dados não podem ser inseridos;
- quando a anonimização é obrigatória;
- quais atividades exigem revisão médica;
- como os resultados devem ser documentados;
- como serão controlados os acessos;
- quais procedimentos devem ser adotados em caso de incidente;
- como serão avaliados os fornecedores;
- quando a ferramenta deverá ser suspensa ou reavaliada.
A política também deve ser acompanhada de treinamento. Não basta adquirir uma solução de inteligência artificial se os colaboradores desconhecem os riscos de inserir dados em plataformas externas ou de copiar automaticamente uma resposta para o prontuário.
Perguntas frequentes sobre inteligência artificial na medicina
Médicos podem usar ChatGPT na rotina profissional?
O uso pode ser possível em determinadas atividades, mas deve observar a proteção de dados, a confidencialidade, a segurança da informação e a revisão profissional. A ferramenta não deve ser utilizada como substituta automática da avaliação médica.
É permitido inserir dados do paciente em uma ferramenta de IA?
A resposta depende da ferramenta, da finalidade, da base legal, das medidas de segurança e do tipo de dado utilizado. Dados de saúde são considerados sensíveis pela LGPD, o que exige cautela reforçada.
Quem responde por um erro cometido com auxílio de inteligência artificial?
A responsabilidade depende das circunstâncias concretas. Podem ser analisadas a conduta do profissional, a atuação da clínica, a participação do fornecedor, o dano, o nexo causal, os contratos existentes e o nível de controle exercido sobre a tecnologia.
A IA pode preencher o prontuário sozinha?
A adoção de ferramentas de transcrição ou organização não elimina a necessidade de conferência. O prontuário deve refletir o atendimento realizado e não pode conter informações inventadas, incompletas ou não verificadas.
A clínica precisa criar uma política de uso de IA?
A elaboração de regras internas é uma medida recomendável para reduzir riscos, organizar responsabilidades e orientar a equipe. A política deve ser revisada sempre que houver mudança na ferramenta, na finalidade do tratamento ou na regulamentação aplicável.
Conclusão
A inteligência artificial na medicina oferece oportunidades importantes para melhorar a organização, a produtividade e o apoio à atividade clínica. Entretanto, seus benefícios não afastam os deveres de cuidado, sigilo, documentação, segurança e supervisão profissional.
O uso de IA em prontuários exige revisão humana. O uso do ChatGPT por médicos exige atenção especial à confidencialidade. As ferramentas de apoio à decisão exigem avaliação crítica. E a adoção de qualquer sistema deve estar inserida em uma política de governança compatível com a LGPD e com as características da instituição.
Para médicos, clínicas e hospitais, a prevenção jurídica passa a incluir uma nova frente: a gestão responsável da tecnologia. Revisar contratos, avaliar fornecedores, proteger dados, treinar equipes e documentar decisões são medidas que podem reduzir vulnerabilidades e fortalecer a segurança da prática médica.
A assessoria especializada em Direito Médico pode auxiliar na elaboração de políticas internas, revisão de contratos com fornecedores de tecnologia, adequação à LGPD, análise de riscos e criação de protocolos para o uso seguro de inteligência artificial na saúde.
Leia também:
Inteligência Artificial, Saúde Digital e Transformações da Prática Médica
