Consentimento informado do paciente frente às novas tecnologias da saúde: telemedicina, cirurgia robótica e inteligência artificial

Por Eduardo Dantas e Rafaella Nogaroli

1.   Introdução: da medicina convencional para a medicina dos 4 Ps (preventiva, preditiva, personalizada e proativa)

Novas tecnologias estão revolucionando todo o sistema de saúde, especialmente em duas grandes áreas: ferramentas tecnológicas para auxiliar os cuidados da saúde (telemedicina, aplicações médicas em smartphones e robôs de assistência e cirúrgicos); e dados de saúde em massa, que abrem o caminho para os algoritmos de deep learning (aprendizado profundo) da inteligência artificial. Todas essas abordagens tecnológicas, juntamente ao “big data”, estão alterando a ciência médica para uma ciência intensiva apoiada em dados.

Nos últimos anos, vislumbra-se um cenário mundial em que os dados físicos dos pacientes foram transferidos de pastas de papel para registros eletrônicos de saúde. Com isso, após décadas de digitalização de registros médicos (com o crescente armazenamento em nuvem), o setor de saúde criou um conjunto enorme (e potencialmente imensurável) de dados. Essa digitalização foi, inclusive, fator determinante para se tornar possível a implementação da telemedicina, da robótica e da inteligência artificial (IA).

Vários tipos de bancos de dados de saúde foram estabelecidos desde o início da revolução digital e a consequente multiplicação do poder de análise computacional, tais como: prontuários médicos eletrônicos, dados administrativos digitais, dados coletados de equipamentos médicos conectados à internet (“Internet das Coisas” na medicina), dados de pesquisas clínicas e farmacêuticas, dados genômicos etc. Prontuários médicos eletrônicos representam a maior fonte de dados da saúde, pois eles contêm a soma de todas as informações a respeito do paciente, no objetivo de organizar todas as etapas da intervenção médica, desde a anamnese e procedimentos médicos relativos à terapia, até a evolução do tratamento.

Em 2017, 80% dos prontuários médicos e 100% dos registros hospitalares de pacientes nos Estados Unidos foram digitalizados, facilitando a troca de informações como resultado desses arquivos digitalizados, que são denominados “registros eletrônicos de saúde” (electronic health records – EHRs). Recentemente, alguns países começaram a incentivar a criação de grandes bancos de dados de saúde para aprimorar as pesquisas científicas. Na Alemanha, observa-se o investimento massivo de milhões de euros para a criação de um banco de dados de saúde, utilizando informações de 17 hospitais e 40 parceiros. A recente iniciativa de estabelecer uma plataforma de dados de saúde para pesquisa objetiva a coleta de grande número de casos clínicos, registros de dispositivos médicos e dados de doenças raras9. Cada país tem sua própria política para estas questões. Contudo, há cooperações internacionais, como a Aliança Global para Genômica e Saúde (GA4GH), criada para acelerar o potencial da medicina genômica na promoção da saúde humana. Reúnem-se bancos de dados de mais de 400 instituições líderes na área da saúde e tecnologia da informação.

Com o armazenamento de toda essa quantidade de dados, a Era Digital da Medicina tornou possível o conceito de smart health (saúde inteligente), acompanhando o fenômeno de mudança da medicina convencional para a medicina dos 4 Ps (preventiva, preditiva, personalizada e proativa). Neste novo cenário, os cuidados da saúde deixam de estar essencialmente limitados ao tratamento das patologias (tarefa jamais abandonada, por certo) e passam a ter como foco a adoção de medidas destinadas a prevenir doenças (medicina preventiva) ou possibilitar a antecipação do seu diagnóstico (medicina preditiva). No que tange ao trato pessoal, o paciente é atendido de maneira tendencialmente mais individualizada (e menos padronizada, portanto), com base nos seus dados genéticos e de saúde (medicina personalizada). Por fim, a relação médico-paciente deixa de ser algo pontual e passa a se desenvolver de maneira contínua, o que é sobremaneira facilitado pelo advento das novas tecnologias (medicina proativa).

A transformação do atendimento médico nesse modelo mais proativo, preventivo, preciso e centrado na individualidade de cada paciente tornou-se possível, nos últimos anos, a partir da combinação de grande volume de dados de saúde e softwares de inteligência artificial. A digitalização do setor da saúde foi um fator determinante para se tornar possível a implementação da IA na eficiência dos diagnósticos médicos, sobretudo na detecção precoce de doenças. Os programas de inteligência artificial fornecem importante suporte à decisão clínica, tendo em vista a sua capacidade de processar e analisar rapidamente – e, tendencialmente, de maneira eficiente – grande quantidade de dados.

Todas as nações que aspiram fazer parte do cenário global da inovação estão embarcando em programas de inteligência artificial e saúde. Estados Unidos, China e os países integrantes da União Europeia anunciaram recentes estratégias para estimular o desenvolvimento e as aplicações da IA na área da saúde. Atualmente, a International Business Machine (IBM) é uma das empresas, em escala global, que mais cria soluções tecnológicas para esse setor e desenvolveu o chamado “Watson for Oncology”, uma solução “alimentada por informações obtidas de diretrizes relevantes, melhores práticas, periódicos médicos e livros didáticos”18. A IA avalia as informações do prontuário de um paciente, juntamente às evidências médicas (artigos científicos e estudos clínicos), exibindo, assim, possíveis opções de tratamento para pacientes oncológicos, classificadas por nível de confiança. Ao final, caberá ao médico analisar as conclusões trazidas pela IA e decidir qual a melhor opção de tratamento para aquele paciente específico.

Ressalta-se também que, nos últimos anos, há expressiva expansão da inteligência artificial aliada à robótica, criando uma realidade de robôs de assistência inteligentes para os cuidados médicos. O aumento da expectativa de vida das pessoas, somado à crescente complexidade dos serviços médicos, resultou num cenário de drástico acréscimo dos custos de saúde em todo o mundo. Desse modo, os avanços em aplicativos da computação, combinados com o uso de redes sofisticadas de sensores inteligentes, servem como uma importante solução para esse cenário. Ademais, à medida que a população envelhece em todo o mundo, os sistemas de saúde estão sob crescente pressão e, por isso, os robôs de assistência a idosos servem como meio de aliviar essa pressão em hospitais e casas de repouso, bem como se tornam uma maneira de melhorar a prestação de cuidados da saúde em casa, promovendo uma vida independente para os idosos. Justifica-se a importância da robótica na medicina pela vasta gama de aplicações da tecnologia nos domínios da prevenção, assistência, supervisão, estímulo e acompanhamento das pessoas, conforme exporemos ao longo deste artigo.

Ainda, os recentes desenvolvimentos científicos revolucionaram os procedimentos cirúrgicos com a inclusão da robótica. Há de se observar que o mercado global de robôs cirúrgicos, que realizam procedimentos de forma presencial ou à distância (telecirurgia) também tem crescido rapidamente nos últimos anos. Seis milhões de cirurgias assistidas

por robôs já foram realizadas no mundo. Em localidades que não dispõem de especialista, também podem ser realizadas telecirurgias. O aparato tecnológico é utilizado em cirurgias minimamente invasivas, sobretudo nas especialidades de urologia, ginecologia, cirurgia geral, torácica e abdominal, além da neurocirurgia – esta, pela necessidade de exatidão milimétrica na intervenção cirúrgica. A utilização do robô torna mais segura e precisa a cirurgia, eliminando o tremor natural das mãos do ser humano; a microcâmera amplia a visão do cirurgião e a tomada de decisões no decorrer da cirurgia se torna mais rápida e exata. Até o momento, essas cirurgias são, em realidade, “assistidas” por robôs, isto é, o robô reproduz exatamente os movimentos das mãos do médico. Contudo, já estão em desenvolvimento tecnologias de inteligência artificial para que, um dia, também possam ser implementadas nas cirurgias robóticas.

Por fim, a revolução tecnológica no setor da saúde tem permitido que médicos diagnostiquem, tratem e até realizem cirurgias em pacientes à distância, nos locais mais remotos do mundo. A denominada telemedicina consiste na prestação de serviços de saúde por meio de tecnologias da informação e da comunicação, em que o profissional da saúde e o paciente não estão presentes fisicamente no mesmo local. Conforme expõe o professor português Alexandre Libório Dias Pereira, a telemedicina “envolve a transmissão de dados e informação de saúde por meio de textos, sons, imagens ou outros que sejam necessários para a prevenção, diagnóstico, tratamento e acompanhamento de pacientes”, e está presente em diversas especialidades da medicina, “desde a teleradiologia à telecirurgia, passando pela teleconsulta”. Apesar da telemedicina não ser uma recente realidade, a expansão de diversos projetos em Telemática da Saúde teve maior destaque e versatilidade com a popularização dos microcomputadores, na década de 70. Dentre os objetivos da tecnologia, destaca- se: “melhorar a qualidade e aumentar a eficiência do atendimento médico, expandindo-o às populações localizadas em áreas remotas, onde há pequeno número de profissionais especializados ou as condições da prática médica são limitadas”. Nos últimos anos, os inúmeros avanços tecnológicos – especialmente da digitalização dos dados de saúde e inteligência artificial – possibilitaram a adoção de novos recursos e a prestação de serviços de

saúde a distância com maior eficiência. Sobretudo no contexto de pandemia da covid-19, os diversos sistemas de saúde no mundo publicaram normativas em caráter excepcional para implementar nas suas rotinas os atendimentos médicos a distância, enquanto durar a crise decorrente da emergência de saúde pública. Este momento representa um importante marco na história da telemedicina no mundo, por demonstrar, como jamais visto, a essencialidade e todo o potencial da telemedicina.

Diante de todo o panorama atual da medicina digitalizada e novas tecnologias na área da saúde – telemedicina, medicina robótica e inteligência artificial –, o consentimento informado do paciente adquire certas peculiaridades, tendo em vista os diversos fatores aleatórios e riscos inerentes às características únicas e próprias de cada tecnologia. Ademais, todas essas tecnologias utilizam dados sensíveis de saúde do paciente, levando à reflexão sobre os princípios éticos que devem reger este tratamento de dados, especialmente no que se refere ao consentimento do paciente titular dos dados.

O presente trabalho, diante do panorama das novas tecnologias na medicina dos 4 Ps, tem o objetivo de analisar toda a dinâmica do consentimento do paciente em cada tipo de tecnologia, o que envolve discussões sobre diversos aspectos, dentre eles: benefícios e riscos das tecnologias, forma e o conteúdo do termo de consentimento em cada tecnologia (quais informações devem ser prestadas) e a maneira de imputação da responsabilidade pelo inadimplemento do dever de informar.

Todas essas questões serão adiante analisadas, contudo, num primeiro momento, traçaremos um breve panorama histórico do desenvolvimento dogmático, até o atual entendimento, sobre a doutrina do consentimento livre e esclarecido do paciente.

2. Breve panorama histórico: doutrina do consentimento livre e esclarecido do paciente

Atualmente, a relação entre provedor de serviços de saúde e paciente tem um de seus pilares no dever de informação, mais precisamente, na obrigação de o médico prestar ao enfermo, ou a quem por ele responda, todas as informações possíveis para que este possa exercer direito seu, amparado em um dos princípios bioéticos mais importantes, o da autonomia, ou seja, a possibilidade de dispor de seu próprio destino, decidindo que tratamento irá (se) permitir, embasado em informações claras e precisas sobre os riscos e benefícios possíveis, advindos de sua decisão.

O princípio da autonomia encontra seus principais fundamentos na história do direito e da filosofia. Para o seu desenvolvimento, exerceram uma decisiva influência as

obras do britânico John Locke, que pugnava pelo direito à proteção contra intervenções médicas não consentidas, e do filósofo alemão Immanuel Kant, para quem o requisito de que consideremos os demais livres para escolher é fundamental.

A preocupação de Kant com a autonomia, estava em examinar o que este considerava um dos mais importantes aspectos do ser humano – sua vontade. Enquanto uma pessoa for capaz de decidir o que deve ou não fazer, ela é responsável por suas ações. E qualquer ação motivada por algum tipo de fundo moral deve emanar de um dever, em vez de uma inclinação. Para Kant, a autonomia – que literalmente pode significar autorregulação – requer a tomada de atitudes de acordo com as próprias convicções, vale dizer, com a própria moral. Ser autônomo significa não ser escravo do instinto ou capricho, mas sim agir como um ser racional. A razão é a faculdade que permite a ação enquanto indivíduo pensante, e que permite, por exemplo, escolher entre o certo e o errado. Ao menos na aparência, há pouca diferença entre razão e autonomia, entre racionalidade e autonomia.

Beauchamp e McCullough explicam que a decisão de uma determinada pessoa é autônoma:

quando procede de valores e crenças próprios, se baseia em uma informação e compreensão adequadas e não vem imposta por coações internas ou externas, ou seja, quando reúne três condições: intencionalidade, conhecimento e ausência de controle externo e interno. Destas três condições do ato autônomo, apenas a primeira (a intencionalidade) não admite gradação, enquanto as outras duas sim. Do ponto de vista do conhecimento, este deve ser adequado, de maneira que possamos afirmar que uma ação é compreendida quando somos capazes de entender sua natureza e, além disso, prever suas consequências. No que pertine à ausência de controle externo, podemos considerar a existência de diversos níveis de gradação, e mais especialmente três: a coerção, a manipulação e a persuasão (tradução nossa)

Atualmente, a moderna dogmática da responsabilidade médica vê no consentimento um instrumento que permite, para além dos interesses e objetivos médico-terapêuticos, incrementar o respeito pela pessoa doente, na sua dimensão holística. Ao paciente, em exercício do seu direito de liberdade, caberá determinar qual tratamento, dentre os que lhe forem apresentados, escolher, ou mesmo não optar por nenhum deles. A proteção dessa esfera físico-psíquica, conforme leciona João Vaz Rodrigues, encontra-se sob a tutela

do direito geral de personalidade, pois o consentimento informado implica “mais do que a mera faculdade de o paciente escolher um médico, ou de recusar (dissentir sobre) um tratamento médico indesejado (da manifestação da liberdade como proteção contra invasões na esfera de qualquer pessoa humana)”.

No Brasil, o princípio da autonomia da vontade (ou autodeterminação), com base constitucional, representa-se como fonte do dever de informação e do correlato direito ao consentimento livre e informado do paciente. A Constituição Federal abriga, em seu artigo 5º, XIV, ao tratar dos direitos individuais e coletivos, preceito no qual, textualmente menciona que “é assegurado a todos o acesso à informação”. Sob o ponto de vista infraconstitucional, a Lei nº 8.080/90, de 19 de setembro de 1990, ao dispor sobre as condições de promoção, proteção, e recuperação da saúde, assegura em seu artigo 7º, V, o “direito à informação, às pessoas assistidas, sobre sua saúde”. O parágrafo 3º do mesmo dispositivo define como diretriz do Sistema Único de Saúde (SUS) a “preservação da autonomia das pessoas na defesa de sua integridade física e moral”.

O Código de Defesa do Consumidor (CDC) traz previsão sobre o dever de informação – tratado como um dos direitos básicos do consumidor ali previstos – em seu artigo 3º, III, o direito à “informação adequada e clara sobre os diferentes produtos e serviços, com especificação correta de quantidade, características, composição, qualidade e preço, bem como sobre os riscos que apresentem”, noção esta complementada pelos artigos 8º e 9º do mesmo Código, aqui aplicáveis em virtude de a atividade disponibilizada pelo profissional de saúde, em que pese diferenciada e especial, ser legalmente classificada como um serviço.

Ao se falar em dever de informação, é quase automática a associação com a expressão “consentimento informado”. Por certo, é pacífico em nossa sociedade que a intervenção médica deve ser compreendida e consentida pelo paciente para – inclusive – excluir sua antijuridicidade.

Nem sempre foi assim. Para compreender o momento atual, é preciso encará-lo, antes, em perspectiva histórica. Os primeiros séculos da história da medicina foram marcados por uma posição de superioridade entre os detentores do conhecimento médico e os pacientes leigos. A arte médica era vista como algo divino, sobrenatural, e pouco ou quase nenhum questionamento existia com relação às decisões e determinações daqueles agraciados com o dom do conhecimento.

A ideia de que o paciente possuía direitos atinentes a sua condição de ser humano começou a ganhar corpo a partir das Revoluções Francesa e Industrial. Paulatinamente, o médico foi perdendo o caráter divino e assumindo a forma de um profissional comum, sujeito a falhas e a questionamentos. Ao mesmo tempo, a massificação e a despersonalização do atendimento – figuras presentes nas últimas décadas – inseriram de vez no cotidiano da saúde os conceitos de responsabilidade ética, civil e penal, fazendo com que os conceitos inerentes ao prévio consentimento fossem enraizados e estabelecidos de maneira definitiva na relação médico-paciente.

Miguel Kfouri Neto relata a primeira referência histórica ao consentimento informado: um julgamento inglês do ano de 176745, relativo ao caso de um paciente que procurou dois médicos para dar continuidade a um tratamento de fratura óssea em sua perna. Estes, em padrão considerado normal para a época, não consultaram o paciente a respeito de sua opinião, tampouco lhe informaram sobre as opções de tratamento, retirando as bandagens e desunindo propositadamente o calo ósseo “com o objetivo de utilizar um aparelho, de uso não-convencional, para provocar tração durante o processo de consolidação”. A inabilidade em lidar com o aspecto humano da relação, não enxergando o paciente, mas apenas o tratamento (ou o problema), fez com que a questão fosse levada para discussão no tribunal, sob a alegação de que os médicos provocaram “por ignorância e imperícia” uma nova fratura, causando danos desnecessários, além de não terem informado ao paciente sobre o procedimento que seria realizado. Os dois médicos que testemunharam como peritos (expert witness) afirmaram que o equipamento utilizado não era de uso corrente e refraturar uma lesão óssea era medida excepcional, apenas aplicável ao caso de estar muito mal consolidada, indicando, ainda, que eles somente adotariam este tipo procedimento com o consentimento do paciente. Inclusive, o paciente em questão alegou que tinha protestado quando o procedimento teve início, solicitando que não fosse levado adiante. Diante da análise desses fatos, o tribunal condenou os médicos “por quebra do contrato na relação assistencial com o paciente (…). Na sentença, ficou claro que o juiz estava preocupado tanto com a falta de consentimento, quanto com a falta de informação. Vale lembrar que, naquela época, era prática dos cirurgiões informarem ao paciente sobre os procedimentos que seriam realizados devido à necessidade de sua colaboração durante as cirurgias, pois ainda não havia anestesia”

Na doutrina francesa, um dos primeiros julgamentos a fazer referência aos direitos do paciente, em 1942, trata – não por acaso – da questão do consentimento47. A maioria das legislações europeias já reconheciam importância da necessidade de obtenção do consentimento do paciente, mesmo antes do desenvolvimento da doutrina norte- americana a respeito do tema. Em França, atualmente, o conceito de consentement éclairé é bastante respeitado, estando inserto em diversas peças legislativas, a exemplo da Lei de 20 de dezembro de 1978, que trata de experiências biomédicas, da Lei nº 94.653, de 29 de julho de 1994, que introduziu o art. 16º, nº 3, no Código Civil Francês48, e do próprio Código Deontológico Francês, de 1995, que reforçou a evidência e a necessidade de respeito à doutrina do consentimento informado.

O mesmo entendimento doutrinário foi utilizado em 1914, nos Estados Unidos, durante o julgamento do caso Schoendorff v. Society of New York Hospitals49, que tratava de caso semelhante, em que o autor sofrera, sem seu prévio consentimento, intervenção cirúrgica. A Corte de Nova York utilizou como fundamento para a responsabilização do médico a violação da integridade física do paciente, ainda que do tratamento lhe tenha resultado algum benefício. As palavras do magistrado que presidiu o caso – Benjamin Cardozo – apostas em sua sentença, tornaram-se balizas para análise dos casos posteriores envolvendo o direito à autonomia: “every human being of adult years and sound mind has a right to determine what shall be done with his own body”.

A primeira grande resposta ético-jurídica às intervenções médicas não autorizadas foi o chamado Código de Nuremberg, promulgado em 1948, e que resultou do julgamento de médicos nazistas perante o Tribunal Internacional de Nuremberg, por conta de suas práticas de “pesquisas científicas” com prisioneiros de guerra, até hoje tidas como exemplos de injustificável barbárie. O próprio caráter cosmopolita e o momento histórico do julgamento se encarregaram de conferir ao Código de Nuremberg um incremento na doutrina do consentimento, fazendo com que os mais diversos códigos deontológicos e as legislações nacionais passassem a se preocupar não somente com o conteúdo, mas também com a qualidade da informação prestada pelos médicos, e não apenas aquelas relativas a pesquisas, mas especialmente as pertinentes ao tratamento e intervenções cirúrgicas. Em outras palavras, o consentimento meramente formal do paciente não bastava, se desacompanhado do exercício pleno de sua autonomia.

Entretanto, o consentimento informado não pode se confundir com a efetiva prestação da obrigação de informar, posto ser apenas parte desta. Luciana Mendes Roberto assim o define:

o consentimento informado é o consentimento dado pelo paciente, baseado no conhecimento da natureza do procedimento a ser submetido e dos riscos, possíveis complicações, benefícios e alternativas de tratamento. Ou seja, é uma concordância na aceitação dos serviços a serem prestados pelo profissional de saúde em troca do pagamento do paciente ou responsável, estando este informado adequadamente do que está consentindo. […] Pode-se afirmar, por fim, que, como ato jurídico em sentido estrito, o consentimento informado tem seus efeitos limitados à manifestação de vontade do paciente, não gerando direitos ao profissional de saúde. Cumpre, assim, sua função social implícita no art. 104 do Código Civil, que dispõe sobre os elementos formadores no negócio jurídico, aplicável ao ato jurídico conforme o art. 185 do mesmo diploma, bem como o art. 166, VI, pois o negócio jurídico é nulo quando tiver por objetivo fraudar lei imperativa.

Ao paciente, é necessário estar de posse de todos os elementos possíveis a sua compreensão, para que – aí sim – possa exercer a faculdade de consentir com o tratamento ou intervenção proposta, escolher outras das alternativas existentes, ainda que menos indicadas pelo profissional que o assiste, ou mesmo recusar-se a se tratar. A este procedimento, que engloba o consentimento informado sem com este se confundir, se atribui o nome de escolha esclarecida.

Diversos autores corroboram este posicionamento, ainda que de forma indireta, posto que tratam de consentimento informado como um fim em si mesmo. Todos acreditam no direito à autodeterminação, exercido por pessoa consciente e capaz, após proporcionados os elementos de informação imprescindíveis ao conhecimento e compreensão do problema ou tratamento de saúde. Esta noção não é diferente em outras jurisdições. Aliás, é uma tendência de pensamento que começa a ganhar corpo, como se depreende das palavras de André Pereira:

mais recentemente, alguns autores vêm propondo um conceito mais abrangente. Assim, na doutrina anglo-saxónica critica-se a expressão informed consent, visto que a informação é apenas um aspecto do consentimento esclarecido (“comprehensive or enlightened consent”). Assim, vem sendo proposta a utilização da expressão informed choice. Este conceito teria a virtude de abranger, entre outros aspectos, a informação sobre as consequências da recusa ou revogação do consentimento, as alternativas terapêuticas, a escolha dos medicamentos (o que implica alterações à regulamentação da publicidade dos medicamentos, a escolha do estabelecimento de saúde, etc. No direito português encontramos consagrado o direito à “informação sobre os serviços de saúde existentes” e o “direito à livre escolha do médico”, e ainda o direito à “segunda opinião”. Tudo aspectos que vão para além do simples consentimento livre e esclarecido. São expressões avançadas do direito ao consentimento informado, na sua vertente mais moderna de informed choice: a autodeterminação nos cuidados de saúde implica, não só que o paciente consinta ou recuse uma (heteronomamente) determinada intervenção, mas que tenha todos elementos de análise sobre as possibilidades de tratamento possíveis, no domínio médico, cirúrgico e farmacêutico.

Em outras palavras, mesmo com a obtenção do válido e regular consentimento informado, se este não é resultante de uma escolha esclarecida, está sujeito aos riscos decorrentes da própria imprevisibilidade inerente à atividade médica.

É necessário entender que o processo de consentimento se constitui, concomitantemente, em um direito do paciente, e em um dever do médico. O paciente deve ser informado de maneira compreensível à sua capacidade cognitiva, a respeito de seu diagnóstico, riscos, prognósticos e alternativas existentes para seu tratamento. Importante destacar que o simples ato de ler e assinar um papel, um documento, não é suficiente para a desoneração do ônus de informar adequadamente (ainda que a assinatura de um documento seja importante para a comprovação da conduta diligente).

Maria Helena Diniz reconhece o direito à autonomia, e a importância do processo de consentimento informado:

o paciente tem direito de opor-se a uma terapia, de optar por tratamento mais adequado ou menos rigoroso, de aceitar ou não uma intervenção cirúrgica, de mudar ou não de médico ou hospital etc. O objetivo do princípio do consentimento informado é aumentar, como diz Mark Hall, a autonomia pessoal das decisões que afetam o bem-estar físico e psíquico. […] Esse direito de autodeterminação dá origem ao dever erga omnes de respeitá-lo, fundamentado no princípio da dignidade da pessoa humana. […] Esse consentimento dado pelo paciente, após receber a informação médica feita em termos compreensíveis, ou seja, de maneira adequada e eficiente, é uma condição indispensável da relação médico paciente, por ser uma decisão que leva em consideração os objetivos, os valores, as preferências e necessidades do paciente e por ele tomada depois da avaliação dos riscos e benefícios.

Ressalte-se que a moderna doutrina do consentimento informado compreende um papel consultivo do médico, o que envolve um processo de diálogo. O cuidado com o dever de informação, e com o direito à autonomia por parte do paciente, não podem se esgotar em um procedimento tão hermético e falho quanto o da obtenção do consentimento informado. Hermético, por não permitir ao enfermo (usuário do serviço de saúde, e consumidor em última análise), uma visão mais abrangente de seu quadro, restringindo seu papel ao ato de consentir ou não com o tratamento proposto. Justamente por isso, falho, já que impede o exercício da escolha esclarecida, que pressupõe não somente o conhecimento de todas as alternativas, mas também a compreensão do que cada uma delas pode representar.

Entender esse processo de consentimento como um fim em si mesmo não atende aos princípios espalhados por todo o ordenamento jurídico brasileiro, criando uma falha no cumprimento do dever de informação. É um engano pensar que a obtenção do simples consentimento informado, nos termos como é conhecido e vem sendo praticado, pode representar uma excludente de responsabilidade civil, ou mesmo um eximente de culpabilidade, no caso de ocorrer um resultado não desejado ao longo do tratamento. Mesmo um resultado satisfatório do ponto de vista clínico, pode, mais tarde, vir a ser interpretado como falho, se confrontado com outros possíveis desfechos esperados a partir de outros métodos terapêuticos não informados ao paciente.

Essa ausência de informação não significa necessariamente uma atitude negligente, mas, sim, a expressão da convicção do médico, baseada em sua própria experiência ou na literatura especializada, de que o tratamento proposto era o mais adequado ao caso concreto. Ocorre que tal não é suficiente para suprir, de maneira completa, os princípios éticos e jurídicos que o obrigam a apresentar toda a informação disponível ao paciente. A não indicação de todas as alternativas possíveis pode ser entendida, em um eventual procedimento disciplinar, ou mesmo jurídico, como indução ao tratamento por meio de omissão de informações, o que contraria os princípios da autonomia e da boa-fé objetiva.

Em contexto brasileiro, há recente decisão paradigmática do Superior Tribunal de Justiça (STJ), no sentido de que há efetivo cumprimento do dever de informação quando os esclarecimentos se relacionarem especificamente ao caso concreto do paciente, não se mostrando suficiente a informação genérica. Por isso, não será considerado válido o consentimento genérico (blanket consent), necessitando ser claramente individualizado. A autodeterminação do paciente só é verdadeiramente exercida quando as informações prestadas são específicas, para o caso concreto aquele paciente específico, e não genéricas. Portanto, o dever de informação assumido pelo médico restará cumprido a partir da análise do “critério do paciente concreto”, ou seja, a explicação do profissional deve ser extensa e adaptada ao nível intelectual e cultural do doente.

Destacam-se, ainda, as lições de Felipe Braga Netto e Nelson Rosenvald, ao explicarem que, atualmente, os deveres contratuais do médico de informar com lealdade e transparência encontram-se fortalecidos:

sabemos que a liberdade de contratar será exercida em razão e nos limites da função social do contrato (Código Civil, art. 421). Bem distante estamos do tempo em que a autonomia da vontade, em relação aos contratos, era absoluta, com religiosa reverência ao pacta sunt servanda. Se há, hoje, um contrato que deve ser intensamente lido à luz de sua função social é aquele relativo à prestação de serviços de saúde. Não é qualquer bem que está em jogo. É a saúde humana. (…) Os deveres de informar com lealdade e transparência se fortalecem. Não cabe mais, como no passado, manter o paciente em estado de ignorância acerca do estado de sua saúde, suas escolhas e possibilidades. Apenas em casos excepcionais, devidamente contextualizados, isso poderá ocorrer. (…) O paciente, desse modo, tem direito ao diagnóstico correto e claro, bem como de ser informado acerca dos riscos e objetivos do tratamento. Deve, portanto, estar a par não só do diagnóstico, mas também do prognóstico. (…) O que se espera, de modo mais amplo, dos médicos – antes, durante e depois das cirurgias, consultas ou tratamentos – é que ajam banhados pela boa- fé objetiva, pelo dever de cuidado e cooperação. Espera-se informação clara, adequada e suficiente.

Com a utilização cada vez mais acentuada das tecnologias na área da saúde, especialmente da telemedicina, robótica e inteligência artificial, esses deveres de informar com lealdade e transparência, inevitavelmente, se fortalecem, implicando maiores ponderações acerca do consentimento livre e esclarecido do paciente. A atual doutrina do consentimento informado compreende um papel consultivo do médico, o que envolve um processo de diálogo, cujo objetivo é assegurar que o doente compreenda todas as circunstâncias do tratamento proposto e da tecnologia utilizada para esse fim, bem como as razoáveis alternativas terapêuticas, possibilitando a tomada de decisão bem informada.

Na cirurgia assistida por robô ou diagnóstico apoiado por inteligência artificial, assim como em quaisquer outras intervenções médicas, o dever de informar é um dever de conduta decorrente da boa-fé objetiva do médico e sua simples inobservância caracteriza

inadimplemento contratual. Ademais, a indenização é devida pela privação sofrida pelo paciente em sua autodeterminação, por lhe ter sido retirada a oportunidade de ponderar sobre riscos e vantagens de determinado tratamento, que, ao final, causou-lhe danos que poderiam ser evitados, caso não fosse realizado o procedimento por opção do paciente. A fim de se estabelecer o dever de indenizar, é preciso verificar o nexo causal entre a omissão da informação e o dano. Quando a intervenção médica é correta – mas não se informou adequadamente –, a culpa surge pela falta de informação – ou pela informação incorreta. Não é necessária negligência no tratamento. A vítima deve demonstrar que o dano provém de um risco acerca do qual deveria ter sido avisada, a fim de deliberar sobre a aceitação ou não do tratamento.

3. Contornos específicos do consentimento do paciente submetido à cirurgia robótica e telecirurgia

A Intuitive Surgical, empresa estadunidense fabricante do robô cirurgião chamado Da Vinci (Da Vinci Surgical System), entre 2001 e 2018, vendeu mais de 2.900 plataformas robóticas nos Estados Unidos e 4.500 no restante do globo. Estima-se que essa tecnologia já proporcionou a realização de cirurgias minimamente invasivas para mais de seis milhões de pessoas ao redor do mundo. Em localidades que não dispõem de especialista, também podem ser realizadas telecirurgias.

Apesar dos inúmeros benefícios da robótica nas cirurgias, conforme expusemos no primeiro capítulo – eliminação dos tremores naturais da mão humana; maior flexibilidade dos braços robóticos que podem girar 360º; maior precisão no corte e sutura dos tecidos, com a consequente diminuição da perda de sangue e cicatrizes menores –, a complexidade do organismo humano e a inevitável influência de fatores externos fazem da álea terapêutica, ou seja, da incerteza um atributo indissociável da prática médica. A robótica implementada nas cirurgias não elimina o fator de imprevisibilidade no tratamento médico.

Atualmente, em contexto norte-americano, tem-se notícia de diversas pessoas pleiteando indenização por danos sofridos durante a performance dos robôs Da Vinci, tanto com base na violação do dever de informação (consentimento informado) como também na culpa médica ou no defeito do produto. Até o momento, todos os conflitos envolvendo eventos adversos em cirurgia robótica foram resolvidos extrajudicialmente com a fabricante, com cláusula de confidencialidade sobre os seus termos ou, ainda, decididos sumariamente pelo juiz (summary judgment) na fase chamada pretrial, com exceção de dois casos levados a julgamento pelos tribunais norte-americanos, os quais, posteriormente, também resultaram em acordo: Zarick v. Intuitive Surgical (2016) e Taylor v. Intuitive Surgical (2017). Não é difícil prever, a partir da experiência, sobretudo dos Estados Unidos, que poderão surgir situações geradoras de ações indenizatórias por danos ocorridos durante uma cirurgia robótica no Brasil. Recentemente, foi julgado pela 4ª Vara Cível da Comarca de Florianópolis/SC, o primeiro caso que se tem notícia no Brasil sobre evento adverso em paciente submetido a cirurgia robótica.

Na cirurgia robótica, assim como em quaisquer outras intervenções médicas, o dever de informar é um dever de conduta decorrente da boa-fé objetiva do médico e sua simples inobservância caracteriza inadimplemento contratual. Ademais, a indenização é devida pela privação sofrida pelo paciente em sua autodeterminação, por lhe ter sido retirada a oportunidade de ponderar sobre riscos e vantagens da cirurgia robótica, que, ao final, causou-lhe danos que poderiam ser evitados, caso não fosse realizado o procedimento com a tecnologia robótica por opção do paciente. A fim de se estabelecer o dever de indenizar, é preciso verificar o nexo causal entre a omissão da informação e o dano. A vítima deve demonstrar que o dano provém de um risco acerca do qual deveria ter sido avisada, a fim de deliberar sobre a aceitação ou não do tratamento.

Em 2009, o Tribunal Distrital da Pensilvânia, nos Estados Unidos, julgou a resolução do caso Mracek v. Bryn Mawr Hospital and Intuitive Surgical sem análise do mérito (summary judgement), por entender que o paciente não pôde produzir suficiente evidência direta ou circunstancial da condição defeituosa do robô Da Vinci na fase chamada pretrial e, portanto, não conseguiu apresentar o nexo de causalidade entre o defeito do dispositivo e o dano sofrido. Mracek tinha se submetido, em 2005, à cirurgia de prostatectomia robótica no hospital Bryn Mawr, na Filadélfia. Durante o procedimento, o robô começou a exibir mensagens de erro e a equipe tentou reiniciar a plataforma robótica várias vezes para conseguir continuar a cirurgia. Após funcionários do hospital ligarem para o suporte técnico da Intuitive Surgical, um representante foi até a sala de operações e tentou solucionar os problemas do robô, incluindo a tentativa de reposicionamento dos seus braços, mas não teve sucesso. Diante disso, a equipe abandonou a plataforma robótica e o médico concluiu o procedimento cirúrgico com o equipamento laparoscópico tradicional. Entre o instante que a equipe médica resolveu não utilizar mais o robô e o momento em que o equipamento laparoscópico foi trazido e utilizado, passaram-se aproximadamente 45 minutos.

Ao analisar esse julgamento, o professor Ugo Pagallo, no livro “The Laws of Robots: Crimes, Contracts, and Torts” , explica que o ônus da prova, nesse tipo de demanda indenizatória em face do fabricante, recai sobre o autor, isto é, caberá ao demandante provar que “o produto estava com defeito; que esse defeito existia enquanto o produto estava sob o controle do fabricante; e, além disso, o defeito foi a causa imediata dos danos sofridos pelo autor”. Caberia ao paciente demonstrar a ocorrência desse defeito “por meio de evidências circunstanciais da ocorrência de um mau funcionamento ou por meio de evidência que elimine o uso incorreto do produto ou causas secundárias para o acidente”. Contudo, curiosamente, Mracek não apresentou nenhuma prova pericial de especialista (expert report) para apoiar ou corroborar suas alegações de defeito no robô. Isso, porque o paciente defendeu que o defeito do robô era “óbvio o suficiente para ser verificado pelos jurados sem especulação”.

De qualquer modo, este julgado demonstra algo muito importante para o nosso estudo: a possibilidade de intercorrências no ato cirúrgico assistido por robô com a consequente necessidade de conversão para uma cirurgia aberta. Estes mesmos riscos estão presentes – em certa medida, até potencialmente maiores – nas telecirurgias.

Imagine-se que um cirurgião, localizado em um hospital em Coimbra (Portugal), estivesse realizando uma telecirurgia em um paciente em Recife (Brasil), no exato momento em que o sistema do hospital português sofre interrupção por invasão de hackers. Diante disso, o monitor – que passava imagens do sítio cirúrgico do paciente brasileiro – de repente, fica preto, não sendo mais possível saber quais movimentos serão reproduzidos pelo robô. Necessariamente, a equipe do hospital local brasileiro estará em prontidão, ao lado do paciente e, verificando qualquer falha no sistema ou movimento imprevisível

do robô cirurgião, deverá afastar este do paciente e, imediatamente, adotar as condutas emergenciais cabíveis, incluindo a transformação do procedimento cirúrgico em uma cirurgia convencional (aberta), sem a assistência do robô.

Esse é um exemplo, dentre tantos outros, de que podem ocorrer situações em que a cirurgia robótica a distância precisará ser interrompida e substituída por uma cirurgia convencional, realizada pelas próprias mãos de outro médico, que se encontra junto ao paciente, sem interferência do aparato tecnológico. E, muitas vezes, surgirão cicatrizes maiores no corpo do paciente, pois aquela cirurgia robótica minimamente invasiva precisará ser transformada em uma cirurgia aberta, com cortes mais extensos. Segundo a própria empresa fabricante do robô Da Vinci, essa conversão do procedimento pode significar “um tempo cirúrgico mais longo, mais tempo sob anestesia e/ou a necessidade de incisões adicionais ou maiores e/ou aumento de complicações”, informações estas que deverão ser repassadas previamente ao paciente.

Ressalta-se, portanto, que a informação sobre a possibilidade de intercorrências no ato cirúrgico por falha do sistema ou do equipamento robótico, com a consequente transformação da cirurgia robótica para uma convencional, deve ser claramente transmitida ao paciente. Nesse sentido, Deborah Dubeck, no artigo “Robotic-Assisted Surgery: Focus on Training and Credentialing”, explica algumas peculiaridades do consentimento informado na cirurgia robótica:

os pacientes precisam saber mais do que apenas os riscos gerais, benefícios e alternativas que estão associadas ao procedimento. O risco de falha do robô e a prontidão para implementar um plano de contingência, com a conversão para um procedimento aberto, são questões que devem ser abordadas no consentimento informado do paciente. Os cirurgiões precisam passar algum tempo com o paciente explicando os prós e contras da cirurgia robótica, comparando-a com outras alternativas de terapêutica.

Imagine-se outro cenário de um médico que realiza remotamente uma cirurgia robótica de revascularização miocárdica em uma paciente. Durante o procedimento, o braço robótico realiza um movimento, aparentemente inesperado, e corta uma artéria coronária. Caso o profissional seja demandado em uma ação de reparação de danos, será de crucial importância, inicialmente, investigar o nexo causal entre a conduta médica e o dano sofrido. Pode-se chegar à conclusão de que o médico não agiu com culpa – atuou com a prudência, diligência e conhecimento exigíveis – e o dano causado ao paciente foi devido ao tempo de latência entre os movimentos das mão do cirurgião e a replicação pelo robô.

Por isso, em resumo, dentre os riscos que deverão constar no termo de consentimento para a realização da cirurgia robótica a distância, mencionam-se:

1) possibilidade de interrupção da telecirurgia por algum problema de conexão com a internet ou mesmo falha do próprio equipamento; 2) existência de um time delay entre os movimentos do cirurgião e a reprodução pelo robô, que pode gerar algum evento adverso; 3) demais riscos técnicos decorrentes de falha do software ou da própria limitação tecnológica; e 4) possibilidade de acesso ilícito por terceiros dos dados da saúde do paciente armazenados em rede.

Sobre este último ponto, no que se refere especificamente à proteção de dados sensíveis do paciente na telemedicina – aí incluída a telecirurgia, reservamo-nos à abordagem no capítulo subsequente.

Frise-se, ademais, que, no termo de consentimento para a prática da cirurgia assistida por robô, seja realizada de forma presencial ou a distância (telecirurgia), deverão constar informações sobre os benefícios esperados e os possíveis riscos associados à utilização da tecnologia. Acima de tudo, o médico precisa expor claramente ao paciente quais as diferenças na adoção de uma cirurgia robótica em relação à convencional para aquele caso específico.

A questão da culpa médica em cirurgia robótica, devido ao insuficiente treinamento dos médicos, já foi muito criticada sobretudo por terem ocorrido alguns casos, principalmente nos Estados Unidos e na Europa, de pacientes alegarem que sofreram danos durante a cirurgia justamente devido à imperícia médica. Em 2015, um paciente morreu após se submeter à cirurgia robótica no Freeman Hospital, em Newcastle, Inglaterra. O robô fez um movimento brusco e dilacerou parte do coração durante a cirurgia. O médico acabou admitindo seu insuficiente treinamento prévio com a tecnologia e, ainda, o hospital admitiu sua falha em adotar políticas adequadas de treinamento em cirurgia robótica.

Situações como a narrada, demonstram a imprescindibilidade de serem transmitidas ao paciente algumas informações:

1) qual o treinamento e a experiência do médico em cirurgias assistidas por robô; 2) qual é a política de treinamento em cirurgia robótica do hospital onde será realizado o procedimento; 3) se a cirurgia robótica em questão já foi realizada por qualquer outra pessoa no mesmo hospital ou em qualquer outra entidade hospitalar do País; e 4) quais são os benefícios e riscos da cirurgia assistida por robô em relação à cirurgia convencional.

Ugo Pagallo, no livro “The Law of Robots” , explica que, apesar dos sistemas cirúrgicos do robô Da Vinci poderem reduzir o tempo das hospitalizações em cerca de metade e os custos hospitalares em cerca de um terço, “há o risco de erro médico devido ao treinamento deficiente com o sistema robótico”88. Isso porque “os cirurgiões não recebem tempo e recursos suficientes para aprenderem a utilizar o robô de forma adequada (…) os cirurgiões com extensa experiência na tecnologia robótica declaram que são necessárias pelo menos 200 cirurgias para se tornarem proficientes no sistema Da Vinci”. Até pouco tempo atrás, notava-se uma realidade de médicos com pouca prática, que realizavam cirurgias robóticas depois de realizarem pouquíssimos procedimentos cirúrgicos com auxílio do proctor. Hoje, já se observa uma tendência de mudança do modelo de treinamento, especialmente pela existência de simuladores do robô, para que os médicos possam praticar no próprio hospital onde atuam.

O fato é que o médico tem o dever de revelar previamente ao paciente a sua especialização, bem como a sua experiência com a tecnologia robótica. Inclusive, nos Estados Unidos, o Massachusetts Board of Registration in Medicine adverte que “pacientes devem ser comunicados da experiência do cirurgião na prática do procedimento robótico recomendado”. Ainda, vale destacar que o próprio fabricante do robô Da Vinci, em recente recomendação no seu website, indica que “os cirurgiões devem informar seus pacientes sobre a existência de outras técnicas cirúrgicas disponíveis” e também precisam “discutir sua experiência cirúrgica e expor todos os riscos com seus pacientes”.

Após a análise de todos os contornos da cirurgia assistida por robô, propomo-nos a elaborar os itens essenciais ao termo de consentimento para a prática da cirurgia robótica. Seja realizada de forma presencial ou a distância (telecirurgia), deverão constar ao menos 12 informações: 1) descrição da maneira que é realizada a cirurgia assistida por robô e suas principais vantagens; 2) diferenças na adoção de uma cirurgia robótica em relação à convencional (aberta ou laparoscópica) para aquele caso específico; 3) informações gerais sobre os benefícios esperados e os possíveis riscos associados à utilização da tecnologia; 4) esclarecimento sobre o treinamento e a experiência do médico em cirurgias assistidas por robô; 5) dados sobre a política de treinamento em cirurgia robótica do hospital onde será realizado o procedimento; 6) informação se a cirurgia robótica em questão já foi realizada por qualquer outra pessoa no mesmo hospital ou em qualquer outra entidade hospitalar do país; 7) apontamento sobre a possibilidade de ocorrer interrupção da telecirurgia por algum problema de conexão com a internet ou mesmo falha do próprio equipamento na cirurgia robótica; 8) indicação da possibilidade de intercorrências no ato cirúrgico por falha do sistema ou do equipamento robótico, com a consequente transformação da cirurgia robótica para uma convencional (aberta) sem a assistência do robô – inclusive com outro médico a comandar o ato cirúrgico, que não aquele previamente acordado com o paciente; 9) informação de que a necessidade de conversão da cirurgia robótica para a convencional (aberta) implica em cortes maiores e maior tempo de paciente sob anestesia, o que gera maiores riscos ao paciente; 10) esclarecer que na telecirurgia há um time delay entre os movimentos da mão do cirurgião e a reprodução pelo robô, que pode gerar algum evento adverso; 11) exposição de demais riscos técnicos decorrentes de falha do software ou da própria limitação tecnológica; e 12) indicar com transparência a maneira que os dados do paciente são armazenados em rede e a possibilidade de acesso ilícito por terceiros.

Diante dos itens acima elencados, analisamos o termo de consentimento informado para a realização de prostatectomia radical assistida roboticamente, que foi elaborado por um hospital brasileiro sediado em Belo Horizonte, segundo documento disponibilizado no website da instituição. Pudemos constatar a sua incompletude, especialmente sobre a possibilidade da transformação da cirurgia robótica para uma convencional (aberta) sem a assistência do robô implicar em cortes maiores e maior tempo de paciente sob anestesia, o que gera maiores riscos a ele. Ademais, não é mencionada outra questão fundamental: na conversão para a cirurgia convencional, muito provavelmente outro médico irá assumir o ato cirúrgico, que não aquele previamente acordado com o paciente.

Vale também mencionar que, caso a cirurgia robótica seja realizada à distância, o termo de consentimento precisa conter informações específicas sobre o time delay entre os movimentos da mão do cirurgião e a replicação pelo robô. A telecirurgia é modalidade de telemedicina, que utiliza os dados de saúde do paciente em nuvem, motivo pelo qual exigem-se ponderações sobre o consentimento específico sobre o tratamento de dados, conforme veremos no capítulo a seguir.

4.   Era da Medicina Digital e Telemedicina: repercussões sobre proteção de dados e consentimento do paciente

A telemedicina – que é a prestação de serviços de saúde por meio de tecnologias da informação e da comunicação, em que o profissional da saúde e o paciente não estão presentes

“Declaração de Tel Aviv”:

1) teleassistência; b) televigilância; c) teleconsulta; d) interação entre dois médicos; e e) teleintervenção. A teleassistência possibilita a avaliação remota da situação clínica do paciente e a determinação de providências emergenciais adequadas, sem o deslocamento até uma unidade de saúde. A televigilância (ou telemonitoramento) destina-se ao monitoramento da condição de saúde do paciente de forma remota e ocorre transmissão constante de dados do paciente (pressão arterial, índice glicêmico etc.), em tempo real, possibilitando o acompanhamento mais eficaz do médico sobre o seu quadro clínico e a necessidade de adaptação medicamentosa. Já a teleconsulta é uma consulta não presencial, isto é, o atendimento por intermédio de quaisquer mecanismos de telecomunicação, sem o contato direto entre médico e paciente.

A interação entre dois médicos (teleinterconsulta), por sua vez, caracteriza-se pelo atendimento ao paciente por um médico presencialmente, mas sendo este auxiliado remotamente por outro médico detentor de conhecimento específico na área. Por fim, a teleintervenção, modalidade que não está expressamente prevista na Declaração de Tel Aviv, porém é extraída das suas disposições gerais, consiste na ingerência a distância em exames médicos ou procedimentos cirúrgicos, em que o médico, por exemplo, com auxílio de robô ou médico assistente, realiza a intervenção cirúrgica (telecirurgia) ou o telediagnóstico.

Tradicionalmente, o atendimento do paciente ocorria de forma presencial. Os inúmeros avanços tecnológicos, contudo, possibilitaram a adoção de novos recursos e a prestação de serviços de saúde a distância, no intuito de promover e garantir amplo acesso à saúde. Contudo, observa-se ainda certa resistência, inclusive da própria comunidade médica, na ampla adoção da tecnologia.

No Brasil, o Conselho Federal de Medicina (CFM) editou a Resolução nº 1.643/2002, em que define e disciplina prestação de serviços da saúde à distância. No entanto, referido documento possui algumas imprecisões e incompletudes. Em 2019, o CFM publicou a Resolução nº 2.227/2018, atualizando as normas de funcionamento da telemedicina no País, definindo e disciplinando tal recurso como forma de prestação de serviços médicos mediados por tecnologias. A ideia era ampliar a prática de telemedicina no território brasileiro, pela realização de consultas, diagnósticos e cirurgias à distância. Abordavam-se outras questões não mencionadas na resolução anterior, tais como teletriagem, telemonitoramento, teleconferência de ato cirúrgico e telecirurgia com auxílio de robôs. Contudo, cerca de três semanas após a resolução ser publicada, o CFM decidiu revogá-la, devido a ampla controvérsia na aceitação e na forma de implementação da telemedicina entre os médicos e conselhos regionais de medicina.

No que importa ao foco do presente estudo – o termo de consentimento livre e esclarecido do paciente submetido à telemedicina –, há importante ponderação a ser realizada entre as duas Resoluções supracitadas. Pela leitura literal da Resolução nº 1.643/2002, o consentimento do paciente restringe-se à transmissão de dados96, tendo em vista a ausência de previsão expressa quanto à necessidade de obtenção do consentimento do paciente quanto à submissão ao atendimento na forma remota. Há, ainda, disposição de que “o médico tem liberdade e completa independência para decidir se utiliza ou não recomenda o uso da telemedicina para seu paciente, e que tal decisão deve basear-se apenas no benefício do paciente”97. Visivelmente, o texto reflete uma antiga e ultrapassada visão paternalista na relação médico-paciente que ainda vigorava à época em que a Resolução foi publicada no Brasil.

Assim, precisa-se buscar interpretação sistemática de normas que justifique a necessidade de o paciente consentir, não somente sobre o tratamento de dados, como também quanto a própria submissão ao atendimento não presencial. O Código de Ética Médica veda que o médico deixe de “de obter consentimento do paciente ou de seu representante legal após esclarecê-lo sobre o procedimento a ser realizado, salvo em caso de risco iminente de morte”. Há de se considerar também que, conforme dispõe a Recomendação nº 01/2016 do CFM, o princípio de respeito à autonomia “tornou-se, nas últimas décadas, uma das principais ferramentas conceituais da ética aplicada, sendo utilizado em contraposição ao assim chamado paternalismo médico”.

Por outro lado, na revogada Resolução nº 2.227/2018 havia expressa previsão, no art. 3º, § 4º, de que o teleatendimento “deve ser devidamente consentido pelo paciente ou seu representante legal e realizado por livre decisão e sob responsabilidade profissional do médico”. Há também disposição sobre a obrigatoriedade dos registros eletrônicos do termo de consentimento livre e esclarecido nas teleconsultas (art. 5º, II) e, nas telecirurgias robóticas, indica-se a necessidade de manifestação expressa de vontade (art. 6º, § 6º) e registro em prontuário (art. 8º, § 7º). Por fim, no que se refere ao consentimento para o tratamento de dados do paciente, o art. 18 prevê que:

o paciente ou seu representante legal deverá autorizar a transmissão das suas imagens e dados por meio de consentimento informado, livre e esclarecido, por escrito e assinado, ou de gravação da leitura do texto e concordância, devendo fazer parte do Sistema de Registro Eletrônico/Digital do teleatendimento ao paciente.

No parágrafo único do mesmo dispositivo indica-se que “é preciso assegurar consentimento explícito, no qual o paciente deve estar consciente de que suas informações pessoais podem ser compartilhadas e sobre o seu direito de negar permissão para isso”. Vale destacar, por fim, que nas disposições indiciais da Resolução comenta-se sobre o consentimento para o compartilhamento de dados na teleinterconsulta:

as informações sobre o paciente identificado só podem ser transmitidas a outro profissional com prévia permissão do paciente, mediante seu consentimento livre e esclarecido e com protocolos de segurança capazes de garantir a confidencialidade e integridade das informações.

Sem adentrarmos no mérito do motivo que levou à revogação da Resolução de 2018, o fato é que, apesar de ter sofrido severas críticas em alguns pontos, ela trazia importantes (e necessárias) disposições sobre a necessidade de um duplo consentimento informado do paciente submetido à telemedicina, isto é, “além do consentimento sobre riscos e benefícios na utilização da tecnologia, é também fundamental o consentimento do paciente para o tratamento dos seus dados sensíveis”98.

No termo de consentimento livre e esclarecido para a prática da telemedicina, deverão constar informações sobre os benefícios esperados e os possíveis riscos associados à utilização da tecnologia. Acima de tudo, o médico precisa expor claramente ao paciente quais as diferenças na prestação do serviço médico a distância em relação ao atendimento presencial, para aquele paciente e caso específicos. Após repassadas todas as informações necessárias, ainda é imprescindível um diálogo entre o médico e o paciente, no intuito de que aquele se certifique que este compreendeu tudo que lhe foi transmitido. Conforme expõe Miguel Kfouri Neto, há quatro principais riscos envolvidos na telemedicina:

1. ) mau funcionamento temporário ou irregularidade dos programas de computador, acarretando alguma espécie de dano para o paciente (falhas em registros no prontuário, por exemplo, podem fazer com que o médico atendente prescreva medicação à qual o paciente é alérgico, causando- lhe danos); 2) limitações do software – a telemedicina depende de um bom software, que armazene os dados dos pacientes e, ao mesmo tempo, gerencie todo o sistema. Falhas nesse programa podem gerar mais prejuízos que benefícios; 3) imperícia médica pela falta de aptidão para utilizar a tecnologia; e 4) ataque de hackers aos dados dos pacientes99.

Se pensarmos nas teleconsultas, há alguns riscos e problemas inerentes à tecnologia. Pode ocorrer de, por exemplo, durante uma teleconsulta, o médico perceber que as informações transmitidas pelo paciente, por meio da videoconferência, não são suficientes

para um diagnóstico preciso. Isso pode ser devido à limitação da plataforma utilizada no atendimento, baixa resolução das imagens ou, ainda, por aquele caso específico demandar uma anamnese com exame físico presencial do paciente. Situações similares à narrada, demonstram a necessidade de o profissional informar previamente o paciente, antes mesmo de ser submetido à teleconsulta, sobre os riscos do tratamento médico à distância e que, durante a teleconsulta, pode ser verificada a inviabilidade de formular um quadro diagnóstico preciso, devido às limitações da própria tecnologia.

Na telemedicina há também a necessidade de consentimento para o tratamento dos seus dados sensíveis, com informações sobre a finalidade da utilização destes sensíveis, os riscos de tratamento irregular dos dados ou acesso ilícito de terceiros. Deve-se levar em consideração que, na telemedicina, o profissional da saúde utiliza as informações eletrônicas do paciente em rede, especialmente os seus dados sensíveis – tais como exames médicos e outros dados de saúde – e, enquanto realiza o atendimento remotamente, analisa-as constantemente.

De modo geral, quando se trata de processamento de dados pessoais, dentre os principais riscos estão, segundo explica Matthieu Grall, o tratamento irregular de dados (especialmente em relação à privacidade), as decisões automatizadas no processamento dos dados e a falta de informações ou consentimento sobre como os dados foram coletados, tratados e compartilhados. Na telemedicina, o risco de exposições é considerado mais profundo101, tendo em vista que os dados de saúde são considerados como um alvo de crimes virtuais102.

Em 2018, 274 episódios de invasões de dados em organizações da saúde foram reportados ao U.S. Department of Health and Human Services Office for Civil Rights. Diversas empresas e entidades hospitalares de países da Europa, como Espanha, Inglaterra e Portugal, foram alvos de ataques cibernéticos em 2017. No Reino Unido, 16 hospitais do Serviço Público de Saúde foram afetados e alguns pacientes em situação de emergência precisaram ser transferidos. Além disso, informações sobre pacientes, agenda de consultas, linhas internas de telefone e e-mails ficaram temporariamente inacessíveis. No Brasil, ocorreram aproximadamente 15 bilhões de ataques cibernéticos apenas nos três primeiros meses de 2020106. Há um episódio em que os computadores do Hospital

das Clínicas de Barretos sofreram ataques cibernéticos, paralisando temporariamente o funcionamento de alguns atendimentos. Isso, devido à falta de segurança na transmissão das informações, pouco cuidado ou a inexistência de chaves de acesso, permissividades diversas dos sistemas e aplicativos que fragilizam a guarda e a troca de informações. Todo esse problemático cenário tem reflexo direto na telemedicina e, especialmente, na informação da possibilidade de acesso ilícito de terceiros aos dados sensíveis, que deverá constar no termo de consentimento do paciente.

A garantia da privacidade atualmente parece ser a solução sine qua non para gerar confiança aos pacientes na telemedicina. Em um contexto em que “tudo acaba revelado”, as ameaças são reais e a necessidade de confiança na tecnologia torna-se uma questão crucial1. Desse modo, destacam-se as lições André Dias Pereira, no que se refere à abrangência da informação prestada pelo médico na telemedicina, ao afirmar que é imprescindível:

uma descrição do tipo de telemedicina que se vai realizar (telemonitoração, telemanipulação ou cirurgia robótica), a experiência e a especialização do telecirurgião (ou consultor), os fins para os quais a informação médica pode ser usada (por exemplo, para diagnóstico ou fins educacionais), e quais os objetivos e meios de controle de armazenamento da informação médica computadorizada numa base de dados. O paciente deve ter a garantia de que sua privacidade será respeitada tal como na medicina tradicional, mas que, enquanto estiverem a trabalhar on-line sempre há o risco de um terceiro ter acesso (ilícito) às informações.

No mesmo sentido, Gabriel Schulman explica que, apesar dos potenciais benefícios da telemedicina, a sua utilização pode importar em “violação aos deveres de sigilo, transparência, informação, com desrespeito à autonomia do paciente, ao direito de consentir e de modo amplo à proteção de dados pessoais” O grande desafio é manter “todos os avanços da digitalização da saúde sem comprometer o seu lado ético e humano, reforçando os códigos de conduta para proteger a informação clínica e os dados pessoais”e garantir a tutela da privacidade do paciente.

No que se refere à forma de “abastecimento” das tecnologias que envolvem a área da saúde, salientamos que os dados são por natureza sensíveis, afinal, são os dados pessoais

que revelam o estado de saúde do indivíduo e servirão, por exemplo, para o médico realizar diagnóstico em uma teleconsulta. Os dados sensíveis são considerados “combustível” para o funcionamento das novas tecnologias na saúde. Há uma questão fundamental de privacidade envolvida na telemedicina, levantando-se à preocupação:

de que os pacientes possam não saber até que ponto suas informações médicas podem ser divulgadas a outras pessoas. Praticamente, qualquer consulta por telemedicina, por exemplo, envolve a transferência eletrônica de registros médicos e informações do paciente.

Desse modo, a forma de compartilhamento dos dados de saúde – tanto a descrição da sua finalidade como dos sujeitos que terão acesso a essas informações – é um ponto de relevante importância, que deverá constar no termo de consentimento.

Na eventualidade de tratamento incorreto dos dados sensíveis de pacientes ou acesso ilícito de terceiros, há normas específicas para aferir a responsabilidade pela violação dos dados sensíveis de saúde: na União Europeia, o Regulamento Geral de Proteção de Dados (RGDP) e, no Brasil, a Lei Geral de Proteção de Dados Pessoais (LGPD), que ainda não está em vigor. Observa-se, nos últimos anos, uma mudança profunda na compreensão sobre a proteção de dados pessoais. Estes dados integram a privacidade que, por sua vez, estão vinculados à personalidade do indivíduo e ao seu desenvolvimento.

Na União Europeia, a RGPD traz expressa previsão, no artigo 35, sobre o conceito de dados pessoais relativos à saúde:

todos os dados relativos ao estado de saúde de um titular de dados que revelem informações sobre a sua saúde física ou mental no passado, no presente ou no futuro. O que precede inclui informações sobre a pessoa singular recolhidas durante a inscrição para a prestação de serviços de saúde, ou durante essa prestação (…) as informações obtidas a partir de análises ou exames de uma parte do corpo ou de uma substância corporal, incluindo a partir de dados genéticos e amostras biológicas; e quaisquer informações sobre, por exemplo, uma doença, deficiência, um risco de doença, historial clínico, tratamento clínico ou estado fisiológico ou biomédico do titular de dados, independentemente da sua fonte, por exemplo, um médico ou outro profissional de saúde, um hospital, um dispositivo médico ou um teste de diagnóstico in vitro.

Em âmbito brasileiro, a LGPD indica o conceito de “dado pessoal sensível” como:

dado pessoal sobre origem racial ou étnica, convicção religiosa, opinião política, filiação a sindicato ou a organização de caráter religioso, filosófico ou político, dado referente à saúde ou à vida sexual, dado genético ou biométrico, quando vinculado a uma pessoa natural (art. 5º, II).

Todavia, não há expressa disposição sobre o que são os dados relativos à saúde, a exemplo do que dispõe a RGPD.

A LGPD ainda não está em vigor no Brasil, contudo, são necessárias reflexões quanto aos dispositivos da lei que tratam de conceitos e princípios gerais no tratamento de dados – incluído aí o consentimento informado –, que encontram amparo também noutras fontes normativas e podem ser utilizados em interpretação extensiva. O direito fundamental à proteção de dados pessoais é:

um princípio atualmente implícito no ordenamento brasileiro, mas a proteção que se pode dele deduzir irradia seus efeitos sobre todo o arcabouço normativo complementar, garantindo racionalidade ao sistema jurídico e propiciando proteção mesmo antes do fim do prazo de vacatio legis da LGPD.

Além disso, a LGPD segue, como regra, a necessidade de consentimento do titular para que ocorra o tratamento de dados sensíveis (art. 11, I). Para os fins da lei, considera- se como consentimento “manifestação livre, informada e inequívoca pela qual o titular concorda com o tratamento de seus dados pessoais para uma finalidade determinada” (art. 5º, XIII). Interessante observar que, na hipótese de mudanças da finalidade para o tratamento de dados pessoais não compatíveis com o consentimento original, “o controlador deverá informar previamente o titular sobre as mudanças de finalidade, podendo o titular revogar o consentimento, caso discorde das alterações” (art. 9º, § 2º). A LGPD é clara, ao longo de diversos dispositivos, sobre um ponto extremamente relevante: o consentimento deve ser atrelado a alguma finalidade.

As disposições da LGPD, no que diz respeito à necessidade de consentimento específico do titular de dados para cada finalidade determinada no tratamento destes dados, segue a mesma lógica indicada nos artigos 32 e 33 da RGPD:

Artigo 32: (…) O consentimento do titular dos dados (…) deverá abranger todas as atividades de tratamento realizadas com a mesma finalidade. Nos casos em que o tratamento sirva fins múltiplos, deverá ser dado um consentimento para todos esses fins.

Artigo 33: (…) Os titulares dos dados deverão ter a possibilidade de dar o seu consentimento unicamente para determinados domínios de investigação ou partes de projetos de investigação, na medida permitida pela finalidade pretendida.

Apesar da regra geral estampada na LGPD sobre a necessidade de consentimento no tratamento de dados sensíveis, o consentimento é dispensado para a tutela da saúde do próprio paciente (art. 11, II, “f ”). Ademais, o fim do uso em prol do paciente permite que esses dados anonimizados dispensem consentimento e sejam mantidos para fins de estudos (art. 16, II). Nesse sentido, segundo os ditames da LGPD, o médico que atende o paciente por telemedicina não precisaria obter o consentimento para o tratamento dos seus dados de saúde na tecnologia para o atendimento por telemedicina.

Todavia, as referidas exceções ao consentimento na LGPD – que possuem previsão similar na RGPD – precisam ser interpretadas restritivamente e com certa cautela. Assim, o consentimento livre e esclarecido do paciente, no emprego da telemedicina, deve incluir “a autorização para o uso, por exemplo, fotografias, filmagens ou de outros registros, inclusive históricos de conversas ou outros dados obtidos e potencialmente transferíveis a terceiros”.

Destaque-se que, apesar da dispensa ao consentimento nos casos acima elencados, a lei é clara quanto à necessidade das atividades de tratamento de dados pessoais observarem a boa-fé e o princípio da transparência, no art. 6º, inc. VI, in verbis: “transparência: garantia, aos titulares, de informações claras, precisas e facilmente acessíveis sobre a realização do tratamento e os respectivos agentes de tratamento, observados os segredos comercial e industrial”. Assim, exige-se que o médico repasse ao paciente informações sobre o tratamento dos seus dados, tanto no que se refere a finalidade e com quem serão compartilhados esses dados como ao fato de que os dados de saúde permanecerão anonimizados dentro da tecnologia cognitiva, a fim de aprimoramento e pesquisas científicas.

Além disso, Marcos Ehrhardt Jr. indica que o dever geral de boa-fé é atendido quando:

as partes desempenham suas condutas de modo honesto, leal e correto, evitando causar danos ao outro (dever de proteção) e garantindo o conhecimento de todas as circunstâncias relevantes para a negociação (dever de informação) — comportamento que faz florescer laços de confiança entre os contratantes.

Portanto, apesar da LGPD não exigir o consentimento do paciente para o tratamento dos seus dados sensíveis para a tutela da saúde em procedimento realizado por profissionais de saúde, a boa-fé gera seus reflexos a partir do princípio da transparência e, como elemento extranormativo, há no termo de consentimento a incidência da fidúcia, de um dever geral de confiança que é travado entre médico e paciente, para além do que a própria lei impõe.

Em linhas gerais, à luz da boa-fé objetiva, o dever do médico de informar sobre o tratamento de dados sensíveis de saúde na telemedicina provavelmente estará cumprido ao inserir esta informação no termo de consentimento livre e esclarecido assinado pelo paciente, motivo pelo qual, indiretamente, o consentimento adquire dupla perspectiva. Isto é, além do consentimento sobre riscos e benefícios na utilização da tecnologia, acaba- se por exigir o dever de informar e obter o consentimento do paciente para o tratamento dos seus dados sensíveis.

Por fim, importante destacar, uma vez mais, que o consentimento livre e esclarecido do paciente, no que se refere ao tratamento de dados na telemedicina precisa ser específico a uma determinada finalidade, incluindo a autorização para o uso, por exemplo, de fotografias, filmagens ou de outros registros, inclusive históricos de conversas ou outros dados obtidos e potencialmente transferíveis a terceiros.

5. Robôs de assistência à saúde e análise diagnóstica com inteligência artificial: do direito de informação ao direito de explicação e justificação do paciente

O consentimento informado do paciente na inteligência artificial – robôs de assistência à saúde e análise diagnóstica com softwares inteligentes – também adquire expressivas particularidades, tal como nas demais tecnologias abordadas em capítulos anteriores. Para que seja possível uma delimitação da dinâmica do consentimento nesta tecnologia, apresentaremos, num primeiro momento, os benefícios e riscos associados a ela, pois ambos refletirão diretamente no nosso objeto de análise.

A cirurgia robótica realizada a distância, como expusemos anteriormente, pode enfrentar algumas dificuldades técnicas (falha de transmissão e conexão com internet), além de problemas decorrentes da própria limitação da tecnologia (time delay entre os movimentos da mão do cirurgião e a replicação pelo robô). Diante disso, o Departamento de Defesa dos

Estados Unidos (EUA) criou, em 2018, um fundo de financiamento chamado Foundational Research for Autonomous, Unmanned, and Robotics Development of Medical Technologies (FORWARD)128, a fim de facilitar o desenvolvimento de tecnologias em robótica e inteligência artificial na área da saúde, tanto para o contexto militar como da sociedade civil. Ao que tudo indica, um dos objetivos do fundo é desenvolver um robô cirurgião inteligente, que seja capaz de, por exemplo, executar cirurgias em soldados feridos em campo de guerra ou, ainda, realizar procedimentos cirúrgicos em astronautas durante missão espacial.

Em 2008, bioengenheiros da Duke University desenvolveram um robô capaz de localizar os primeiros vestígios de câncer mamário. Esse tipo de câncer aparece como uma massa (ou tumoração palpável) e o robô alcança o material com uma agulha de biópsia, sem a necessidade de assistência humana. Stephen Smith, membro sênior da equipe de pesquisa, explica que esta é a primeira prova de que a tecnologia de inteligência artificial avançará até o ponto em que os robôs – sem intervenção humana – poderão, um dia, realizar procedimentos cirúrgicos autonomamente.

Jacob Turner, no livro “Robot Rules: Regulating Artificial Intelligence” (2019), define inteligência artificial como “the ability of a non-natural entity to make choices by an evaluative process”. De acordo com a Comissão da União Europeia, a inteligência artificial refere-se a:

sistemas que revelam comportamento inteligente, analisando seu ambiente e realizando ações – com algum grau de autonomia – para atingir objetivos específicos. Os sistemas baseados em IA podem ser puramente baseados em software, agindo no mundo virtual (por exemplo, assistentes de voz, software de análise de imagem, mecanismos de busca, sistemas de reconhecimento de voz e expressão) ou os sistemas de IA podem ser incorporados em dispositivos de hardware (por exemplo, robôs avançados, carros autônomos, drones ou aplicações de Internet das coisas).

De acordo com o recente estudo publicado, em 2016, na revista Science Translational Medicine, até o momento, as cirurgias robóticas autônomas foram realizadas apenas em animais e, devido às limitações tecnológicas, incluindo falta de sistemas de visão que possam distinguir e rastrear os tecidos-alvo em ambientes cirúrgicos dinâmicos, bem como a própria falta de algoritmos inteligentes que possam executar tarefas cirúrgicas complexas. Recentemente, desenvolveu-se o robô cirurgião inteligente chamado STAR (Smart Tissue Autonomous Robot), que é programado para realizar algumas técnicas cirúrgicas. Ele é capaz de analisar as circunstâncias do

caso e escolher, a partir do seu banco de dados, a técnica mais apropriada para aquela situação específica, sem que nenhuma pessoa indique qual movimento ele deve executar. O robô é equipado com câmeras 3D e sistema de visão noturna, os quais permitem a identificação do sítio cirúrgico. O braço robótico utiliza um sensor que mede a tensão e a força necessárias para realizar cortes ou suturas com precisão.

Em recente pesquisa com o robô STAR, realizaram-se cirurgias em tecidos intestinais de suínos, verificando-se melhores (e mais precisos) resultados nas operações feitas pelo robô, ao se comparar com os resultados dos médicos que realizaram o mesmo procedimento cirúrgico. Há, contudo, a ressalva de que o robô recebeu supervisão e auxílio humano, pois foram utilizados marcadores fluorescentes para indicar à máquina quais pontos do tecido precisavam ser operados. Em princípio, o projeto foi concebido desde o princípio para que o robô cirurgião tenha uma autonomia supervisionada.

No que se refere à aplicações da IA na área médica, destaca-se que o Hospital John Radcliffe, em Oxford (Inglaterra) desenvolveu sistema inteligente de análise diagnóstica de doenças cardíacas, chamado Ultromics, software de ecocardiografia mais preciso do mundo, que torna o diagnóstico de doenças cardíacas coronarianas em percentual aproximado de 90%.

Atualmente, a IBM é uma das empresas, em escala global, que mais cria soluções tecnológicas para a área de saúde. Desde outubro de 2015, a multinacional possui uma unidade focada exclusivamente em IA para a saúde, chamada “Watson Health”. Dentre os produtos inteligentes já disponíveis no mercado, destaca-se o “Watson for Oncology”, “uma solução alimentada por informações obtidas de diretrizes relevantes, melhores práticas, periódicos médicos e livros didáticos”. O software avalia as informações do prontuário de um paciente, juntamente com as evidências médicas (artigos científicos e estudos clínicos), exibindo, assim, possíveis opções de tratamento para pacientes oncológicos, classificadas por nível de confiança. Ao final, caberá ao médico analisar as conclusões trazidas pela IA e decidir qual a melhor opção de tratamento para aquele paciente específico. Há 90% (noventa por cento) de acerto dos diagnósticos pelo sistema de inteligência artificial.

As tecnologias de inteligência artificial vêm sendo amplamente desenvolvidas também para fins de assistência médica. O robô Moxi, criado pela empresa texana Diligent Robotics, foi fabricado no intuito de auxiliar a equipe médica em entidades hospitalares,

realizando procedimentos logísticos como coleta de exames e distribuição de suprimentos médicos. Com a IA, o robô mapeia e aprende sobre o ambiente ao seu redor, movendo-se por um conjunto de rodas e usando sensores para identificar obstáculos, sejam eles móveis ou estacionários. Moxi possui uma tela que exibe informações relacionadas às tarefas que estão sendo realizadas. Um braço e uma pinça sofisticada permitem que ele execute trabalhos como a seleção de itens médicos, os quais são colocados em uma bandeja anexa ao robô e, em seguida, entregues no quarto do paciente internado na entidade hospitalar.

Pepper é o primeiro robô autônomo humanoide projetado com a capacidade de interagir por meio de conversas e da sua tela touch screen, bem como reconhecer expressões faciais e “ler” emoções. Ele conversa com a pessoa e monitora a sua saúde emocional, repassando algumas informações aos médicos e à equipe de saúde. O robô possui microfones e câmeras com software de reconhecimento, que são capazes de identificar expressões faciais e tons de voz. A partir dessa análise, o robô monta um cenário de como o indivíduo se sente, reagindo com o paciente de acordo com essa interpretação. Pepper é utilizado em algumas casas de repouso para idosos na Inglaterra. Aproximadamente 7.000 desses robôs foram adquiridos por consumidores que “querem experimentar uma vida com um robô”.

A breve enunciação desses exemplos da incorporação da IA à prática médica serve para ilustrar alguns dos diversos benefícios que a referida tecnologia pode propiciar ao setor da saúde. Tais potenciais benefícios são acompanhados, contudo, de riscos associados à tecnologia, o que acarreta importantes questionamentos ético-jurídicos a serem enfrentados pela civilista, com particular destaque para o consentimento informado. Em 2017, um modelo do carro autônomo Tesla S, dirigindo no piloto automático na China, chocou-se contra um caminhão, matando seu passageiro. Em 2018, um carro autônomo da Uber atropelou um pedestre no estado do Arizona, nos Estados Unidos. Ainda, destaca-se o evento imprevisto que ocorreu durante o experimento realizado em 2002, por cientistas do Magna Science Center, na Inglaterra: dois robôs inteligentes foram colocados numa arena para simular um cenário de “predadores” e “presas”, a fim de constatar se os robôs seriam capazes de se beneficiar da experiência adquirida com o machine learning para desenvolverem novas técnicas de caça e autodefesa. Contudo, o Gaak, um dos robôs, adotou uma conduta imprevisível, encontrou uma saída por meio do muro da arena e foi para a rua, onde acabou atingido por um carro.

O resultado desastroso do experimento inglês e os acidentes com carros autônomos servem de alerta para a possibilidade da IA causar danos imprevisíveis, sobretudo pela capacidade de autoaprendizagem da IA e desta evoluir de forma a gerar algum resultado não desejável.

Sameer Singh, professor assistente no Departamento de Ciência da Computação da Universidade da Califórnia (UCI), nos Estados Unidos, relata que um aluno criou um algoritmo para categorizar fotos de huskies e lobos. O algoritmo poderia quase perfeitamente classificar os dois animais. No entanto, em análises cruzadas posteriores, Singh descobriu que o algoritmo estava identificando lobos com base apenas na neve no fundo da imagem, e não das próprias características do lobo.

Agora, imagine-se, por exemplo, um algoritmo mau programado, ou com algum grau de falibilidade, no software inteligente que foi utilizado em alguns países para diagnosticar pacientes infectados pelo novo coronavírus. Para programar o algoritmo, foram inseridos milhares de dados de pacientes contaminados e suas respectivas tomografias de tórax. Assim, o sistema inteligente foi capaz de distinguir, em 15 segundos, entre pacientes infectados com o novo coronavírus e aqueles com outras doenças pulmonares. Caso fossem introduzidos dados errados de pacientes contaminados ou o algoritmo fosse mal programado, os danos, obviamente, seriam imensuráveis.

Pode-se considerar outra situação de especial gravidade pela incorreta programação de um algoritmo: o sistema inteligente que identifica faixas de pedestre e é utilizado por pessoas com deficiência visual para atravessarem as ruas. Uma previsão errônea pode, certamente, resultar em fatalidade. Logo, demonstra-se a relevância no cuidado com os processos e conjuntos de dados utilizados na programação dos algoritmos.

Tendo em vista a possibilidade da IA causar danos imprevisíveis, devido ao aperfeiçoamento do aprendizado de máquina, além do problema da confiabilidade dos algoritmos, é de suma importância a investigação dos princípios éticos que devem ser seguidos pelos seus desenvolvedores.

A Resolução do Parlamento Europeu de 2017, que traz disposições de Direito Civil sobre Robótica, realça o princípio da transparência na criação de tecnologias de robótica e IA, pois deve ser sempre possível traduzir a computação realizada pelo sistema de IA a uma forma de compreensão pelos seres humanos. Nesse sentido, sugere-se que os robôs precisam ser “dotados de uma ‘caixa preta’ com dados sobre todas as operações

realizadas pela máquina, incluindo os passos da lógica que conduziu à formulação das suas decisões”. Destacam-se, também, outros princípios orientadores na utilização da IA: beneficência, não-maleficência, autonomia, justiça, consentimento esclarecido etc. Ainda, a Resolução considera que o quadro jurídico da União deve ser atualizado e complementado, por meio de princípios éticos que se coadunem com a complexidade da IA e robótica, e com as suas inúmeras implicações sociais, médicas e bioéticas.

A União Europeia (UE) lançou, em 2019, “Orientações Éticas para uma Inteligência Artificial (IA) de Confiança”, destinadas a todas as pessoas que desenvolvem, utilizam ou são afetadas pela IA, incluindo empresas, instituições, organizações governamentais e da sociedade civil, pessoas singulares, trabalhadores e consumidores. Uma IA de confiança deve ser: a) legal: respeitar toda a legislação e regulamentos nacionais e internacionais aplicáveis; b) ética: observar princípios e valores éticos; e c) sólida: prezar pela segurança e evitar que sejam causados danos não intencionais, tanto do ponto de vista técnico como do ponto de vista social. No que toca ao foco de estudo do presente trabalho, há de se destacar dois princípios dessas guidelines: autonomia e explicabilidade.

O respeito pela autonomia humana é o primeiro imperativo ético que os profissionais no domínio da IA devem sempre buscar respeitar, a fim de que a tecnologia seja desenvolvida, implantada e utilizada de forma confiável. Isso significa que precisa ser mantida a autodeterminação plena e efetiva dos seres humanos, ao interagirem com a IA, além da necessária participação deles no processo democrático. Os sistemas inteligentes devem ser criados para aumentar, complementar e capacitar as competências cognitivas, sociais e culturais dos homens, tendo sempre garantida a supervisão e o controle humanos da IA.

Respeitar a autonomia e a autodeterminação de um paciente submetido à análise diagnóstica apoiada por inteligência artificial, por exemplo, pelo Watson For Oncology que abordamos anteriormente, significa esclarecer ao paciente que a tecnologia tem um grau de falibilidade e, no final, caberá sempre ao médico decidir. Por mais notável que o Watson For Oncology seja na análise de números e no processamento de dados, não se pode ignorar que ele comete erros. Há 90% (noventa por cento) de acerto dos diagnósticos pelo sistema de IA. Logo, justifica-se, inclusive, que a IA deve servir como apoio à tomada de decisão médica, sem a pretensão de substitui-la.

O princípio da explicabilidade é igualmente crucial para a manutenção de uma IA de confiança, segundo a Orientação do Parlamento Europeu. Os processos decisórios

dos sistemas inteligentes precisam ser transparentes, possibilitando, na medida do possível, a explicação sobre determinado resultado (ou decisão), bem como a identificação da entidade responsável por este. Todavia, há o chamado “problema da caixa preta” (“black box problem”, em inglês), isto é, os algoritmos executam determinadas ações para chegar a um resultado específico, mas nem sempre são capazes de realmente explicar ao homem como essa decisão foi tomada. Nestas situações, de falta de transparência na maneira como a IA processa as informações, são possíveis outras medidas de explicabilidade – tais como a rastreabilidade, auditabilidade e comunicação transparente sobre as capacidades do sistema –, desde que o sistema inteligente respeite os direitos fundamentais. Destaque-se que tudo deve ser documentado para permitir ao máximo a rastreabilidade e, consequentemente, a transparência da IA. Isso é muito importante quando for preciso investigar por que uma decisão foi tomada de forma errônea.

Esses dois princípios – autonomia humana e explicabilidade – impactam diretamente na criação de um novo modelo de consentimento informado do paciente submetido à cuidados da saúde com inteligência artificial, tanto no que diz respeito aos robôs de assistência como nos algoritmos de IA para análise diagnóstica.

Aquele que utiliza ou de alguma forma é atingido pela IA não possui somente um direito à informação. Esta é a tese defendida por Nelson Rosenvald – e que seguimos de pleno acordo: não basta o criador de um algoritmo dizer “the algorithm did it”. Exige-se, na medida do possível, a necessidade de uma explicação e justificação A título exemplificativo, desde 2017, na Alemanha, há exigência de fornecimento da caixa preta da IA nos carros autônomos. Após reforma da Lei de Trânsito Rodoviário (Straßenverkehrsgesetz – StVG), incluiu-se o direito de as vítimas de acidentes de automóveis acessarem a caixa preta de um carro equipado com funções de direção autônoma (Seção 63a (3) StVG). Tal medida visa permitir que se identifique a causa do acidente, ou seja, se o sistema automatizado ou o motorista humano foram responsáveis pelo evento danoso.

Defendemos que a mesma lógica do direito ao acesso à caixa preta deve se aplicar aos produtos na área da saúde. Portanto, esse é o verdadeiro princípio da autodeterminação informativa: saímos do simples direito à informação e caminhamos para uma maior amplitude informacional, ou seja, um direito à explicação e justificação.

Ademais, a transparência durante o ciclo de vida da IA é um primordial requisito elencado nas Orientações do Parlamento Europeu, estando intimamente ligado com o princípio da explicabilidade e abrange a transparência em três níveis: rastreabilidade, explicabilidade e comunicação. A rastreabilidade da IA é formada pelo conjunto de dados, os processos que produzem a decisão do sistema inteligente e os algoritmos utilizados. A explicabilidade refere-se à exigência de que as decisões tomadas pelo sistema inteligente possam ser compreendidas pelos seres humanos. Por fim, a comunicação diz respeito à necessidade de informar o usuário da IA de que ele está diante de um sistema inteligente160, pois “deve ser facultada a opção de decidir contra essa interação a favor da interação humana, sempre que necessário, a fim de garantir que os direitos fundamentais são respeitados”.

Ainda, vale destacar que as orientações éticas para uma IA de confiança indicam um requisito essencial para que os sistemas inteligentes, após colocados em circulação, cumpram ao longo de todo o seu ciclo de vida: privacidade e governança dos dados na IA. Deve-se resguardar o direito de acesso, à qualidade e integridade dos dados do usuário do dispositivo inteligente. É um requisito que está diretamente ligado ao princípio de prevenção de danos e ao direito fundamental à privacidade. Ao longo de todo o ciclo de vida de um sistema de IA, devem ser adotados protocolos indicando como os dados dos usuários serão tratados, se alguém terá acesso a eles e em quais circunstâncias específicas. Nesse sentido, vale exposição de um importante trecho trazido pelas Orientações do Parlamento Europeu:

os sistemas de IA devem garantir a privacidade e a proteção de dados ao longo de todo o ciclo de vida de um sistema. Tal inclui as informações inicialmente fornecidas pelo utilizador, bem como as informações produzidas sobre o utilizador ao longo da sua interação com o sistema (…) Os registos digitais do comportamento humano podem permitir que os sistemas de IA infiram não só as preferências dos indivíduos, mas também a sua orientação sexual, a sua idade e as suas convicções religiosas ou políticas. Para que as pessoas possam confiar no processo de recolha de dados, deve ser garantido que os dados recolhidos a seu respeito não serão utilizados para as discriminar de forma ilegal ou injusta.

6. Notas conclusivas: o novo modelo de consentimento informado do paciente na nova medicina

Os desenvolvimentos científicos em telemedicina, medicina robótica e inteligência artificial têm revolucionado a prestação dos cuidados à saúde. Contudo, os avanços tecnológicos não eliminam o fator de imprevisibilidade no tratamento médico; pelo contrário, algumas vezes, os progressos da medicina podem tornar ainda mais aleatórios o diagnóstico e a terapia. Neste contexto, o consentimento informado (leia-se: livre e esclarecido) do paciente adquire certas peculiaridades, tendo em vista os diversos fatores aleatórios e riscos inerentes às próprias tecnologias. A atual doutrina do consentimento informado compreende um papel consultivo do médico, o que envolve um processo de diálogo, cujo objetivo é assegurar que o doente compreenda todas as circunstâncias do tratamento proposto e da tecnologia utilizada para esse fim, bem como as razoáveis alternativas terapêuticas, possibilitando a tomada de decisão bem informada.

A autodeterminação do paciente só é verdadeiramente exercida quando as informações prestadas são específicas, para o caso concreto daquele paciente específico, e não genéricas. Por isso, é de suma importância a compreensão de toda a dinâmica do consentimento do paciente em cada tipo de tecnologia. O dever de informação assumido pelo médico restará cumprido a partir da análise do “critério do paciente concreto”, ou seja, a explicação do profissional deve ser extensa e adaptada ao nível intelectual e cultural do doente.

Observou-se, ao longo do presente trabalho, que, diante de todo o panorama atual da medicina digitalizada e novas tecnologias na área da saúde, o consentimento informado do paciente adquire certas peculiaridades, tendo em vista os diversos fatores aleatórios e riscos inerentes às características únicas e próprias de cada tecnologia. A título exemplificativo, expusemos que a IA tem o potencial de causar danos aos pacientes por atos imprevisíveis decorrentes da sua autoaprendizagem e que há de se considerar a existência de um grau de falibilidade dos softwares inteligentes de análise diagnóstica. Ambas informações são importantes e precisam ser repassadas e explicadas ao paciente163. A cirurgia robótica, por sua vez, pode sofrer problemas no próprio aparato tecnológico durante o procedimento, implicando na conversão para uma cirurgia convencional (aberta), comandada pelas mãos de outro médico – que não o previamente acordado com o paciente –, além de resultarem cicatrizes maiores pela intervenção do profissional sem a mesma precisão do robô. De igual modo, o paciente deverá ser cientificado desses possíveis riscos164. Já na telemedicina, existem também certos riscos técnicos decorrentes de falha do software, da própria limitação tecnológica ou, ainda, da possibilidade de tratamento irregular de

dados de saúde do paciente ou acesso ilícito por terceiros desses dados armazenados em rede. Estes fatores precisarão ser devidamente esclarecidos ao paciente165. Frise-se que, todas essas novas tecnologias da saúde são “alimentadas” por dados sensíveis de saúde do paciente, o que nos levou também à reflexão e debate sobre os princípios éticos que devem reger o tratamento de dados, especialmente no que se refere ao consentimento do paciente titular dos dados.

Vale destacar que, em momento algum se pretendeu convencer que todo este processo de diálogo – para obter o consentimento informado do paciente – é tarefa das mais fáceis. Os percalços do cotidiano, a crônica falta de tempo dos profissionais médicos, a inadequada capacidade das instalações físicas dos serviços de saúde, a incapacidade do paciente leigo em compreender as informações, ou mesmo querer recebê-las, a elevada demanda por serviços médicos e o número reduzido de profissionais parecem justificativas, de certa maneira, “perfeitas” para que se transfira a um segundo (ou terceiro) plano a transmissão adequada, transparente e completa das informações necessárias à obtenção do consentimento por meio da escolha esclarecida.

Entretanto, diminuir a importância deste ato – ou, melhor, deste processo de obtenção do consentimento – é expor-se em demasiado a um risco desnecessário. É preciso ter a consciência de que os preceitos legais relativos ao dever de prestar informação correta, completa e adequada, e à autonomia do paciente precisam ser observados e respeitados.

Ironicamente, após eleger o princípio da autonomia como pilar do consentimento informado, percebemos que apenas este não é suficiente para enfrentar um sistema legal que falha ao promover os valores pessoais de individualidade do paciente. Para proteger a autodeterminação, precisamos estabelecer um sistema que permita ao paciente ter acesso às informações pertinentes aos seus valores e crenças pessoais, de modo a lhe permitir tomar uma decisão informada e esclarecida.

Por outro lado, promover a autonomia do paciente não pode significar que a expertise médica seja desconsiderada, ou mesmo ignorada. Pacientes e médicos devem comunicar-se buscando opções terapêuticas que definam o melhor caminho, senão o mais adequado, mas o que melhor atinja aos objetivos propostos. E os atuais parâmetros legislativos inibem tal discussão. Não há, por exemplo, norma jurídica alguma que padronize, ou mesmo defina como deve ser este processo de esclarecimento, fornecendo apenas parâmetros balizadores, mas deixando à sensibilidade – por vezes, inexistente – de cada profissional.

Uma substancial revisão do atual sistema de obtenção do consentimento informado, convertendo-o realmente em um processo de escolha esclarecida, se faz necessário para contrabalançar conceitos aparentemente tão incompatíveis como o direito à autonomia do paciente e a prevalência da opinião e expertise médica.

Esse, o primeiro dos muitos desafios. Essa, a primeira das revoluções ainda em andamento. E já partimos para a segunda, surgida em virtude das necessidades nascidas da evolução das novas tecnologias na área da saúde: médicos e demais profissionais e provedores de serviços de saúde precisam compreender que o direito à informação (que lhes corresponde a um dever de informar) adequada engloba ainda o consentimento para o uso das novas tecnologias, a partir do conhecimento de seu funcionamento, objetivos, suas vantagens, custos, riscos e alternativas. É um processo – também – de convencimento informado, bem mais trabalhoso, mas também muito mais seguro do ponto de vista jurídico, uma vez que estabelece não um ato, mas um processo, que tem como resultado o surgimento de responsabilidades compartilhadas.

Cabe encerrar estas breves reflexões finais com as seguintes palavras de Bernard Nordlinger e Cédric Villani:

the road ahead is full of challenges, but the journey is worth it. The “mechanical” medical doctor (MD) is certainly not for tomorrow and certainly not desirable. The doctor of the future should be “augmented,” better equipped, and well informed to prevent, analyze, decide, and treat disease with empathy and the human touch. The aim will be to improve diagnoses, observations, therapeutic choices, and outcomes166/167.

LEIA TAMBÉM: A Inteligência Artificial na Demartologia

Referências bibliográficas

ABDUL-MUHSIN, Haidar; PATEL, Vipul. History of Robotic Surgery. In: KIM, Keith Chae. Robotics in General Surgery. Cham: Springer, 2014, p. 3-8.

ADAMS, Martin B.; DOPF, Glenn W. Legal Aspects of Setting Up a Robotic Program. In: FONG, Yuman. et.al. The Sages Atlas of Robotic Surgery. Cham: Springer, 2018, p-37-44.

BALICER, Ran D.; COHEN-STAVI, Chandra. Advancing Healthcare Through Data-Driven Medicine and Artificial Intelligence. In: NORDLINGER, Bernard; VILLANI, Cédric; RUS, Daniela (Coord.). Healthcare and Artificial Intelligence. Cham: Springer, 2020, p. 9-15.

BARROSO, Luis Roberto; MARTEL, Letícia de Campos Velho. A morte como ela é: dignidade e autonomia individual no final da vida. In: GOZZO, Débora; LIGIERA, Wilson Ricardo. (Orgs.). Bioética e Direitos Fundamentais. São Paulo: Saraiva, 2012.

BEAUCHAMP, T. L. e MCCULLOUGH, L. B. Ética Médica: las responsabilidades morales de los médicos, Ed. Labor, 1ª ed., 1987. Apud CORTÉS, Julio César Galán. Responsabilidad médica y consentimiento informado. Madri: Civitas, Madrid, 2001, p. 45.

BODDINGTON, Paula. Towards a Code of Ethics for Artificial Intelligence. Cham: Springer, 2017. E-book.

CACIOPPO, Stephanie; CACIOPPO, John T.; CAPITANIO, John P. Toward a Neurology of Loneliness. Psychological Bulletin, American Psychological Association – Psychological Bulletin, v. 140, n. 6, p. 1464-1504.

CAMBI, Eduardo; PITTA, Rafael Gomiero. Discovery no processo civil norte-americano e efetividade da justiça brasileira. Revista de Processo (RePro), São Paulo, v. 245, jul. 2015.

DANTAS, Eduardo. Direito Médico. 4. ed. Salvador: JusPodivm, 2019.

DANTAS, Eduardo. When consent is not enough: the construction and development of the modern concept of autonomy. Medicine and Law, Tel Aviv, v. 30, n. 4, 2011, p. 461-475.

DEGOS, Laurent. International Vision of Big Data. In: NORDLINGER, Bernard; VILLANI, Cédric; RUS, Daniela (coord.). Healthcare and Artificial Intelligence. Cham: Springer, 2020, p. 241-254.

DEVILLERS, Laurence. Social and Emotional Robots: Useful Artificial Intelligence in the Absence of Consciousness. NORDLINGER, Bernard; VILLANI, Cédric; RUS, Daniela (Coord.). Healthcare and Artificial Intelligence. Cham: Springer, 2020, p. 261-268.

DINIZ, Maria Helena. O estado atual do biodireito. Ed. Saraiva, São Paulo, 2001.

DONEDA, Danilo. Da privacidade à proteção de dados pessoais: elementos da formação da Lei Geral de Proteção de Dados Pessoais. 2. ed. São Paulo: Revista dos Tribunais, 2019,

DRESCH, Rafael de Freitas Valle; FALEIROS JÚNIOR, José Luiz de Moura. Reflexões sobre a Responsabilidade Civil na Lei Geral de Proteção de Dados (Lei Nº 13.709/2018). In: ROSENVALD, Nelson; DRESCH, Rafael de Freitas Valle; WESENDONCK, Tula. (coord.). Responsabilidade Civil: Novos Riscos. Indaiatuba: Foco, 2019, p. 65-89.

DUBECK, Deborah. Robotic-Assisted Surgery: Focus on Training and Credentialing. The Pennsylvania Patient Safety Advisory, Pensilvânia, v. 11, n. 3, p. 93-101, set. 2014.

EHRHARDT JR., Marcos. Responsabilidade civil pelo inadimplemento da boa-fé. Belo Horizonte: Fórum, 2013. E-book.

FALEIROS JUNIOR, José Luiz de Moura. NOGAROLI, Rafaella. CAVET, Caroline Amadori. Telemedicina e proteção de dados: reflexões sobre a pandemia da covid-19 e os impactos jurídicos da tecnologia aplicada à saúde. Revista dos Tribunais, São Paulo, v. 1016, jun. 2020.

FARIAS, Cristiano Chaves de, NETTO, Felipe Braga e ROSENVALD, Nelson. Novo Tratado de Responsabilidade Civil. 4. ed. São Paulo: Saraiva, 2019.

FEREIRA, Ana Elisabete; PEREIRA, André Dias. Uma ética para a medicina pós-humana: propostas ético-jurídicas para a mediação das relações entre humanos e robôs na saúde. In: ROSENVALD, Nelson; MENEZES, Joyceane Berreza de.; DADALTO, Luciana. (coord.) Responsabilidade Civil e Medicina. Indaiatuba: Ed. Foco, 2020, p. 159-186.

FIORINI, Paolo. History of Robots and Robotic Surgery. In: FONG, Yuman. et.al. The Sages Atlas of Robotic Surgery. Cham: Springer, 2018, p. 1-14.

GRALL, Matthieu. CNIL (Commission Nationale de l’Informatique et des Libertés) and Analysis of Big Data Projects in the Health Sector. In: NORDLINGER, Bernard; VILLANI, Cédric; RUS, Daniela (Coord.). Healthcare and Artificial Intelligence. Cham: Springer, 2020, p. 235-240.

HALE, T. M., KVEDAR, J. C. Privacy and security concerns in telehealth. Virtual Mentor, v. 16, p. 981-985, 2014.

HOLZINGER, Andreas; RÖCKER, Carsten; ZIEFLE, Martina. From Smart Health to Smart Hospitals. In: Smart Health: Open Problems and Future Challenges. Cham: Springer, 2015, p. 1-20.

KANT. Immanuel. Fundamentación de la metafísica de las costumbres. 7. ed. Mari: Espasa Calpe, 1981.

KFOURI NETO, Miguel. A Quantificação do Dano na Ausência de Consentimento Livre e Esclarecido do Paciente.

Revista IBERC, Minas Gerais, v. 2, n. 1, p. 01-22, jan.-abr./2019.

KFOURI NETO, Miguel. Culpa médica e ônus da prova. São Paulo: Revista dos Tribunais, 2002.

KFOURI NETO, Miguel. Responsabilidade Civil do Médico. 10. ed. São Paulo: Revista dos Tribunais, 2019. KFOURI NETO, Miguel. Responsabilidade Civil dos Hospitais. 4. ed. São Paulo: Revista dos Tribunais, 2019.

KFOURI NETO, Miguel; NOGAROLI, Rafaella. Estudo comparatístico da responsabilidade civil do médico, hospital e fabricante na cirurgia assistida por robô. In: MARTINS, Guilherme Magalhães; ROSENVALD, Nelson. (coord.) Responsabilidade civil e novas tecnologias. Indaiatuba: Foco, 2020, p. 399-428.

KFOURI NETO, Miguel; NOGAROLI, Rafaella. Responsabilidade civil pelo inadimplemento do dever de informação na cirurgia robótica e telecirurgia: uma abordagem de direito comparado (estados unidos, união europeia e brasil). In: ROSENVALD, Nelson; MENEZES, Joyceane Berreza de.; DADALTO, Luciana. (coord.) Responsabilidade Civil e Medicina. Indaiatuba: Ed. Foco, 2020, p. 159-186.

LEE, Kai-Fu. As Superpotências da Inteligência Artificial: a China, Silicon Valley e a Nova Ordem Mundial. Trad. Maria Eduarda Cardoso. Lisboa: Relógio D´Água Editores, 2018.

LOCKE. John. Ensayo sobre el Gobierno Civil. Madri: Aguilar, 1969.

MARTINS, Guilherme Magalhães; FALEIROS JÚNIOR, José Luiz de Moura. Compliance digital e responsabilidade civil na lei geral de proteção de dados. In: MARTINS, Guilherme Magalhães; ROSENVALD, Nelson. Responsabilidade civil e novas tecnologias. Indaiatuba: Foco, 2020.

MCLEAN, Thomas R. Cybersurgery: An Argument for Enterprise Liability. Journal Of Legal Medicine, Los Angeles, v. 23, n. 2, p. 167-210, nov. 2010.

MCLEAN, Thomas R; Waxman, S. Robotic surgery litigation. Proceedings of the Institution of Mechanical Engineers, Part C: Journal of Mechanical Engineering Science, v. 224, 2004.

NOGAROLI, Rafaella; PIMENTEL, Willian. Dupla perspectiva do consentimento do paciente na telemedicina em tempos de Covid-19. In: DADALTO, Luciana. (coord.) Bioética e Covid-19. Indaiatuba: Foco, 2020. E-book.

NORDLINGER, Bernard; VILLANI, Cédric; RUS, Daniela (Coord.). Healthcare and Artificial Intelligence. Cham: Springer, 2020.

PAGALLO, Ugo. The Laws of Robots: Crimes, Contracts, and Torts. Londres: Springer, 2013.

PANDEY, Amit Kumar; Gelin, Rodolphe. Pepper: The First Machine of Its Kind. A Mass-Produced Sociable Humanoid Robot. IEEE Robotics and Automation Magazine, Bélgica, set. 2018, v. 25, n. 3, p. 40-48.

PASQUALE, Frank. The black box society: the secret algorithms that control money and information. Cambridge: Harvard University Press, 2015.

PASQUALE, Frank. Toward a Fourth Law of Robotics: Preserving Attribution, Responsibility, and Explainability in an Algorithmic Society. University of Maryland Francis King Carey School of Law Legal Studies Research Paper, n. 2017-21. Disponível em: <https://papers.ssrn.com/sol3/papers.cfm?abstract_id=3002546>. Acesso em: 02 jun. 2020.

PEREIRA, Alexandre Libório Dias. Telemedicina e Farmácia Online: Aspetos Jurídicos da Ehealth. Disponível em:

<https://portal.oa.pt/upl/%7B79eff4f2-f05c-497e-9737-ca05830cc360%7D.pdf>. Acesso em: 08 mar. 2019.

PEREIRA, André Dias. O Consentimento Informado na Relação Médico-Paciente. Coimbra: Coimbra Editora, 2004.

RIBEIRO, José Medeiros. Saúde Digital: um sistema de saúde para o século XXI. Lisboa: Fundação Francisco Manuel dos Santos, 2019.

ROBERTO, Luciana Mendes. Responsabilidade civil do profissional de saúde & consentimento informado. Curitiba: Juruá, 2005.

RODRIGUES, João Vaz. O Consentimento Informado para o Acto Médico. Elementos para o Estudo da Manifestação de Vontade do Paciente. Coimbra: Coimbra Editora, 2001.

ROSENVALD Nelson; BRAGA NETTO, Felipe Peixoto. Responsabilidade civil na área médica. In: BRAGA NETTO, Felipe Peixoto; CÉSAR SILVA, Michael. Direito privado e contemporaneidade. Indaiatuba: Ed. Foco, 2020, p. 25-68.

ROSENVALD, Nelson. Fundamentos da responsabilidade civil frente aos desafios das novas tecnologias. Palestra online proferida no encontro do grupo de pesquisa em Filosofia de Direito Privado, da Universidade Federal do Rio Grande do Sul (UFRGS). [Porto Alegre]. 28 maio 2020. Disponível em: <https://www.facebook.com/filosofiadpufrgs/>. Acesso em: 02. jun. 2020.

SCHAEFER, Fernanda; GONDIM, Glenda Gonçalves. Telemedicina e Lei Geral de Proteção de Dados Pessoais. In: ROSENVALD, Nelson; MENEZES, Joyceane Bezerra de; DADALTO, Luciana (Coords.). Responsabilidade civil e medicina. Indaiatuba: Foco, 2020, p. 187-202.

SCHULMAN, Gabriel. Tecnologias de telemedicina, Responsabilidade Civil e Dados Sensíveis. O princípio ativo da Proteção de Dados pessoais do paciente e os efeitos colaterais do coronavírus. In: MONTEIRO FILHO, Carlos Edson do Rego; ROSENVALD, Nelson; DENSA, Roberta. Coronavírus e Responsabilidade Civil. Indaiatuba: Editora Foco, 2020, p. 344-357.

SHABAN-NEJAD, Arash; MICHALOWSKI, Martin. Precision Health and Medicine. A Digital Revolution in Healthcare. Cham: Springer, 2020.

SHADEMAN, Azad. et. al. Supervised autonomous robotic soft tissue surgery. Science Translational Medicine, Washington, v. 8, n. 337, p. 337-345.

SILVA, Rodrigo da Guia; NOGAROLI, Rafaella. Inteligência artificial na análise diagnóstica da Covid-19: possíveis repercussões sobre a responsabilidade civil do médico. In: Migalhas, 30/03/2020.

SILVA, Rodrigo da Guia; NOGAROLI, Rafaella. Inteligência artificial na análise diagnóstica da COVID-19: possíveis repercussões sobre a responsabilidade civil do médico. In: ROSENVALD, Nelson; MONTEIRO FILHO, Carlos Edison do Rêgo; DENSA, Roberta. (coord.) Coronavírus e responsabilidade civil: impactos contratuais e extracontratuais. Indaiatuba: Foco, 2020, p. 293-300.

SIQUEIRA, Flávia. Autonomia, consentimento e direito penal da medicina. São Paulo: Marcial Pons, 2019.

TAMÒ-LARRIEUX, Aurelia. Designing for Privacy and its Legal Framework. Data Protection by Design and Default for the Internet of Things. Cham: Springer, 2018.

TEFFÉ, Chiara Spadaccini de; MEDON, Filipe. Responsabilidade civil e regulação de novas tecnologias: questões acerca da utilização de inteligência artificial na tomada de decisões empresariais. Revista Estudos Institucionais, v. 6, n. 1, jan./abr. 2020.

TEGMARK, Max. Life 3.0: Ser-se Humano na Era da Inteligência Artificial. Trad. João Van Zeller. Alfragide: Dom Quixote, 2019.

TURNER, Jacob. Robot Rules: Regulating Artificial Intelligence. Cham: Londres: Macmillan, 2019.

VOIGT, Paul; BUSSCHE, Axel von dem. The EU General Data Protection Regulation (GDPR). A Practical Guide. Cham: Springer, 2017.

YOUNG, Jeremy D.; BORGETTI, Scott A.; CLAPHAM, Philip J. Telehealth: Exploring the Ethical Issues. DePaul Journal of Health Care Law, Chicago, v. 19, 2018, p. 1-15.

ZHOU, Leming; THIERET, Robert; WATZLAF, Valerie et al. A telehealth privacy and security self-assessment questionnaire for telehealth providers: development and validation. International Journal of Telerehabiliation, Pittsburgh, v. 11, n. 1, p. 3-14, 2019.