Debates Contemporâneos em Direito Médico e da Saúde - Ed. 2020

Capítulo 2. Inteligência Artificial na Análise Diagnóstica: Benefícios, Riscos e Responsabilidade do Médico - Parte I - Novas Tecnologias na Área da Saúde e Responsabilidade Civil

Entre no Jusbrasil para imprimir o conteúdo do Jusbrasil

Acesse: https://www.jusbrasil.com.br/cadastro

Autores:

Rafaella Nogaroli

Rodrigo da Guia Silva

1

2

1. Introdução: difusão da Inteligência Artificial na medicina contemporânea

As novas tecnologias têm alterado profundamente a relação médico-paciente. Do diagnóstico médico ao cuidado holístico do paciente, a inteligência artificial 3 está transformando mundialmente todo o setor da saúde. 4 Há diversos estudos que revelam o grande potencial da inteligência artificial no aprimoramento de diagnósticos e cuidados médicos. 5 Além da difusão da inteligência artificial no campo médico em sentido estrito, diversas entidades médico-hospitalares já utilizam robôs de assistência para automatizar tarefas administrativas ou de enfermaria. 6

A proliferação do recurso à inteligência artificial na prática médica parece acompanhar, assim, um fenômeno mais amplo de mudança da medicina convencional para a medicina dos 4 Ps (preventiva, preditiva, personalizada e proativa). 7 Nesse novo cenário, os cuidados da saúde deixam de estar essencialmente limitados ao tratamento das patologias (tarefa jamais abandonada, por certo) e passam a ter como foco a adoção de medidas destinadas a prevenir doenças (medicina preventiva) 8 ou possibilitar a antecipação do seu diagnóstico (medicina preditiva). No que tange ao trato pessoal, o paciente é atendido de maneira tendencialmente mais individualizada (e menos padronizada, portanto), com base nos seus dados genéticos e de saúde (medicina personalizada) 9 . Por fim, a relação médico-paciente deixa de ser algo pontual e passa a se desenvolver de maneira contínua, o que é sobremaneira facilitado pelo advento das novas tecnologias (medicina proativa). 10

A transformação do atendimento médico nesse modelo mais proativo, preventivo, preciso e centrado na individualidade de cada paciente tornou-se possível, nos últimos anos, a partir da combinação de grande volume de dados de saúde e softwares de inteligência artificial. 11 A Era Digital da assistência médica permitiu que os dados físicos dos pacientes fossem transferidos de pastas de papel para registros eletrônicos de saúde. Com isso, após décadas de digitalização de registros médicos (com o crescente armazenamento em nuvem), o setor de saúde criou um conjunto enorme (e continuamente crescente) de dados. No que importa mais diretamente ao presente estudo, pode-se notar que essa digitalização do setor da saúde foi um fator determinante para se tornar possível a implementação da inteligência artificial na eficiência dos diagnósticos médicos, sobretudo, na detecção precoce de doenças. 12

Pense-se, por exemplo, no salto qualitativo que se poderia experimentar no enfrentamento à pandemia da COVID-19 caso já se dispusesse, desde o início do surto da doença, de softwares avançados em matéria de diagnóstico em nível macro. 13 Na China, desenvolveu-se, cerca de dois meses após o primeiro caso de contágio pelo novo coronavírus, um software com IA, utilizado em milhares de pacientes (e disponibilizado gratuitamente para centenas de instituições médicas ao redor do mundo), que foi capaz de diagnosticar a COVID-19 a partir da análise da tomografia de tórax. 14 O software inteligente realizou, com taxa de precisão de aproximadamente 90% (noventa por cento), a análise de uma imagem tomográfica em quinze segundos; com isso, conseguiu, quase instantaneamente, distinguir entre pacientes infectados com o novo coronavírus e aqueles com pneumonia comum ou outra doença.

Tratou-se de uma grande vantagem no enfrentamento da pandemia, em diversos países, sobretudo, diante da falta de medicamentos ou vacinas terapêuticas específicas para esse novo coronavírus. A inteligência artificial foi muito importante para diagnosticar a doença, o mais rápido possível, ainda em um estágio inicial – inclusive para isolar o infectado do convívio com o restante da população saudável. Além disso, destaque-se que os radiologistas geralmente precisavam de cerca de quinze minutos para ler essas imagens de pacientes com suspeita de COVID-19, tempo este expressivamente superior ao do software inteligente. 15 No Brasil, não tardou para que se noticiasse que estaria em fase de desenvolvimento, pelo Hospital das Clínicas em São Paulo, um algoritmo similar, com a capacidade de identificar a COVID-19 em tomografia de pacientes. O Ministério da Ciência, Tecnologia, Inovação e Comunicações (MCTIC) acompanhou de perto o projeto, a fim de implementar a IA em hospitais de todo o país. 16

Como se sabe, os dados são o combustível da IA; afinal de contas, é justamente a partir do input dos dados que funcionam os algoritmos regentes dos softwares em comento, tal como no caso do sistema capaz de diagnosticar pacientes com a COVID-19. Nesse valioso exemplo, para programar o algoritmo, foram inseridos dados de milhares de pacientes contaminados e suas respectivas tomografias de tórax. Assim, o sistema inteligente foi capaz de ler a imagem da tomografia e distinguir, em quinze segundos, entre pacientes infectados com o novo coronavírus e aqueles com outras doenças pulmonares. É preciso compreender que a qualidade dos dados para programação dos algoritmos é fundamental para o bom desempenho dos sistemas inteligentes, pois essa espécie de algoritmo – pautado em juízo de probabilidade – elabora conclusões a partir do conhecimento armazenado em suas bases e dos dados de cada paciente que lhes são fornecidos.

Com efeito, na área da saúde, os programas de inteligência artificial fornecem importante suporte à decisão clínica, tendo em vista a sua capacidade de processar e analisar rapidamente – e, tendencialmente, de maneira eficiente – grande quantidade de dados. A combinação da inteligência artificial com a expertise e o conhecimento médicos tem, portanto, o potencial de reduzir consideravelmente as taxas de erro. Não se trata de pugnar por uma substituição dos profissionais da saúde por sistema de IA, mas tão somente de reconhecer os potenciais benefícios dessa nova tecnologia no que tange, sobretudo, ao auxílio dos profissionais na tomada de decisão. Entre outros possíveis benefícios, pode-se reconhecer que o fornecimento de um diagnóstico rápido por um software com inteligência artificial pode ser, muitas vezes, fator crucial para o imediato início do tratamento e a subsequente recuperação do paciente, especialmente em doenças de evolução rápida ou em situações de urgência e emergência.

Em emblemático exemplo do desenvolvimento da inteligência artificial aplicada à seara de diagnósticos médicos, pesquisadores da Universidade de Oxford (Inglaterra) desenvolveram, no Hospital John Radcliffe, um aparelho inteligente, que, por meio de machine learning, 17 propõe o diagnóstico de doenças cardíacas. 18 Esse software de ecocardiografia costuma ser apontado como o mais preciso do mundo e, para isso ser possível, programaram-se os algoritmos com bancos de dados contendo milhões de imagens de ecocardiografia, estando estas vinculadas às informações sobre questões particulares de cada pessoa examinada e o seu quadro clínico ao longo do tempo. O software atingiu a precisão diagnóstica de doenças cardíacas coronarianas em taxa de aproximadamente 90% (noventa por cento), o que representa um melhor resultado do que o acerto médio de 80% (oitenta por cento) alcançado por médicos. 19 Os desenvolvedores desse dispositivo inteligente fundaram a empresa Ultromics e, recentemente, ganharam aprovação da Food and Drug Administration (FDA) 20 para comercializar o EchoGo, 21 que utiliza inteligência artificial para automatizar a análise e a quantificação de exames cardíacos baseados em ultrassom e, além disso, possui a capacidade de detecção precoce de doenças cardiovasculares.

Destaca-se, ainda, o relevante potencial da inteligência artificial no gerenciamento de riscos em ambiente hospitalar. O curitibano Jacson Fressatto criou a Robô Laura, que resolve problemas relacionados à demora na deterioração clínica de pacientes – como a sepse, popularmente conhecida como infecção generalizada – e tem auxiliado equipes de médicos e enfermeiros no gerenciamento de riscos. 22 Com a utilização de tecnologias de computação cognitiva e machine learning na análise dos bancos de dados de hospitais, aumenta-se a eficiência do atendimento por meio do monitoramento de dados vitais. A Robô Laura analisa dados e monitora os protocolos médicos, que são criados a partir da coleta, pelos profissionais da saúde, de diversos dados do paciente internado, tais como temperatura, pressão arterial e frequências cardíaca e respiratória. 23 Desde 2016, a tecnologia já atendeu mais de um milhão e duzentos mil pacientes em hospitais brasileiros nas Regiões Sul e Sudeste. 24

Atualmente, a IBM é uma das empresas, em escala global, que mais cria soluções tecnológicas para a área de saúde. Desde outubro de 2015, a multinacional possui uma unidade focada exclusivamente em inteligência artificial para a saúde, chamada “Watson Health”. 25 Entre os produtos inteligentes já disponíveis no mercado, destaca-se o “Watson for Oncology”, “uma solução alimentada por informações obtidas de diretrizes relevantes, melhores práticas, periódicos médicos e livros didáticos”. 26 O software avalia as informações do prontuário de um paciente, juntamente com as evidências médicas (artigos científicos e estudos clínicos), exibindo, assim, possíveis opções de tratamento para pacientes oncológicos, classificadas por nível de confiança. Ao final, caberá ao médico analisar as conclusões trazidas pela inteligência artificial e decidir qual a melhor opção de tratamento para aquele paciente específico.

A breve enunciação desses exemplos da incorporação da inteligência artificial à prática médica serve para ilustrar alguns dos diversos benefícios que a referida tecnologia pode propiciar ao setor da saúde. Tais potenciais benefícios são acompanhados, contudo, por importantes questionamentos ético-jurídicos a serem enfrentados pela civilística, com particular destaque para a disciplina da responsabilidade civil. Eis, em síntese essencial, o propósito norteador do presente estudo, a que se dedicam os capítulos subsequentes.

2. Aspectos relevantes para o equacionamento das novas hipóteses fáticas: riscos, danos potenciais e critérios de imputação do dever de indenizar

Em 2015, um grupo de cientistas no Mount Sinai Hospital (Nova Iorque – EUA) desenvolveu o Deep Patient, software inteligente que prevê futuras doenças dos pacientes, a partir de uma base de dados composta por cerca de setecentos mil prontuários eletrônicos. 27 Em estudos iniciais, constatou-se que o software possui a capacidade de antecipar o surgimento de diferentes doenças, como esquizofrenia, diabetes e alguns tipos de câncer. Apesar das conclusões preliminares positivas, o processo de aprendizado da máquina para chegar ao diagnóstico ainda constitui uma verdadeira incógnita para os cientistas, o que gera compreensíveis receios quanto ao incremento da utilização da tecnologia. Não se sabe, com precisão, o percurso trilhado pelo software para alcançar os seus resultados. 28

Tal dificuldade não é exclusiva do Deep Patient; trata-se, em realidade, de um problema presente na generalidade dos sistemas de inteligência artificial. Com efeito, a falta de transparência na maneira como a inteligência artificial processa as informações – ao que usualmente se refere por “problema da caixa preta” (“black box problem”, em inglês) 29 – afigura-se uma das principais dificuldades a serem superadas para que a sociedade possa desenvolver maior confiança na tecnologia. 30 A falta de transparência se associa, ainda, à problemática da confiabilidade dos algoritmos em que consistem os softwares em comento. 31 Afinal de contas, não é desprezível a dúvida sobre a efetiva possibilidade de se confiar no acerto das previsões algorítmicas. 32

A dificuldade na identificação do percurso por meio do qual os algoritmos chegam a um resultado pode ser extremamente problemática, sobretudo, no setor da saúde, no qual são recorrentes os contextos de vida ou morte em que os pacientes podem se encontrar. O cenário é ainda mais delicado quando a inteligência artificial é utilizada não apenas para categorizar os pacientes em emergência, mas também para criar diagnósticos tangíveis. Nos casos em que um médico chega a uma conclusão que se desvia do diagnóstico automatizado, o profissional se encontrará na desafiadora tarefa de avaliar: “devo confiar no meu diagnóstico ou naquele resultado diferentemente obtido pela inteligência artificial?”. O equacionamento dessa e de outras indagações se relaciona diretamente com a definição do critério de imputação do dever de indenizar, uma vez que a delimitação do regime de responsabilidade civil incidente tornará mais ou menos necessária a valoração do comportamento concretamente adotado pelo agente.

O desenvolvimento das discussões acerca da responsabilidade civil por atos praticados por robôs ou sistemas dotados de inteligência artificial encontra locus privilegiado na experiência comunitária europeia. Digna de nota, nesse sentido, a Resolucao de 16 de fevereiro de 2017 do Parlamento Europeu, 33 que estabelece recomendações à Comissão Europeia a propósito de normas de direito civil sobre a robótica e identifica a responsabilidade civil nos danos causados por robôs autônomos como “uma questão crucial” a ser resolvida. 34 Tal Resolução visa a atribuir à União Europeia um papel de vanguarda no estabelecimento de princípios éticos basilares quanto ao desenvolvimento, à programação e à utilização de robôs e Inteligência artificial, a serem respeitados nos regulamentos e legislações dos seus Estados-membros. 35

No que se refere à forma de responsabilização por atos dos robôs, a Resolução do Parlamento Europeu sugere a escolha entre duas abordagens diferentes de um sistema de responsabilidade civil: “gerenciamento de riscos” ou “responsabilidade estrita (objetiva)”. 36 A responsabilidade objetiva exige “apenas a prova de que o dano ocorreu e o estabelecimento de um nexo de causalidade entre o funcionamento prejudicial do robô e os danos sofridos pela parte lesada”. 37 A abordagem da gestão de riscos, 38 por sua vez, “não se concentra na pessoa que atuou de forma negligente como individualmente responsável, mas na pessoa que é capaz, em determinadas circunstâncias, de minimizar os riscos e de lidar com os impactos negativos”. 39

A Resolução destaca, ainda, como possível solução para a complexidade da imputação de responsabilidade pelos danos causados por robôs cada vez mais autônomos, a instituição de um regime de seguros obrigatórios, conforme já acontece em diversos países, por exemplo, com os carros. 40 Em caráter complementar ao regime de seguros obrigatórios, a Resolução sugere a criação de um “fundo de garantia da reparação de danos nos casos não abrangidos por qualquer seguro”. 41

A breve menção à experiência comunitária europeia, sem pretensão propriamente comparatista, pretende tão somente destacar a relevância do tema na sociedade contemporânea e indicar algumas soluções que estão sendo buscadas mundo afora. Voltando-se a atenção especificamente para o ordenamento jurídico brasileiro, afigura-se indispensável o reconhecimento de alguns pilares básicos relevantes para a investigação do critério de imputação da responsabilidade civil por atos relacionados ao uso da inteligência artificial. Sem nenhuma pretensão de exaustão, e tendo sempre em vista que o foco do presente estudo recai sobre a investigação da responsabilidade civil médica na análise diagnóstica apoiada pela inteligência artificial, passa-se à apresentação de um panorama geral das principais proposições teóricas relacionadas à atribuição da responsabilidade civil pelos atos da inteligência artificial.

Ana Elisabete Ferreira, ao abordar a responsabilidade civil por danos causados por robôs autônomos, bem como os riscos potencialmente associados à tecnologia, expõe que “a pressuposição da perigosidade do incerto é um elemento chave para compreender o rumo atual da responsabilidade civil, e o fenómeno a que costumou chamar‑se socialização do risco”. 42 Ao transportar-se para o ordenamento jurídico brasileiro essa análise da forma de atribuição da...

Uma experiência inovadora de pesquisa jurídica em doutrina, a um clique e em um só lugar.

No Jusbrasil Doutrina você acessa o acervo da Revista dos Tribunais e busca rapidamente o conteúdo que precisa, dentro de cada obra.

  • 3 acessos grátis às seções de obras.
  • Busca por conteúdo dentro das obras.
Ilustração de computador e livro
jusbrasil.com.br
7 de Dezembro de 2021
Disponível em: https://thomsonreuters.jusbrasil.com.br/doutrina/secao/1147600487/capitulo-2-inteligencia-artificial-na-analise-diagnostica-beneficios-riscos-e-responsabilidade-do-medico-parte-i-novas-tecnologias-na-area-da-saude-e-responsabilidade-civil