Lgpd na Saúde - Ed. 2021

21. Inteligência Artificial no Setor de Saúde: Ética e Proteção de Dados - Parte III - Temas Contemporâneos: Desafios e Perspectivas

Entre no Jusbrasil para imprimir o conteúdo do Jusbrasil

Acesse: https://www.jusbrasil.com.br/cadastro

Autores:

Juliano Souza de Albuquerque Maranhão

Marco Almada

Introdução

Inteligência artificial (IA) é uma tecnologia cada vez mais frequente no campo da saúde. Com os recentes avanços das metodologias e técnicas de extração, armazenamento e processamento de dados, sistemas inteligentes são hoje aplicados em diversas tarefas, abrangendo desde chatbots capazes de fornecer informações 1 a pacientes até sistemas robóticos capazes de desempenhar tarefas cirúrgicas. 2 As múltiplas aplicações possíveis para a inteligência artificial trazem consigo um grande potencial de contribuir para a efetiva prestação de serviços de saúde para a população, mas também introduzem ou amplificam várias formas de risco. O presente capítulo aborda os riscos que os usos da inteligência artificial no domínio da saúde podem gerar em termos éticos e de proteção de dados pessoais, bem como as respostas jurídicas a esses riscos.

Embora seja uma tarefa ingrata tentar definir o que é Inteligência Artificial, de forma geral lidamos com um conjunto de técnicas e metodologias computacionais que possibilitam a um software ou máquina realizar tarefas que requerem raciocínio ou aprendizagem, simulando, ou encontrando soluções que normalmente requerem inteligência. 3 A novidade e o desafio trazido pela inteligência artificial ao direito reside na dificuldade em lidar com um agente, não dotado de personalidade jurídica, na acepção tradicional, mas que é capaz de realizar escolhas independentes (tomar decisões). No campo médico, estas escolhas podem levar a ações físicas, como no caso de um robô cirurgião, ou puramente cognitivas, como no caso de um sistema que gera diagnósticos a partir de informações relativas a um paciente. Mas, em ambos os casos, a atuação do sistema computacional inteligente é sensível às circunstâncias de operação e, naqueles que empregam aprendizado de máquina, melhora seu desempenho conforme a experiência.

O presente capítulo traz um panorama das questões éticas e jurídicas que podem surgir a partir do uso da inteligência artificial na área da saúde. O uso inadequado de inteligência artificial pode prejudicar a inteligibilidade de decisões médicas, lançar mão de dados pessoais excessivos, reproduzir práticas e padrões discriminatórios ou mesmo causar diretamente danos materiais, entre outras fontes de risco e incorporar práticas discriminatórias. A responsabilidade por danos causados pelo uso de inteligência artificial é tema bastante polêmico, com diversas teorias concorrentes, que ainda demandam amadurecimento e debate. 4

Diante desta dificuldade e o risco de que a alocação de responsabilidade a um dos agentes envolvidos na propulsão dessa tecnologia possa limitar seu desenvolvimento e de uma série de situações em que uma decisão automática independente pode dificultar a identificação de agentes humanos causadores, pode-se abordar o tema de uma perspectiva procedimental, no formato de prestação de contas do desenvolvimento dessa atividade. Como resultado, podem ser identificadas obrigações jurídicas no sentido de adoção de procedimentos preventivos ou para lidar com os riscos inerentes à tecnologia. 5

A partir desta perspectiva, o foco de análise deste artigo está nas questões éticas e obrigações procedimentais mitigadoras ligadas ao uso de dados pessoais de pacientes, médicos e outras pessoas naturais. A próxima seção oferece um panorama das diferentes formas como sistemas inteligentes podem ser empregados em contextos de saúde, bem como as questões éticas a elas relacionadas. A seguir, o texto explora como a operação de sistemas inteligentes pode depender de dados associados ou associáveis a pessoas naturais, de forma que estes sistemas devem ter em conta os requisitos da legislação de proteção de dados. Por fim, o texto discute as normas de proteção de dados aplicáveis nos casos em que a inteligência artificial é usada como ferramenta para automatizar processos de tomada de decisão, indicando algumas limitações destas no contexto da saúde.

1.Contextos de uso da inteligência artificial na saúde

A inteligência artificial tem encontrado uma série de aplicações relevantes no setor de saúde, seja em relação a políticas públicas sanitárias, seja em relação ao diagnóstico e terapia individuais.

Em políticas públicas de saúde, a IA tem sido aplicada para tarefas distintas, desde chatbots para orientação da população ou de profissionais …

Uma experiência inovadora de pesquisa jurídica em doutrina, a um clique e em um só lugar.

No Jusbrasil Doutrina você acessa o acervo da Revista dos Tribunais e busca rapidamente o conteúdo que precisa, dentro de cada obra.

  • 3 acessos grátis às seções de obras.
  • Busca por conteúdo dentro das obras.
Ilustração de computador e livro
jusbrasil.com.br
20 de Maio de 2022
Disponível em: https://thomsonreuters.jusbrasil.com.br/doutrina/secao/1250396568/21-inteligencia-artificial-no-setor-de-saude-etica-e-protecao-de-dados-parte-iii-temas-contemporaneos-desafios-e-perspectivas-lgpd-na-saude-ed-2021