Inteligência Artificial e Direito - Ed. 2020

Sobre os Ombros de Robôs? A Inteligência Artificial Entre Fascínios e Desilusões - Parte I - Compreensão da Inteligência Artificial e dos Seus Pressupostos de Controle e Regulação

Entre no Jusbrasil para imprimir o conteúdo do Jusbrasil

Acesse: https://www.jusbrasil.com.br/cadastro

Autores:

Carlos Affonso Pereira de Souza

Jordan Vinícius de Oliveira

1.Introdução

Você se submeteria a um procedimento cirúrgico recomendado por um sistema baseado em Inteligência Artificial? Se tivesse dúvidas sobre a recomendação, preferiria que a segunda opinião fosse dada por um humano ou por outra máquina? Caso concordasse com a cirurgia, seria melhor que ela fosse realizada por um médico ou por um robô especializado?

Perguntas como essas desafiam as nossas percepções sobre o futuro da Inteligência Artificial. Elas nos forçam a imaginar um mundo que oscila nas fronteiras entre o que aprendemos a tratar como ficção científica e um universo de possibilidades que já bate a nossa porta. Quanto mais essencial for a atividade que passaria a ser desempenhada por máquinas inteligentes, mais inevitável passa a ser o questionamento sobre o papel que será reservado ao humano. São tantas as indagações, e direcionadas a tantas áreas, que, não raramente, o debate sobre Inteligência Artificial parece tomado por dois extremos inconciliáveis: fascínios ou desilusões.

As tecnologias do futuro tomarão decisões enviesadas? Os empregos humanos estão mesmo ameaçados pela automatização inteligente? Um assistente jurídico virtual poderia substituir um advogado? O carro autônomo poderá decidir entre poupar a integridade física do motorista em detrimento da de outrem? E o que dizer da sempre lembrada questão sobre relações sexuais com um robô? Mais do que respostas, estes são alguns dos eventuais fascínios e desilusões trazidos ao cotidiano humano por invenções pautadas em Inteligência Artificial.

Antes de mais nada, vale esclarecer: o que se entende aqui por Inteligência Artificial? Turner (2019, p. 16, tradução livre) oferece um bom ponto de partida ao destacar que existem inúmeras variações técnicas acerca do que seria a Inteligência Artificial, mas uma noção regulatória poderia pressupor uma “habilidade concedida a uma entidade não natural para tomar decisões por meio de um processo avaliativo”.

Em 1159, João de Salisbury reportou sobre um dos primeiros registros documentados da expressão “sobre os ombros de gigantes”, ao empregar essa metáfora para ilustrar como o conhecimento humano é fruto de uma interação constante de saberes entre o homem e os que o antecederam (SALISBURY, 1159, p. 167). Essa expressão não é demérito para quem a assume ou mesmo um louvor exagerado ao passado. Ao contrário, ela é o reconhecimento humilde de que, se hoje é possível enxergar mais longe, isso se deve ao fato de que muitos outros nos legaram o conhecimento que viabiliza novas ideias e descobertas.

Ao caminhar para a metade do século XXI, em pleno ritmo acelerado de desenvolvimento tecnológico e de promissoras possibilidades de integração da Inteligência Artificial com dispositivos conectados à internet, a célebre frase bem poderia passar por uma adaptação. Estaria a humanidade pronta para dar um novo salto, mas agora apoiada não apenas em ombros de outros humanos, mas também em ombros de robôs? Em vez de “ombros”, talvez fosse melhor dizer que estamos apoiados em um verdadeiro conjunto ambulante de protocolos de rede, códigos binários e hardwares de última geração.

Nesse sentido, o presente artigo tem por escopo apresentar algumas das mais relevantes promessas e limitações dessa tecnologia em sistemas automatizados virtuais, robóticos ou integrados. Na próxima seção, avaliar-se-ão alguns dos principais prós e contras da utilização de tais mecanismos para os setores da saúde, da segurança, do trabalho, da justiça, do transporte e (por que não?) das relações sexuais. A seção 3 sintetiza uma forma equilibrada de compreender essas possibilidades a partir das lições já extraídas, no fim do século passado, dos debates entre Direito e Internet. Embora nem todas as lições aprendidas nessas quase três décadas de relação entre Direito e Internet possam ser transportadas para o debate sobre Inteligência Artificial, muitas delas são fundamentais para entendermos a direção a seguir.

2.Inteligência Artificial: um copo meio cheio ou meio vazio?

Entre assistentes pessoais vasculhando hábitos humanos à procura de sinais, câmeras de vigilância prometendo a segurança pública perfeita, programas de renda básica para compensar a automatização do trabalho, sistemas de previsão de sentenças, carros autônomos e robôs sexuais, esta seção apresenta um agrupamento de soluções tecnológicas fundadas em Inteligência Artificial (doravante IA) e seus respectivos contrapontos. O debate é, por natureza, interdisciplinar e suscita a participação e o amadurecimento da sociedade, dos governos e de experts de variadas áreas, incluindo o Direito.

2.1.Saúde

O campo da saúde envolve uma gama de possibilidades à intervenção da tecnologia, seja na prevenção, no diagnóstico ou no tratamento das condições do corpo e da mente. Em tempos de crescimentos exponenciais de bancos de dados pessoais, esse mercado representa uma enorme via a ser explorada.

Stone et al. (2016, p. 25-30) citam que aparatos baseados em IA podem ser utilizados para dar suporte ao atendimento e à tomada de decisões acerca do quadro clínico de pacientes, para monitorar e se comunicar diretamente com eles, para auxiliar procedimentos cirúrgicos, para acompanhar o estado de saúde de idosos de forma mais especializada e para gerir planos de saúde de maneira mais eficiente. Elencam, ainda, que a explosão do fluxo de dados pessoais na sociedade conectada é capaz de incrementar a precisão desses sistemas com o objetivo de obter predições cada vez mais apuradas acerca das vulnerabilidades da saúde humana.

Segundo Marks (2019, p. 6-7), a utilização da IA possui um atributo ainda pouco ou nada explorado no setor de saúde: a prevenção ao suicídio por meio de monitoramento dos quadros médico e social do paciente. Consoante o autor, soluções fundadas em IA seriam capazes de atuar tanto na predição clínica de suicídios, baseada em entradas no histórico médico dos pacientes, quanto na sua predição social, pelo acompanhamento das redes sociais, de aplicativos de celular e de dispositivos conectados à chamada Internet das Coisas (em inglês: Internet of Things, abreviadamente, IoT). Nessa segunda forma de predição social, assistentes pessoais, como a Alexa, da Amazon, poderiam indicar traços de comportamentos suicidas de seus proprietários e repassar essas informações a uma equipe médica ou familiar para deliberação quanto a medidas interventivas.

Por fim, Chung (2017, p. 37-39) destaca que o uso de IA no setor de saúde, mais do que uma especulação, é uma realidade. Esse autor cita o produto IBM Watson for Oncology, cuja atuação originária é a de interpretar informações clínicas de pacientes com diagnóstico de câncer e cruzar o quadro com a literatura médica. Chung recorda que, embora o sistema esteja em um estádio ainda basilar na interação homem e máquina e, portanto, não seja plenamente autônomo, ele atua por meio de lógica difusa e gera receitas lucrativas à fabricante, na ordem de 200 a 1.000 dólares por paciente.

Todas essas novidades fascinam, mas vale destacar que nos cuidados médicos a IA necessitará de constante interação com dados pessoais de ordem sensível e que esse relacionamento poderá se dar, por vezes, de forma controvertida. Além disso, o funcionamento nada ou pouco transparente de algumas aplicações também é um ponto que merece atenção.

De acordo com Price (2017, p. 3-6), um dos maiores temores para o setor de saúde em tempos de IA decorre da chamada “medicina de caixa-preta” (black-boxmedicine), decorrente do funcionamento de técnicas algorítmicas cujo processo é obscuro e, ainda, mutável ao decorrer do tempo. O autor sintetiza suas preocupações em quatro contextos: capacidade regulatória, responsabilização, propriedade intelectual e privacidade.

No campo da capacidade regulatória, ele explica que, regularmente, as técnicas de controle de processos médicos decorrem da premissa de comprovação científica somada ao desempenho prático nos resultados de amostras. No entanto, nas tecnologias opacas com IA, essas técnicas de controle estariam seriamente afetadas, uma vez que os processos de tomada de decisão por algoritmos não são transparentes ou controláveis.

Sobre o problema da responsabilização em eventuais erros, o autor recorda que as decisões práticas geradas por tais sistemas complexos são, via de regra, apenas sugestionadas à equipe médica, não possuindo esta meios seguros para se certificar da confiabilidade de tais soluções.

Com relação à...

Uma experiência inovadora de pesquisa jurídica em doutrina, a um clique e em um só lugar.

No Jusbrasil Doutrina você acessa o acervo da Revista dos Tribunais e busca rapidamente o conteúdo que precisa, dentro de cada obra.

  • 3 acessos grátis às seções de obras.
  • Busca por conteúdo dentro das obras.
Ilustração de computador e livro
jusbrasil.com.br
29 de Janeiro de 2022
Disponível em: https://thomsonreuters.jusbrasil.com.br/doutrina/secao/1196969629/sobre-os-ombros-de-robos-a-inteligencia-artificial-entre-fascinios-e-desilusoes-parte-i-compreensao-da-inteligencia-artificial-e-dos-seus-pressupostos-de-controle-e-regulacao