Inteligência Artificial e Direito - Ed. 2020

Inteligência Artificial e a Lei Geral de Proteção de Dados Pessoais: Breves Anotações Sobre o Direito à Explicação Perante a Tomada de Decisões por Meio de Machine Learning

Entre no Jusbrasil para imprimir o conteúdo do Jusbrasil

Acesse: https://www.jusbrasil.com.br/cadastro

Autores:

Caitlin Mulholland

Isabella Z. Frajhof

1.Introdução

O 1 uso de programas de aprendizado por máquinas, conhecido pelo termo machine learning, permite que sejam criados sistemas de Inteligência Artificial (IA) que desenvolvem a capacidade de tomadas de decisão absolutamente autônomas em relação à interferência humana. Isto é, torna-se possível por meio de tratamento de dados em massa – inputs – o desenvolvimento de autoaprendizagem das máquinas – i.e. programas e sistemas – que permite o alcance de determinados resultados – outputs –, independentemente de qualquer mediação por um ser humano. Ou seja, o próprio sistema alcança resultados por meio de processos dedutivos e análises estatísticas que vão sendo determinados com base em correlações realizadas pela IA. Esses resultados, em não raras vezes, são obtidos sem que seja possível, a priori, reconhecer os padrões adotados pela IA para a análise de dados selecionados e o modo de trabalho que levaram a esses outputs.

Quando diante de um cenário como este, faz-se necessária a investigação de como se dará a segurança desses dados coletados e, por consequência, como serão tutelados os titulares dos dados, cujo tratamento serviu como insumo para que a IA alcançasse a tomada de decisão que poderia, concretamente, negar ou não promover direitos, ou gerar processos discriminatórios abusivos ou ilegítimos. Assim, diante da progressão dessa tecnologia rumo à onipresença e à onisciência, 2 o uso de algoritmos de aprendizado de máquina 3 tem sido objeto de estudo por diversas outras áreas para além dos tecnocratas, que têm analisado o seu processo de criação de maneira crítica (KITCHIN, 2014). Atualmente, a aplicação de IA está cada vez mais inserida nos mais variados aspectos da vida contemporânea. Ela não apenas modula a percepção da realidade humana por meio do filtro bolha (PARISIER, 2011), mas também participa das nossas escolhas (Google) e preferências musicais 4 , cinematográficas (Netflix) e de compras on-line, identificando e disponibilizando exatamente aquilo que estaríamos possivelmente interessados em ver, de acordo com o que já ouvimos, vimos e compramos em um passado recente 5 .

É justamente a abrangência de situações que têm se valido desta tecnologia e as possíveis afetações que seus resultados têm gerado que vem intensificando os questionamentos sobre sua transparência e accountability. Esses questionamentos são naturais em razão da sua forma de funcionamento, que torna pouco inteligível aos humanos o seu modo de trabalho e o que motivou seu resultado. 6 Outra preocupação que se revela no estudo de algoritmos e de inteligência artificial é a crença de que “algoritmos ‘preditivos’ racionalizam o processo de tomada de decisão ao resumir todas as informações relevantes de uma maneira mais eficiente do que o cérebro humano” (CHRISTIN et al., 2015, p. 1). 7 O mito sobre a objetividade, neutralidade, racionalidade e imparcialidade dos algoritmos tem sido paulatinamente desconstruído a partir da condução de diversas pesquisas. 8 Estas têm demonstrado que os vieses existentes na cultura humana são inevitavelmente replicados nos algoritmos, pois estes acabam reproduzindo, em larga escala, preconceitos e estereótipos (O’NEIL, 2016) que repercutem negativamente na mediação entre o humano e a máquina. Assim como nós humanos estamos sujeitos a heurísticas e a vieses em nossas tomadas de decisão, 9 os algoritmos também estão.

Considerando que as aplicações de machine learning “têm testemunhado uma grande aprovação da sua adoção diante da sua habilidade de radicalmente melhorar a tomada de decisão baseada em dados, por um custo e em uma escala incomparáveis aos humanos” (CASEY et al., 2018, p. 7), 10 a sua abrangência faz com que os mesmos exerçam um papel importante na regulação das nossas vidas, seja no seu uso pelo sistema judiciário para avaliar a probabilidade de que um sujeito reincida em determinado crime, 11 para decidir se um indivíduo deve ou não ter seu crédito concedido por uma instituição financeira, ou até mesmo no seu uso pelo próprio governo para decidir estratégias de realocação de mercado 12 .

Nesse cenário, formas de assegurar a proteção dos titulares de dados tornam-se essenciais, por tratar-se o direito à proteção de dados como um Direito Fundamental, e em razão do enorme impacto que estas decisões poderão ter em aspectos sensíveis da vida dos titulares de dados, mas principalmente pelo potencial de ocorrerem discriminações no tratamento destes dados. É neste sentido que a Lei Geral de Proteção de Dados Pessoais (LGPD), assim como o próprio Regulamento Europeu de Proteção de Dados 13 (GDPR 14 ), já estabelecem maneiras de regular o fenômeno dos processos algorítmicos aqui descritos, pelo o que tem sido denominado como o direito à explicação. É sobre este tema que o presente artigo se debruçará. O que se buscará expor é o que a lei brasileira e a norma europeia previram enquanto um direito à explicação, tentando extrair como que tal direito deverá ser interpretado e implementado pelos controladores de dados. Ainda, será evidenciada a disputa acadêmica que tem sido travada, onde pesquisadores têm exigido uma definição mais precisa dos deveres que poderiam decorrer a partir de tal direito, questionando-se se até mesmo um direito à explicação poderia ser...

Uma experiência inovadora de pesquisa jurídica em doutrina, a um clique e em um só lugar.

No Jusbrasil Doutrina você acessa o acervo da Revista dos Tribunais e busca rapidamente o conteúdo que precisa, dentro de cada obra.

  • 3 acessos grátis às seções de obras.
  • Busca por conteúdo dentro das obras.
Ilustração de computador e livro
jusbrasil.com.br
2 de Dezembro de 2021
Disponível em: https://thomsonreuters.jusbrasil.com.br/doutrina/secao/1196969650/inteligencia-artificial-e-a-lei-geral-de-protecao-de-dados-pessoais-breves-anotacoes-sobre-o-direito-a-explicacao-perante-a-tomada-de-decisoes-por-meio-de-machine-learning