Inteligência Artificial e Direito - Ed. 2020

Inteligência Artificial, Mercado Único Digital e a Postulação de Um Direito às Inferências Justas e Razoáveis: Uma Questão Jurídica Entre a Ética e a Técnica

Entre no Jusbrasil para imprimir o conteúdo do Jusbrasil

Acesse: https://www.jusbrasil.com.br/cadastro

Autores:

Alexandre Veronese

Alessandra Silveira

Amanda Nunes Lopes Espiñeira Lemos

1.Introdução: a quarta revolução industrial e o desenvolvimento econômico digital 1

Atualmente, uma das mais empolgantes discussões no campo da tecnologia tem sido acerca das potencialidades do uso de inteligência artificial nos diversos processos produtivos 2 . Esse debate foi sintetizado pelo conceito de Quarta Revolução Industrial, que seria compreendida pela expansão da automatização de processos produtivos 3 . No campo do direito, existem diversos produtos e linhas de pesquisa sobre o assunto. E o termo inteligência artificial tem ganhado cada vez mais espaço, não somente nas mídias especializadas, como também em estudos prospectivos de governos e de entidades de pesquisa 4 . Segundo as estimativas da International Data Corporation (IDC), uma empresa de consultoria da área de tecnologia da informação dos Estados Unidos da América, os gastos – em todo o mundo – com sistemas cognitivos e com inteligência artificial irão alcançar cerca de 78 bilhões de dólares anuais em 2020 5 . O presente texto busca contribuir com esse debate ao fazer uma análise sobre as políticas públicas da União Europeia sobre o tema, bem como ao buscar evidenciar que o debate sobre inteligência artificial está diretamente relacionado com aquele referente à proteção de dados pessoais.

A Quarta Revolução Industrial se relaciona diretamente com a automação dos processos produtivos. Todavia, a automação se revestiria de uma qualidade nova: a capacidade de aprendizado dos programas para melhorar o seu próprio desempenho. O processo de automação no setor produtivo já é bem conhecido e se mostra bastante difundido, seja na produção industrial de massa, seja na oferta de serviços. Assim, várias fábricas já produzem produtos – carros, por exemplo – com o uso intensivo de mão de obra robótica. O mesmo ocorre na prestação de serviços bancários e diversos outros. A diferença central da automação da Quarta Revolução Industrial se relaciona com a tentativa de produzir programas de computador que possam aprender. Um exemplo citado é o programa AlphaGo 6 , que houve por vencer um competidor daquele milenar jogo de tabuleiro chinês. O treinamento do programa teria ocorrido por meio de partidas simuladas contra ele mesmo. Assim, por meio de repetição, foi possível que o modelo algorítmico pudesse evoluir. Os programas de computação relacionadas com a Quarta Revolução Industrial seriam centralmente construídos para essa finalidade: aprender e melhorar os modelos aplicados às atividades restritas para as quais tenham sido criados. O ponto central é que esses programas seriam especializados e restritos. Logo, o AlphaGo seria muito eficiente para modelar e jogar Go. Porém, não teria a mesma capacidade para modelar e jogar xadrez. Esse conceito é crucial para entender a automação da Quarta Revolução Industrial. Se as máquinas do passado e do presente seriam especializadas, as “máquinas” do futuro serão superespecializadas.

Por que o tema sairia da ficção científica e entraria no olhar dos economistas e dos governos ao redor do mundo? Pelo simples fato de que incrementos nas margens de lucro dos processos produtivos são cruciais para a boa situação econômica futura dos países. Utilizar sistemas superespecializados para a produção agrícola, industrial ou para o setor de serviços será um imperativo para poder competir no mercado global. Os países que – eventualmente – não tenham investido nessas novas máquinas superespecializadas se tornarão dependentes daqueles que estiverem mais avançados. Portanto, o diagnóstico da centralidade desses investimentos se tornou hegemônico e foi amplamente debatido nos fóruns nacionais e internacionais. É por esse motivo que a Comissão Europeia e o Parlamento Europeu – a partir do disposto nos artigos 4º (2) (a), 26º, 27º, 114º, 115º do Tratado sobre o Funcionamento da União Europeia (TFUE) 7 – estão construindo políticas públicas específicas para o Mercado Único Digital (Digital Single Market) e, no cerne dela, está debatendo um planejamento para fomento no setor de inteligência artificial 8 .

No presente texto, se irá discutir como a inteligência artificial – em sentido restrito (narrow) – pode acarretar consequências negativas aos cidadãos. O texto evidencia a tentativa de utilizar o marco jurídico da proteção de dados pessoais – Regulamento Geral Sobre a Proteção de Dados, ou Regulamento UE 2016/679 9 , doravante RGPD – para permitir a defesa dos cidadãos em face de algumas aplicações de inteligência artificial. Para tanto, na próxima seção serão expostos alguns conceitos fundamentais sobre inteligência artificial. Depois, na terceira seção, serão expostos os documentos atuais sobre a política de inteligência artificial que está em debate no âmbito do programa do Mercado Único Digital, da União Europeia, demonstrando como o tema se correlaciona com a questão da proteção de dados pessoais. Na conclusão, serão expostos os mecanismos jurídicos de proteção dos cidadãos – com base no ordenamento jurídico da União Europeia e, em especial, do RGPD – em face das decisões totalmente automatizadas. A conclusão será que o Direito da União Europeia ainda está sendo construído em relação à proteção dos cidadãos em face de inferências – produzidas de forma automatizada – que sejam injustas ou desarrazoadas. Poderia se considerar que os artigos 21 e 22 do RGPD (direitos de oposição e de explicação) já ofereceriam proteção suficiente. Todavia, a definição dos limites de aplicação desses dispositivos é, por certo, um processo regulatório em curso, como alerta Sandra Wachter:

“Preocupações similares [discriminação algorítmica] estão refletidas no RGPD, especialmente no artigo 21 (direito à oposição) e artigo 22 (regras sobre decisões individuais automatizadas, incluindo o perfilhamento). O artigo 21 introduz o direito dos titulares de dados pessoais de se opor aos tratamentos de dados, inclusive aos perfilhamentos, a qualquer momento. Se o propósito do tratamento de dados é a realização de marketing direcionado, o titular terá um direito absoluto de oposição. Em todos os demais casos, o tratamento de dados deve ser interrompido, a não ser que o controlador possa evidenciar interesses legítimos para se sobrepor aos interesses dos titulares dos dados. Infelizmente, o quadro normativo não oferece uma definição para quais seriam os interesses convincentes dos controlares, deixando tanto esses, quanto os titulares de dados em uma situação jurídica indeterminada. Para além dessa incerteza jurídica, a viabilidade técnica de cessar a coleta de dados também figura como um desafio. As formas pelas quais os controladores de dados poderão gerir as objeções pontuais sem cessar toda a provisão de serviços continua pouco clara. Como resultado, os usuários preocupados com sua privacidade – ou com perfilhamentos facilitados a partir de aplicações de Internet das coisas – podem ser confrontados com uma escolha binária de ‘pegue ou largue’. O artigo 22 introduz salvaguardas adicionais contra decisões automatizadas, inclusive de perfilhamento, porém apenas quando o tratamento é exclusivamente automatizado e possui efeitos jurídicos ou significativamente similares. O escopo de aplicabilidade poderá ser muito limitado, ao menos até que dois conceitos cruciais do artigo 22 (1) ainda não estejam claros, que são ‘exclusivamente com base no tratamento automatizado’ (solely on automated processing) e ‘que produza efeitos na sua esfera jurídica ou que o afete significativamente de forma similar’ (which produces legal effects concerning him or her or similarly significantly affects...

Uma experiência inovadora de pesquisa jurídica em doutrina, a um clique e em um só lugar.

No Jusbrasil Doutrina você acessa o acervo da Revista dos Tribunais e busca rapidamente o conteúdo que precisa, dentro de cada obra.

  • 3 acessos grátis às seções de obras.
  • Busca por conteúdo dentro das obras.
Ilustração de computador e livro
jusbrasil.com.br
2 de Dezembro de 2021
Disponível em: https://thomsonreuters.jusbrasil.com.br/doutrina/secao/1196969648/inteligencia-artificial-mercado-unico-digital-e-a-postulacao-de-um-direito-as-inferencias-justas-e-razoaveis-uma-questao-juridica-entre-a-etica-e-a-tecnica