Inteligência Artificial e Direito - Ed. 2020

Responsabilidade de Agentes Empresariais por Ilícitos Administrativos Praticados por Sistemas de Inteligência Artificial

Entre no Jusbrasil para imprimir o conteúdo do Jusbrasil

Acesse: https://www.jusbrasil.com.br/cadastro

Autor:

Miriam Wimmer

1.Introdução

Dentre os inúmeros desafios acarretados pela presença cada vez mais marcante de sistemas de Inteligência Artificial na sociedade, um dos mais delicados diz respeito ao tema da responsabilidade jurídica por condutas ilícitas.

As preocupações e os crescentes questionamentos relacionados ao desenvolvimento de agentes autônomos não humanos decorrem da percepção de que tais sistemas poderão não apenas ser imprevisíveis quanto aos seus efeitos gerais sobre a sociedade, como também poderão agir fora do escopo da responsabilidade humana. Conforme pontua Asaro (2016, p. 190), os riscos associados a inovações tecnológicas anteriores – como carros, aviões e armas – sempre foram passíveis de serem antecipados e mitigados, além de circunscritos em seus efeitos e limitados à responsabilidade de seres humanos e de instituições humanas. Em sentido contrário, a crescente autonomia e complexidade de agentes não humanos conduz a um cenário em que o controle humano é colocado em xeque, assim como a capacidade humana de compreender, prever ou controlar o comportamento de tais agentes.

Nesse contexto, questão central a ser endereçada é o problema da responsabilização por condutas de agentes autônomos. Não se trata de questão filosófica, adstrita ao reino do diletantismo intelectual. A presença crescente (embora nem sempre perceptível) 1 de sistemas de Inteligência Artificial na vida cotidiana faz com que o tema mereça consideração imediata. Se um carro autônomo atropela um ser humano, quem é responsável? Se sistemas de IA implementam um cartel, quem é punido? Se um chatbot ofende uma pessoa, quem arcará com a indenização? Se do uso de uma arma autônoma letal resultar um crime de guerra, quem deve responder? A própria utilização de sistemas autônomos não supervisionados em certos domínios certamente é também tema discutível.

Embora o tema da responsabilidade por condutas praticadas por sistemas de inteligência artificial tenha desdobramentos também no campo cível e penal, o objetivo deste artigo é de tratar da questão especificamente sob a ótica da responsabilidade administrativa. As incertezas jurídicas acerca do assunto ainda são grandes. A opacidade do processo decisório de sistemas de IA, que acarreta inúmeras dificuldades relativas à transparência e à capacidade de explicação quanto aos critérios de decisão, soma-se, no âmbito do Direito Administrativo, a debates doutrinários ainda não plenamente resolvidos acerca do papel da culpabilidade na aferição da responsabilidade administrativa, e, consequentemente, acerca da possibilidade de existência de regimes de responsabilidade objetiva na seara administrativa.

É o que se examina a seguir.

2.Contextualização: a culpabilidade no Direito Administrativo Sancionador

Não é tarefa simples definir de maneira objetiva as características, requisitos e limites da responsabilidade administrativa. Enquanto a responsabilidade civil possui natureza marcadamente patrimonial, voltada à reparação de danos morais ou materiais, e a responsabilidade penal é fortemente associada à ressocialização do indivíduo e comprometida com a observância de direitos e garantias fundamentais, a responsabilidade administrativa é frequentemente apresentada como distinta das demais formas de responsabilidade não em razão de suas características estruturantes, mas tão-somente em função do tipo de normas violadas (normas administrativas) e do agente apto a aplicar sanções (agente público no exercício de função administrativa, no âmbito da União, dos Estados, do Distrito Federal e dos Municípios).

A dificuldade de se caracterizar de maneira unívoca a natureza da responsabilidade administrativa faz com que não seja possível se falar de um único conceito legal de infração administrativa, mas de tantos quantos forem suas previsões no ordenamento jurídico (FERREIRA, 2012, p. 173). Feita essa advertência, cabe frisar, entretanto, que parte significativa da doutrina reconhece a existência de grande proximidade entre a responsabilidade administrativa e a responsabilidade penal 2 . Tal aproximação, materializada no ramo do Direito Administrativo Sancionador, suscita complexas e atuais discussões referentes à responsabilidade.

Sob forte influência da doutrina espanhola, muitos argumentam serem inafastáveis as garantias constitucionais fundamentais aplicáveis também ao direito penal, dentre as quais o princípio da culpabilidade 3 . A adoção de tal compreensão tem por efeito o entendimento de que eventual regime de responsabilidade objetiva na seara administrativa feriria o conjunto de princípios e garantias fundamentais previstos na Constituição. Assim, para a parte da doutrina que defende a incidência do princípio da culpabilidade no campo do Direito Administrativo Sancionador, ficaria afastada a possibilidade de responsabilização objetiva por ilícito administrativo 4 .

Outra corrente, por sua vez, reconhece a exigência apenas da voluntariedade para a configuração da responsabilidade administrativa, sem necessidade de comprovação de culpabilidade, a não ser em situações específicas determinadas pela lei. Para essa linha de pensamento, no campo do direito administrativo o mero animus seria condição suficiente para caracterizar a responsabilidade, independentemente do elemento subjetivo 5 .

A discussão se torna mais ampla e mais complexa quando são consideradas as diferenças no regime de responsabilidade administrativa aplicável a pessoas físicas e a pessoas jurídicas. Caso se entenda pela culpabilidade como elemento indispensável à aplicação de sanções administrativas, coloca-se a questão de saber se seria possível, e de que forma, apurar a culpabilidade de pessoas jurídicas, que agem e se manifestam somente por intermédio de seus administradores 6 . Tal indagação tem suscitado intensos debates jurídicos, permitindo-se vislumbrar pelo menos três interpretações distintas que, pela relevância para a discussão sobre responsabilidade de sistemas autônomos, convém brevemente descrever 7 .

Segundo um primeiro ponto de vista, ainda que a culpabilidade pudesse ser considerada elemento indispensável para a imposição de sanções a pessoas físicas, tal elemento não seria exigível das pessoas jurídicas. Na visão dos defensores de tal posição, dado que o Direito Administrativo, diferentemente do Direito Penal, acolhe a capacidade das pessoas jurídicas de suportar sanções, cairia por terra a necessidade de evidenciar a culpabilidade como fundamento da responsabilização, dada a impossibilidade de aferição das reações psicológicas intransferivelmente humanas associadas à culpabilidade 8 .

Uma segunda corrente, reconhecendo a necessidade da culpabilidade também para a imposição de sanções sobre pessoas jurídicas, mas ponderando que a pessoa jurídica não atua se não por meio de seus administradores, afirma que o dolo ou culpa da pessoa jurídica corresponderia ao dolo ou culpa destes. Segundo essa concepção, a responsabilidade dos administradores da pessoa jurídica seria transladada à pessoa jurídica, que passaria a ser diretamente imputável 9 .

Uma terceira vertente, por fim, indica que a culpabilidade da pessoa jurídica se identificaria com o chamado “déficit de organização”, de modo que sua conduta seria reprovável quando não fossem tomados os devidos cuidados para evitar a ocorrência de ilícitos. A responsabilização da pessoa jurídica não dependeria, assim, da comprovação da culpa ou do dolo das pessoas físicas que a representam. Esta terceira linha de pensamento, que remete também à ideia de culpabilidade das pessoas jurídicas nas hipóteses de falhas no dever de vigilância ou de diligência, aproxima-se da posição sustentada, no Brasil, por Fábio Medina Osório (2009), que entende ser a culpabilidade pressuposto de responsabilidade das pessoas físicas na esfera administrativa, mas reconhece que tal requisito não atinge as pessoas jurídicas da mesma forma e com o mesmo alcance que atinge as pessoas físicas, remetendo antes à ideia de evitabilidade do fato e aos deveres de cuidado objetivos que se apresentam encadeados na relação causal 10 .

Sem desconsiderar a relevância do debate acadêmico acerca dos requisitos jurídicos para a configuração da responsabilidade na seara administrativa, cabe apontar que, na prática, já se verifica a convivência, no direito administrativo brasileiro, de regimes de responsabilidade objetiva – independente, portanto, de culpabilidade – e subjetiva, incidentes sobre pessoas físicas e jurídicas, variando conforme a natureza da relação jurídica existente entre determinado agente e o Estado, e também conforme a atividade considerada.

No campo das telecomunicações, por exemplo, mercado sujeito à regulação setorial por meio de uma agência reguladora, é frequente a previsão normativa da responsabilidade objetiva, inadmitindo-se culpa de terceiro ou mesmo caso fortuito. Tal fenômeno é verificado com especial clareza no caso de prestação de serviços de telecomunicações mediante contrato de concessão, tendo até hoje prevalecido o entendimento de que a responsabilidade da concessionária é a de atingir determinados resultados previamente estabelecidos, sendo presumida a culpa no caso de descumprimento das metas 11 .

Também na seara concorrencial, com amparo no disposto no art. 36 da Lei 12.529, de 2011 12 , o Conselho Administrativo de Defesa Econômica tem reiteradamente sustentado o caráter objetivo da responsabilidade oriunda da subsunção de posturas e condutas aos tipos elencados, pouco importando a configuração de dolo ou culpa do agente. A temática foi debatida pelo STF em 1995, ainda à luz da Lei 8.884/1994, que continha idêntica disposição, tendo o voto condutor do Ministro Relator, Carlos Velloso, indicado que o regime de responsabilidade objetiva ali contido não ofenderia o texto constitucional 13 .

Igualmente adotando o regime de responsabilidade administrativa objetiva, a chamada Lei Anticorrupcao (Lei 12.846, de 01 de agosto de 2013), estabeleceu a responsabilidade objetiva das pessoas jurídicas, no âmbito administrativo e civil, pelos atos lesivos previstos naquela Lei, praticados em seu interesse ou benefício, exclusivo ou não, sem prejuízo da responsabilização individual de seus dirigentes ou administradores ou de qualquer pessoa natural, autora, coautora ou partícipe do ato ilícito 14 . O regime, portanto, é de responsabilidade objetiva para as pessoas jurídicas e de responsabilidade subjetiva de seus dirigentes e administradores, ou de qualquer pessoa natural autora, coautora ou partícipe do ato ilícito.

De modo diverso, no caso de responsabilidade referente a ilícitos ambientais, muito embora a legislação aplicável estabeleça regra de responsabilidade civil objetiva, solidária e ilimitada 15 , acolhendo o princípio do poluidor-pagador, a jurisprudência do STJ tem sido reiterada no sentido de considerar que, como regra, a responsabilidade administrativa ambiental apresenta caráter subjetivo, exigindo-se dolo ou culpa para sua configuração 16 .

Verifica-se, assim, que, especialmente no caso de infrações cometidas por pessoas jurídicas, o ordenamento jurídico brasileiro tem sido marcado por certa liberdade de configuração legislativa quanto ao sistema de responsabilidade, sem que, até o momento, tenham sido exitosos questionamentos de ordem constitucional quanto ao estabelecimento de sistemas de responsabilidade administrativa fundados na teoria do risco da atividade ou em outros critérios aptos a embasar a responsabilidade objetiva.

Reforça-se, portanto, a ideia de que não parece ser possível estabelecer uma regra uniforme acerca da necessidade de verificação de culpabilidade para a responsabilidade administrativa de pessoas jurídicas e nem, portanto, sobre a possibilidade, ou não, de se estabelecer a responsabilidade objetiva na seara administrativa. Em especial quando se trata de infrações cometidas por pessoas jurídicas, o que se verifica é a coexistência de diferentes regimes jurídicos que conduzem, por sua vez, a regimes de responsabilidade também diferenciados, respeitados sempre os princípios constitucionais da proporcionalidade e da interdição à arbitrariedade.

Confirma-se, assim, a advertência de Fábio Medina Osório (2009, p. 381-382) quanto à “radical fragmentariedade” do Direito Administrativo Sancionador no que tange às suas intervenções, direitos e garantias, tendo por regra geral não a unidade, mas a ruptura, evidenciada na proliferação das esferas punitivas e na multiplicação de relações de sujeição, nos mais variados graus.

Esse cenário traz desafios específicos quando se trata da utilização de sistemas de Inteligência Artificial, como se verá a seguir.

3.Inteligência Artificial, opacidade e responsabilidade

A discussão sobre a responsabilidade no contexto do Direito Administrativo Sancionador torna-se mais atual e concreta diante da crescente utilização de sistemas de Inteligência Artificial nos mais diversos campos de atividade econômica.

Embora ainda não exista definição unívoca de Inteligência Artificial, é frequente a sua caracterização como o campo de estudos que busca não apenas compreender, mas também construir entidades inteligentes 17 . O atual estágio de desenvolvimento tecnológico está ainda distante dos robôs dotados de superinteligência retratados nos filmes de ficção científica. Entretanto, apesar de não ser possível se falar, no presente, de uma Inteligência Artificial Geral, dotada das habilidades cognitivas e da compreensão de ambientes típicas dos seres humanos, já se verifica a presença massiva de sistemas de IA estreitos, capazes de lidar com tarefas específicas de maneira altamente especializada 18 .

Sistemas de Inteligência Artificial operam predominantemente a partir do reconhecimento de padrões, o que lhes permite identificar correlações e realizar inferências que muitas vezes não seriam intuitivas para seres humanos 19 . Tal capacidade, decorrente do tratamento de bases de dados em velocidade, volume e variedade sem precedentes, tem propiciado ganhos indiscutíveis em termos de produtividade e eficiência econômica, no campo das descobertas científicas, no aprimoramento de processos de trabalho e na oferta de serviços personalizados, dentre outras áreas (EUROPEAN COMMISSION, 2017; MCKINSEY, 2018).

Sistemas de IA possuem a capacidade de “aprender” com base em dados, resultados e padrões anteriores, solucionando problemas de maneira dinâmica, ainda que não tenham sido programados para tanto. A partir de bases de dados de treinamento, o algoritmo aprende a fazer generalizações e, eventualmente, predições, frequentemente a partir de categorizações. Assim, o aprendizado por máquinas permite que se façam previsões sobre os mais diversos assuntos, incluindo se determinada pessoa tem maior...

Uma experiência inovadora de pesquisa jurídica em doutrina, a um clique e em um só lugar.

No Jusbrasil Doutrina você acessa o acervo da Revista dos Tribunais e busca rapidamente o conteúdo que precisa, dentro de cada obra.

  • 3 acessos grátis às seções de obras.
  • Busca por conteúdo dentro das obras.
Ilustração de computador e livro
jusbrasil.com.br
28 de Janeiro de 2022
Disponível em: https://thomsonreuters.jusbrasil.com.br/doutrina/secao/1196969658/responsabilidade-de-agentes-empresariais-por-ilicitos-administrativos-praticados-por-sistemas-de-inteligencia-artificial-inteligencia-artificial-e-direito-ed-2020