Inteligência Artificial e Direito - Ed. 2020

Inteligência Artificial e Direito - Ed. 2020

Inteligência Artificial e Direito - Ed. 2020

Inteligência Artificial e Direito - Ed. 2020

A Utilização de Inteligência Artificial em Decisões Empresariais: Notas Introdutórias Acerca da Responsabilidade Civil dos Administradores

A Utilização de Inteligência Artificial em Decisões Empresariais: Notas Introdutórias Acerca da Responsabilidade Civil dos Administradores

Entre no Jusbrasil para imprimir o conteúdo do Jusbrasil

Acesse: https://www.jusbrasil.com.br/cadastro

Autores:

Chiara Spadaccini de Teffé

Filipe José Medon Affonso

“By far the greatest danger of Artificial Intelligence is that people conclude too early that they understand it.” 1

1.Inteligência artificial e responsabilidade civil

Nos últimos anos, muito se tem discutido sobre as possibilidades de interação entre o ser humano e a inteligência artificial (IA), bem como acerca da regulação de novas tecnologias. Sistemas e robôs comandados por IA vêm sendo utilizados diretamente em espaços públicos e domésticos, como também em ambientes empresariais, e a tendência é que essa interação se torne cada vez mais presente e sofisticada, fazendo parte tanto do dia a dia quanto das mais variadas relações humanas. A pandemia da Covid-19 trouxe incontáveis exemplos de como os robôs já estão transformando nossa realidade e tendem a permanecer em voga. 2 Diante disso, eventualmente, tais tecnologias terão que tomar decisões e definir caminhos, os quais, muitas vezes, esbarrarão em questões éticas 3 e de responsabilidade dos agentes envolvidos. 4

Questiona-se, com frequência, se seria necessário criar normas e institutos específicos para tratar de matérias relativas à inteligência artificial e robôs ou se deveriam ser aplicadas as normas já existentes para as novas situações. Os regimes de responsabilidade civil existentes seriam suficientemente maleáveis para lidar com os novos conflitos frutos da relação humano-IA? Ao mesmo tempo em que a tecnologia traz inquestionáveis benefícios, ela vem acompanhada de diversos questionamentos que se mostram bastante presentes na seara jurídica. Falar em IA é mais do que falar em automação e numa possível perda de empregos: é também falar de danos e, sobretudo, de quem responde por eles e por qual razão.

Contudo, essa tarefa nem sempre é simples, em razão da falta de amostras adequadas e dados confiáveis sobre os efeitos e interações das novas tecnologias em longo prazo na sociedade, nos mais variados ambientes e entre diversos sujeitos. A principal razão para isso é que nem sempre se tem dados, experiência e imaginação suficientes para prever quais impactos negativos podem ser associados a um determinado robô ou IA 5 , o que prejudica, em parte, eventuais intervenções em termos normativos e regulatórios. De todo modo, entende-se que as aplicações das normas jurídicas deverão se dar em diálogo com os debates mais recentes e de caráter multissetorial que estejam ocorrendo sobre o assunto e demais temas correlatos, como proteção de dados e cibersegurança.

No âmbito do Direito, parece adequada uma atuação tanto preventiva, buscando-se evitar ou minorar a ocorrência de danos, quanto a posteriori, isto é, quando o dano já foi causado e é preciso indenizar a vítima. Para isso, é necessário avaliar os deveres dos agentes envolvidos no desenvolvimento e aplicação da IA, bem como o regime e a estrutura de responsabilidade civil adequados nos casos de danos oriundos da IA. Exemplo desse trabalho pode ser realizado na hipótese de uma IA influenciar a tomada de decisões por parte de administradores de sociedades empresárias, as quais poderão impactar profundamente a estrutura da empresa, seus funcionários e seu valor no mercado.

Antes de se adentrar nesse debate, cabe ressaltar, porém, que a possibilidade de responsabilização, de um lado, poderá incentivar o desenvolvimento de bens e tecnologias mais seguros, claros e eficientes, mas, de outro, poderá acabar impactando negativamente as taxas de desenvolvimento de inovação e a adoção de novos negócios e tecnologias, o que seria nocivo para a sociedade de forma geral. Há, portanto, um delicado e importante equilíbrio de interesses a ser atingido.

Entende-se que uma abordagem jurídica pessimista para a evolução tecnológica pode prejudicar o desenvolvimento de novos instrumentos que, efetivamente, venham a atuar no sentido de melhorar a qualidade de vida da população e trazer decisões empresariais mais eficientes e de risco controlado. Adicionalmente, não é demais lembrar que a melhor estrutura de regulação para a IA não deverá contemplar apenas o Direito, devendo ser também inseridos nesse esquema o mercado, as normas sociais e a arquitetura. 6

A atuação desses quatro elementos, operando de forma conjunta e relacionada, servirá tanto para incentivar quanto desestimular comportamentos de sujeitos e organizações, moldando estruturas e regulando situações. Nesse âmbito, princípios éticos, padrões técnicos e normas de estrutura menos fechada ajudarão a garantir que o desenho e o desenvolvimento de tais tecnologias sejam orientados pela preocupação com a pessoa e busquem promover uma IA segura, justa e inclusiva.

John McCarthy, conhecido como pai do termo Inteligência Artificial, assim a define: “a ciência e a engenharia de criar máquinas inteligentes, especialmente programas de computador inteligentes. Ela está relacionada à tarefa similar de utilizar computadores para entender a inteligência humana, mas a IA não tem que se confinar aos métodos que são biologicamente observáveis.” 7 Já numa definição mais atual, de Jacob Turner, a inteligência artificial é compreendida como a habilidade de um ente não natural de fazer escolhas a partir de um processo de avaliação. 8 - 9

As duas definições, contudo, não esgotam a amplitude da IA. Basta pensar que os carros autônomos 10 , que pareciam ser uma imensa novidade, hoje já estão sendo considerados, em certa medida, uma tecnologia menos atual, assim como os drones. Fala-se em aviões sem pilotos comandados por IA 11 , os quais podem ser utilizados em contextos bélicos, por exemplo. Mas se engana quem pensa que os danos causados pela IA podem impactar apenas sistemas e robôs 12 : já se tem notícia, por exemplo, de acidentes em fábricas e ruas que foram fatais para vítimas humanas. 13

O que fazer nesses casos então? Quem será responsável pelos danos causados se os resultados das ações da máquina não eram passíveis de previsão nem mesmo por aqueles que a desenvolveram? Qual será a teoria de responsabilidade civil a ser adotada? Seria o risco criado? O risco proveito? Seria a teoria do risco do desenvolvimento aplicável? 14 Há muitas perguntas e, por enquanto, poucas respostas e certezas. Na medida que a IA se tornar mais presente na vida das pessoas e, também, nas ações judiciais, isso fica mais evidente.

Fala-se, por exemplo, na atribuição de responsabilidade a diversos sujeitos 15 , tais quais: i) o titular de direitos de propriedade intelectual sobre a IA; ii) o produtor de um objeto dirigido por IA e o projetista da IA; iii) o fornecedor, o vendedor ou o intermediário da IA; iv) o explorador da IA; v) o proprietário de um aparelho regido por IA; vi) o usuário da IA; vii) o treinador da máquina comandada por IA; e viii) os próprios robôs 16 - 17 . Diante da complexidade dos sistemas e das situações fáticas, num primeiro momento, não parece haver uma solução geral, mas sim casuística, a depender, por exemplo, dos agentes envolvidos e de seus respectivos deveres, bem como do tipo e do grau de autonomia da IA envolvida. 18

O aumento da capacidade de processamento da Inteligência Artificial, os avanços em algoritmos, e a maior disponibilidade de dados representam fatores essenciais para o desenvolvimento de ponto importante para a maior aplicação dessa tecnologia, qual seja, a velocidade para a tomada de decisões de qualidade. Afirma-se que, “[q]uanto mais avançadas e acessíveis se tornam as tecnologias de processamento e de armazenamento de dados, mais poderosos ficam os sistemas de Inteligência Artificial, simplesmente porque eles conseguem tomar decisões mais complexas em tempo hábil.” 19 Nesse cenário, se os algoritmos representam o motor, por certo os dados são o combustível dessa revolução 20 , tendo em vista o crescente volume de informações produzidas e disponíveis, as quais apresentam diversidade em termos de natureza, forma de captação e possibilidade de tratamento, insumos esses de relevância elevada para as técnicas de aprendizado de máquina.

Hoje se busca por meio de tais técnicas que a tecnologia seja autossuficiente e possa analisar uma dada situação de múltiplas perspectivas, com o máximo de dados, para tomar a melhor decisão estatisticamente comprovada. Assim, computadores e dispositivos conectados podem desempenhar suas funções sem que pareçam programados, bem como aprender durante o processo de uso, utilizando o máximo de informações que conseguirem captar e gerar.

A partir do aprendizado de máquina, muitas inteligências artificiais são capazes de se autoalimentar, criando novos padrões, o que se torna especialmente preocupante quando se percebe que, “com a habilidade de treinar a si mesma e acumular experiências, a IA pode tomar decisões independentemente da vontade de seu desenvolvedor e, inclusive, chegar a resultados sequer passíveis de previsão pelos seus programadores.” 21 Esta imprevisibilidade é, sem dúvidas, um dos atributos da IA que mais demanda atenção.

Diversos países já contam com planos e/ou regulações no campo da IA. 22 Destacam-se, dentre outros, China 23 , Índia 24 , Estados Unidos 25 - 26 e Canadá 27 . A Europa, por sua vez, já conta com estratégia para a Inteligência Artificial, adotada em abril de 2018, além de um plano coordenado elaborado com os Estados-Membros para promover o desenvolvimento e a utilização dessa tecnologia 28 . Vale lembrar que, em fevereiro de 2020, a Comissão europeia publicou o “Livro Branco sobre a inteligência artificial”, em que afirma a necessidade de se reforçar a confiança na aplicação dessa tecnologia e traçar a política europeia com base nos valores e direitos fundamentais, como a dignidade humana e a proteção da privacidade.

Diante desse cenário, diversos pesquisadores vêm afirmando que o Brasil deveria desenvolver estratégias para o tema, a partir do reconhecimento de sua importância, construindo uma política nacional própria para essa área. No início de 2019, o Ministério da Ciência, Tecnologia, Inovações e Comunicações começou a ampliar projetos sobre IA. O Brasil, em maio do mesmo ano, aderiu aos princípios da OCDE (Organização para a Cooperação e Desenvolvimento Econômico) para a …

Uma experiência inovadora de pesquisa jurídica em doutrina, a um clique e em um só lugar.

No Jusbrasil Doutrina você acessa o acervo da Revista dos Tribunais e busca rapidamente o conteúdo que precisa, dentro de cada obra.

  • 3 acessos grátis às seções de obras.
  • Busca por conteúdo dentro das obras.
Ilustração de computador e livro
jusbrasil.com.br
5 de Julho de 2022
Disponível em: https://thomsonreuters.jusbrasil.com.br/doutrina/secao/1196969663/a-utilizacao-de-inteligencia-artificial-em-decisoes-empresariais-notas-introdutorias-acerca-da-responsabilidade-civil-dos-administradores