70. Inteligência Artificial: Diretrizes Éticas na União Europeia

Autor: Ricardo José Leite de Sousa Em 08.04.2019, foi lançado pela União Europeia o “Guia Ético para uma Inteligência Artificial Confiável” (Ethics Guidelines For Trustworthy AI). Gestado durante nove meses pelo High Level Expert Group on Artificial Intelligence (AI HLEG), grupo de trabalho formado por 52 membros, composto representantes do mundo corporativo (IBM, Google, SAP, Santander, Bayer, entre outros), da sociedade civil, do mundo acadêmico (especialmente filósofos e cientistas) e presidido por Pekka Ala-Pietilä, ex-presidente da Nokia, o guia teve uma primeira versão divulgada em 18.12.2018, para efeito de análise e consulta pública, recebendo mais de 500 contribuições responsivas que conduziram ao seu texto final. O documento é divido em três capítulos, caminhando de considerações mais abstratas (capítulo I), para preocupações mais concretas (capítulo III). O primeiro capítulo trata premissas fundantes para a utilização de uma inteligência artificial (IA) confiável; o segundo indica sete exigências éticas consideradas imprescindíveis para a implementação e desenvolvimento da IA confiável e o terceiro capítulo se acerca das preocupações mais críticas que a implementação da IA desperta, sendo dirigido a todos aqueles que participam do desenvolvimento, implementação e utilização da IA, incluindo companhias privadas, organizações civis, pesquisadores, agências governamentais, trabalhadores e consumidores. Não tem caráter mandatório ou vinculante, sendo facultativa a adesão às suas diretrizes. Entre as premissas para que se alcance o desenvolvimento de uma inteligência artificial confiável, estabelecidas no primeiro capítulo, destacam-se a necessidade de: i) respeitar as garantias legais e normativas existentes (rule of law); ii) garantir a adesão a princípios e valores éticos e iii) salvaguardar a dignidade humana a e as liberdades individuais. A licitude de propósitos e os valores éticos no desenvolvimento da IA devem ser robustos, tanto da ótica técnica, quanto de uma perspectiva social, tendo em vista os riscos de a tecnologia ser desenvolvida para fins indevidos e perniciosos à humanidade. Ainda no primeiro capítulo, o guia explicita preocupação de que a disseminação da IA venha a implicar riscos à autonomia humana, sendo necessário que se estabeleçam medidas de prevenção a danos potenciais, de forma a que a tecnologia, ao ser adotada, seja explicável àqueles que por ela forem afetados. Não por outra razão, o guia é enfático ao propor: i) controle a ameaças que a IA pode trazer à saúde mental dos seres humanos; ii) prevenção de manipulações injustas de avaliação e decisão, bem como de enganos, por parte da IA e iii) óbice à vigilância injustificada de indivíduos. No segundo capítulo, as exigências para que a IA possa ser reputada confiável são organizadas com base nas seguintes premissas: a) a IA deve ser submetida à supervisão humana; b) é necessária segurança e robustez técnica que amparem sua utilização; c) deve existir garantia de privacidade e governança de dados; d) a transparência em suas decisões precisa ser assegurada; e) a utilização da IA deve propiciar diversidade, justiça e valores de não discriminação; f) é necessário que a IA contribua para o bem-estar social e ambiental; g) é preciso que seja possível definir a responsabilidade por eventuais danos causados pela IA. Da conjugação do primeiro com o segundo capítulo, percebe-se que o guia tem como uma de suas maiores preocupações a centralidade do ser humano na utilização da IA, de maneira a que seus dados não sejam usados indevidamente ou sem sua permissão, que seus atos e hábitos não sejam objeto de vigilância e que seus destinos não sejam decididos por algoritmos que não lhes deem qualquer explicação. Essas preocupações vão sendo desfiadas ao longo do terceiro capítulo, juntamente com outras tantas, apontando o documento que a falta de diversidade ou competência técnica das pessoas responsáveis pelo desenvolvimento da IA pode levar a resultados indesejados, para não dizer perniciosos. E, por fim, o guia lista as seguintes preocupações como sendo as mais críticas: a) Identificar e rastrear indivíduos com o uso da IA; b) Impossibilitar as pessoas de saber se estão lidando com outros seres humanos ou com uma IA; c) Utilização da IA para o desenvolvimento de killing robots; O documento prevê o lançamento de um programa-piloto para o verão europeu de 2019, período em que todos os que desejarem poderão adotar suas regras, de forma a propiciar coleta de dados e aprimoramento das diretrizes propugnadas. Com o feedbak que vier a ser dado pelos participantes voluntários, o texto do guia será revisto no início do ano 2020. É interessante apontar que o texto final do Guia foi alcançado após um grande desgaste entre os membros da comissão responsável por sua elaboração. O jornalista Janosch Delcker, responsável por escrever matérias sobre inteligência artificial para o site "Politico.eu", comentou recentemente que “os filósofos reclamaram que havia pouco conhecimento de ética no grupo. Os cientistas da computação achavam que estavam discutindo tecnologia com leigos, alguns dos quais tinham ideias erradas sobre o que a IA é capaz de fazer. E as autoridades do setor reclamaram de outras pessoas que, segundo eles, não tinham uma compreensão básica de como funciona uma economia de mercado” Thomas Metzinger, um dos filósofos integrantes do AI HLEG chegou a afirmar, em artigo escrito para o site TAGESSPIEGEL, que as propostas iniciais de demarcação de pontos que eticamente seriam não-negociáveis, pouco a pouco foram sendo mitigadas pelos integrantes do grupo que representavam interesses empresariais, até chegar ao ponto que o “não-negociável” foi transformado em “mera preocupação potencial” e os valores éticos do guia foram por água abaixo. ............................................................................................................................................ DE LUCA, Cristina. Comissão Europeia lança diretrizes éticas para a Inteligência Artificial. Disponível em: .Último acesso em 28 jun. 2019 FRAZÃO, Ana. Quais devem ser os parâmetros éticos e jurídicos para a utilização da IA? Disponível em: Último acesso em 28 jun. 2019 EUROPEAN UNION. EUROPEAN COMMISSION. Ethics Guidelines for Trustworthy AI. Bruxelas. Disponível em: . Último acesso em 28 jun. 2019 METZINGER, Thomas. EU Guidelines Ethics Washing Made In Europe. Disponível em: . Último acesso em 28 jun. 2019 ............................................................................................................................................

Direito do Trabalho, Tecnologia, Fraternidade e OIT - Ed. 2020

Uma experiência inovadora de pesquisa jurídica em doutrina, a um clique e em um só lugar.