Justificativa do Projeto de Lei Nº_____, Denominado Marco Regulatório da Inteligência Artificial - Regulação 4.0 - Vol. II

Daniel Becker Isabela Ferrari Bernardo Araujo Inicialmente, a sugestão do Marco Regulatório da Inteligência Artificial justifica-se no fato de que a inteligência artificial (IA) representa o principal ativo da sociedade contemporânea, e uma das principais fontes de preocupação com relação a ela. Nesse sentido, ao mesmo tempo que cria novas e múltiplas possibilidades de avanços sociais e econômicos, a tecnologia ressignifica ou desperta questões sensíveis de natureza ética, salientando problemas concretos relacionados à segurança, ao desenvolvimento dos sistemas, e à forma como afetam os seus destinatários individual ou coletivamente. Mundialmente, a inteligência artificial vem se tornando um dos principais focos de competição internacional. Espera-se que ela transforme a forma com que enfrentamos muitos dos maiores desafios da sociedade. Em que pesem os riscos inerentes ao seu uso, acredita-se no seu potencial de melhorar a qualidade de vida das pessoas, contribuindo para a competitividade industrial em todos os setores, incluindo pequenas e médias empresas. Nos hospitais, os sistemas de reconhecimento de imagens ajudam médicos a diagnosticar doenças, sendo, em muitos casos, mais precisos do que os próprios médicos. O transporte público totalmente automatizado está disponível em muitos países, e cada vez mais a direção é no sentido da automatização completa. Nas fábricas, robôs com inteligência artificial podem lidar com um número cada vez maior de tarefas. No varejo, ferramentas de data mining ajudam a vasculhar dados para identificar padrões de comportamento relevantes. A inteligência artificial é utilizada, ainda, para realizar trocas comerciais e investir em bolsas de valores, tendo sido, inclusive, regulada pela Comissão de Valores Mobiliários. Espera-se, ainda, que a inteligência artificial transforme toda a cadeia de agronegócio no mundo, gerindo essa operação em todas as suas etapas. Na vida privada, diferentes ferramentas permitem dar instruções por comando de voz para cada vez mais aparelhos, e classificar automaticamente as fotos que tiramos. Nessa linha, o reconhecimento facial e outras tecnologias controversas também vêm sendo empregadas para aperfeiçoar a segurança pública. Se não se pode negar que os usos da tecnologia cresçam em um ritmo acelerado em todo o mundo, não podemos ignorar o fato de que a corrida pela regulação da inteligência artificial e de suas aplicações já começou. Em jogo está a necessidade de criar um ambiente regulatório que permita o seu desenvolvimento (já que a I.A. tende a reconfigurar as relações de poder entre países, a ponto de Yuval Harari destacar que o imperialismo de um futuro próximo será o imperialismo digital), ao mesmo tempo em que se protejam as coletividades humanas de seus maiores riscos, associados ao erro grave e a seu potencial para discriminar grupos especialmente vulneráveis. Nesse sentido, o Marco Regulatório de Inteligência Artificial reconhece a importância da referida tecnologia para a economia nacional, seus negócios, serviços públicos, trabalhadores e consumidores, bem como para o posicionamento do Brasil no cenário internacional. Estabelece, ainda, que a Administração Pública, em coordenação com a indústria e a academia, adote, na linha de países como China e Estados Unidos, um Plano Nacional de Pesquisa, Desenvolvimento e Regulação da Inteligência Artificial. Em relação à pesquisa, muitas das principais Universidades do País possuem departamentos voltados especificamente aos estudos da tecnologia, mas é possível avançar significativamente. Por sua vez, o setor privado investe de forma crescente no uso de sistemas inteligentes para tornar seus negócios mais eficientes, o que altera o significado nacional de mão de obra qualificada, e faz florescer debates sobre concorrência; obrigando, respectivamente, à revisão dos currículos escolares, e à criação de culturas de análise de impacto setorial em hipóteses de implementação de inteligência artificial em larga escala. Considerando que a inteligência artificial promete beneficiar quase todos os aspectos da sociedade, ela deve ser objeto de regulação para que haja equilíbrio na busca pelo avanço tecnológico e incentivo à inovação no Brasil, ao mesmo tempo que se respeita a necessária deferência das pesquisas e aplicações aos direitos fundamentais. Assim, a tecnologia deve ser objeto de uma regulação que oriente por meio de diretrizes gerais, delimitando obrigações e responsabilidades para entes públicos e privados, a serem suplementadas por regulamentações setoriais, progressivas e de caráter prático para as aplicações sensíveis e as que envolvam riscos e usos potencialmente danosos. Assim, será possível criar um ambiente fértil que potencialize a utilização de soluções modernas em um ecossistema com segurança jurídica, previsibilidade legislativa e coerência regulatória. Levando-se em conta que a inteligência artificial envolve complexas questões legais, incluindo, por exemplo, proteção e privacidade de dados, transparência, vigilância, administração de serviços públicos, veículos e sistemas letais de armas autônomos, crescem as tentativas de regular a inteligência artificial direta ou indiretamente. Acontece que, em cenários de incerteza científica e urgência social, regulações abruptamente introduzidas podem sufocar o desenvolvimento tecnológico sem salvaguardar os direitos humanos adequadamente, o que exige cuidados específicos do Poder Legislativo. É nesse contexto de urgência social e de incertezas científicas que entra em cena o Marco Regulatório da Inteligência Artificial, o qual se propõe a antecipar e limitar as consequências prejudiciais à sociedade antes que elas ocorram. Cuida-se de ordenamento que se utiliza de mecanismos regulatórios baseados no risco das atividades. Para lidar com essas dificuldades, é possível extrair princípios de outros regimes regulatórios que também sintetizam o norte da proposta para a inteligência artificial, como a orientação pela precaução, o dever de cuidado, e o agir diligente norteado pelo risco e pelos potenciais danos. A aplicação de eventuais penalidades deve decorrer, então, de erros sistêmicos de governança dos sistemas e da falta de diligência no uso e na pesquisa. A solução parece ser uma regulação branda imposta aos entes públicos e privados para que eles se governem, sob o balizamento de finalidades públicas. Trata-se de regulação geral que renuncia a criar, ela própria, um regime de conformidade específico para um ambiente intrinsecamente diversificado. Dito de outra forma, ela adota diretrizes gerais e regras de qualidade mínima a serem cumpridas, sem fazer uma configuração pormenorizada de como deve ser o procedimento de cada empresa, assegurando-lhes altos graus de liberdade em sua implementação. Este modelo oferece uma nova possibilidade de lidar com as incertezas do mundo tecnológico em constante evolução, inovação e disrupção, ao conciliar vantagens de abordagens multisetoriais, ao mesmo tempo em que almeja interesses e valores públicos, mantém a expertise e dinâmica próprias do setor privado, incorporando conhecimentos de áreas tecnológicas que o Estado não dispõe, ou não dispõe com facilidade e rapidez necessárias para regular especificamente. O Marco Regulatório da Inteligência Artificial tem o objetivo de elevar o Brasil ao mesmo patamar dos líderes mundiais no desenvolvimento de inteligência artificial e sistemas autônomos, garantindo que o País esteja na vanguarda das indústrias existentes e futuras. Trata-se de esforço conjunto para proteger e promover o uso das tecnologias, ao passo que implementa uma estratégia colaborativa, deliberativa e engajada com o setor privado, com a academia, a sociedade civil e com parceiros internacionais. Estabelece-se uma estrutura para uma política holística para o futuro do desenvolvimento e da aplicação da inteligência artificial no Brasil. As principais políticas visam estimular o financiamento e o investimento; apoiar as habilidades necessárias; estabelecer infraestrutura essencial; e apoiar empresas em todo território nacional a desenvolver e adotar IA e tecnologias de dados. Essas missões impulsionam a inovação em todos os setores e têm como alvo as principais oportunidades com impacto doméstico e global. Nesse sentido, é fundamental que a Administração Pública Federal crie planos e estratégias de desenvolvimento do ecossistema da inteligência artificial levando em consideração os rápidos avanços na tecnologia e as mudanças globais na produção e nas cadeias de valor resultantes das novas tecnologias. Sabendo que a pesquisa e a inovação são as bases para as tecnologias do futuro, entre outras ações, o Marco Regulatório da Inteligência Artificial determina que os entes federativos priorizem os investimentos em pesquisa e desenvolvimento, aprimorem o acesso à infraestrutura de dados, assegurem que o Brasil lidere o desenvolvimento de padrões técnicos para a inteligência artificial e que sejam fornecidas oportunidades de educação e treinamento para capacitar trabalhadores para as novas eras da tecnologia. Assim, o Marco Regulatório da Inteligência Artificial busca proteger o Estado à medida que preserva normas de ordem pública e interesses nacionais. Ademais, almeja proteger empresas e negócios, pois incentiva o desenvolvimento tecnológico e a competição, tentando não sufocar negócios de menor impacto e em estágio de desenvolvimento; resguarda em especial as pessoas, na medida em que garante mais transparência, mais liberdade e mais deliberação sobre as decisões que orientarão o futuro de nossa democracia. Projeto de Lei nº _______, denominado Marco Regulatório da Inteligência ArtificialEstabelece diretrizes gerais para o ecossistema nacional de inteligência artificial. Regula o emprego de algoritmos decisórios pelo Poder Público. Art. 1º – Esta Lei estabelece princípios, garantias, direitos e deveres para o emprego de inteligência artificial no Brasil, inclusive nos meios digitais, dispondo sobre as diretrizes para a atuação de pessoas naturais, órgãos ou pessoas jurídicas de direito público vinculadas à União, aos Estados, ao Distrito Federal e aos Municípios, e pessoas jurídicas de direito privado, com o objetivo de proteger os direitos fundamentais, além de incentivar o desenvolvimento econômico, tecnológico e a inovação. § 1º – Esta Lei se aplica a pessoas físicas e jurídicas que utilizem sistemas inteligentes para atuar com quaisquer finalidades, inclusive comerciais, de políticas públicas ou de pesquisa. § 2º – Esta Lei integra o microssistema de regulação tecnológica, devendo ser interpretada em conjunto com as normas e diretrizes gerais da Lei Geral de Proteção de Dados Pessoais (Lei nº 13.709 de 14 de agosto de 2018) e do Marco Civil da Internet (Lei nº 12.965 de 23 de abril de 2014), no que couber. Sugestão: § 2º – Esta Lei deve ser interpretada em conjunto com as normas e diretrizes gerais da Lei Geral de Proteção de Dados Pessoais (Lei nº 13.709 de 14 de agosto de 2018) e do Marco Civil da Internet (Lei nº 12.965 de 23 de abril de 2014), no que couber. § 3º – As normas gerais podem ser suplantadas por regulamentos específicos editados por entes da Administração Pública Direta e Indireta no que diz respeito ao uso de sistemas inteligentes no âmbito de atuação de cada setor regulado. Art. 2º – Para os fins desta Lei, o termo “inteligência artificial” engloba as seguintes tecnologias computacionais: I – qualquer sistema artificial que execute tarefas em circunstâncias variadas e imprevisíveis, sem supervisão humana significativa, ou que possa aprender com a experiência e melhorar autonomamente o seu desempenho quando exposto a conjuntos de dados. II – qualquer sistema artificial desenvolvido em software de computador, hardware físico ou outro contexto que resolva tarefas que exijam percepção, cognição, planejamento, aprendizado, comunicação ou ação física semelhante a seres vivos sem que tenha sido explicitamente programado para tal. III – sistemas artificiais projetados para mimetizar o comportamento humano, como arquiteturas cognitivas e redes neurais. IV – qualquer conjunto de técnicas projetado para se aproximar de uma tarefa cognitiva, incluindo a aprendizagem de máquina. V – qualquer sistema artificial projetado para agir racionalmente, incluindo um agente de software inteligente ou robô incorporado que alcance objetivos usando percepção, planejamento, raciocínio, aprendizado, comunicação, tomada de decisão e ação. VI – sistemas inteligentes, assim entendidos os sistemas híbridos, que combinam recursos de inteligência artificial com supervisão ou atividade humana. Art. 3º A regulação da inteligência artificial no Brasil tem como fundamentos: I – os direitos humanos, a dignidade, a tutela dos direitos da personalidade e o exercício da cidadania pelas pessoas naturais; II – a segurança e proteção dos usuários durante toda a vida útil operacional dos softwares, bem como a auditabilidade destes, quando aplicável e viável; III – o respeito à pluralidade, à diversidade e à não discriminação; IV – o respeito à privacidade e a proteção dos dados pessoais; V – a liberdade de expressão, de informação, de comunicação e de opinião; VI – a livre iniciativa, a livre concorrência e a defesa do consumidor; VIII – o desenvolvimento econômico, social e tecnológico, e o incentivo à inovação; IX – a transparência e a informação. Art. 4º – O desenvolvimento de inteligência artificial deve atentar à harmonização dos princípios que guiam a noção de Estado de Direito, visando que: I – a inteligência artificial beneficie a sociedade, impulsionando o crescimento inclusivo, o desenvolvimento sustentável e o bem-estar. II – os sistemas sejam projetados de maneira a respeitar os direitos humanos, os valores democráticos e a diversidade, devendo incluir salvaguardas apropriadas que possibilitem a intervenção humana, sempre que necessária, para garantir uma sociedade justa. III – haja transparência e divulgação responsável em torno dos sistemas para garantir a compreensão mínima do processo envolvido na tomada de decisões automatizadas, tornando possível identificar vieses envolvidos no processo decisório e desafiar as referidas decisões, quando cabível. IV – os sistemas funcionem de maneira robusta, segura e protegida ao longo de seus ciclos de vida, e os riscos potenciais sejam constantemente avaliados e gerenciados continuamente. V – as organizações e indivíduos que desenvolvem, implantam ou operam sistemas de inteligência artificial sejam responsabilizados pelo seu bom funcionamento, de acordo com suas atividades e poder de gerência, nos termos da lei. § 1º O desenho de sistemas inteligentes deve combater e evitar a produção, direta ou indireta, de efeitos discriminatórios ilícitos ou abusivos sobre grupos vulneráveis. Os prejuízos causados serão objeto de reparação civil, sob a modalidade de responsabilidade objetiva. § 2º Serão legitimados a buscar a reparação referida no parágrafo anterior não apenas os indivíduos afetados, mas também os legitimados para a tutela de interesses difusos e coletivos. Art. 5º A governança da inteligência artificial deve pautar-se em valores éticos com o objetivo de regular os usos e aplicações da inteligência artificial de forma democrática, deliberativa e descentralizada. Art. 6º O Governo Federal, por seus órgãos ou entes, editará, em até 12 (doze) meses, um Plano Nacional de Pesquisa, Desenvolvimento e Regulação da Inteligência Artificial, cujas diretrizes serão de observação compulsória por órgãos e entes federais, e facultativa pelos demais entes federativos. Art. 7º O Plano Nacional de Pesquisa e Desenvolvimento em Inteligência Artificial observará, sempre que cabível, os seguintes preceitos: I – investir em pesquisa, desenvolvimento e outras atividades relacionadas à ciência e tecnologia em inteligência artificial, atentando à necessidade de: a) abordar lacunas no conhecimento básico com relação à inteligência artificial por meio de pesquisa, bem como atentar às suas aplicações práticas, incluindo demonstração, aplicação à análise e modelagem; b) fomentar instalações e centros para pesquisa, teste e educação em ciência e tecnologia no que diz respeito à inteligência artificial; c) estabelecer objetivos, prioridades e métricas para acelerar o desenvolvimento de aplicações de ciência e tecnologia para inteligência artificial; d) promover a pesquisa sobre os efeitos da inteligência artificial e as suas aplicações na sociedade, inclusive na força e nos locais de trabalho, e nos modos de viver dos indivíduos; d) promover o compartilhamento de dados e modelos entre governo federal, pesquisadores, acadêmicos, setor privado e outros profissionais de inteligência artificial, quando for o caso; e) apoiar esforços para criar métricas para avaliar a segurança, a proteção e a confiabilidade das aplicações da ciência e tecnologia em relação à inteligência artificial; e e) identificar e minimizar desvios em conjuntos de dados, algoritmos e outros aspectos da inteligência artificial, e eventuais consequências perniciosas da aprendizagem que os tome por base. II – incentivar que os esforços de pesquisa, desenvolvimento, demonstração e aplicações associados à inteligência artificial levem a usos benéficos para a sociedade. III – apoiar o desenvolvimento da força de trabalho para ciência e tecnologia com relação à inteligência artificial, fazendo investimentos estratégicos para: a) expandir o número de pesquisadores, educadores e estudantes com treinamento em ciência e tecnologia em inteligência artificial; b) aumentar o número de trabalhadores qualificados e treinados que possam contribuir para o desenvolvimento do setor; c) promover o desenvolvimento de currículos multidisciplinares e oportunidades de pesquisa em inteligência artificial, incluindo educação especializada, em todos os níveis de ensino; d) avaliar a implementação de programas de educação continuada para dotar os indivíduos de conhecimentos e habilidades necessários para atuar em ocupações e em locais de trabalho que tendem a ser cada vez mais influenciados pela inteligência artificial; e e) estruturar e implementar programas de aprendizagem de adultos e reciclagem de carreira para lidar com o excesso de mão de obra que resulta da automação de atividades nos campos público e privado. IV – coordenar esforços no campo da pesquisa e desenvolvimento de inteligência artificial entre agências governamentais, laboratórios públicos, organizações sem fins lucrativos, instituições de ensino superior e indústria, e a colaboração entre os setores, sempre que o sigilo não for recomendável ao bom desempenho das atividades. Art. 8º – O Estado poderá adotar medidas aptas a permitir o fortalecimento do ecossistema de inteligência artificial, inclusive por meio de financiamento de pesquisa e incentivo fiscal a organizações para que garantam seu uso benéfico. Art. 9º – A introdução em larga escala de sistemas inteligentes, assim definida em ato infralegal, deve vir acompanhada de análise de impacto regulatório, a ser apresentado ao ente da Administração Pública Direta ou Indireta responsável por regular o setor, devendo ser abordados, no mínimo, aspectos relativos: I – aos impactos nos ambientes social, físico e do trabalho; II – aos impactos na saúde e na proteção de crianças e adolescentes; III – ao montante dos investimentos em inteligência artificial, acompanhado de informações sobre fontes de financiamento e histórico das equipes e dos projetos; IV – à curadoria e seleção dos dados empregados para a aprendizagem de máquinas. Art. 10º A regulação da inteligência artificial deve priorizar e incentivar estruturas de políticas, códigos de conduta ou práticas voluntárias; diretrizes práticas; a compatibilidade entre regulamentos nacionais e internacionais; e o estabelecimento de normas éticas que salvaguardem os fundamentos e princípios elencados nos artigos 3º e 4º, não prejudicando e, sempre que possível, promovendo: I – a transparência e a rastreabilidade, quando possível, da relação entre causa e efeito nas vias de tomada de decisões automatizadas. II – a eficácia da inteligência artificial, mensurável ao menos a curto e médio prazo, nas aplicações do mundo real a que se destina, permitindo que usuários, especialistas e cidadãos avaliem, concretamente e dentro de suas capacidades, se os sistemas de inteligência artificial estão atingindo os seus objetivos. III – o dever de que os sistemas sejam projetados, executados e medidos por profissionais com os conhecimentos necessários para tanto, bem como a obrigatoriedade de que os operadores de sistemas de inteligência artificial provem possuir as competências apropriadas para o seu desenvolvimento a partir do paradigma da mitigação de riscos antecipáveis, especialmente quando as decisões automatizadas afetarem direitos fundamentais. Sugestão: III – o dever de que os sistemas sejam projetados, executados e medidos por profissionais com os conhecimentos necessários para tanto, bem como a obrigatoriedade de que os integrantes da cadeira de sistemas de inteligência artificial provem possuir as competências apropriadas para o seu desenvolvimento a partir do paradigma da mitigação de riscos antecipáveis, especialmente quando as decisões automatizadas afetarem direitos fundamentais. Parágrafo único. Normas de delegação de decisões públicas relevantes a sistemas codificados devem incluir, no desenvolvimento do sistema, público ou privado, uma etapa de diálogo prévio, inclusivo e ponderado com a sociedade civil, visando garantir que os padrões e códigos de prática resultem de reflexão acerca de seus riscos e benefícios potenciais para a coletividade. Art. 11. Esta Lei tem o objetivo de fortalecer a pesquisa para impulsionar a inovação através do estabelecimento de um ecossistema de inteligência artificial forte, dinâmico, flexível, amplo e interdisciplinar, que seja competitivo internacionalmente e que preserve a cultura nacional, visando a: I – Incentivar a excelência em pesquisa, além do recrutamento de especialistas de ponta e a criação de um ambiente favorável à inovação. II – Criar ambientes livres para pesquisas em inteligência artificial e estímulo a ideias disruptivas, busca de novas soluções, desenvolvimento de aplicativos e modelos de negócios, incentivo à criação e desenvolvimento de startups, atração de talentos e identificação de tendências em estágio inicial. III – Incentivar a criação de um ambiente com intercâmbio construtivo e saudável entre pesquisadores e formuladores de políticas públicas, buscando o desenvolvimento de cultura de pesquisa baseada em cooperação, confiança e transparência entre pesquisadores e desenvolvedores. Parágrafo único – As equipes que desenvolvem sistemas inteligentes devem cooperar ativamente para evitar desvios nos padrões de segurança, sendo incentivados encontros periódicos entre representantes da indústria, dos governos, e da sociedade civil. Art. 12. Para fins desta Lei, deverão ser observados o léxico e os padrões técnicos adotados internacionalmente.

Uma experiência inovadora de pesquisa jurídica em doutrina, a um clique e em um só lugar.