Um novo projeto de lei para estabelecer direitos e deveres no uso de sistemas de inteligência artificial (IA) inicia tramitação no Congresso Federal. Trata-se do PL 21/2020, do deputado federal Eduardo Bismarck (PDT/CE).
O PL lista três direitos básicos para qualquer cidadão impactado por um sistema de IA: 1) ciência da instituição responsável pelo sistema de IA; 2) acesso a informações claras e adequadas a respeito dos critérios e procedimentos utilizados pelo sistema de inteligência artificial que lhe afete adversamente, observados o segredo comercial e industrial; 3) acesso a informações sobre o uso de seus dados sensíveis, conforme definido na Lei Geral de Proteção de Dados (LGPD). O PL deixa claro que os direitos listados não devem prejudicar o que define a LGPD e que podem ser exercidos a qualquer momento mediante requerimento direcionado à instituição responsável pelo sistema de IA.
O que mais chama a atenção, contudo, são os deveres que o PL estabelece para o que chama de “agentes de IA”, o que abrange tanto quem desenvolve os sistemas quanto quem os opera e mantém. Entre os deveres para o responsável pela implementação de um sistema, por exemplo, está encerrá-lo “se o seu controle humano não for mais possível”. Ou seja, o PL exige que haja sempre algum controle humano sobre a inteligência artificial. Trata-se de uma premissa que vem sendo discutida internacionalmente e parece ser um consenso entre pesquisadores do assunto.
Além disso, os agentes de IA deverão “responder, na forma da lei, pelas decisões tomadas por um sistema de inteligência artificial”. Portanto, ficaria estabelecida uma responsabilidade legal sobre quem desenvolve e quem implementa um sistema de IA. A responsabilização legal de infrações cometidas em IA é um dos maiores desafios jurídicos atuais.
O PL também lista mais alguns deveres dos agentes de IA: 1) divulgar publicamente a instituição responsável pelo estabelecimento do sistema de iA; 2) fornecer informações claras e adequadas a respeito dos critérios e procedimentos utilizados pelo sistema de inteligência artificial, observados o segredo comercial e industrial; 3) assegurar que os dados usados pelo sistema de IA observem o que está previsto na LGPD; 4) implantar um sistema de IA somente após avaliação adequada de seus objetivos, benefícios e riscos relacionados a cada fase do sistema.
Por fim, o PL define uma série de diretrizes para nortear o desenvolvimento da IA no Brasil, como o respeito a direitos humanos; valores democráticos; igualdade, pluralidade e direitos trabalhistas; e livre iniciativa e livre concorrência.
