Direitos fundamentais em risco nos debates legislativos para regulação de IA

Ilustração de Nik Neves

Estão fervilhando em campos institucionais do país diversos debates voltados para a regulação da Inteligência Artificial (IA). Temos o texto do substitutivo ao Projeto de Lei 2338/2023 – a proposta, entre diversos projetos, considerada a mais madura até o momento, elaborada pela Comissão Técnica de Juristas apresentada ao Senado.

No último dia 18 de junho, a Comissão Temporária Interna sobre Inteligência Artificial no Brasil (CTIA), constituída pelo Senado para discutir as propostas legislativas em curso que disciplinem a matéria, especialmente o PL 2.338/2023, apresentou modificações que preocupam, como é o caso da retirada do texto das expressões “desinformação” e “discurso de ódio”.

Vale mencionar que a composição desta comissão por si só já preocupa por sua baixíssima diversidade e predominância de parlamentares muito pouco comprometidos com garantias fundamentais; aliás, muito pelo contrário, estão ideologicamente ligados a forças neoliberais de direita, avessas à atuação do Estado como garantidor de direitos fundamentais. A CTIA tem como Presidente, Vice-Presidente e Relator os Senadores Carlos Viana, do Podemos, o astronauta Marcos Pontes e Eduardo Gomes, ambos do Partido Liberal.

O Senado divulgou ainda uma agenda com audiências públicas, que aconteceram nos últimos dias de 1, 2 e 3 de julho, quando foram discutidos critérios para classificação de riscos em sistemas de IA, medidas de governança, avaliação de impactos algorítmicos, autorregulação e boas práticas, remuneração por direitos autorais pelo uso de conteúdos utilizados para alimentar as bases de dados de IA, Sistema Nacional de Regulação e Governança, fiscalização, sandbox regulatório, fomento à inovação e atuação do poder público, capacitação e garantias trabalhistas e educação no contexto de IA, entre outros.

Vale destacar que a primeira audiência presidida pelo Senador Marcos Pontes teve a participação predominante de representantes de empresas, que estavam combinadas para reagir fortemente contra o texto do PL 2338/2023, especialmente quanto às previsões sobre obrigações e responsabilidade pela previsão dos graus de riscos decorrentes da exploração da IA, enquanto a segunda audiência, ocorrida no dia 2 de julho, contou com representantes da Ordem dos Advogados do Brasil, da Coalizão Direitos na Rede, da Repórteres sem Fronteiras que foram unânimes em reconhecer o acerto do texto quando estrutura a regulação com base nos graus de riscos e dispositivos para evitar discriminação e violações a direitos fundamentais, bem como garantias voltadas para a integridade das informações.

Por outro lado, o Ministério da Ciência, Tecnologia e Inovação (MCTI) editou em 7 de junho último, a Portaria nº 8.251 de 2024, que “institui Grupo de Trabalho de Apoio Operacional com o objetivo de propor o Plano Brasileiro de Inteligência Artificial – PBIA”, certamente voltada para substituir a Estratégia Brasileira de Inteligência Artificial (EBIA), que tanto foi criticada pela superficialidade e insuficiência para garantir sustentabilidade e reduzir as vulnerabilidades decorrentes do avanço da IA. Esta comissão já constituída, pelo menos ao que se sabe, não esteve envolvida nos debates que estão acontecendo no Senado.

Queria muito estar otimista quanto a essas iniciativas, mas na verdade meu sentimento converge com o de 70% dos pesquisados pelo Instituto Ideia, que se mostram preocupados com os resultados da IA e acreditam na necessidade de regulação estatal, especialmente pelo fato incontornável de que as tecnologias ao longo da história vêm sendo apropriadas pelos mais poderosos, que se utilizam delas sem maiores preocupações morais e éticas.

Tanto é assim que as big techs, assim como fizeram quando dos debates sobre o PL 2630/2020, que se propõe a regular as plataformas, estão atuando com o lobby pesado no Congresso, atacando agora o PL 2338/2023, pretendendo emplacar o fragilíssimo argumento de que para regular IA basta uma lei que estabeleça princípios a orientar a autorregulação pelas empresas que operam esses sistemas.

Entretanto, a história está recheada de exemplos que devemos considerar, pelos resultados catastróficos decorrentes do mal uso de descobertas científicas promissoras, como a teoria da relatividade, revertendo na bomba atômica e, mais recentemente, a apropriação que as big techs fizeram da Internet para exploração comercial com abrangência inédita, que tem tido papel determinante nas disputas no campo da geopolítica, com efeitos devastadores sobre instituições democráticas mundo a fora e para a saúde mental e psicológica dos usuários de suas aplicações, principalmente crianças e adolescentes, por força do controle deletério que exercem sobre o fluxo de informações.

Nesse sentido, vale lembrar o que disse Albert Einstein, depois de se ver devastado pelo uso que os EUA fizeram de suas descobertas:

“Graças às descobertas da ciência e da técnica, as últimas gerações nos ofereceram um magnífico presente de valor: poderemos nos libertar e embelezar nossa vida como nunca outras gerações o puderam fazer. Mas este presente traz consigo perigos para nossa vida, como nunca antes.

Hoje, o destino da humanidade civilizada repousa sobre os valores morais que consegue suscitar em si mesma. Por isto a tarefa de nossa época de modo algum é mais fácil do que as realizadas pelas últimas gerações.

Aquilo de que os homens precisam como alimentação e bens de uso corrente pode ser satisfeito ao cabo de horas de trabalho infinitamente mais reduzidas. Em compensação, o problema da repartição do trabalho e dos produtos fabricados se mostra cada vez mais difícil. Percebemos todos que o livre jogo das forças econômicas, o esforço desordenado e sem freio dos indivíduos para adquirir e dominar já não conduzem mais, automaticamente, a uma solução suportável deste problema. É preciso uma ordem planificada para a produção dos bens, o emprego da mão-de-obra e a repartição das mercadorias fabricadas; trata-se de evitar o desaparecimento ameaçador de importantes recursos produtivos, o empobrecimento e o retorno ao estado selvagem de grande parte da população”. (Como vejo o mundo. Tradução de H.P. de Andrade, 11ª. ed., Editora Nova Fronteira, Rio de Janeiro, 1981, pág. 29.)

Nessa perspectiva, temos de reconhecer que o atual momento histórico não é o mais propício para as iniciativas dos Estados voltadas para regular as novas tecnologias com tamanho potencial de riscos.

Isto porque, com o avanço das forças reacionárias de ultradireita, que ressurgem a partir dos anos 70 nos EUA, como reação dos plutocratas inconformados com o que denominaram de “excesso de democracia” e com a conquista de direitos fundamentais e socialização dos ganhos com as classes mais baixas ocorridas nos anos 60, como nos conta Noam Chomsky, desbordando no desenvolvimento do neoliberalismo, leva a que iniciativas regulatórias sejam rechaçadas.

Para Chomsky  a “definição mais simples” do que seja o neoliberalismo é “deixem o livre mercado comandar tudo. Em outras palavras, façam com que o governo fique de fora da elaboração de políticas públicas, exceto quando for para incentivar as atividades do livre mercado”.

E, na verdade, não é justamente essa dinâmica que temos assistido no mundo inteiro e especialmente aqui no Brasil? Sobram notícias a respeito da ofensiva pesada do lobby das big techs para interferir nos debates sobre IA, de uma forma que excede o que se possa admitir como participação democrática da sociedade civil nos processos legislativos.   

A ofensiva que as big techs fizeram contra o PL 2630/2020, culminando com o engavetamento da proposta, em evento envolvendo até Elon Musk promovendo desinformação para atacar Ministro do Supremo e conter conquistas regulatórias, corrobora os temores da sociedade brasileira. Esse e outros temas em curso no Poder Legislativo envolvendo a regulação das plataformas, regulação de IA e sustentabilidade do jornalismo e integridade da informação, têm sido alvo dessas empresas, cujos sistemas algorítmicos são calibrados favorecendo os ideais reacionários, com o objetivo claro de reduzir ou confundir o andamento dos debates, comprometendo nossos sistemas democráticos.

E a IA, com sua capacidade autogenerativa, com capacidade de evolução praticamente ilimitada e fora do controle mesmo daqueles que a programam, precisa ser regulada ex ante e não ex post, como pretendem as big techs. Conforme Stephen Hawking afirmou por teleconferência na abertura do Web Summit, conferência de tecnologia da Europa, que aconteceu em novembro de 2017, em Lisboa:

“A Inteligência Artificial pode ser a melhor ou a pior coisa que já aconteceu para a humanidade.

Não podemos prever o que seremos capazes de alcançar quando o nosso próprio intelecto for ampliado pela inteligência artificial. Talvez com essa revolução tecnológica possamos reduzir parte dos danos feitos à natureza, erradicar doenças e a pobreza.

Todos os aspectos de nossas vidas serão transformados. A inteligência artificial pode se mostrar a maior invenção da história da civilização ou a pior. Ainda não sabemos se seremos beneficiados ou destruídos por ela”.

A promessa de ganhos econômicos e sociais imensos para a humanidade também foi anunciado quando surgiram aplicações capazes de facilitar o uso da Internet. Porém, o que temos assistido é a tomada por agente econômicos poderosos dos ganhos que as novas tecnologias podem trazer.

Nessa esteira, Evgeny Morozov pergunta: “onde estão os aplicativos para combater a pobreza ou a discriminação racial? E, ainda, nos propõe “abandonar por completo a dialética tecnologia/progresso”, pois, para ele, esta proposição está obsoleta e nos convida a adotar a perspectiva de que:

“se há um verdadeiro inimigo, não é a tecnologia, mas o atual regime político e econômico – uma combinação selvagem do complexo militar-industrial e dos descontrolados setores banqueiro e publicitário –, que recorre às tecnologias mais recentes para alcançar seus horrendos objetivos (mesmo que lucrativos e eventualmente agradáveis)”.

E continua:

“(…) as empresas do Vale do Silício estão construindo o que chamo de ‘cerca invisível de arame farpado’ ao redor de nossas vidas. Elas nos prometem mais liberdade, mais abertura, mas mobilidade; dizem que podemos circular onde e quando quisermos. Porém, o tipo de emancipação que de fato obtemos é falsa; (…)

Não resta dúvida de que um carro autônomo pode tornar nossos deslocamentos diários menos incômodos. No entanto, um carro autônomo operado pelo Google não seria apenas um veículo autônomo, mas também um santuário de vigilância – sobre rodas”. (Big Tech – A ascensão dos dados e a Morte da Política. Tradução Claudio Marcondes. Editora Ubu. São Paulo. 2018. págs. 25 e 31.)

Nesse sentido, são frequentes as notícias sobre funcionários das big techs revelando que a IA faz coisas para as quais não foi programada, ou que não estavam previstas, o que reforça que estamos longe de compreender e controlar o poder dessa tecnologia, o que indica ser fundamental estabelecermos mecanismos de governança e supervisão em escala coletiva sobre a exploração comercial dessa tecnologia.

Sendo assim, manifestações efusivas por parte de autoridades públicas responsáveis por funções essenciais para a sustentabilidade da cidadania e das instituições democráticas, correndo para aderir ao que as empresas transnacionais que dominam esse mercado oferecem como soluções, soam pelo menos como ingenuidade. A regulação deve ser estruturada com base em elementos políticos e econômicos, fugindo da armadilha superficial do “debate digital”.

Para além disso, o potencial que a IA generativa, que vem avançando a passos largos, tem de reduzir a capacidade criativa da humanidade preocupa, pois há uma tendência de acomodação perigosa pela facilidade que ela oferece. Um exemplo disso é a nova sistemática de busca adotada recentemente pelo Google pelo seu mecanismo de busca.

James Görgen, em recente artigo a respeito da nova ferramenta AI Overviews, comenta que:

“condenada como o fim da web por alguns jornalistas e especialistas em tecnologia, trata-se da substituição de sua clássica interface e sistema de busca na Internet, que deixará de apresentar weblinks como primeiro resultado, passando a usar IA para exibir um pequeno resumo do que foi pesquisado pelo usuário direcionando-o para determinadas fontes. Na outra ponta, do apagamento da história digital, um estudo do Pew Research Center revelou que 38% das webpages existentes na Internet em 2013 já não podem mais ser encontradas ou acessadas”.

Esse cenário preocupa, pois as ferramentas de IA não criam nada, não refletem e não abrem espaços para possíveis contradições e inquietações, que sempre foram a força motriz para os processos criativos da humanidade nos campos da ciência, das artes, do conhecimento; ela processa o que já existe, causando dificuldades e trazendo riscos para a manutenção de empregos e remuneração de produções humanas das quais se apropria, sem a devida contrapartida.

Ou seja, tudo indica para a necessidade de regulação, como já fez a União Europeia ao editar em março deste ano a primeira lei a regular IA – o IA Act, cujo texto se apoiou em metodologia de análise de riscos inaceitáveis, elevados, limitados ou mínimos, como vem sendo considerado no PL 2338/2023.

É certo que a regulação não é a bala de prata para resolver a desordem informacional e comportamental influenciada por essas novas tecnologias, como temos assistido nas últimas eleições na União Europeia, que conta com o Digital Service Act e agora com o IA Act, onde têm ocorrido o uso de aplicações ofertadas pelas big techs para o esgarçamento das democracias, estímulo a discursos de ódio e práticas ilícitas.

Entretanto, não podemos prescindir da regulação, que deve vir acompanhada da adoção de medidas educativas e da ampliação dos debates políticos públicos a respeito dessas novas tecnologias que, operadas pelas mãos de empresas que atuam como braços do neoliberalismo, ameaçam conquistas institucionais fundamentais como o Marco Civil da Internet (MCI), o Código do Consumidor (CDC), a Lei Geral de Proteção de Dados Pessoais (LGPD), o Estatuto da Criança e do Adolescente (ECA), entre outros ganhos civilizatórios.

O recente caso de suspensão da política de privacidade da Meta para utilização de dados dos usuários como fonte de alimentação de suas bases de dados para IA, submetendo os usuários ao mecanismo de opt-out para proteção de seus dados, intimidade e privacidade, imposta tanto pela Autoridade Nacional de Proteção de Dados (ANPD) quanto pela Secretaria Nacional do Consumidor, do Ministério da Justiça, calcadas no CDC, LGPD e ECA, principalmente, corroboram com a defesa da importância da regulação e fiscalização estatais.

Sendo assim, sem entrar no mérito de se o PL 2.338/2023 traz ou não ferramentas suficientes para reduzir os riscos e nossas vulnerabilidades exploradas sem preocupações éticas adequadas pelas big techs, retardar a regulação já está nos trazendo prejuízos irreparáveis.

Por outro lado, retardar a regulação é parte do negócio das big techs, pois o estabelecimento de regras e sistemas estatais de supervisão é visto como empecilho para continuarem o desenvolvimento de suas atividades que têm atropelado garantias fundamentais, especialmente quando controlam a formação de padrões e perfis, com vistas a discriminações negativas, quando controlam o fluxo de informações de modo a insuflar os ideais políticos e econômicos com os quais estão afinados. Mais ainda no Brasil, onde o que vier a ser estabelecido influenciará outros países da América Latina.

Daniel Santini, Joyce Souza e Leonardo Foletto, comentando entrevista de Evgeny Morozov concedida à Folha de São Paulo quando esteve no Brasil em agosto do ano passado, reafirmam esse entendimento:

“precisamos pensar para além da regulação das tecnologias digitais. Não que este debate não seja importante; é, mas sua chamada foi para construir também alternativas para um mundo tecnológico onde seja possível avançar com imaginários que criam uma mentalidade da relação do homem com a tecnologia para além das mediações neoliberais. A regulamentação é importante, mas não podemos apenas discutir o que fazer com relação ao WhatsApp ou ao Facebook. Precisamos pensar o que fazer a respeito dessas enormes infraestruturas digitais que empresas privadas estão vendendo de volta às instituições públicas e aos cidadãos”

Por tudo isso, causa imensa intranquilidade termos temas de tal importância regulados pela atual configuração do Congresso Nacional com maioria ampla de parlamentares de direita e extrema direita, com baixíssimo grau de compreensão sobre essas novas tecnologias e muito susceptíveis ao poder do lobby das empresas, que extrapolam e muito o caráter democrático da participação social. E, ao mesmo tempo, não poder fugir de mais este importante embate para ampliar o arcabouço legal para a proteção de direitos fundamentais, políticos e sociais.