A Comissão Temporária de Inteligência Artificial (CTIA) aprovou o relatório do senador Eduardo Gomes (PL-TO), que regulamenta a IA no País. Em seguida, no plenário do Senado, a casa aprovou regime de urgência para votar o PL 2338/23 para a próxima terça-feira, 10. A ideia inicial, no entanto, era votar ainda nesta quinta-feira, 5, mas alguns senadores da oposição foram contra a urgência e pediram mais tempo para elaborar seus votos. Vale dizer que o texto de hoje não é o mesmo daquele apresentado dois dias atrás.
Entre as mudanças em reação ao texto de terça-feira está a exclusão de artigos que tratavam da proteção da integridade da informação. A proteção à integridade da informação continua nos fundamentos da lei, há uma definição sobre o termo e uma previsão. Porém, ela não está mais presente em artigos como o que trata da necessidade de se haver uma análise antes que os sistemas de IA generativa sejam apresentados ao grande público (antigo artigo 31 do texto de terça-feira).
Outro ponto foi a introdução do artigo 77 no novo texto que exime as redes sociais de responsabilidade sobre o uso de modelos de IA para a moderação e recomendação de conteúdo. O texto diz: “A regulação de aspectos associados à circulação de um conteúdo online e que possam afetar a liberdade de expressão, inclusive o uso de IA para a moderação e recomendação de conteúdo, somente poderá ser feita por meio de legislação específica”. A sugestão foi do Senador Marcos Rogério (PL-RO). Vale lembrar que os sistemas de IA de moderação e recomendação de conteúdo foram retirados na versão apresentada na terça-feira.
Eduardo Gomes (PL-TO), relator do texto, e Carlos Viana (Podemos-MG), presidente da CTIA. Crédito: reprodução de vídeo
O substitutivo que foi aprovado em votação simbólica na CTIA e foi consensual entre governo e oposição, apesar de algumas profundas desavenças. Ele tem como base o PL 2338/23, de autoria do presidente do Senado, Rodrigo Pacheco que, por sua vez, foi escrito a partir de um relatório final elaborado por uma comissão de juristas. A ele estão apensados outros projetos de lei sobre o mesmo tema.
A proposta estabelece regras para o desenvolvimento e uso de sistemas de IA dividindo-os por níveis de risco e proibindo aplicações consideradas de “risco excessivo”, como armas autônomas e exploração de vulnerabilidades humanas. O relatório também aborda direitos autorais, segurança jurídica, direitos trabalhistas e governança.
Principais mudanças e pontos de destaque
- Riscos e Avaliação Preliminar
O projeto classifica sistemas de IA de alto risco, como aqueles aplicados em diagnósticos médicos, reconhecimento facial em locais públicos e tomadas de decisões sobre acesso a serviços públicos. Uma avaliação preliminar de risco será obrigatória para sistemas generativos e de propósito geral, mas facultativa para outros casos, sendo considerada uma boa prática que pode trazer benefícios aos agentes envolvidos.
Sistemas de “risco excessivo”, como armas autônomas e tecnologias que explorem vulnerabilidades humanas para influenciar comportamentos de forma abusiva, serão totalmente proibidos. Também estão vedados sistemas que avaliem traços de personalidade para prever crimes ou que classifiquem indivíduos de maneira discriminatória para limitar acesso a bens ou serviços.
- Direitos autorais
A proposta permite a utilização de conteúdos protegidos por direitos autorais para finalidades não comerciais em pesquisas, bibliotecas e museus, desde que respeitadas restrições de uso. Já para sistemas comercializados, haverá remuneração aos titulares dos direitos.
No caso de sistemas comercializados, o texto prevê que o autor poderá escolher entre aceitar que seu conteúdo seja usado para o treinamento de IA – e, por isso ele deve ser remunerado – ou não acatar a demanda e negar esse treinamento.
- Proibições e limites
Sistemas que explorem vulnerabilidades humanas, promovam discriminação ou utilizem dados biométricos de forma abusiva estão entre as práticas vedadas. Câmeras para reconhecimento facial em tempo real só serão permitidas em casos específicos, como busca por desaparecidos ou cumprimento de ordens judiciais.
- Impacto na sociedade
Os cidadãos terão assegurados direitos como revisão humana de decisões automatizadas e explicações sobre como sistemas de IA impactam suas vidas. O projeto também incentiva a capacitação contínua de trabalhadores, mitigando os riscos de perda de empregos e promovendo o letramento digital.
- Governança e fiscalização
A ANPD (Autoridade Nacional de Proteção de Dados) será responsável pela aplicação de sanções e regulamentação, coordenando o SAI (Sistema Nacional de Regulação e Governança de IA).
- Integridade da informação e liberdade de expressão
O tema da integridade da informação foi um dos pontos mais sensíveis do debate. A previsão de regulamentar a IA com base em riscos à integridade da informação, liberdade de expressão e democracia foi retirada do texto final após negociações. A exclusão foi defendida por senadores como Marcos Rogério (PL-RO).
- Sistemas de IA generativa e de propósito geral
O relatório traz regulamentações específicas para sistemas generativos, como os usados para criar textos, imagens e vídeos, e para sistemas de propósito geral, que têm múltiplas aplicações. Esses sistemas devem passar por uma avaliação preliminar obrigatória antes de serem lançados no mercado, com foco em identificar e mitigar riscos aos direitos fundamentais, à liberdade de expressão e à sustentabilidade ambiental.
Além disso, conteúdos produzidos ou modificados por IA deverão incluir identificadores que atestem sua origem. Essa medida visa combater fraudes e desinformação, promovendo maior transparência no uso da tecnologia.
- O desafio do consenso
O relatório, que chegou à sua sétima versão, excluiu da lista de sistemas de alto risco os algoritmos das redes sociais, um ponto de tensão nas discussões. Governistas e oposicionistas elogiaram o esforço de consenso, mas divergências sobre liberdade de expressão e integridade da informação ainda devem ser debatidas no Plenário.
Além da CTIA
Se aprovado pelo Senado, o texto seguirá para a Câmara dos Deputados. Caso vire lei, grande parte das normas entrará em vigor em dois anos, com exceções para sistemas generativos e questões autorais, que terão implementação acelerada.
