A definição sobre quais aplicações de IA em infraestruturas críticas devem ser submetidas a um maior rigor regulatório é vista como um ponto a avançar na proposta de marco legal que agora tramita na Câmara dos Deputados – PL 2338/2023. A avaliação foi compartilhada pela chefe de gabinete da Secretaria de Comunicação Social (Secom) da Presidência da República, Samara Castro, nesta segunda-feira, 10, ao ressaltar o acompanhamento do órgão na construção do texto ao longo do último ano.
“Muitos dos questionamentos que estavam colocados pelo setor tinham a ver com a necessidade de ter maior escrutínio sobre as infraestruturas críticas da parte de telecomunicações […] Quais seriam os negócios, ações e condutas que estariam abrangidos ali como ‘alto risco’ e quais não estariam. Eu acho que isso é um pouco da elaboração que a gente tem como responsabilidade também fazer agora na Câmara”, afirmou Castro, durante participação em evento da Anatel, nesta tarde.
A proposta de regulação de IA sugere classificações para os sistemas, em que aqueles de “risco excessivo” são proibidos e aqueles de “alto risco” devem obedecer a medidas de governança específicas, como detalhar e documentar os testes e funcionamento da aplicação, indicando como é feita a obrigatória prevenção de vieses discriminatórios e garantia de segurança.
Ainda sobre a gama de exigências, os direitos das pessoas ou grupos afetados por sistemas de alto risco incluem, por exemplo, revisão humana, contestação e revisão da decisão automatizada.
O projeto de lei aprovado pelos senadores no ano passado inclui as infraestruturas críticas nos sistemas de IA de alto risco quando se tratar de “aplicação como dispositivos de segurança na gestão e no funcionamento […], quando houver risco relevante à integridade física das pessoas e à interrupção de serviços essenciais, de forma ilícita ou abusiva, e desde que sejam determinantes para o resultado ou decisão, funcionamento ou acesso a serviço essencial”.
O texto que passou pelo Senado já representou uma delimitação em relação à redação inicial, que inicialmente não contava com os parâmetros que consideram o quão “determinantes” ou “abusivos” são tais aplicações. Mas ainda deixou dúvidas.
O papel dos reguladores
Samara Castro, chefe de gabinete da Secom, durante debate na Anatel. Crédito: Carolina Cruz/Mobile Time
O projeto de lei prevê que os agentes de IA – o que inclui desenvolvedores, distribuidores e aplicadores que atuem na cadeia de valor e na governança interna de sistema – permaneçam sujeitos “à legislação específica relativa à cibersegurança e à proteção de infraestruturas críticas, à vida e à integridade física de pessoas, aos danos à propriedade e ao meio ambiente, aos direitos fundamentais e ao processo democrático”.
A atenção a regulamentos específicos está alinhada ao que o setor e também a Secom enxergou como avanço no debate, que é o fortalecimento das autoridades setoriais acerca do mercado regulado. As agências compõem o Sistema Nacional de Regulação e Governança de Inteligência Artificial (SIA) e terão uma série de competências divididas com a autoridade indicada como coordenadora, no caso, a Autoridade Nacional de Proteção de Dados (ANPD), a exemplo de hipóteses de flexibilizações nas regras. Esse ponto também foi destacado pela chefe de gabinete da Secom.
“Um dos grandes avanços a serem colocados e destacados nesse projeto foi justamente a compreensão da necessidade de se valorizar os órgãos reguladores setoriais, como aqueles que têm a expertise necessária para dar o embasamento para cobrir aquele setor, e que isso possa se organizar em torno, obviamente, de um órgão regulador harmonizador, que possa combinar todas essas expertises em orientações gerais”, resumiu Castro, que atuou como diretora de promoção da liberdade de expressão da Secretaria de Políticas Digitais nos últimos anos.
Especificamente sobre a Anatel, Castro considera a agência “imprescindível” dentro do setor de telecom para IA, além de “o irmão mais velho das agências, no sentido da experiência para regulação”.
