Na última sexta-feira, 8, a Comissão Europeia, o Conselho Europeu e o Parlamento Europeu chegaram a um acordo, provisório, sobre a lei de inteligência artificial. Foram 36 horas de negociação entre os três poderes para chegar a um entendimento comum sobre o Artificial Inteligence Act, ou, em português, a Lei da Inteligência Artificial. Entre as novidades está uma maior preocupação da legislação com os sistemas de alto risco, como as IAs generativas.
A ideia é regular a IA de acordo com o nível de riscos de causar danos à sociedade, seguindo uma abordagem de quanto maior o risco, mais rigorosas são as regras.
Ao comparar com a proposta inicial da Comissão Europeia, os principais novos elementos do acordo provisório podem ser resumidos da seguinte forma:
– inclusão de regras sobre modelos de IA de uso geral de alto impacto que podem causar risco sistêmico no futuro, bem como sobre sistemas de IA de alto risco;
– extensão da lista de proibições no uso de IA, mas com a possibilidade de utilizar a identificação biométrica remota como um sistema de vigilância em espaços públicos para a prevenção de ameaças graves, como ataques terroristas ou em tempo real.
– melhor proteção dos direitos através da obrigação dos desenvolvedores de sistemas de IA de alto risco realizarem uma avaliação de impacto nos direitos fundamentais antes de colocarem um sistema de IA em utilização.
– um sistema de governança revisto com alguns poderes de aplicação a nível da UE
O texto também proíbe o uso de IA em algumas aplicações que tenham potencial em ameaçar os direitos dos cidadãos e a democracia. São elas:
– sistemas de categorização biométrica que utilizam dados sensíveis (como crenças políticas, religiosas, filosóficas, orientação sexual e raça);
– extração de imagens faciais da Internet ou imagens de circuito interno de TV para criar bancos de dados de reconhecimento facial;
– reconhecimento de emoções no local de trabalho e nas instituições de ensino;
– pontuação social baseada no comportamento social ou características pessoais;
– sistemas de IA que manipulam o comportamento humano para contornar o seu livre arbítrio;
– sistema de IA usada para explorar as vulnerabilidades das pessoas (devido à sua idade, deficiência, situação social ou económica).
Multas
As empresas que não cumprirem as regras serão multadas em valores que podem chegar a 35 milhões de euros ou 7% do volume de negócios anual global (o que for maior) por violações de aplicações de IA proibidas; 15 milhões de euros ou 3% por violações de outras obrigações; e 7,5 milhões de euros ou 1,5% por fornecimento de informações incorretas.
O novo texto prevê limites mais proporcionais para multas às PMEs e startups em caso de infrações.
Próximos passos
O acordo foi o primeiro passo para que a Lei de IA seja votada. Uma vez aprovada – sua votação deve acontecer no início de 2024 – deve-se esperar 20 dias após a publicação no diário oficial da UE para que entre em vigor. Porém, sua aplicação só acontecerá dois anos após ter entrado em vigor, com exceções das proibições, que serão aplicáveis após seis meses, e das regras sobre IA para fins gerais, que serão aplicáveis após 12 meses da entrada em vigor da regulação.
