A União Europeia iniciou a implementação de sua Lei de Inteligência Artificial, o AI Act (Ato de IA, na tradução literal), nesta quinta-feira, 1. A expectativa é de que o Ato será totalmente aplicável em dois anos, com as seguintes exceções:
– em seis meses entram em vigor as proibições;
– em 12 meses se tornam aplicáveis as obrigações para modelos de IA de uso geral;
– em 36 meses serão aplicadas as regras para sistema de IA incorporados em produtos regulamentados.
Para facilitar a transição para o novo quadro regulatório, a Comissão lançou o Pacto de IA, uma iniciativa voluntária que busca apoiar a futura implementação e convida os desenvolvedores de IA da Europa e de outros lugares a cumprir as principais obrigações do Ato de IA antecipadamente.
Vale lembrar, o Parlamento da União Europeia aprovou o Ato de Inteligência Artificial em 13 de março de 2024, com 523 membros votando a favor de sua adoção, 46 votando contra e 49 se abstendo
Ato de IA baseada em níveis de riscos
A legislação adota uma abordagem baseada em risco, que categoriza os sistemas de IA a partir do nível percebido de risco e do impacto sobre os cidadãos. Ao todo, são quatro níveis de sistemas de IA.
O uso da IA considerado como alto risco é proibido nos seguintes casos:
- Sistemas de categorização biométrica que utilizam características sensíveis (por exemplo, crenças políticas, religiosas, filosóficas, orientação sexual, raça);
- Remoção não direcionada de imagens faciais da Internet ou de gravações de CCTV para criar bancos de dados de reconhecimento facial;
- Reconhecimento emocional no local de trabalho e em instituições educacionais;
- Pontuação social baseada no comportamento social ou características pessoais;
- Sistemas de IA que manipulam o comportamento humano para contornar a livre vontade;
- IA usada para explorar as vulnerabilidades das pessoas devido à idade, deficiência, situação social ou econômica.
Alto risco
Os sistemas de IA identificados como de alto risco incluem a tecnologia de IA usada em:
- Infraestruturas críticas que podem colocar em risco a vida e a saúde das pessoas;
- Educação ou treinamento profissional, que podem determinar o acesso à educação e ao curso profissional de alguém (por exemplo, pontuação de exames);
- Componentes de segurança de produtos (por exemplo, aplicação de IA em cirurgias assistidas por robôs);
- Emprego, gestão de trabalhadores e acesso ao autoemprego (por exemplo, software de triagem de currículos para procedimentos de recrutamento);
- Serviços privados e públicos essenciais (por exemplo, avaliação de crédito que nega aos cidadãos a oportunidade de obter empréstimo);
- Aplicação da lei que pode interferir nos direitos fundamentais das pessoas;
- Gestão de migração, asilo e controle de fronteiras;
- Administração da justiça e processos democráticos (por exemplo, soluções de IA para pesquisar decisões judiciais).
Riscos limitados
A lei determina uma IA de risco médio quando os riscos estão associados à falta de transparência no uso da inteligência artificial. O Ato de IA impõe obrigações específicas para estes casos de modo a garantir que as pessoas sejam informadas do uso da tecnologia. Entre os exemplos está a interação com chatbot. Neste caso, é preciso informar ao usuário que ele está interagindo com uma máquina.
Os fornecedores também devem garantir que o conteúdo gerado por IA seja identificável – que pode ser texto, imagem, áudio ou vídeo.
Risco mínimo ou inexistente
Aplicações como videogames com IA ou filtros de spam são considerados usos de IA de risco mínimo.
