A Comissão Europeia publicou nesta semana diretrizes para a definição de sistemas de inteligência artificial. A ideia é que o documento facilite a aplicação das primeiras regras da AI Act (Lei de IA na tradução).
As diretrizes explicam a aplicação prática do conceito jurídico, como estabelecido na lei, e buscam auxiliar fornecedores e outras partes relevantes na determinação se um sistema de software constitui um sistema de IA, facilitando a aplicação eficaz das regras.
O AI Act define um sistema de IA como: “Um sistema baseado em máquina, projetado para operar com diferentes níveis de autonomia e que pode apresentar adaptabilidade após a implantação. Esse sistema infere, a partir dos dados recebidos, como gerar saídas, como previsões, conteúdos, recomendações ou decisões, que podem influenciar ambientes físicos ou virtuais.”
A definição possui sete elementos principais:
- Sistema baseado em máquina – Desenvolvido com hardware e software que permitem sua operação.
- Autonomia – Pode operar com algum grau de independência de ações humanas, podendo ser baixa autonomia (sistema sugere algo, mas precisa de uma decisão humana); média (sistema pode tomar decisões dentro de regras predefinidas); e alta autonomia (sistema pode operar sem intervenção humana, como um carro autônomo).
- Adaptabilidade – O sistema pode mudar seu comportamento após ser implantado, aprendendo e ajustando suas respostas ao longo do tempo. Isso acontece quando a IA aprende com novos dados e aprimora suas previsões ou ações.
- Objetivo explícito ou implícito – Programado para atingir determinadas metas. Objetivos explícitos são aqueles programados pelo desenvolvedor. E um objetivo implícito é quando as metas surgem a partir do treinamento do sistema ou da interação com o ambiente.
- Inferência para gerar saídas – Capacidade de produzir previsões, conteúdos, recomendações ou decisões.
- Influência em ambientes físicos ou virtuais – A IA não pode ser passiva e deve gerar saídas que impactam o mundo físico ou digital. O impacto pode ser físico (como um carro autônomo ou um robô industrial que ajusta sua produção com base na demanda) ou virtual (como um sistema de IA que recomenda anúncios personalizados).
- Interação com o ambiente – O sistema responde e interage com seu ambiente e interage com as mudanças. Essas interações podem acontecer com entradas em tempo real (como sensores de um carro autônomo que detecta carros próximos, sinais, pedestres); com feedback de usuários (um chatbot que melhora suas respostas a partir de interações); e adaptações a novos padrões (ex.: um serviço de streaming que aprende mais sobre o gosto do usuário a partir daquilo que ele viu).
A Lei de IA europeia classifica os sistemas de inteligência artificial por nível de risco. São eles:
- Proibidos – Quando apresentam riscos inaceitáveis.
- Alto risco – Sujeitos a regulamentação mais rígida.
- Sujeitos à transparência – Exigem informações claras sobre seu funcionamento.
O documento de diretrizes informa, no entanto, que nem todos os sistemas, mesmo sendo considerados IA, serão regulados pelo AI Act, pois muitos deles não representam riscos significativos.
