O Brasil agora conta com diretrizes estabelecidas pelo governo federal para guiar políticas públicas no desenvolvimento e no uso de inteligência artificial. Trata-se da Estratégia Brasileira de Inteligência Artificial (EBIA), produzida pelo Ministério da Ciência, Tecnologia e Inovações após consulta pública realizada no começo do ano passado. O documento chama a atenção pela preocupação em estabelecer princípios éticos e de respeito aos direitos humanos e à diversidade em inteligência artificial, o que é explicitado em várias das ações propostas (destacamos algumas abaixo). Além disso, o governo se compromete a aplicar recursos de IA em pelo menos 12 serviços públicos federais até 2022 e a criar um observatório de inteligência artificial no Brasil. O documento foi publicado nesta sexta-feira, 9, no site do Ministério.
A EBIA deixa claro, logo em sua introdução, que segue a recomendação da OCDE sobre inteligência artificial, à qual o Brasil aderiu, e que aconselha que “a IA deve beneficiar as pessoas e o planeta, impulsionando o crescimento inclusivo, o desenvolvimento sustentável e o bem-estar”. E mais: que “os sistemas de IA devem ser projetados de maneira a respeitar o Estado de Direito, os direitos humanos, os valores democráticos e a diversidade, e devem incluir salvaguardas apropriadas – por exemplo, possibilitando a intervenção humana sempre que necessário – para garantir uma sociedade justa.”
Também foi adotado o conceito de IA utilizado na OCDE na EBIA: “um sistema de IA é um sistema baseado em máquina que pode, para um determinado conjunto de objetivos definidos pelo homem, fazer previsões, recomendações ou decisões que influenciam ambientes reais ou virtuais. Os sistemas de IA são projetados para operar com vários níveis de autonomia”. E descreve que um sistema de IA é composto de três elementos principais: sensores, lógica operacional e atuadores. “Os sensores coletam dados brutos do ambiente, processados pela lógica operacional para fornecer saídas para os atuadores, que por sua vez agem para alterar o estado do ambiente. Este ciclo é repetido inúmeras vezes, e como o ambiente é alterado pelo sistema de IA, a cada ciclo a lógica operacional pode ser aperfeiçoada”, informa o documento da EBIA.
Foi mantida a estrutura proposta na consulta pública de repartição da EBIA em nove eixos: três transversais (Legislação, regulação e uso ético; Governança de IA; aspectos internacionais) e seis verticais (Educação; Força de trabalho e capacitação; PD&I e empreendedorismo; Aplicação nos setores produtivos; Aplicação no poder público; Segurança pública).
Para cada um desses eixos, o governo listou uma série de ações estratégicas na EBIA. Mobile Time destaca a seguir algumas das que considera mais relevantes, muitas das quais relacionadas às preocupações éticas mencionadas acima.
Legislação, regulação e uso ético:
– Estimular a produção de uma IA ética, financiando projetos de pesquisa que visem a aplicar soluções éticas, principalmente nos campos de equidade/não-discriminação (fairness), responsabilidade/prestação de contas (accountability) e transparência (transparency), conhecidas como a matriz FAT.
– Estabelecer como requisito técnico em licitações que os proponentes ofereçam soluções compatíveis com a promoção de uma IA ética (por exemplo, estabelecer que soluções de tecnologia de reconhecimento facial adquiridas por órgãos públicos possuam um percentual de falso positivo abaixo de determinado limiar).
– Mapear barreiras legais e regulatórias ao desenvolvimento de IA no Brasil e identificar aspectos da legislação brasileira que possam requerer atualização, de modo a promover maior segurança jurídica para o ecossistema digital.
– Estimular ações de transparência e de divulgação responsável quanto ao uso de sistemas de IA, e promover a observância, por tais sistemas, de direitos humanos, de valores democráticos e da diversidade.
– Desenvolver técnicas para identificar e tratar o risco de viés algorítmico.
– Elaborar política de controle de qualidade de dados para o treinamento de sistemas de IA.
– Criar parâmetros sobre a intervenção humana em contextos de IA em que o resultado de uma decisão automatizada implica um alto risco de dano para o indivíduo.
– Incentivar a exploração e o desenvolvimento de mecanismos de revisão apropriados em diferentes contextos de utilização de IA por organizações privadas e por órgãos públicos.
– Criar e implementar melhores práticas ou códigos de conduta com relação à coleta, implantação e uso de dados, incentivando as organizações a melhorar sua rastreabilidade, resguardando os direitos legais.
– Promover abordagens inovadoras para a supervisão regulatória (por exemplo, sandboxes e hubs regulatórios).
Governança de IA:
– Incentivar o compartilhamento de dados, observada a LGPD.
– Estimular que as organizações criem conselhos de revisão de dados ou comitês de ética em relação à IA.
– Criar um observatório de Inteligência Artificial no Brasil, que possa se conectar a outros observatórios internacionais.
– Facilitar o acesso aos dados abertos do governo.
– Melhorar a qualidade dos dados disponíveis, de modo a facilitar a detecção e correção de vieses algorítmicos.
– Estimular a divulgação de códigos fonte abertos capazes de verificar tendências discriminatórias nos conjuntos de dados e nos modelos de aprendizado de máquina.
– Elaborar campanhas educacionais e de conscientização.
– Estimular diálogo social com participação multissetorial.
– Alavancar e incentivar práticas de accountability relacionadas à IA nas organizações.
Aspectos internacionais:
– Auxiliar a integração do Estado Brasileiro em organismos e fóruns internacionais que promovam o uso ético da IA.
Educação (ou “Qualificações para um futuro digital”):
– Avaliar a possibilidade de atualização da Base Nacional Comum Curricular de modo que incorpore de maneira mais clara elementos relacionados ao pensamento computacional e à programação de computadores.
– Desenvolver programa de literacia digital em todas as áreas de ensino e em todos os níveis de educação.
– Instituir programas de formação tecnológica para professores e educadores.
– Incluir cursos de noções de ciências de dados, noções de álgebra linear, noções de cálculo e noções de probabilidade e estatística à lista de atividades complementares de programas do ensino médio.
Força de trabalho e capacitação:
– Criar políticas públicas que incentivem a formação e capacitação de profissionais tendo em mente as novas realidades de mercado de trabalho.
– Estimular a composição diversificada de equipes de desenvolvimento em IA, quanto ao gênero, raça, orientação sexual e outros aspectos socioculturais.
P&D, inovação e empreendedorismo:
– Promover um ambiente de políticas públicas que apoie uma transição ágil da fase de P&D para a fase de desenvolvimento e operação de sistemas de IA.
– Promover um ambiente para pesquisa e desenvolvimento em IA que seja livre de viés.
– Promover mecanismos de incentivo que estimulem o desenvolvimento de sistemas de IA que adotem princípios e valores éticos.
Aplicação nos setores produtivos:
– Definir ou identificar uma estrutura de governança pública-privada para promover o avanço das indústrias inteligentes de TI, aos moldes da Câmara Brasileira de Indústria 4.0.
– Fomentar o surgimento de novas startups brasileiras na área por meio de novas parcerias público privadas.
– Criar redes de colaboração entre startups de base tecnológica e pequenas e médias empresas (PMEs).
– Incorporar em iniciativas como o Programa Brasil Mais mecanismos de incentivo ao uso de IA por pequenas e médias empresas, de modo a aprimorar processos de gestão e promover sua transformação digital.
Aplicação no poder público:
– Em linha com o estabelecido na Estratégia de Governo Digital, implementar recursos de Inteligência Artificial em, no mínimo, 12 serviços públicos federais até 2022.
– Incorporar a IA e a análise de dados nos processos de formulação de políticas públicas.
– Considerar, em licitações e contratos administrativos voltados à aquisição de produtos e serviços de Inteligência Artificial, critérios voltados não apenas à eficiência técnica, mas também relativos à incorporação de princípios éticos relacionados à transparência, à equidade e à não-discriminação.
– Estabelecer mecanismos para célere apuração de denúncias e reclamações sobre violações de direitos em decisões realizadas por sistemas de IA.
– Estabelecer valores éticos para uso da IA na Administração Pública Federal.
Segurança pública:
– Estabelecer mecanismos supervisores para monitorar o uso da IA para atividades de segurança pública.
– Disponibilizar mecanismos eficazes para que os indivíduos monitorados possam reagir à operação de vigilância.
– Elaborar lei sobre proteção de dados aplicadas à segurança pública.
– Implementar um sandbox regulatório da privacidade e proteção de dados para sistemas de IA voltados para a segurança pública.
