Denise Carvalho, professora do Laboratório de Identidade e Diversidade da UFRJ
A tecnologia é resultado do trabalho humano, é uma criação de seres humanos que convivem num contexto social e político. Portanto, ela não está isenta de um problema que atravessa a todos nós: o racismo e a discriminação. A ideia de que a tecnologia é só uma ferramenta e que não serve a propósitos políticos tem a mesma base da negação da discriminação que nos atravessa como sociedade. Esta é a opinião do professor Silvio de Almeida, advogado, pesquisador e professor de Direito da FGV e do Instituto Luiz Gama, durante exposição para a comissão de juristas, instalada no Senado Federal, que vai elaborar um projeto de regulação de Inteligência Artificial (IA) no Brasil. No painel desta quinta-feira, especialistas debateram os riscos e vieses da discriminação em IA.
“O papel dessa comissão será o de fazer este debate com estas questões claras para a sociedade. A discriminação reproduzida de forma sistemática sobre o teto das instituições torna impossível a democracia e a república. Estou me referindo ao impacto que os algoritmos tem feito na sociedade brasileira. A discussão é sobre tecnologia, sim, e deve envolver diversos setores da sociedade”, alertou Almeida.
Denise Carvalho, professora do Laboratório de Identidade e Diversidade da UFRJ (Universidade Federal do Rio de Janeiro), apresentou uma pesquisa que mostrou de que forma o critério de relevância de algoritmos de buscas exaltam famílias brancas em detrimento de famílias negras, especialmente aquelas comandadas por mulheres.
“Novos treinamentos algoritmos devem ser feitos na tentativa de evitar o racismo como acontece atualmente nos sistemas de busca. As dinâmicas de poder que existem na sociedade são reproduzidas nas inteligências artificiais e são caracterizadas como ‘neutras'”, afirmou.
