O debate sobre ética em inteligência artificial está na agenda do dia de governos e entidades internacionais ao redor do mundo. O governo britânico criou há apenas dois meses um órgão para debater o assunto, batizado como Centro para Ética e Inovação em Dados. “Mais do que apontar os problemas, queremos levar soluções éticas para a inteligência artificial”, disse Roger Taylor, chairman do órgão, durante painel no MWC19, nesta terça-feira, 26, em Barcelona. O centro tem composição plural, buscando representar diversos segmentos da sociedade britânica.
Roger Taylor, chairman do Centro de Ética e Inovação em Dados do Reino Unido
“Dados nunca são neutros. Eles são fruto da relação entre pessoas e sistemas. Precisamos interpretar os dados entendendo como foram construídos socialmente”, explicou Taylor. Ele citou como exemplo o caso de um software de inteligência artificial adotado pela Justiça norte-americana para decidir quais réus poderiam pagar fiança e responder em liberdade e quais deveriam ficar presos até o julgamento. Esse software foi acusado de racismo, porque proporcionalmente mais negros do que brancos tinham a fiança negada. O algoritmo não usava diretamente o critério de raça, mas uma série de outros que era impactados pelo racismo estrutural da sociedade norte-americana, como antecedentes criminais e desemprego.
Taylor defende também que haja mais transparência em serviços de inteligência artificial, para que as pessoas possam entender como são tomadas certas decisões. “Se nos deixarmos levar pela conveniência, poderemos nos dar mal. Vide o que aconteceu com o Facebook”, comparou. “Os modelos precisam ser entendidos estatisticamente e socialmente”, acrescentou.