O Google Assistente não vai mais fingir que não entendeu quando alguém lhe ofender ou lhe assediar. Como parte de um programa global do Google, a equipe do produto no Brasil mapeou mais de 200 termos de cunho machista e misógino dentre os mais proferidos pelos usuários brasileiros.
Os termos foram divididos em dois grupos: abusivos/agressivos e inapropriados. O primeiro é composto por expressões indiscutivelmente ofensivas, como xingamentos. Para esses, o Google responde impondo limites, como “Não fale assim comigo”. Antigamente, o assistente dizia simplesmente que não havia entendido.
Por sua vez, são consideradas falas inapropriadas, por exemplo: “você tem namorado?” e “quer casar comigo?”. Para estas o assistente procura responder com bom humor, mas tentando também educar o usuário. No caso da proposta de casamento, a resposta é a seguinte: “acho que um romance entre nós seria complicado, mas posso ajudar a marcar seus encontros na agenda”.
As respostas são dadas tanto pela voz do Google Assistente que soa feminina quanto por aquela que soa masculina, disponibilizada no fim do ano passado.
Números e futuro
No mundo, o Google Assistente está presente em mais de 1 bilhão de dispositivos e atende a 500 milhões de pessoas todo mês. O Brasil é o seu terceiro maior mercado.
O Google Assistente classifica as solicitações que recebe de acordo com o tipo de intenção. Aquelas com perguntas sobre o assistente em si (Qual é o seu nome?; Para qual time você torce? etc) são classificadas como intenções sobre sua personalidade. 2% dessas interações no Brasil contêm ofensas, informa o Google. E 15% das ofensas são misóginas ou de assédio sexual. Na comparação entre as vozes feminina e masculina, a primeira recebe proporcionalmente o dobro de ofensas relacionadas à aparência física.
O próximo passo do projeto é preparar respostas para ofensas de cunho racista e homofóbico. Nos EUA, onde o projeto está no ar há mais tempo, o Google registrou um aumento de 6% de réplicas positivas dos usuários – muitos deles se desculpando com o assistente.
