A rede social Koo (Android, iOS) lançou novas ferramentas para coibir e bloquear conteúdos proibidos e indesejados na plataforma, como abuso infantil, pornografia e conteúdo tóxico, de ódio e desinformação.
Em demonstração para jornalistas nesta terça-feira, 14, um dos executivos da plataforma subiu uma imagem de nudez em seu perfil na plataforma e, em dois segundos, ela desapareceu do feed. Neste caso, a rede social envia uma mensagem ao usuário que postou a foto para explicar o ocorrido. Neste caso, a ferramenta é automatizada.
Os executivos da plataforma também fizeram um teste com um vídeo pornô. O mesmo aconteceu e, apesar de levar um pouco mais de tempo, o conteúdo foi retirado do ar em cerca de cinco segundos. E, mais uma vez, a pessoa responsável pela publicação recebe uma notificação.
“É a nossa política no Koo. Esses materiais não são bem-vindos na plataforma. E é uma demonstração de segurança para os nossos usuários, em especial os mais novos, menores de 18 anos. Mas é possível postar esse tipo de conteúdo em outras plataformas”, explicou Rajneesh Jaswal, general counsel da rede social.
Para demonstrar, os executivos publicaram no Twitter a foto de uma mulher nua e o vídeo que antes inseriram na rede social indiana. Mesmo depois de uma hora, os dois conteúdos não foram apagados pela rede social de Elon Musk, mesmo tendo saído de um IP da Índia, país que proíbe a disseminação desse tipo de conteúdo nas plataformas.
“O Twitter não toma nenhuma ação, mesmo sendo ilegal na Índia e em várias partes do mundo”, disse Rahul Satyakam, leads operation do Koo.
Violência
Demonstração do funcionamento das ferramentas de moderação de conteúdo: imagem acinzentada impede a visualização direta de imagens violentas. Imagem: reprodução de vídeo
Imagens que retratam algum tipo de violência também são tratadas pela plataforma. Neste caso, como algumas podem ser de um noticiário, a plataforma esconde o conteúdo, a partir de uma camada acinzentada, desfocada, e permite ao usuário clicar nela para ver. “Neste caso, a pessoa pode ou não ver. É uma escolha e permite que outras pessoas que não queiram ver não vejam”, explicou Satyakam.
Impostores não têm vez
Outra ferramenta apresentada na demonstração para jornalistas foi a de que o Koo não permite que um usuário se passe por uma personalidade. O usuário que mudar sua foto para a de uma pessoa famosa, ou trocar seu nome, também poderá ser encontrado pelo sistema, por meio de machine learning, que vai analisar e determinar se é ou não a pessoa. Um moderador humano toma a decisão final.
“Não vamos impedir que as pessoas postem fotos de seus artistas favoritos”, disse Satyakam. Para demonstrar a ferramenta, o executivo trocou sua foto de perfil e seu nome pelo do escritor Paulo Coelho, que não está na rede social indiana, mas está no Twitter. A ferramenta é capaz de avaliar se a mudança é pertinente e um humano faz a avaliação final, impedindo que impostores se passem por quem não são.
Desinformação e discurso de ódio
Por fim, os executivos apresentaram uma solução que mitiga a disseminação de notícias falsas. Neste caso, um moderador humano pega o conteúdo duvidoso publicado e confere nas ferramentas de checagem. Em caso de uma língua estrangeira, a pessoa faz uma tradução em uma plataforma, como no Google Tradutor.
Texto enviado para aqueles que publicam desinformação. Imagem: reprodução de vídeo
“Assim que o usuário posta, aparece no dashboard dos moderadores. A partir daí, é possível fazer a checagem e ter mais informações a partir de diferentes fontes. O conteúdo é avaliado e o moderador toma uma decisão – se mantém no ar o post ou retira”, explicou.
De todo modo, os usuários saberão que postaram desinformação, uma vez que o Koo envia uma mensagem de alerta. E a pessoa que postou recebe uma informação explicando por que o Koo retirou do ar aquele conteúdo.
“Somos proativos em garantir que nossos usuários estejam a salvo”, resumiu Jaswal, general counsel da rede social.
No caso de discurso de ódio, eles não são apagados, mas vão para um espaço à parte, chamado de “conteúdo escondido” (hidden content, em inglês), assim como os spams.
“Temos um roadmap enorme com moderações de conteúdo como essas”, informou Harsh Singahl, head of Machine Learning e AI do Koo.
Vale dizer que, de acordo com os executivos da rede social, imagens artísticas não devem passar por esse crivo. A inteligência artificial e a figura do moderador humano seriam responsáveis por fazer essa distinção.
ChatGPT
Perguntados sobre a vinda da funcionalidade do ChatGPT para escrita de posts, Singahl disse que a plataforma está trabalhando em cima de uma solução em português, mas não entrou em detalhes. O executivo explicou que 60% do conteúdo do ChatGPT é em inglês e a integração está disponível para quem trocar sua língua para o inglês. “Mas estamos trabalhando para termos soluções para quem não fala inglês”, afirmou.
