O bot, caso capte dados pessoais de seus usuários, precisa estar em conformidade com a LGPD (Lei Geral de Dados Pessoais) e atender requisitos de privacidade e segurança. E seu algoritmo deve buscar a transparência e a ética. O alerta foi dado por Patricia Peck, CEO e fundadora do escritório Peck Advogados durante o primeiro dia do Super Bots Experience, evento promovido por Mobile Time, nesta terça-feira, 24.
Peck também contou que é importante que o algoritmo seja capaz de outras ações, como: deixar claro de que se trata de um bot; explicar os motivos dos dados serem coletados; verificar a identidade da pessoa antes de encaminhar dados sensíveis, como resultado de exame.
Maus exemplos
Em sua apresentação, a advogada deu alguns exemplos de como uma abordagem falha do robô pode causar problemas. Em um deles, um bot de um laboratório clínico entra em contato com um suposto paciente para informar que o resultado do exame poderá ser acessado em uma determinada plataforma. Mas a pessoa escreve que não é ela e que não fez nenhum exame. O bot desconsidera e continua a conversa. No fim, ainda pede para responder uma pesquisa de opinião.
Em outro exemplo de desconformidade, um cliente manda mensagem pedindo o resultado de seus exames e informa nome e CPF. O robô já envia um PDF com os resultados sem verificar a identidade. O certo seria o bot validar a identidade da pessoa.
“O bot tem que estar treinado para situações em que liga para a pessoa errada”, disse. “E não podemos apresentar dado pessoal sensível para outra pessoa que não é proprietária desse dado”, complementou.
Peck alertou também sobre a ética algorítmica, que pode ser identificada em uma auditoria. Entre os pontos questionados seria possível detectar se o algoritmo:
– possui viés estatístico;
– possui viés social que reflita vantagens sistemáticas para um ou mias grupos e desvantagem aos demais;
– é transparente na arquitetura;
– é transparente quanto aos critérios e métricas para a tomada de decisão automatizada;
“Temos que garantir a transparência e a não discriminação do bot. É importante que ele passe uma comunicação clara, transparente e acessível de quais dados estão sendo coletados. Logs têm que ser bem guardados, assim como a tabela de temporalidade de guarda. E são necessários cuidados no treinamento do motor para não ter frases machistas, racistas e discriminatórias. É o explainable AI, a explicabilidade do algoritmo”, descreveu a Patricia Peck.
Super Bots Experience
A 7ª edição do Super Bots Experience, maior evento sobre o mercado brasileiro de chatbots, voice bots e inteligência artificial, começou nesta terça-feira, 24 e segue até sexta-feira, 27. Ao longo de quatro dias de programação com transmissão online, 55 executivos e especialistas participarão de painéis e palestras para debater as mais importantes tendências dessas tecnologias. Entre os participantes confirmados na agenda do evento há mais de 20 executivos C-level e fundadores de empresas.
O evento tem painéis sobre chat commerce; regulamentação de IA; consolidação do mercado brasileiro de bots; a evolução dos voice bots; novos canais para bots; e o WhatsApp como berço para startups; além de 15 palestras especiais e 10 cases. A programação completa e mais informações sobre compra de ingressos estão disponíveis em www.botsexperience.com.br ou com a equipe de eventos do Mobile Time: [email protected] / 11-96619-5888 / 11-3138-4619 (WhatsApp).
