O CEO da Cyrano, Scott Sandland, afirmou que os tecnólogos estão falhando em proteger as crianças dos males da tecnologia e da inteligência artificial. Durante palestra no Apix 2023, evento organizado pela Sensedia nesta quinta-feira, 22, o executivo citou dados do CDC (Centro de Controle e Prevenção de Doenças) que apontam que o suicídio é a segunda maior causa de mortes em pessoas com menos 24 anos nos Estados Unidos.
Lembrou ainda que a Associação Americana de Psicologia (APA) indicou que os danos psicológicos aos adolescentes e pré-adolescentes têm piorado nos últimos 12 anos, algo relacionado ao avanço das redes sociais: “Há incógnitas desconhecidas em todas essas tecnologias. E tudo está se movendo tão rápido”, disse. “Nós temos a responsabilidade de proteger essas crianças. Mas nós falhamos globalmente para fazer essa proteção”, disse.
Em conversa com Mobile Time após a apresentação, o líder da empresa que oferece uma IA que compreende e interage com a pessoa por voz, disse que o ideal é que os pais tenham mais controle no acesso aos jovens nas redes sociais. Compara aos cassinos, aos quais as crianças são proibidas de entrar: entende que algo similar deveria ser feito com as redes.
A fala do executivo vai ao encontro com o posicionamento da APA deste ano que pede mais monitoramento dos pais no acesso de seus filhos (entre 10 e 14 anos de idade), e que os jovens não devem ser expostos a conteúdo danoso nessas plataformas.
Como começar?
Scott Sandland, CEO da Cyrano durante o Apix 2023 (crédito: Henrique Medeiros/Mobile Time)
Como um meio de mudar e trazer mais responsabilidade aos desenvolvedores de tecnologias e de inteligências artificiais, o executivo propõe o desenvolvimento de APIs em três etapas, que são a base do desenvolvimento dessas plataformas.
- Responsabilidade – os criadores precisam ter um nível de visibilidade das aplicações que usam suas ferramentas;
- Regras – desenvolvedores e plataformas precisam de termos e acordos para auditar e recusar serviços;
- Intenção – O uso dessas tecnologias deve estar de acordo com o seu propósito original.
“O que estou propondo não são apenas lucros trimestrais ou churn reduzido. Conseguimos isso, mas também teremos resultados mais felizes e clientes profundamente satisfeitos”, disse. “Na prática isso significa melhora no engajamento dos clientes e melhora na própria equipe, pois eles vão se sentir bem melhor”, completou.
Exemplo começa em casa
O CEO citou o próprio exemplo da Cyrano. Anos atrás, a companhia criou um algoritmo de IA capaz de transformar um minuto de fala em 75 mil conselhos e formas de acalmar uma pessoa em uma ligação. Com a empresa obtendo os primeiros resultados e sucesso, inclusive em áreas sensíveis da saúde, Sandland foi chamado para palestrar em um evento da ONU. Ao término de sua apresentação, uma pessoa chamou sua atenção que essa IA também poderia ser usada para o mal, como indicar pessoas a mudar de decisão ou fazer ações ruins.
Sandland mudou o curso da empresa e passou a focar em trazer mais propósito e deixar essas conversas mais significativas. Para isso, a empresa de IA passou por um processo de reestruturar suas APIs e alterar o modelo de negócios para garantir a segurança de seus usuários: “Na Cyrano, nós acreditamos que a fala é um comportamento. Isso significa que não importa o que a pessoa está falando, ela está falando para e sobre si”, explicou
“Os modelos de treinamento que estamos criando para esses sistemas de IA estão melhorando rapidamente para que possamos ter um mundo mais seguro, mais educado ou produtivo. Ter uma população mais feliz é absolutamente possível mudando apenas algumas coisas que são perturbadoras no início, mas são bons negócios”, afirmou. “Não estamos pedindo que vocês (desenvolvedores) sacrifiquem nada. De fato, estou pedindo para que vocês parem de sacrificar suas ideias, sua moral e seus valores. Ao mascarar isso, vocês fazem os sacrifícios de nossos vulneráveis”, finalizou.
