O CEO e cofundador da Gupshup, Beerud Sheth, acredita que há um potencial comercial “significativo” para agentes que categorizam, validam e separam as informações para aplicações baseadas em grandes modelos de linguagem (LLM) – em especial com as companhias procurando “maneiras de otimizar suas soluções orientadas por IA”. Ou seja, uma espécie de bot que age no backoffice entre o LLM e a ferramenta de orquestração de conteúdo gerado.
O executivo explicou que esses agentes funcionam como “filtros inteligentes”, ou seja, garantem que os dados inseridos no LLM sejam precisos, relevantes e devidamente categorizados. Se atuar em tempo real em aplicações voltadas ao cliente, o executivo acredita que pode ser “valioso para as empresas”, pois reduz erros e aprimora a experiência dos usuários.
“Essas ferramentas podem ajudar as organizações a gerenciarem a complexidade de grandes conjuntos de dados e garantirem que os LLMs estejam trabalhando com as melhores informações possíveis. Isso não só melhora o desempenho dos modelos, mas também aumenta a confiança dos clientes, que esperam precisão e eficiência”, disse. “Além disso, à medida que os LLMs se tornam mais integrados a vários processos comerciais, a necessidade de agentes só aumentará”, completou.
Vale lembrar, um exemplo recente de agentes de LLM é o caso de uso do copiloto Zeca, da Hypera, que usa diferentes tipos de modelos de linguagem para transformar os pedidos de farmácias em lista de compras, a partir de texto, voz, PDF e até letra cursiva enviada pelo WhatsApp.
LLMs, os mais usados
Em resposta por e-mail após sua passagem pelo Super Bots Experience 2024, evento organizado por Mobile Time na última semana, Sheth afirmou que os grandes modelos de linguagem estão em uso cada vez mais, em diferentes plataformas e com estratégias personalizadas. Isso ocorre pela “tendência crescente” de como os modelos lidam com os diversos tipos de entradas de dados, como texto, imagens e vídeos.
Entre os modelos mais usados pelas companhias apoiadas pela Gupshup estão:
- OpenAI, com a série GPT (GPT-3, GPT-4);
- PaLM, do Google;
- LLaMA, da Meta;
- Claude, da Anthropic:
“Esses modelos potencializam aplicativos como chatbots, geração de conteúdo, assistência de código e tradução de idiomas”, afirmou. “Os modelos GPT são populares em chatbots e criação de conteúdo, enquanto o PaLM, do Google, aprimora a pesquisa e a IA de conversação. O LLaMA, da Meta, é proeminente na pesquisa, e o Claude, da Anthropic, se concentra no desenvolvimento ético da IA”, completou.
Afirmou ainda que os setores começam a perceber o valor da IA personalizada. Com isso, surge uma mudança no sentido de ajustar os LLMs de uso geral para atender as necessidades específicas do setor, como saúde, finanças ou serviços jurídicos.
Mercado e orquestração de LLMs
O cofundador da empresa de IA conversacional acredita que existe um apetite do mercado para a migração da orquestração de canal tradicional (WhatsApp, Messenger, site) para a orquestração de LLM. Sheth acredita que essa camada será “substancial”, pois as organizações buscam aproveitar os recursos avançados dos LLMs: “O mercado de orquestração de LLM está preparado para um crescimento significativo, impulsionado pela necessidade cada vez maior de integração e gerenciamento sofisticados de IA”, disse Sheth.
“Pense na orquestração de LLM como o ‘maestro da sinfonia de IA’. Ela harmoniza vários LLMs em um sistema coeso, garantindo operações e o aprimoramento contínuo. Ao atuar como um hub central, a orquestração simplifica interações complexas de IA e promove um ambiente dinâmico para a inovação”, explicou.
Detalhou ainda que a orquestração de modelos tem “interações e funcionalidades mais sofisticadas”, como a manutenção do contexto entre as conversas e a integração da recuperação de dados em tempo real, que a orquestração de canais tradicionais pode não suportar de forma eficaz.
O executivo acredita que as empresas pretendem integrar os LLMs em suas estratégias mais amplas de IA: “As organizações que se envolvem proativamente com a orquestração de LLM provavelmente obterão uma vantagem competitiva por meio de maior eficiência e inovação”, concluiu.
Imagem principal: CEO e cofundador da Gupshup, Beerud Sheth (Crédito: Marcos Mesquita/Mobile Time)
