O Bradesco pode ter seus próprios grandes modelos de linguagem (LLM) no futuro. Atualmente o banco utiliza modelos de prateleira da OpenAI, além de ter feito testes com Granite e Llama, mas a ideia é ter modelos parametrizados por conta própria, informou Augusto Vieira, gerente de IA e data science da instituição.
Durante o Super Bots Experience 2024, evento organizado por Mobile Time nesta quinta-feira, 8, Vieira afirmou que o Bradesco estuda a opção do LLM para trazer melhor acurácia nas respostas e pela redução de custos.
Atualmente, o banco tem embarcado o LLM da OpenAI em suas soluções internas. A recente mudança do GPT-4 para a o GPT-4o apresentou uma forte redução de custos, relata.
BIA do Bradesco em testes
O gerente de IA do banco confirmou ainda que a BIA para clientes está passando por testes com IA generativa. A prova é com uma base interna de 600 funcionários que possuem conta corrente no Bradesco. Vieira disse que os testes até o momento estão satisfatórios com poucas alucinações, o que permitirá escalar para clientes fora do banco em breve.
O executivo lembrou ainda que a versão da BIA para colaboradores em agências está com a IA generativa da OpenAI desde o começo do ano para tirar dúvidas de produtos e processos internos para profissionais do banco. Atualmente, 1 mil documentos que informam os funcionários já foram treinados com IA generativa.
Outras experiências
Além da BIA, o Bradesco também usa IA generativa para sintetizar as atas do COPOM do Banco Central e do FED dos Estados Unidos para seus analistas. A solução resume, compara com atas anteriores e prevê se a taxa básica de juros vai subir, cair ou se manter. Com 90% de assertividade, o gerente do banco explicou que a IA generativa colabora para aumentar a produtividade dos analistas financeiros.
E outro caso de uso de IA generativa pelo banco é em open finance. Internamente, os analistas usam a IA generativa para avaliar a dinâmica do sistema financeiro aberto, como volume de consentimentos e operações de transações diárias.
Imagem principal: Augusto Vieira, gerente de IA e data science do Bradesco (crédito: Marcos Mesquita/Mobile Time)