A Cisco apresentou nesta quarta-feira, 22, uma solução de proteção de modelos baseados em inteligência artificial que desenvolvem aplicações. Batizada como Cisco AI Defense, a solução tem como intuito garantir que as empresas criem aplicações de IA com segurança.
De acordo com Chuck Robbins, CEO da companhia, os anúncios de hoje em cibersegurança focam em resolver os problemas que teremos no futuro com o avanço da IA, Internet das Coisas e nuvem: “A pressão que o C-Level sofreu com nuvem é similar àquela que eles estão sofrendo com a IA. Porém, há melhor avaliação de risco e de preocupações com IA. Além disso, as empresas começam a perceber o risco de ficar para trás ante os rivais (na corrida da IA)”, explicou durante o Cisco AI Summit nesta quarta-feira, 22.
Por sua vez, Jeetu Patel, vice-presidente executivo e diretor de produtos da Cisco, explicou que o Cisco AI Defense é um produto de segurança que pode ser aplicado em qualquer modelo, uma vez que este modelo pode ser usado em qualquer agente de IA e em qualquer nuvem.
“Teremos novas classes de risco com o avanço da IA para acelerar o trabalho dos humanos. Veremos uma mudança na construção da arquitetura (aplicação, data e infra) com a entrada dos multimodelos. Os modelos são, por definição, não-determinísticos e imprevisíveis. Isso abre a possibilidade de novos fatores de riscos. E quando o modelo quebra, vários problemas acontecem”, disse Patel.
Proteção da Cisco em IA
Chuck Robbins, CEO da Cisco (esq.) e Jeetu Patel, VP da Cisco (reprodução: Cisco AI Summit)
Uma das soluções de segurança que a companhia traz para sua plataforma de cibersegurança em IA é para proteger de ataques de prompt para fazer o modelo alucinar e perder seus guardrails, assim como segurança contra roubo de dados privativos. Também tem processos de validação constante dos modelos.
“Tem a questão de segurança no modelo e da cibersegurança em si. Precisamos garantir que o modelo se comporte como deve. Ao mesmo tempo, atores maldosos vão tentar inserir dados para alterar os modelos e mudar seu comportamento. Por isso precisamos nos proteger. Não podemos sacrificar segurança e garantia por velocidade. Por isso criamos o Cisco AI Defense”, completou o VP, ao explicar que, basicamente, as proteções são as mesmas que data center e AI Fabrics têm.
Segurança no uso da IA
Além de proteger a aplicação, o produto da fornecedora também atua na proteção no acesso dos funcionários às aplicações de produtividade dentro das empresas. Por exemplo, uma empresa pode ver quem e como está usando o ChatGPT. Isto é feito com políticas de uso e acesso configuráveis, ou seja, os guardrails.
De acordo com os executivos, o Cisco AI Defense deve chegar ao mercado em março.
Imagem principal: Chuck Robbins, CEO da Cisco (esq.) e Jeetu Patel, VP da Cisco (reprodução: Cisco AI Summit)
