Grandes empresas sem a autenticação multifator (MFA, na sigla em inglês) ativada, compartilhamento indevido de chave de acesso de um funcionário, configuração incorreta de permissões são algumas das vulnerabilidades de segurança detectadas por Rachel Albuquerque, gerente executiva de contas da AWS. Durante o evento Risk to Resilience World Tour Rio de Janeiro, realizado pela Trend Micro, nesta terça-feira, 28, ela comentou ainda que a utilização da inteligência artificial generativa tem dois pontos distintos: trata-se de uma porta de entrada para invasores, mas também uma poderosa ferramenta de segurança.
A executiva apresentou duas perspectivas bem distintas. A primeira, da vulnerabilidade, e a segunda sobre as oportunidades de melhoria com a IA generativa.
Vulnerabilidades
“Não existe IA generativa sem dados. Muitos clientes nos procuram para desenvolver uma solução de generative AI, mas, quando começamos, percebemos que esse cliente não tem dados estruturados, não tem data lake, tampouco sistema de segurança de dados para chegarmos ao resultado final. Entendo por que esta tecnologia é o assunto do momento: porque isso vai fazer com que todo o mundo vai estruturar seus dados e fazer segurança de dados para depois ter uma solução de IA generativa.”
Albuquerque explica que essa grande quantidade de dados precisa de uma política de controle.
Ainda com relação à vulnerabilidade, esta tecnologia corre riscos relacionados à vieses e política de privacidade. “Portanto, políticas de filtragem e monitoramento de conteúdo são necessárias”, complementou.
Os modelos fundacionais de IA generativa podem ser alvos de ataque e de conteúdo malicioso. “De novo, importante o uso de criptográfica”.
Há ainda o uso malicioso da própria IA generativa para a criação de conteúdo enganoso – Spams, conteúdo de engenharia social, elencou a executiva de contas da AWS.
IA generativa: oportunidades
Mas há também oportunidades para proteção de sistemas, como: desenvolver modelos treinados para fazer detecção de ameaças; análise de incidentes, treinar o modelo para respostas mais rápidas a incidentes; e usar modelos para gerar testes, simulando ataques e ajudando a identificar as vulnerabilidades em sistemas e aplicativo, disse.
“Quando estamos desenvolvendo um sistema que terá IA generativa, é importante fazer uma abordagem pró-ativa para segurança. Se não for, você será atacado”, resume.
Trend Micro
Pensando na segurança para inteligência artificial generativa, Rodrigo Garcia, líder de vendas da Trend Micro, adiantou que a empresa lançará em julho “um pancadão” de soluções voltadas para IA generativa para implementar em suas plataformas.
“A Trend deve entrar num caminho muito forte de proteção de dados. A IA é uma nova camada de exposição. Tudo que é novo é necessário monitorar para entender se por trás tem um risco grande ou não”, resumiu o executivo.
Foto: Rachel Albuquerque, da AWS, durante evento da Trend Micro, no Rio de Janeiro, fala sobre os pontos positivos e negativos da IA generativa quando se trata de segurança cibernética. Crédito: Isabel Butcher/Mobile Time.
