Representantes de 20 empresas líderes da indústria de tecnologia assinaram um acordo na Alemanha para trabalharem em conjunto no combate ao mau uso de conteúdos feitos com inteligência artificial nas eleições. Anunciado durante a Conferência de Segurança de Munique nesta sexta-feira, 16, as empresas signatárias são:
- Adobe; Amazon; Anthropic: ARM; ElevenLabs; Google; IBM; Inflection AI; LinkedIn; McAfee; Meta; Microsoft; Nota; OpenAI; Snap; Stability AI; TikTok; Trend Micro; Truepic; X (antigo Twitter).
Batizado como Tech Accord to Combat Deceptive Use of AI in 2024 Elections (Acordo de Tecnologia para Combater o Uso Enganoso de IA nas Eleições de 2024, na tradução livre para o português), o grupo não tem governos, mas pretende criar uma série de regras e comprometimentos para garantir que os eleitores não sejam induzidos por conteúdos enganosos de IA generativa, tais como:
- Áudio, vídeo ou imagens geradas por IA que falsificam ou alteram vozes e ações de candidatos, oficiais eleitos ou líderes envolvidos na eleição;
- Conteúdos de IA com falsas informações para os eleitores sobre onde, quando e como devem votar.
Entre as ferramentas que as empresas devem desenvolver em conjunto estão campanhas educacionais que ajudem a trazer mais transparência. Essas ações são guiadas por oito regras básicas:
- Desenvolver e implementar tecnologias que reduzam o risco de IA enganosa nas eleições, o que inclui ferramentas de código aberto;
- Utilização de modelos no escopo do acordo para entender os riscos que a IA pode trazer às eleições;
- Buscar detectar a distribuição desse tipo de conteúdo malicioso nas plataformas;
- Analisar apropriadamente esses conteúdos nas plataformas;
- Forjar resiliência em todos os participantes da indústria para combater a o mau uso de IA nas eleições;
- Levar ao público transparência e como as companhias atacam esse problema;
- Engajar em atividades com a sociedade civil e a academia;
- Apoiar os esforços para alertar, educar e levar resiliência para toda a sociedade global.
Além da falta de governos, chama a atenção a ausência de grandes fornecedores de dispositivos móveis com IA embarcada no projeto, como Samsung ou Apple, que são caracterizados como gatekeepers e tem um papel de dominância neste mercado, segundo o Ato de Mercados Digitais (DMA) da União Europeia.
Combate prático
Em seu perfil no Linkedin, Brad Smith, vice-chairman e presidente da Microsoft, apontou principalmente a preocupação com o crescimento dos deepfakes, uma vez que o mercado de tecnologia tem firmas com tecnologias avançadas que podem criar e distribuir esses conteúdos falsos.
No blog da Microsoft, Smith escreveu que pretendem enfrentar desafios nas eleições com três ações:
- Evitar a criação de deepfakes com um sistema avançado de autenticidade, marca d’água e fortalecimento da arquitetura de segurança em ferramentas de criação;
- Detectar e responder aos deepfakes enganosos com detecção de distribuição e remoção de deepfakes em suas plataformas, assim como trocar informação sobre esse conteúdo com os demais parceiros do setor;
- E dar transparência e resiliência ao serem claros com o público e com a sociedade civil sobre este problema nas eleições.
“O acordo de hoje vai tornar mais difícil para atores maldosos usarem ferramentas legitimas para a criação de deepfakes”, escreveu o executivo. “Esse acordo também ajuda a mover o setor de tecnologia com mais velocidade para os comprometimentos, ao inovar e adotar essas regras tecnológicas”, completou.
Eleições 2024
O intuito do grupo é apoiar mais da metade da população mundial (4 bilhões de pessoas) que devem participar de algum pleito em mais de 40 países. Globalmente, a polarização e o extremismo têm afetado as disputas eleitorais. Um exemplo recente foi a medida tomada pelo governo do Paquistão: em 8 de fevereiro, precisou cortar o sinal de telefonia móvel durante sua eleição nacional, após uma série de ações violentas que antecederem o pleito no país. Mesmo com críticas da sociedade civil, a ação foi feita no dia da eleição. O sinal só voltou aos dispositivos dos cidadãos um dia após a disputa.
Vale lembrar, o Brasil também terá eleição em todo País para prefeitos e vereadores em outubro deste ano. No Tribunal Superior Eleitoral (TSE) foram colocadas propostas como proibição de chatbots com IA generativa. Outra proposta indica que as campanhas de candidatos devem dizer de forma explícita e destacada quando um material foi feito com IA (aqui chamados de ‘conteúdos sintéticos’), além de informarem qual foi a tecnologia utilizada.
Foto extraída no Linkedin da Conferência de Segurança de Munique
