Umas das principais plataformas de geração de imagens por inteligência artificial (IA), o Midjourney não oferece mais o teste gratuito do serviço. Os motivos seriam os “abusos” que estão sendo cometidos utilizando o site, como criação de deepfakes virais com figuras públicas, segundo relatou o CEO David Holz.
Antes, era possível experimentar o Midjourney com a criação de 25 imagens gratuitas. O plano inicial para o serviço pago custa US$ 10 ao mês. Na última terça-feira, 28, a plataforma interrompeu os testes gratuitos, segundo Holz, por causa de “demanda extraordinária e abuso de teste”. Ele sugeriu que usuários não pagantes estavam manipulando mal a tecnologia e que as salvaguardas atuais não são o suficiente para lidar com o problema.
No dia 15 de março, foi lançada uma nova versão do software da IA, que melhorou a qualidade das imagens em que são retratadas pessoas. Além de terem sido aperfeiçoados detalhes físicos, como o formato das mãos, a ferramenta se tornou ainda mais capaz de gerar imagens de celebridades e figuras públicas de forma realista, com luz, sombra e texturas mais precisas.
Uma série de imagens geradas pelo jornalista investigativo americano Eliot Higgins usando o Midjourney, postadas no Twitter entre os dias 20 e 21 de março, rodaram a Internet, nas últimas semanas. Nela, o ex-presidente dos EUA, Donald Trump, aparece sendo preso em diversas cenas, chorando perante ao tribunal e vivendo em uma prisão.
No fim de semana entre 25 e 26 de março, imagens do Papa Francisco com uma jaqueta da moda circularam na web, feitas por um americano chamado Pablo Xavier, que as postou em um grupo do Facebook chamado AI Art Universe. A verossimilhança levou pessoas a relatarem ter acreditado que as fotos eram reais.
A plataforma possui uma lista de palavras banidas, relacionadas a tópicos de diferentes países, baseadas em reclamações de usuários destes locais, segundo o CEO. O Midjourney tomou outras medidas para lidar especificamente com o problema de imagens falsas com figuras públicas, expandindo a lista, com termos como “preso”. O próprio criador das imagens virais do Papa relatou que foi banido da plataforma.
Não é possível também, por exemplo, gerar imagens com o presidente chinês Xi Jinpin. Holz justificou a restrição, em 2022, afirmando que pretendia apenas “minimizar o drama”, algo que está, inclusive, nos termos de serviços do Midjourney. A ideia é evitar que a plataforma crie problemas com a China e os usuários chineses sofram a consequência de ficar sem acesso a ela.
