Cresce o uso de deepfakes gerados por AI em crimes de extorsão sexual

O número de casos de extorsão sexual utilizando vídeos de sexo falsos vem aumentando nos últimos tempos, como apontado pelo FBI. Os estelionatários fazem uso de inteligência artificial para gerar deepfakes – simulações da aparência da vítima baseada em fotos postadas em redes sociais – em que a pessoa é mostrada em falsas situações comprometedoras gravadas em vídeo para extorquir dinheiro delas.

Como determinar o que é um crime cibernético de cunho sexual, o sextortion

Nesta última segunda-feira, dia 5, a Agência Federal de Inteligência dos Estados Unidos — o FBI — publicou uma declaração, alertando usuários de redes sociais e afins sobre o perigo de golpes aplicados utilizando-se do que é referido como sextortion, uma combinação entre as palavras em inglês sex e extortion, para aplicar golpes em vítimas desavisadas.

As mensagens enviadas pelos golpistas ameaçam a vítima de que, se uma quantia de dinheiro não for enviada a eles, imagens comprometedoras em seu poder serão compartilhadas via Internet para familiares, chefes e outros conhecidos. Essa modalidade de golpe já existe há décadas, e muitas vezes os bandidos conseguem obter tais imagens através de engenharia social ou por vazamento de dados da vítima. Há também diversos casos em que simples menção por parte do criminoso, alegando possuir tal conteúdo, sem qualquer indício de provas, já é o bastante para obter sucesso com a falcatrua.

A situação piorou agora que os estelionatários passaram a utilizar-se de deepfakes na criação de vídeos falsos, gerados por inteligência artificial, para conseguir quantias de dinheiro sob forma de resgate ou até a resolução de outras exigências feitas por parte do agressor a vítimas de todas as faixas etárias, inclusive menores de idade. Tais pedidos incluem o envio de imagens reais com conteúdo explícito, e a partir desse momento, os predadores digitais continuam a exigir novas imagens e vídeos comprometedores, aproveitando-se do momento de fraqueza de suas presas pelo tempo que quiserem.

O que o FBI disse sobre os deepfakes

Em pronunciamento na segunda-feira, o FBI alertou sobre a nova modalidade de golpe. “O FBI continua a receber relatos de vítimas, incluindo crianças e adultos sem consentimento, cujas fotos ou vídeos foram alterados para conter conteúdo explícito. As fotos e vídeos são então circulados em âmbito público nas redes sociais, ou em páginas de pornografia na Internet com a intenção de intimidar as vítimas ou aplicar esquemas de sextortion”, e continuaram, apresentando dados alarmantes:

“Em abril de 2023, o FBI observou um aumento no número de vítimas de sextortion que relataram o uso de imagens falsas ou vídeos criados a partir de conteúdo postado nas suas próprias páginas de redes sociais, ou postagens na Internet, sob possessão de estelionatários que exigiram:

1) Pagamento (por exemplo, dinheiro ou cartões pré-pagos) ameaçando compartilhar as imagens e/ou vídeos com parentes ou amigos de redes sociais caso não sejam pagos; ou 2) Que a vítima envie imagens e/ou vídeos reais de conteúdo explícito.

Apesar de parecer seguro ao se postar ou compartilhar [na Internet], as imagens e vídeos têm o potencial de prover aos bandidos uma fonte abundante de conteúdo com o qual se utilizarão para praticar atos criminosos.

Os avanços na tecnologia de criação de conteúdo e fotos pessoais facilmente obtidas na rede mundial de computadores apresentam novas oportunidades para essas figuras escusas encontrarem e colocarem novas vítimas sob suas miras. Isso as deixa vulneráveis para situações vergonhosas, intimidação, extorsão, perdas financeiras, e até uma vitimização por parte do usuário a longo prazo.”.

Relatório do FBI sobre sextorsion e deepfakes.

O avanço da tecnologia de deepfakes e seu fácil acesso geram preocupação

Essa situação cada vez mais preocupante é agravada ainda mais pelo avanço abundante de ferramentas, muitas vezes em caráter de código-aberto ou até de assinatura, cuja função de criar deepfakes tem o potencial para uso em crimes online, como o sextorsion. Combinado com a cada vez mais elaborada tecnologia de inteligência artificial, a qualidade de produções de deepfakes estão rapidamente se aproximando da perfeita cópia e no uso desta imagem em vídeos falsos com o rosto da vítima. 

Por outro lado, essas ferramentas, em sua maioria, incluem algum tipo de proteção contra o uso abusivo do deepfake, como por exemplo um sistema de checagem interno, projetado para que o programa não seja utilizado para gerar “conteúdos não apropriados”. Infelizmente, muitas dessas medidas de segurança são fáceis de burlar, e há muitas alternativas disponíveis no mercado cinza que não possuem tais travas.

“Muitas vítimas, entre elas menores, não têm conhecimento de que suas imagens foram copiadas, manipuladas e colocadas em circulação até o momento em que terceiros entram em contato para avisá-las.

As fotos então são enviadas diretamente às vítimas pelos criminosos e usadas para chantagear ou aproveitar-se delas em esquemas de sextortion, ou até que elas sejam encontradas pela própria pessoa na rede. Ao serem descobertas, [essas fotos] podem trazer agravantes sérios à vida da vítima, além da dificuldade em conseguir que sejam apagadas antes que tais imagens continuem a serem compartilhadas na Internet.”.

Um alerta geral da agência norte-americana.

Na declaração, o FBI clama aos usuários para tomarem medidas preventivas para que sua imagem pessoal não seja usada em esquemas de deepfakes e sextortion, avisando às vítimas em potencial de que por mais inócua que seja sua intenção ao publicar uma foto pessoal na Internet, ela sempre poderá vir a ser usada para atos escusos.

Como agir caso você seja uma vítima de um crime cibernético como o sextortion

Em casos em que tais atividades forem detectadas pelo usuário, em especial o sextortion, ele deve salvar cópias de o quanto for possível se obter de provas do crime, como fotos de tela da ameaça, textos enviados pelo estelionatário, gravações das ameaças, e-mails que documentem nomes de usuário e endereços de e-mail, sites ou nomes utilizados em redes sociais, além de endereços IP dos remetentes das mensagens. 

Tudo isso deve ser obtido para que os órgãos cabíveis possam ser acionados em busca e eventual apreensão dos criminosos do outro lado da tela. No caso do Brasil, a Polícia Federal, junto do Ministério da Justiça e Segurança Pública (MJSP), com apoio da Federação Brasileira de Bancos, a Febraban, inaugurou no ano passado a Unidade Especial de Investigação de Crimes Cibernéticos (UEICC), com o intuito de combater essa e outras modalidades de extorsão e atividades criminosas por meio da Internet.

Enfim, todo cuidado é pouco para evitar cair nas jogadas da bandidagem virtual. Caso você venha a ser vítima desse tipo de crime, deve denunciá-lo para que seja aberta uma investigação. Para isso, basta se dirigir ao portal da Polícia Civil que contém todos os detalhes de como fazer o envio correto das provas obtidas e dar prosseguimento ao processo por meio de boletim de ocorrência (B.O) do tipo correto de cibercrime ocorrido.  

Para outras notícias e matérias relacionadas à sua segurança digital, siga o Showmtech!

Mudanças de segurança do Pix chegam em novembro, entenda

Fontes: Ars Technica, Polícia Civil, Polícia Federal    

Revisado por Glauco Vital em 7/6/23.