Site pornô usa método de deepfakes para exibir rosto do cliente em atores

A empresa pornográfica Naughty America anunciou esta semana um novo serviço. A proposta é adicionar o rosto do cliente sobre um ator ou atriz em filmes pornográficos. Isso só é possível através de inteligência artificial. É uma forma de tornar a experiência do cliente mais imersiva, vendo-se na cena. Entretanto, essa tecnologia está diretamente vinculada ao crescente fenômeno de deepfakes.

O mercado pornográfico está focando em personalização

“Nós vemos a customização e personalização como o futuro”, comenta o CEO da Naughty America, Andreas Hronopoulos em entrevista à Variety. Para o processo, é necessário mandar várias fotos e vídeos de si, incluindo diferentes expressões faciais. O trabalho restante é feito pela inteligência artificial. Também é possível mudar o plano de fundo de cenas, colocar, por exemplo, uma praia ao invés de um quarto de motel. A empresa demonstrou esses efeitos em dois vídeos (o link possui pornografia).

Entretanto, o processo usado pela Naughty America é o mesmo para gerar as deepfakes. Essa nova categoria de mentiras tem por característica usar softwares para modificar vídeos e enganar o público.

Modificar rostos não deveria ser mercadoria

Pesquisadores da Universidade de Washington conseguiram, através de IA, identificar características gestuais e orais de Barack Obama. Com isso, foi possível criar simulações quase perfeitas de coisas que o ex-presidente dos Estados Unidos nunca disse.

O que vem causando preocupação é a facilidade de acesso a ferramentas como essa demonstrada. Essas ferramentas são open source, ou seja, qualquer pessoa pode usar. Ainda assim a Naughty America cobrará bastante caro para seu serviço. O valor varia: centenas de dólares para simples edições e mais de mil dólares em edições complicadas.

Segundo a Naughty America, os atores que “emprestarão” o corpo terão consentimento das modificações. Porém, outros problemas podem surgir. Como saber se as fotos e vídeos enviadas por clientes também são consentidas?

Há um claro risco do rosto de outra pessoa ser envolvido num filme pornô para espalhar pela internet. Ano passado tivemos o caso de um vídeo pornográfico em que a atriz tinha o rosto da Gal Godot (Mulher Maravilha nos cinemas).

Com a popularização e aprimoramento dessas tecnologias, há um risco ainda maior que o de revenge porn, o que já é grave. Vídeos de deepfake podem ser usadas para manipulação política e causar consequências irreversíveis, como guerras.

O que fazer quando suas fotos íntimas vazam na internet?

As deepfakes devem ser combatidas e não naturalizadas

Para a Naughty America as “grandes mentiras” são algo natural; “é apenas edição”, diz Hronopoulos à FastCompany. Para o CEO da Naughty America, “as pessoas têm editado os rostos alheios em fotos desde o início da internet”. Ele finaliza: “Deepfakes não machucam as pessoas, pessoas usando deepfakes machucam pessoas”.

É necessário entender o quanto esse tema pode ser problemático. Não se pode simplesmente lançar uma ferramenta produtora de deepfakes e recusar a culpa pelas consequências. Não é apenas “pessoas usando deepfakes machucam pessoas”, deve-se entender que existe questões de influência por trás.

As influências podem tanto ser sociais (de espalhar mentiras sobre alguém que não se gosta), econômicas (de criar serviço para lucrar com mentiras) ou políticas (colocando, literalmente, palavras na boca de inimigos). É pertinente que haja maior debate da mídia sobre o que é fake e como combater essas novas subcategorias em ascensão.

Fonte: The Verge.