Na última sexta, dia 7, os usuários do Instagram se depararam com um breve discurso de Mark Zuckerberg, fundador e CEO do Facebook, sobre como ele manipula dados de bilhões de usuários. Suas palavras são breves, mas mandam o recado. O suficiente para viralizar. O vídeo, claro, é falso.
“Imagine isso por um segundo: um homem com controle total dos dados roubados de bilhões de pessoas. Todos os seus segredos, suas vidas e seus futuros. (Aleksandr) Spectre me mostrou que quem controla os dados, controla o futuro”.
Fruto do esforço de Bill Posters e Daniel Howe, dois artistas, e uma agência de publicidade chamada Canny, o vídeo é uma empreitada que só foi possível através do uso de Inteligência Artificial. Seus algoritmos usaram imagens reais de Zuckerberg em aparições públicas e foram alteradas e combinadas ao rosto de uma outra pessoa, que recitou as palavras. A técnica não é exatamente uma novidade e é conhecida como Deepfake. Confira o vídeo publicado:
O resultado, porém, é natural e convincente e se apropria de um vídeo original de 2017, em tempos que o Facebook necessitou prestar esclarecimentos sobre seu papel e, consequentemente de Mark Zuckerberg, no resultado das eleições russas daquele ano.
O vídeo, para garantir autenticidade, ainda utiliza-se do logo da CBS, um dos principais canais da TV norte-americana e uma vinheta com os dizeres: “Zuckerberg: We’re increasing transparency on ads.” (“Zuckerberg: Estamos promovendo transparência em propaganda, em tradução literal”). A emissora negou qualquer tipo de relacionamento com vídeo e reforça a necessidade do vídeo ser tirado do ar.
Mark Zuckerberg não é o primeiro alvo da Canny. A agência de publicidade já utilizou da mesma tecnologia para criar vídeos deepfake de Donald Trump e Kim Kardashian. Spectre, que é citado no vídeo, é uma instalação de arte que aconteceu no Sheffield Doc Fest, no Reino Unido.
A Inteligência Artificial da Canny foi treinada de 12 a 24 horas fazendo uso de vídeos curtos de 20 a 45 segundos reais de Mark Zuckerberg, mais exatamente de 2017, para criar a deepfake do CEO. O algoritmo da AI foi criada pela Universidade de Washington e o vídeo tem como principal propósito educar as pessoas sobre o potencial da tecnologia, segundo as palavras do criador da Canny, Omer Ben-Ami.
Mark Zuckerberg e a base de dados
O vídeo chega em tempo de debate sobre a política e segurança do Facebook, que, recentemente, se recusou a remover um vídeo deepfake de Nancy Pelosi, líder do partido dos democratas na câmara dos deputados. Para justificar sua decisão, a rede social ratificou que o vídeo em si não feria ou violava as regras de uso da plataforma e, por isso, não sentia a necessidade de retirá-lo do ar.
Algumas medidas foram tomadas, porém, de maneira a garantir que o nível de circulação do vídeo fosse diminuído e dificultado, por exemplo mensagens que alertavam a veracidade do vídeo e, caso um usuário optasse por compartilha-lo, uma notificação lhe era encaminhada. Tal medida não apaziguou as críticas à postura da empresa.
A atitude da empresa é apenas a ponta do iceberg de uma série de polêmicas envolvendo o Facebook e o CEO Mark Zuckerberg ao longo dos últimos anos. Vazamento de dados pessoais em massa e o posicionamento dúbio da empresa ao lidar com as polêmicas vem fomentando ainda mais as dúvidas em relação ao futuro do Facebook e seu fundador, cujo caráter sempre foi munição fácil para a cultura pop apropriar-se e estipular a criação de seu mito.
Vide o exemplo de A Rede Social, que vai fazer dez anos e questiona as manobras éticas que o criador do Zuckerberg utilizou-se para atingir o topo. Como ele faz para manter-se nele, é uma série de novas perguntas, todas estipuláveis, algumas claras, outras obscuras.
Não distante disso, o próprio Mark Zuckerberg se viu alvo de críticas no recente episódio do Black Mirror, Smithereens, que questiona o relacionamento tóxico estimulado pela plataforma para com seus usuários. O engajamento, uma das principais ferramentas que trabalham a favor do império do Facebook, permeia por todo o episódio, sem formular respostas a perguntas dificieis demais para serem ditas em voz alta: quem é o principal algoz da era digital? O criador ou sua criatura?
O recente deepfake não se priva de fazer críticas, pelo contrário, assume a mesma manta e lança ao público a decisão de atribuir as palavras de Zuckerberg à sua própria ideologia e qual seria os valores de sua régua moral.
Afinal, no auge da polêmica do deepfake de Pelosi, Neil Potts, diretor de Política de Privacidade do Facebook, afirmou que nem mesmo um deepfake de Mark Zuckerberg seria banido da rede social. Resta agora aguardar o posicionamento da empresa perante a situação.
Fonte: CNET
