Como identificar vídeos gerados por inteligência artificial?

Ao longo dos anos, a produção de conteúdo audiovisual por meio de ferramentas de Inteligência Artificial cresceu exponencialmente no mercado digital. Atualmente, podemos fazer uso de uma abundância de opções de IAs que auxiliam na produção de textos, áudios e vídeos, que estão na rede. Com essa enormidade de conteúdos na web produzidos pelas Inteligências Artificiais, é de suma importância saber identificar vídeos gerados por Inteligência Artificial.

Abaixo você entenderá os potenciais impactos positivos e negativos desse tipo de conteúdo na web, quais as plataformas produzem e disseminam esse tipo de conteúdo e como identificá-los, para minimizar o risco de cair em desinformação e, principalmente, divulgar notícias falsas acidentalmente.

Impactos das IAs no conteúdo digital

Com a busca ávida por conteúdo, o papel das IAs se tornou destaque na produção audiovisual. Com elas, é possível aumentar a produtividade, a personalização e segmentação do conteúdo, permitindo que empresas entreguem experiências mais relevantes e individualizadas para os usuários, cada vez que os internautas acessem suas páginas, trazendo uma experiência única para cada internauta.

Elas podem automatizar tarefas repetitivas, como a geração de relatórios, análise de dados e até mesmo a criação de artigos e notícias simples. Isso não apenas aumenta a eficiência e reduz os custos, mas também libera os profissionais de marketing e criadores de conteúdo para se concentrarem em atividades mais estratégicas e criativas.

Essa automação de processos possibilitou criar em poucos minutos – ou até mesmo segundos – textos detalhados, áudios personalizados e vídeos com diversos elementos. Com o avanço das tecnologias de IA, é possível até mesmo gerar conteúdo de mídia que se assemelha à qualidade e estilo humano, dificultando distinguir entre o produzido por uma máquina e por um profissional.

O vídeo abaixo foi produzido com apenas um ano de diferença entre um e outro. Note o avanço impressionante de qualidade entre as produções.

O que é um vídeo produzido por Inteligência Artificial?

Um vídeo produzido a partir de uma plataforma de Inteligência Artificial é produzido totalmente – ou parte dele – a partir da manipulação de imagens, vídeos e áudios pré-existentes, que, manipulados por algoritmos, cria um conteúdo completamente novo com base em parâmetros fornecidos pelo usuário, por meio de suas indicações na pré-produção.

Esse processo de automação se tornou popular na rede pela praticidade e velocidade em que vídeos são criados. O próprio algoritmo consegue unir todos os elementos para finalizar o vídeo, economizando tempo e dinheiro com relação a produções reais.

Isso envolve o uso de técnicas, incluindo processamento de linguagem natural para transformar texto em conteúdo audiovisual, geração de imagens e vídeos a partir de descrições ou dados. O algoritmo reconhece a voz e produz assim a narração automatizada, a partir do que foi pedido pela descrição do usuário.

Além disso, o processo de edição é dinâmico, principalmente pelo aprendizado da máquina, que se adapta às preferências do usuário. Com isso, a edição automatizada realiza cortes, ajustes e adições de efeitos de forma automática.

Esses vídeos podem variar em complexidade, desde simples animações até produções mais elaboradas, e são frequentemente utilizados em publicidade, entretenimento, educação e diversas outras áreas.

O que é deepfake?

O termo em inglês Deepfake (“falsificação profunda” ou “falsificação avançada” em tradução livre) é uma técnica de manipulação de imagem que cria vídeos ou imagens falsas que parecem autênticas, muitas vezes substituindo o rosto de uma pessoa por outro rosto, gerando assim um conteúdo manipulado de forma realista.

Esse tipo de conteúdo geralmente faz uso de arquivos de voz da pessoa retratada, o que dificulta a constatação de ser uma montagem. O algoritmo se baseia no tom de voz e produz outras linhas de fala, podendo assim, criar uma situação falsa disseminando diversas fake news.

Com isso, identificar deepfake se tornou importante para saber diferenciar o acontecimento real de uma montagem. Esse assunto se tornou de interesse da política nacional, tendo em vista as eleições municipais de outubro deste ano. Com a acessibilidade a essas ferramentas de IA cada vez maior, o TSE (Tribunal Superior Eleitoral) regulamentou o uso de Inteligência Artificial na produção de conteúdo eleitoral.

No país, a preocupação é tamanha que a Polícia Federal, juntamente com o TSE e a Advocacia-Geral da União (AGU) fazem parte do Centro Integrado de Enfrentamento à Desinformação e Defesa da Democracia (Ciedde), visando combater a divulgação de conteúdos falsos e as deepfakes, durante os períodos eleitorais.

Para a disputa do pleito em outubro, o TSE liberou o uso de IAs nas campanhas, desde que, os partidos sigam as regras impostas pelo órgão, que vetou, por exemplo, o uso de chatbots e avatares para intermediar a comunicação da campanha, evitando a simulação de situações de algum candidato.

Plataformas que produzem conteúdo com Inteligência Artificial

Confira abaixo algumas plataformas que criam vídeos a partir de comandos utilizando Inteligência Artificial no processo de produção e edição audiovisual.

EMO AI

O EMO AI foca em simular com precisão e fidelidade os traços faciais do modelo em situações imagináveis a partir de uma fotografia. É possível fazer com que a partir da fotografia de uma pessoa seja produzido um vídeo musical, onde o personagem pode cantar uma música popular, movimentando os lábios e os músculos do rosto, para pronunciar a letra da maneira correta com poses realistas.

Com base na metodologia utilizada pelos profissionais do Grupo Alibaba, o EMO AI necessita apenas de uma imagem para servir de base na produção do vídeo gerado pela sua inteligência artificial. Em seguida, deve-se inserir um arquivo de áudio para que a ferramenta crie o vídeo com a interpretação do personagem, sincronizando os movimentos labiais com a letra e animando a pessoa, pelo tempo que durar o arquivo de áudio.

Com interface inovadora, o EMO AI ainda não está disponível para o público geral, porém, seu lançamento oficial deve acontecer nos próximos meses. A empresa responsável publicou o estudo que gerou a IA e diversos vídeos de demonstração no site oficial.

Pictory

O Pictory é uma plataforma inovadora de criação de vídeos que simplifica significativamente o processo de transformar conteúdo textual, como scripts e postagens de blog, em material audiovisual envolvente. Com base na sua Inteligência Artificial, o Pictory automatiza tarefas de edição, gera dublagens, seleciona imagens relevantes entre outras tarefas.

Os recursos baseados em IA do Pictory abrangem desde a conversão direta de texto em vídeo até a transformação ágil de blogs em conteúdo visual dinâmico. Inclui ainda a capacidade de resumir automaticamente vídeos, gerando clipes curtos a partir de conteúdo mais extenso, além de oferecer legendas automáticas.

O Pictory oferece um plano gratuito com recursos limitados, permitindo aos usuários explorar as funcionalidades da plataforma em um curto período de teste. Os planos pagos começam em $19 por mês para o plano Starter, que inclui um número específico de vídeos por mês e acesso a uma ampla gama de recursos de criação de vídeos com IA. O plano Professional, por $39 mensais, oferece recursos adicionais significativos, enquanto o plano Teams, por $99, proporciona mais músicas, arquivos, cursos e a capacidade de produzir até 90 vídeos por mês.

O Pictory está disponível para Windows, Mac e Linux.

Fliki AI

O Fliki AI é uma plataforma online que utiliza Inteligência Artificial para automatizar a criação de vídeos. Com esta ferramenta, é possível transformar ideias em vídeos envolventes e profissionais em apenas alguns minutos, mesmo sem conhecimentos técnicos avançados.

O serviço oferece recursos avançados de edição, incluindo trilhas sonoras, transições, legendas, efeitos visuais, entre outros. Essas opções permitem aos usuários personalizar seus vídeos de acordo com suas preferências e necessidades específicas.

Além disso, a plataforma conta com uma biblioteca em constante crescimento de modelos pré-configurados, que podem ser facilmente personalizados conforme as necessidades específicas do usuário. Com o Fliki AI, é possível criar uma ampla variedade de vídeos, incluindo promocionais, tutoriais, apresentações de produtos e conteúdo para redes sociais.

Há um nível gratuito que oferece 5 minutos de conteúdo de áudio e vídeo por mês, além de dois outros planos: Standart e Premium. O primeiro plano pago custa $21 e permite criar 2160 minutos de conteúdo, além de contar com produções em Full HD. Já o plano mais completo custa $66 e permite gerar até 7200 minutos de conteúdo, além de prioridade no suporte, entre outras funcionalidades premium.

O Fliki AI está disponível para Windows, Mac e Linux.

Sora

O Sora, lançado recentemente pela OpenAI, é um modelo de IA que produz vídeos de até 60 segundos a partir de textos digitados pelo usuário. Usando uma técnica inovadora chamada “difusão”, o Sora transforma ruído estático em imagens reconhecíveis, capturando nuances e detalhes para gerar conteúdo visual de alta qualidade.

Sua capacidade de compreender ideias abstratas e traduzi-las em sequências visuais convincentes o torna uma ferramenta versátil para diversas aplicações, desde marketing e entretenimento até educação e informação.

Sora permanece indisponível para o público em geral neste momento. A plataforma de criação de vídeos alimentada por inteligência artificial continua restrita a um conjunto selecionado de usuários. Ainda está em discussão se, eventualmente, será aberta para não assinantes ou se permanecerá exclusiva para assinantes dos planos da OpenAI.

Pika Labs

Lançada em novembro do ano passado, a IA da Pika Labs oferece uma ampla gama de recursos de edição, permitindo não só a escolha do prompt, mas também a definição do enquadramento, resolução e taxa de quadros por segundo, além de oferecer controles de câmera para zoom e rotação.

A Pika Labs aceita prompts de texto, como também pode gerar conteúdo com base em imagens estáticas e vídeos armazenados no dispositivo, produzindo clipes padrão de três segundos, mas com a possibilidade de estender até um minuto durante a edição.

A plataforma Pika Labs está disponível para Windows, Mac e Linux.

Dicas para identificar vídeos criados com IA

Mesmo com o avanço impressionante dessas tecnologias nos últimos anos, a produção de conteúdo por meio do uso de Inteligências Artificiais ainda peca em alguns quesitos mais complexos. Veja abaixo.

Objetos surgindo do nada

Dependendo do que foi pedido no roteiro do vídeo do usuário, as IAs ainda não conseguem fazer com que objetos apareçam de maneira natural nos vídeos, construindo a narrativa onde o personagem manuseia algo nas mãos com autocontrole.

Em alguns vídeos, os objetos simplesmente surgem nas mãos do personagem, evidenciando que o vídeo — mesmo sendo graficamente realista — é falso.

Diferença de cores

A atenção às cores também podem ajudar a detectar vídeos gerados por IAs. Nesses casos, os algoritmos não conseguem muitas vezes tonalizar o rosto ou o corpo do personagem diante da iluminação da qual ele está exposto, gerando visíveis alterações de cor. Em alguns casos, os vídeos possuem baixa resolução, a fim de tentar contornar esse problema. Em outros, a coloração fake identifica o material como produzido por uma IA.

Mãos e olhos defeituosos

As mãos – ao menos até o momento – é um grande pesadelo para as IAs de criação de vídeos. Essas plataformas ainda não conseguem produzir com naturalidade as mãos humanas, ou mesmo as patas de um gatinho, como o vídeo acima demonstra.

Os olhos também não estão refletidos com exatidão nas produções das IAs. Geralmente os personagens não piscam – ou piscam até demais – e a sobrancelha não se comporta como deveria.

Abaixo, trecho da propaganda da Volkswagen com a cantora Elis Regina, falecida em 1982, em dueto com sua filha Maria Rita. O clipe teve grande repercussão quando foi lançado em julho de 2023. Mas, apesar da grande qualidade visual e musical, é possível notar que Elis não pisca naturalmente e nem mexe sua boca exatamente conforme a letra da música.

Ruídos no áudio

Com muitas IAs produzindo novas linhas de áudio a partir de algumas amostras, o cuidado com falas suspeitas deve ser redobrado. A pronúncia incorreta de algumas palavras, a ausência do sotaque do personagem, vozes robóticas e outras características, podem evidenciar que o vídeo é mentiroso.

Expressões faciais fora do padrão

Assim como os olhos, outras características de expressões faciais superficiais também podem revelar que o conteúdo do vídeo é fake. Por exemplo a boca, que podem apresentar mais dentes – ou menos – do que o habitual, além da movimentação irregular dos lábios e boca, gerando a impressão de falsidade diante do que a pessoa está falando no vídeo.

Entenda o contexto

É de suma importância levar em consideração o contexto em que o personagem do vídeo está inserido, bem como a sua feição e comportamento. Celebridades conhecidas pelo público geral em situações e locais improváveis, com voz soando estranho e em ambientes suspeitos, podem ver características de um vídeo mentiroso.

Infelizmente na internet, pessoas mal intencionadas também estão fazendo o uso das IAs para criar conteúdo pornográfico adulto utilizando a face de uma outra pessoa. Por vezes, de atrizes e cantoras famosas.

Nesses casos, deve-se usar o pensamento crítico e questionar o conteúdo exibido:

• Quem e por que alguém está compartilhando este vídeo?
• Qual é a fonte original?
• Quando e onde o vídeo foi gravado?
• A pessoa no vídeo está dizendo algo que você nunca esperaria que ela dissesse?
• O vídeo promove a agenda de outra pessoa? Quem se beneficia com este vídeo?

Fazer busca reversa

Com ferramentas como o Google Imagens e o TinEye, é possível conferir a veracidade de uma imagem ou vídeo na internet. Com base nessas plataformas, é possível encontrar mais páginas onde o vídeo pode ter sido replicado, o que pode ajudar a apurar se o conteúdo procede ou não.

Pesquisar sobre o vídeo em fontes confiáveis

É de suma importância procurar o vídeo suspeito em mais de uma fonte para constatar, de fato, que o conteúdo é verídico ou não. O jornalismo sério se baseia na busca pela verdade e na verificação dos fatos, visando fornecer informações precisas e contextualizadas ao público. Ao realizar pesquisas em fontes confiáveis, é possível analisar com maior precisão se o vídeo compartilhado procede.

O trabalho dos profissionais comprometidos com a verdade incentival o público a também buscar informações em múltiplas fontes. O jornalismo sério promove a alfabetização midiática e fortalece a capacidade das pessoas de discernir entre notícias legítimas e desinformação. Isso é crucial em um ambiente digital onde as informações circulam rapidamente e podem ser facilmente distorcidas ou manipuladas.

Pesquisar em sites que avaliam informações

Como falamos anteriormente, a verificação da veracidade de vídeos com potencial de polemizar, surpreender e chocar, deve ser feita com cautela, a fim de evitar a propagação de desinformação.

Auxiliando o combate a fake news, algumas agências de comunicação e portais de internet atuam exatamente com esse propósito: desmentir conteúdo falso e colaborar com a apuração de notícias em geral.

• Agência Lupa: fundada em 2015, é reconhecida por seu compromisso com o jornalismo sério e ético, utilizando métodos rigorosos de checagem para analisar declarações, notícias e conteúdo viral nas redes sociais. A Lupa classifica as afirmações verificadas em diferentes níveis de veracidade, como “Verdadeiro”, “Falso”, “Exagerado”, entre outros, oferecendo transparência sobre o processo de verificação.
• E-farsas: fundado em 2002 pelo jornalista Gilmar Lopes, tornou-se uma referência na luta contra a desinformação no Brasil. A equipe do E-farsas analisa uma ampla variedade de conteúdos, desde correntes de WhatsApp até notícias virais, utilizando métodos de verificação rigorosos e transparentes.
• Fato ou Fake: sua criação em 2018, durante as eleições presidenciais do Brasil, marcou o início de uma referência na checagem de fatos durante períodos eleitorais e ao longo do ano. O Fato ou Fake analisa declarações políticas, correntes de WhatsApp, notícias virais e boatos online, utilizando métodos transparentes para classificar as informações.
• Fake Check: o portal analisa declarações políticas, correntes de WhatsApp, notícias virais e outras informações compartilhadas nas redes sociais, se tornando uma referência na checagem de informações em meio a um cenário digital repleto de notícias falsas e boatos.

Agora que você já sabe o impacto das produções de IAs na web, quais as suas principais plataformas e como detectá-las, lembre-se sempre de buscar fontes de informação confiáveis e apenas compartilhar conteúdo verificado e emitido por profissionais que trabalham com seriedade e compromisso com a verdade.

Fonte: The Wall Street Journal, Website.ie, Agência Brasil, IBM, Bloomberg Originals.

Veja também:

EMO AI: inteligência artificial faz pessoas cantarem a partir de fotografias

Revisado por Glauco Vital em 22/4/24.