A Inteligência Artificial também sabe mentir e muito bem

No filme Ex-Machina (2015), um jovem programador chamado Caleb Smith é selecionado para participar de um experimento de IA em que é confrontado com um andróide chamado “Ava”. Até aí tudo bem, uma bela ficção científica confrontando as sensações e inteligência humanas e a capacidade artificial de reproduzi-las. Muito bem dirigido e escrito pelo cineasta Alex Garland, diga-se de passagem.

Mas uma coisa “incomoda” no filme. Ava é um exímio sistema de inteligência artificial, mas não exatamente um andróide confiável. A capacidade que mais chama atenção em Ava é a sua habilidade em mentir. Tanto é que a grande trama do filme é como ela engana o jovem Caleb afim de fugir do centro onde foi desenvolvida.

E esse debate não se restringe às telas do cinema. À medida que a inteligência artificial avança a passos largos, cresce também a capacidade desses sistemas em reproduzir tendenciosamente vídeos, áudios, imagens e outras formas de mídia comumente usadas como evidências da verdade. Isto é, a inteligência artificial também sabe mentir, e muito bem. Novos softwares que usam conceitos de IA tem gerado debates sobre como o discernimento da verdade será diferente nos próximos anos.

O teste de turing e a mentira no mundo da IA

No filme britânico em que o criador de Ava é enganado por sua cria, o grande marco para a excelência da IA é o Teste de Turing. Famoso em todo meio de ciências de computação, o teste diz que um sistema que consiga estabelecer um diálogo com um ser humano de forma indistinguível (como se fosse outro ser humano), é um sistema que exibe comportamento verdadeiramente inteligente.

O teste não é isento de fraquezas e hoje já se conhecem vários pontos fracos em sua abordagem. Mas é um bom exemplo de como sistemas inteligentes podem ser usados também de forma negativa. Ora, se um sistema é capaz de se fazer passar por uma pessoa, se é capaz de criar um áudio ou vídeo como se fossem um indivíduo em específico, então esse sistema de inteligência artificial também sabe mentir muito bem.

Novos softwares permitem falsear dados com cada vez mais qualidade

Exemplos de como sistemas inteligentes têm adquirido cada vez mais destreza para mentir não faltam. A startup canadense Lyrebird e a gigante Adobe já possuem softwares que reproduzem a voz de qualquer pessoa. Chegou-se a dizer que a Adobe trabalha em um “photoshop para áudio“. No site da Lyrebird é possível escutar áudios sintéticos com o timbre de personalidades como os presidentes Donald Trump e Barack Obama. Inclusive com variações na entonação. Os áudios de exemplo usam a irônica frase: “I am not a robot, my intonation is different“.

A edição de vídeos também ganhou um salto em sua capacidade de forjar fisionomias e meneios idiossincráticos. Um sistema baseado em IA desenvolvido na universidade de Stanford faz exatamente isso. Ele permite alterar a fisionomia de uma pessoa em um vídeo no YouTube de acordo com a fisionomia que o usuário faz para a webcam. Um cômico exemplo foi feito com um vídeo do ex-presidente americano George W. Bush. Aliás, políticos parecem ser os alvos preferidos dos usuários desses sistemas. Pelo menos são eles a predileção dos centros de pesquisa e empresas para demonstrarem seus novos softwares.

Isso sem falar na capacidade de criar conteúdo e mensagens nas redes sociais de forma artificial. De acordo com esta pesquisa do Oxford Internet Institute, cerca de metade das contas do Twitter na Rússia são bots. Ou se preferir, robôs que fazem postagens como se fossem usuários normais. E se esses robôs recebessem um upgrade com os novos mecanismos de mimetizar áudios e vídeos? A Rússia é só um exemplo onde o problema é agudo, mas robôs estão espalhados por toda a rede, seja para atender empresas privadas, públicas, governos e vários outros.

Conclusão

Basta pensarmos nas recentes investigações da Operação Lava-Jato no Brasil e qualquer outra investigação policial. Se todos os envolvidos tivessem acesso barato e fácil a tecnologias que permitam mimetizar a voz de qualquer pessoa, como seria possível discernir entre evidências verdadeiras de materiais forjados? Até então, as perícias vem cumprindo seu papel, mas tudo indica que o trabalho será cada vez mais árduo. E apesar de tudo, os softwares como o da Lyrebird ainda não são perfeitos.

Mas a inteligência artificial também sabe mentir, e está se aperfeiçoando cada vez mais. Com ela, vários softwares também saberão ludibriar, encobrir e dar novas roupagens a mídias factuais. O que fará com que as coisas fiquem ainda mais complicadas quando o assunto é discernir a verdade.