TSE regulamenta IA e proíbe deepfakes nas eleições municipais em 2024

O TSE (Tribunal Superior Eleitoral) aprovou a regulamentação do uso de IA durante as próximas eleições, que acontecerão em outubro deste ano. Veja mais detalhes sobre as consequências deste acontecimento a seguir!

Entenda a decisão do TSE

O Tribunal Superior Eleitoral aprovou ontem, 27, a regulamentação do uso de inteligência artificial nas eleições municipais, marcadas para outubro deste ano, em que o eleitorado irá escolher novos prefeitos e vereadores. A medida determina que haverá uma obrigação de avisar ao eleitor sobre o uso de IA na produção do conteúdo exibido em propagandas, e caso a determinação não seja seguida, o candidato poderá ter seu registro de candidatura cassado ou, caso eleito, poderá perde seu mandato.

A decisão também faz menção aos deepfakes, proibindo em caráter absoluto seu uso, visando coibir a produção de material fraudulento usando a imagem e voz de candidatos políticos durante a campanha eleitoral. Além do deepfake, o TSE mencionou a restrição dos chamados chatbots, ou avatares virtuais, durante os contatos entre as campanhas e as pessoas, tanto por telefone quanto pela internet.

A ideia da decisão é controlar e coibir o uso dessas tecnologias para criação de gravações falsas envolvendo candidatos e outras figuras de autoridade durante a campanha eleitoral deste ano, em que seu uso possa ocasionar danos morais às vítimas da fraude e a manipulação da opinião do eleitorado a respeito delas.  

Alexandre de Moraes, o atual presidente do Tribunal Superior Eleitoral, se pronunciou a respeito da nova determinação, dizendo que “todas as resoluções são importantes, mas que essa talvez seja a mais importante para garantir a liberdade de escolha e votação do eleitor, e que nessas eleições, lamentavelmente, a vossa excelência (em menção à ministra Cármen Lúcia) terá que combater as fake news e as milícias digitais anabolizadas pela inteligência artificial”.

Quanto ao modo com o qual a nova determinação será reforçada, Moraes afirmou que o TSE contará com as ferramentas mais modernas da atualidade, a fim de combater o mau uso da inteligência artificial e a propagação de mensagens enganosas.

“O TSE terá instrumentos eficazes para combater o desvirtuamento nas propagandas eleitorais, nos discursos de ódio, fascistas, antidemocráticos e na utilização de IA para colocar na fala de uma pessoa algo que ela não disse.”. 

Alexandre de Moraes, presidente do Tribunal Superior Eleitoral

Em conjunto com a nova decisão, o Tribunal determinou que redes sociais como Facebook, X (antigo Twitter), Tiktok, entre outras, apliquem medidas preventivas para evitar a propagação de publicações com conteúdo duvidoso, contendo fatos não comprovados ou fora de contexto, com o intuito óbvio de enganar o público que utiliza essas plataformas. Caso essa determinação não seja respeitada e postagens com conteúdo com discurso de ódio e antidemocráticos, as redes serão responsabilizadas e punições serão movidas pelo TSE.

Como funciona o deepfake  

Como já vimos em casos como a propagação de vídeos com conteúdo explícito envolvendo a diva do pop, Taylor Swift, na plataforma do bilionário Elon Musk, o X, e o recente golpe milionário sofrido por uma empresa financeira em Hong Kong, o deepfake tem um potencial destruidor nas mãos de pessoas mal-intencionadas.

Mas para entender esse poder, vale ter uma rápida explicação sobre como a tecnologia funciona. Basicamente, ela utiliza amostras de imagem e voz de uma pessoa, analisadas por uma IA, gerando um banco de dados da mesma. A partir disso, o deepfake é capaz de substituir as feições de uma pessoa por outra, em tempo real.

Apesar do uso corriqueiro para sátiras humorísticas como as feitas por Jimmy Fallon em seu programa de entrevistas na televisão estadunidense, onde o comediante imitou o ex-presidente dos Estados Unidos, Donald Trump, o deepfake pode ser utilizado para aplicar golpes e desinformação.

Caso o número de amostras seja suficiente, além da imagem, é possível também replicar a voz da identidade que a pessoa filmada está substituindo no novo vídeo. Com o aperfeiçoamento da tecnologia que ocorre em ritmo vertiginoso, o potencial dessa ferramenta gerida por IA, tanto positivo quanto negativo, é cada vez maior, já que o resultado torna-se mais realista e ainda mais difícil de ser rastreado e identificado por vítimas em potencial de crimes digitais.

Eleitores devem estar atentos ao conteúdo 

Tendo em vista a dificuldade de identificar esses casos de fraude de identidade, cabe a nós, eleitores participantes no pleito deste ano, tomar o devido cuidado ao consumir o conteúdo produzido durante a campanha, que logo entrará em vigor em todo o território nacional. 

Não será suficiente confiar nas medidas adotadas pelo TSE em coibir a produção de material com a intenção de enganar quem irá, em outubro, votar nos candidatos que irão nos representar nas câmaras de vereadores ou em prefeituras municipais. Todo o cuidado será pouco no campo minado que se tornará a veiculação de comerciais por parte de candidatos de índole duvidosa.

Apesar disso, a decisão do TSE ainda é importante, já que mostra que o governo está a par e reconhece o vasto potencial destrutivo que o deepfake e as tecnologias baseadas em inteligência artificial possuem, levando em conta essa nova determinação. 

Fontes: Carta Capital, CNN Brasil e Info Money. 

VEJA MAIS

Revisado por Glauco Vital em 28/2/24.