Índice
Depois de uma turnê mundial que lotou estádios, a cantora Taylor Swift está de novo nas manchetes, mas por razões menos nobres: imagens falsas da cantora, geradas por inteligência artificial, foram publicadas no X (Twitter) e vistas por milhões de usuários, causando até mesmo o banimento da busca pelo nome da artista na rede social. Saiba mais sobre o caso agora.
Entenda o caso das imagens falsas de Taylor Swift
Nos últimos dias, imagens falsas de Taylor Swift — geradas por IA — com conteúdo explícito vêm circulando no X, outro exemplo da constante onda de pornografia gerada pela tecnologia, além da dificuldade de se conter isso por parte da moderação da plataforma.
Uma das postagens mais acessadas, que ficou no ar por um total de 17 horas, passou de 45 milhões de visualizações, 24 mil compartilhamentos e centenas de milhares de curtidas antes de ser tirada do ar e seu usuário — que possui verificação na plataforma — ter sua conta suspensa por violar as regras do X.
Mas isso não conteve a tempestade de imagens falsas da cantora, que continuaram a circular na rede social por meio de postagens em outras contas, muitas das quais ainda se encontram disponíveis para visualização. Com isso, o assunto “Taylor Swift AI” saltou para o topo da lista de termos mais buscados, o que alavancou ainda mais essas postagens falsas sobre a artista.
Segundo o site 404 Media, as imagens falsas de Taylor Swift podem ter sido criadas por usuários de um grupo de Telegram onde o compartilhamento de imagens de conteúdo explícito envolvendo mulheres criadas pelo Microsoft Designer acontece diariamente. Membros do grupo aparentemente adoraram o fato de que as imagens acabaram indo parar na rede social, fazendo pouco do ocorrido.
O site afirmou que as falhas de sistema do mecanismo de criação de imagens por IA que serviram como porta de entrada das imagens fraudulentas foram corrigidas, o que foi confirmado pela própria Líder de Engenharia de Inteligência Artificial da Microsoft, Sarah Bird. Ela diz que a investigação com relação ao assunto vai continuar e que os sistemas de segurança da ferramenta serão reforçados para evitar que ela venha a ser usada novamente para a geração de imagens como as de Taylor.
O que o X está fazendo sobre isso
Já no X, há regras e políticas com relação a imagens artificiais e manipuladas, além da nudez não-consensual que proíbem esse tipo de conteúdo do tipo da rede social. Apesar do contato pelos canais de jornalismo, os representantes do X, da própria Taylor Swift e da NFL, a liga de futebol americano em que o namorado de Swift, o tight-end do Kansas City Chiefs Travis Kelce, que jogará no Super Bowl no próximo domingo, se recusaram a comentar sobre o assunto.
Em resposta aos incidentes com Swift, o X publicou nota dizendo que há tolerância zero nesses casos de abuso de imagem e que as equipes da rede social estão trabalhando ativamente para coibir esse tipo de comportamento entre os seus usuários. Mesmo assim, isso não serviu de desculpa para os milhões de fãs da cantora em todo o mundo, que criticaram ferrenhamente o X por ter deixado no ar as postagens falsas por tanto tempo.
Para tentar derrubar as hashtags problemáticas, esses fãs começaram a postar vídeos reais de Taylor se apresentando numa tentativa de cobrir as muitas falsificações que ainda estão disponíveis para visualização pelo público.
Moderação no X é cada vez menor
Apesar dos muitos obstáculos que procuram evitar que imagens como as de Taylor sejam criadas por ferramentas de IA, o desafio de evitar por completo que isso aconteça é difícil de ser vencido, ainda mais com as respostas lentas e sem muito sucesso de redes sociais como o X, que desde a aquisição por Musk vem tendo seu time de moderação diminuído.
Na Europa, o X está na mira de investigações com relação ao seu uso para espalhar desinformação e conteúdo ilegal e vem sendo questionada sobre esforços para tirar da plataforma informações falsas com relação ao conflito entre Israel e o Hamas que foram encontradas nos últimos meses.
Até haver uma solução ideal a esse problema sério de privacidade e imagem individual, todo o cuidado é pouco na hora de postar fotos e vídeos nas redes sociais, pessoal!
VEJA MAIS:
O que dizem os primeiros reviews do Apple Vision Pro
Fonte: The Verge
Revisado por Glauco Vital em 6/2/24.
Descubra mais sobre Showmetech
Assine para receber nossas notícias mais recentes por e-mail.
