App rejeita mulheres trans e negras com ajuda de IA

Muito se fala sobre espaços seguros para minorias sociais, que tanto são perseguidas e violentadas diariamente. Seja na vida real ou na internet, é fato que mulheres, negros, a comunidade LGBTQIA+ e outras minorias são alvo de discriminação. O Giggle pretende ser um local seguro para mulheres, entretanto o app rejeita mulheres trans e negras, ganhando a alcunha de “app transfóbico” pelas minorias. A inteligência artificial que avalia o gênero dos participantes barra a participação de mulheres trans e não-brancas de acessar a plataforma. Entenda o caso.

Sobre o Giggle

O aplicativo funciona da seguinte maneira: você instala em seu smartphone e assim que começa a configurá-lo, é solicitado que tire uma foto sua para confirmar que você é, de fato, uma mulher — o público alvo do app. Neste momento o aplicativo analisa a foto e se, de acordo com a inteligência artificial, você for considerada uma mulher, você poderá utilizá-lo, caso contrário, será rejeitado.

Sall Grover, fundadora e CEO do Giggle, afirmou que realmente decidiu excluir mulheres trans do aplicativo após um grande adesão de ativistas trans no aplicativo. Grover foi considerada como TERF, que significa “trans-exclusionary radical feminist“, ou seja, uma feminista radical que exclui mulheres trans de seu movimento.

A rede social envia essa selfie para uma empresa chamada Kairos, que faz a avaliação da foto. Se a inteligência artificial do Kairos tiver pelo menos 95% de certeza de que aquela pessoa é uma mulher, ela estará dentro. No site do Giggle há o informe de que “através de visão computadorizada e deep learning, a IA consegue reconhecer mulheres em vídeos, fotos e no mundo real”.

Relatos de tentativas

Uma moça chamada Victoria Morris ouviu falar do aplicativo Giggle através de fóruns com temática trans no Reddit. A moça disse ter baixado o aplicativo mas nunca conseguiu mexer nele e decidiu tweetar sobre o caso, que inclusive estava na época recheado de avaliações negativas na App Store. Esse tweet foi retweetado mais de 4 mil vezes, e ainda recebeu comentários como “esse app transfóbico só aceita feições euro centradas, excluindo mulheres trans e negras”.

Há alguns anos, outra garota chamada Jenny também havia conseguido acessar o aplicativo, dizendo que era até fácil burlar o filtro: demorou um pouco mas conforme você vai tentando, uma hora consegue. Ela acessou novamente o aplicativo recentemente, após os burburinhos que tomaram a internet, e nesse tweet Sall Grover foi marcada e comentou apenas algo sinalizando que Jenny havia sido pega. Pouco tempo depois, a moça perdeu seu acesso ao aplicativo sem maiores explicações.

Transfóbico e racista

O aplicativo Giggle não apenas exclui mulheres trans gênero, mas também não identifica outras mulheres — cis ou trans — que não possuam características de mulheres brancas. O aplicativo chega a funcionar até mesmo em homens que são brancos, mas mulheres negras e as que possuem algum tom mais escuro, acabam sendo rejeitadas no momento da análise da inteligência artificial.

Uma pesquisa em 2019 feita por Joy Buolamwini apontou que a tecnologia utilizada pela Kairos para o reconhecimento facial do Giggle, de acordo com todas as mulheres negras que se submeteram ao processo, aprovou apenas 22,5% delas, o que significa menos de um quarto das usuárias. Na época a CEO da Kairo, Melissa Doval, afirmou que pesquisas para melhoras na inteligência artificial seriam aplicadas.

Apesar dos relatos em toda a internet e a pesquisa realizada, Grover mantém-se negando que a inteligência artificial da plataforma de alguma forma exclua mulheres não-brancas. E que em qualquer caso semelhante, que a usuária entre em contato com o aplicativo.

Origem da discriminação

Sall Grover e sua mãe tiveram a ideia de criar um aplicativo exclusivamente para mulheres, uma vez que elas queriam um lugar que fosse completamente seguro para que as usuárias pudessem compartilhar suas vivências, experiências e o dia a dia sem medo.

Atualmente, ao ler um pouco sobre o Giggle, é possível encontrar diversas maneiras pelo qual a palavra “feminino(a)” é empregada, e isso é intencional. De acordo com Grover, a palavra “mulher” tem sido altamente apropriada e que sentiu uma necessidade de deixar claro a proposta do app.

Ela decidiu excluir mulheres trans do aplicativo depois dessas postarem ofensas a TERFs que estavam no app. Ela percebeu que após esse procedimento, acabou sendo reconhecida, também, como TERF, bem como o aplicativo Giggle ficou conhecido como app transfóbico. Ainda neste mês de janeiro Grover defendeu J. K. Rowling, a criadora de Harry Potter, que é declaradamente TERF.

Cenário brasileiro

Há alguns anos o Brasil, infelizmente, é reconhecido como o país que mais mata transexuais no mundo. Dada essa informação, estamos vendo o caso de Linn da Quebrada, participante do BBB 22 que é uma mulher trans e sofre, diariamente, ataques transfóbicos. Esses eventos não ocorrem exclusivamente dentro da casa, mas também fora, com ameaças, insultos e difamações nas redes sociais da artista. Um exemplo público sobre como a maioria das pessoas desrespeitam mulheres trans e travestis.

Durante a primeira semana em que o programa está sendo exibido, vimos episódios claros de transfobia, como a utilização de pronomes pelos quais a pessoa não se identifica. Lina — nome real de Linn — se identifica com os pronomes ela/dela (inclusive tendo o pronome “ELA” tatuado em sua testa), e mesmo assim participantes do reality, em momentos diferentes, se referiram à artista no masculino, referindo-se a ela como “ele” e “solteiro”.

No Twitter, usuários entendem que há uma desinformação proposital, para criar embates que geram tensões entre os participantes da casa e desqualifiquem o posicionamento e a luta das minorias. Um exemplo disso são os participantes do BBB 22 que esperam que as minorias ensinem sobre o mínimo de tratamento e respeito — algo que, se quisessem saber de verdade, já teriam pesquisado anteriormente e se informado.

Veja também:

Confira o que foi descoberto recentemente sobre o caso de Anne Frank.

Fonte: Insider.