Índice
Delineado pela primeira vez em 2014, quando do lançamento do documento “Planning Outline for the Construction of a Social Credit System“, o sistema para construção de um ranking de confiabilidade social pela China segue em fase de implantação e deve se tornar mandatório em 2020.
A ideia é ter um sistema de Big Data que, baseando-se em informações coletadas na rede sobre os cidadãos, dê uma nota que classifique as pessoas.
O plano reverbera junto às estantes de livros onde os melhores clássicos distópicos como “1984” e “Admirável Mundo Novo” guardam boas amostras de como poderia ser uma sociedade com esse sistema de rating social.
Outra prévia também foi dada pela série Black Mirror. Certamente os fãs se recordam de um episódio em especial: Nosedive. Na narrativa, a protagonista Lacie Pound (Bryce Dallas Howard) entra numa espiral de ansiedade e pressão social devido ao seu ‘rating’ que a faz incorrer nas mais diversas situações de paranoia, até terminar atrás das grades.
No episódio, as relações com a sociedade atual são sutis e explícitas ao mesmo tempo. Fundamentalmente, o episódio traz à luz a possibilidade de um mundo “Orwelliano”. Se em alguns momentos Black Mirror parece ficção, em outros, o flerte com a realidade atual é direto, e um exemplo claro é o Sistema de Crédito Social da China em questão, planejado para 2020.
Sesame Credit – O Sistema de crédito pessoal da China
Antes da adoção oficial em 2020, o governo chinês está seguindo a estratégia de observar, testar e aprender. Atualmente, oito companhias chinesas possuem sistemas e algoritmos que classificam as pessoas em relação ao seu ‘crédito social’. Como era de se esperar, dois gigantes da indústria tecnológica chinesa estão rodando os dois sistemas principais.
Talvez o mais conhecido, o Sesame Credit, está sob a batuta da Ant Financial Services Group, uma empresa afiliada da gigante de vendas online Alibaba. A outra principal iniciativa é liderada pela China Rapid Finance, parceira da rede social chinesa Tencent e criadora do WeChat, app de mensagens com mais de 850 milhões de usuários.
O Sesame Credit, em especial, também tem suporte de outras plataformas de dados, como a Didi Chuxing, que comprou a operação local da Uber, e a Baihe, maior serviço de relacionamento online da China. Todas essas plataformas proveem dados para o Sesame processar e atribuir notas aos cidadãos.
Por ora, a participação no sistema de crédito social é voluntária. Mas a partir de 2020 será mandatória.
Como o sistema de ranking de confiabilidade social funciona?
Então, como as pessoas são classificadas e avaliadas? No Sesame Credit, as pessoas são rankeadas segundo uma nota que vai de 350 até 950 pontos. O modo exato de cálculo da nota não é conhecido, haja visto o algoritmo não ser público. No entanto, a Alibaba revelou os 5 fatores principais avaliados pelo sistema. São eles:
- Histórico financeiro (o cidadão paga as contas em dia?);
- Capacidade do usuário de cumprir obrigações contratuais;
- Características pessoais;
- Comportamento e preferências (talvez a mais polêmica de todas);
- Relacionamento interpessoal;
Se pararmos para pensar, histórico financeiro e obrigações contratuais já são avaliados em sistemas de dados na maioria dos países ocidentais. O que não falta são listas negras de maus pagadores, por exemplo. Incluindo os famosos índices de classificação de crédito das Agências de rating (como a Fitch e a Mody’s), que classificam o risco de se investir em determinadas empresas e países.
O ponto chave está na classificação das preferências, comportamento e características pessoais. Dar uma nota oficial para esses fatores toca em um ponto muito sensível. Com esse tipo de sistema, coisas triviais como os hábitos de compra e alimentares, o tempo que gasto jogando videogame ou na academia, podem ser usadas para classificar o caráter de alguém.
Em poucas palavras, não é um sistema que apenas classifica comportamentos, mas, intrinsecamente, que modela e chancela certos comportamentos/características em detrimento de outros.
Um exemplo claro é a análise das relações interpessoais. Um ponto interessante do Sesame Credit é que ele dá dicas ao usuário de como aumentar sua nota, como por exemplo, alertando sobre as pessoas nas redes sociais cuja amizade pode fazer com que a nota seja rebaixada.
Sociedade Orwelliana pode se tornar realidade?
De certa forma, a verdade é que já vivemos num mundo Orwelliano no sentido de que os Leviathãs do mundo digital (Google, Facebook, Twitter, Amazon, etc) recolhem e rastreiam informações de forma sistemática e eficiente.
A novidade no modelo Chinês é o fato de, pela primeira vez, as informações sobre a vida pessoal serem usada para criar uma nota, um único número que carimba a reputação e confiabilidade social.
George Orwell não mencionou Big Data e inteligência artificial em ‘1984’, mas o modelo de vigilância e classificação do clássico certamente faz eco ao sistema de crédito social chinês.
A grande preocupação com o plano chinês é que a classificação dos cidadãos se torne uma forma de uniformização ideológica e ferramenta de controle. Afinal de contas, uma vez que os critérios são estabelecidos por um seleto grupo de burocratas do único partido político do país, é muito pouco provável que o ranking de confiabilidade social não atenda aos interesses desse grupo. Isso tudo sem contar na possibilidade de manipulação por parte dos operadores do sistema.
Fonte: Wired
Saiba mais sobre o sistema de crédito social da China:
- China vai usar dados pessoais para catalogar cidadãos e empresas – El pais;
- China’s New Social Credit System – The Diplomat;
- China ‘social credit’: Beijing sets up huge system – BBC;
- China changes tack on ‘social credit’ scheme plan – Financial Times;
- Planning Outline for the Construction of a Social Credit System (2014-2020);
- Leia George Orwell;
