Uma novidade nas recentes ondas de extremismo tem colocado pressão sobre companhias de tecnologia. Cada vez mais as redes sociais são usadas como ferramentas de propaganda de grupos radicais.
A partir do marketing mais profissionalizado e tecnológico inaugurado pelo ISIS (Estado Islâmico), várias empresas têm sido pressionadas. Governos e autoridades de segurança têm feito campanha para que companhias como o Facebook tenham um papel mais pró-ativo.
No final do mês de junho a companhia de Mark Zuckerberg revelou algumas das ações que está tomando. As técnicas de inteligência artificial e um quadro de funcionários dedicados especificamente à remoção de conteúdo terrorista são a aposta da empresa.
A pressão sobre o Facebook tem sido capitaneada principalmente pelo Reino Unido e França. Os dois países lançaram em junho uma campanha para pressionar empresas de tecnologia a serem mais atuantes na remoção de propaganda terrorista. Em especial, é estudado a criação de um novo estatuto de responsabilidade, que pode inclusive incluir multas. As penalidades seriam aplicadas em caso de falha ou deficiências na remoção de conteúdos terroristas da rede.
Facebook usa inteligência artificial e contrata mais pessoas
A maior rede social do mundo tem trabalhado em duas frentes. A primeira delas é a Inteligência Artificial. A segunda abordagem é o aumento do quadro de funcionários dedicados à monitoramento de conteúdo.
O Facebook revelou que 3 mil novos empregados serão incorporados apenas para cuidar da remoção de materiais extremistas. A medida veio após críticas por não haver pessoal próprio para a tarefa. A empresa era acusada de depender de terceiros para identificar conteúdos perigosos.
Por sua vez, as técnicas de IA por já estão em uso para identificar e remover conteúdos relacionadas ao terrorismo. O Facebook usa inteligência artificial com base em duas funcionalidades chave:
- Image matching: Quando uma imagem é upada, os algoritmos de IA avaliam se ela corresponde a algum terrorista ou símbolo previamente conhecido. Se a análise resulta em um “match”, a imagem é impedida de ser disponibilizada na plataforma;
- Machine Learning: O aprendizado de máquina está sendo usado para identificar e aprender quais tipos de mensagem promovem o terrorismo. O algoritmo melhora em eficiência com o tempo, à medida que incorpora e aprende novos padrões linguísticos;
Um dos grandes desafios dos algoritmos é conseguir distinguir entre propaganda terrorista em si e outros conteúdos antiterrorismo. Por exemplo, uma imagem ou símbolo de um grupo radical pode ser usado tanto em materiais educativos de prevenção quanto em propagandas e campanhas de recrutamento.
Mais uma frente em que a IA tem sido fundamental na estratégia das empresas de tecnologia. Recentemente o Instagram anunciou que também vai usar IA para bloquear mensagens ofensivas. Embora os algoritmos ainda estejam sendo aperfeiçoados, o Facebook espera que eles possam evoluir e acompanhar o crescimento do uso da rede por parte de grupos extremistas, e assim, impedir que novos conteúdos se espalhem e a rede seja usada em benefício de grupos radicais.
Descubra mais sobre Showmetech
Assine para receber nossas notícias mais recentes por e-mail.
