O Facebook revelou nesta sexta-feira (04) que irá priorizar a remoção de conteúdos que atacam grupos minoritários. Para isso, revelou a empresa, serão usados algoritmos de moderação que removerão conteúdos ofensivos contra negros, gays e outros grupos historicamente atacados.
Leia também: Libra, criptomoeda do Facebook, rebatizada como Diem em busca de aprovação
De acordo com uma publicação do jornal “Washington Post”, as mudanças nos algoritmos farão com que este mecanismo seja capaz de detectar xingamentos e discurso de ódio. No entanto, o recurso ainda está em seu estágio inicial de desenvolvimento.
Segundo a companha, o objetivo da alteração é remover mais publicações ofensivas direcionadas para pessoas negras, muçulmanos, judeus e a comunidade LGBTQ+. As publicações contra os demais grupos serão mantidas no filtro, mas irão depender de denúncias feitas por usuários.
“Sabemos que o discurso de ódio direcionado aos grupos sub-representados pode ser o mais danoso e é por isso que focamos nossas tecnologias na busca pelo discurso de ódio que usuários e especialistas nos dizem ser os mais sérios.”, disse Sally Aldous, porta-voz do Facebook ao “Washington Post.
Discurso de ódio nas redes sociais
Tanto as regras do Facebook quanto do Instagram vedam o discurso de ódio, as publicações violentas ou as postagens que desumanizem grupos com base em sua raça, gênero, sexualidade e outras características estão entre as proibidas pela empresa.
No entanto, até agora, os algoritmos da companhia não faziam distinções entre grupos com maior ou menos probabilidade de ataque. Dessa forma, durante os últimos meses, análises internas da rede social identificaram que esse tratamento, muitas vezes, resultou na remoção de conteúdos que protestavam contra o racismo ou contra algum outro assunto sensível.
Segundo o Facebook, todos as reações ofensivas, contra quaisquer que sejam os grupos, serão consideradas discurso de ódio. O que muda, segunda a empresa, é que a remoção de conteúdos considerados menos prejudiciais dependerá mais das denúncias dos próprios usuários, que podem denunciar os conteúdos.
Você precisa ler também: Empresas como Google e Facebook terão que seguir código de conduta na Inglaterra
“Graças a investimentos significativos em nossas tecnologias, detectamos de forma proativa 95% do conteúdo que removemos e vamos continuar a melhorar a maneira como aplicamos nossas regras na medida em que o discurso de ódio evolui no decorrer do tempo”, revelou Sally Aldous.
Hoje, existem muitos questionamentos sofre como o Facebook gere essas situações, isso porque discute-se muito sobre a falta de agilidade das remoções, inconsistência da aplicação de regras e, em outros casos, sobre possíveis restrições à liberdade de expressão.