Regras de Facebook vazadas revelam por que não protegerá as crianças negras do Hate Speech

Sidney Fussell 09/26/2017. 19 comments
Facebook Hate Speech Freedom Of Speech

Na quarta-feira, a ProPublica publicou dezenas de documentos de treinamento surpreendentes, que o Facebook usou para treinar moderadores no discurso de ódio. Como revela o trove de slides e questionários, o Facebook usa um raciocínio desviado e unilateral para equilibrar o discurso de ódio policial contra a liberdade de expressão dos usuários na plataforma. Isso talvez seja melhor resumido pela imagem acima de um dos seus slideshows de treinamento, em que o Facebook instrui os moderadores a proteger "Homens brancos", mas não "Drivers Femininos" ou "Crianças Negras".

O Facebook bloqueia apenas as observações inflamatórias se forem usadas contra membros de uma "classe protegida". Mas o próprio Facebook decide quem compõe uma classe protegida, com muitas oportunidades claras para que a moderação seja aplicada arbitrariamente na melhor das hipóteses e contra pessoas minoritárias que criticem as pessoas poder (particularmente homens brancos) na pior das hipóteses - como o Facebook tem foi rotineiramente acusado do.

De acordo com os documentos vazados, aqui estão os identificadores de grupo que o Facebook protege:

Sexo, afiliação religiosa, origem nacional, identidade de gênero, raça, etnia, orientação sexual, incapacidade grave ou doença

E aqui estão os que o Facebook não protegerá:

Classe social, origem continental, aparência, idade, ocupação, ideologia política, religiões, países

Então, "homens brancos são idiotas" é inaceitável no Facebook porque a raça eo gênero são protegidos. "Os cristãos são idiotas" é verboten porque a afiliação religiosa está protegida. "O cristianismo é para idiotas" é bom porque as próprias religiões podem ser criticadas e nenhum grupo demográfico específico é alvo. E "As crianças negras são idiotas" é permitido porque "crianças", um grupo categorizado de acordo com a idade, não estão protegidos.

Subconjuntos de grupos - motoristas do sexo feminino, professores judeus, liberais homossexuais - também não são protegidos, como explica ProPublica:

Os homens brancos são considerados um grupo porque ambos os traços são protegidos, enquanto as mulheres motoristas e as crianças negras, como os muçulmanos radicalizados, são subconjuntos, porque uma de suas características não está protegida.

Este absurdo "protegido + não protegido = não protegido" apenas confirma que o Facebook está mal equipado para combater o discurso do ódio ou sinalizar a maioria dos casos de racismo em seu site. A empresa disse que a redação exata de algumas das regras pode ter mudado, mas as lâminas ainda levantam a questão de quem pertence a uma classe protegida e por quê. Quando perguntado por Gizmodo, o Facebook apenas apontaria para uma postagem no blog de terça-feira sobre discurso de ódio, o que não fornece nenhuma visão, apenas oferecendo uma tonalidade azul pacífica e um desejo declarado de "refletir a diversidade da experiência humana".

À medida que as lâminas vazadas recriadas pela ProPublica (presumivelmente fora de cautela ) revelam, o Facebook lista apenas três cenários em que a fala inflamatória contra subconjuntos não é permitida: pedidos de violência, pedidos de exclusão e solicitações de segregação. Mas enormes lacunas deixam as pessoas desconsiderar os três.

Um "apelo à violência" contra os negros (como "A polícia deveria matar os matadores da Black Lives Matter!") É inaceitável, mas é completamente bom dizer Mike Brown, morto a tiros em Ferguson, Missouri, por um policial branco, merecido para morrer .

Um "apelo à exclusão" é inaceitável, mas o grupo Round Up And Deport Every Illegal Alien In The USA é legal, aparentemente.

Um pedido de segregação é inadmissível, mas parece grupos como "White Genocide Watch" e "White Genocide or Diversity", que argumentam que o separatismo é a única maneira pela qual os brancos podem sobreviver na América, ambos estão bem. Totalmente bom.

O Facebook não está vinculado pela Primeira Emenda nem é legalmente obrigado a policiar o discurso de ódio. Mas, em sua abordagem atual, a empresa está ignorando sua declaração de missão ostensiva para "dar às pessoas o poder de construir a comunidade e aproximar o mundo". O Facebook sabe muito bem que a comunicação online é apenas o primeiro passo para as pessoas entrarem o mundo real e acionar as crenças que os unem. Assim, reduzindo o discurso de ódio para um jogo de semântica de LSAT pré-reformando grupos de ódio e ódio, pois as palavras "justas" são desonesto. Em última análise, equilibrar a liberdade de expressão com o discurso de ódio de combate para 2 bilhões de usuários exigirá uma abordagem muito mais robusta e complexa.

[ Pro Publica ]

19 Comments

Moshe Wisenheimer
raincoaster
smcallah
faithful-dushness
Rzmmdx Leetuber
Davis Andrews
Darmok eats Challah at 12Nagra
vinylrake

Other Sidney Fussell's posts

Language