Lekkede Facebook-regler avslører hvorfor det ikke vil beskytte svarte barn fra hate speech

Sidney Fussell 09/10/2017. 19 comments
Facebook Hate Speech Freedom Of Speech

På onsdag publiserte ProPublica dusinvis av oppsiktsvekkende treningsdokumenter som angivelig ble brukt av Facebook til å trene moderatorer på hatespråket. Som det viser seg at lysbildene og undersøkelsene viser, bruker Facebook en forsinket, ensidig resonnement for å balansere politiets hate speech mot brukerens ytringsfrihet på plattformen. Dette er kanskje best oppsummert av bildet ovenfor fra en av treningsbildefremvisninger, der Facebook instruerer moderatorer for å beskytte "hvite menn", men ikke "kvinnelige drivere" eller "svarte barn".

Facebook blokkerer bare betennende kommentarer hvis de er brukt mot medlemmer av en "beskyttet klasse." Men Facebook bestemmer selv hvem som utgjør en beskyttet klasse, med mange klare muligheter for moderering til å bli anvendt vilkårlig i beste fall og mot minoritiserte personer som kritiserer dem i makt (spesielt hvite menn) i verste fall - som Facebook har blitt rutinemessig anklaget av.

Ifølge de lekkede dokumentene, her er gruppens identifikatorer Facebook beskytter:

Kjønn, Religiøs tilknytning, Nasjonal opprinnelse, Kjønnsidentitet, Ras, Etnisitet, Seksuell orientering, Alvorlig funksjonshemning eller sykdom

Og her er de som Facebook ikke vil beskytte:

Sosial klasse, kontinental opprinnelse, utseende, alder, yrke, politisk ideologi, religioner, land

Så "hvite menn er assholes" er uakseptabelt på Facebook fordi rase og kjønn er beskyttet. "Kristne er assholes" er verboten fordi religiøs tilhørighet er beskyttet. "Kristendom er for assholes" er bra fordi religioner selv kan kritiseres og ingen spesifikk demografisk er målrettet. Og "Svarte barn er assholes" er tillatt fordi "barn", en gruppe kategorisert etter alder, ikke er beskyttet.

Undergrupper av grupper-kvinnelige drivere, jødiske professorer, homofile liberaler, er heller ikke beskyttet, som ProPublica forklarer:

Hvite menn betraktes som en gruppe fordi begge egenskaper er beskyttet, mens kvinnelige drivere og svarte barn, som radikaliserte muslimer, er undergrupper, fordi en av deres egenskaper ikke er beskyttet.

Denne absurde "beskyttet + ikke beskyttet = ikke beskyttet" begrunnelse bekrefter bare at Facebook er voldsomt dårlig utstyrt for å bekjempe hatespring eller flagg de fleste forekomster av rasisme på nettstedet. Selskapet sa at den eksakte ordlyden av noen av reglene kan ha endret seg, men lysbildene fremmer fortsatt spørsmålet om hvem som skal tilhøre en beskyttet klasse og hvorfor. Når Facebook blir spurt, vil Facebook bare peke på et tirsdag blogginnlegg på hatespråket, noe som gir ingen innsikt, bare tilbyr en fredelig blå tint og et uttalt ønske om å "gjenspeile mangfoldet av menneskelig erfaring."

Da de lekkede lysbilder gjengitt av ProPublica (antagelig ut av forsiktighet ) avslører Facebook, viser bare tre scenarier hvor betennende tale mot undergrupper ikke er tillatt: krever vold, oppfordrer til ekskludering og krever segregering. Men enorme smutthull lar folk se bort fra alle tre.

En "kall for vold" mot svarte mennesker (for eksempel "Politiet skal drepe Black Lives Matter thugs!") Er uakseptabelt, men det er helt fint å si at Mike Brown, skutt i Ferguson, Missouri, av en hvit politimann, fortjente å dø .

Et "kall for ekskludering" er uakseptabelt, men gruppen Round Up and Deport Every Illegal Alien i USA er kult, tilsynelatende.

En oppfordring til segregering er ikke tillatt, men det ser ut som grupper som "White Genocide Watch" og "White Genocide or Diversity", som hevder at separatisme er den eneste måten hvite mennesker kan overleve i Amerika, er begge fine. Helt greit.

Facebook er heller ikke bundet av første endring eller lovlig pålagt å politiere hatespråket. Men i sin nåværende tilnærming ignorerer selskapet sin sanselige oppdragserklæring for å "gi folk muligheten til å bygge samfunn og bringe verden nærmere." Facebook vet godt at nettkommunikasjon bare er det første skrittet for folk å gå ut på den virkelige verden og handle på troen som knytter dem sammen. Så å redusere hatespråket til et LSAT prep semantikk spill reframing hate og hate grupper som "bare" ord er uærlig. Til slutt vil balanse mellom ytringsfriheten og bekjempelse av hatespråket for 2 milliarder brukere kreve en mye mer robust og kompleks tilnærming.

[ Pro Publica ]

19 Comments

Moshe Wisenheimer
raincoaster
smcallah
faithful-dushness
Rzmmdx Leetuber
Davis Andrews
Darmok eats Challah at 12Nagra
vinylrake

Other Sidney Fussell's posts

Language