Et hold på 4.500 moderatorer skal håndtere alt fra seksuelt indhold og dyremishandling til selvmord og terrorisme på Facebook. Lækkede dokumenter, som The Guardian er kommet i besiddelse af, afslører, hvad Facebook vil fjerne, ignorere eller advare om. Indholdet er ikke for sarte sjæle.

Facebooks hemmelige regler og retningslinjer for, hvordan indhold skal moderes, er blevet offentlige for første gang.

Det britiske medie Guardian er kommet i besiddelse af lækkede dokumenter, der detaljeret beskriver, hvordan det sociale medies 4.500 »indholdsmoderatorer« skal beslutte, om indhold skal fjernes, ignoreres, om brugerne skal advares, eller om personen bag skal have en advarsel eller have sin profil lukket.

Det er ikke offentligt kendt, hvem det er, der moderer indholdet, eller hvor de fysisk er placeret henne i verden.

Retningslinjerne spænder bredt. Alt fra terrorisme over dyremishandling til matchfixing og kannibalisme er beskrevet i Facebooks interne dokumenter.

Facebook-filerne, som Guardian har døbt dokumenterne, er det første indblik i, hvordan det sociale medie har valgt at håndtere komplekse dilemmaer om moderering af indhold. Senest har Berlingske beskrevet, hvordan live-streamede selvmord, mord og voldtægter presser det sociale medie.

Facebook har tidligere reageret i offentligheden ved at lægge ansvaret for at få anmeldt stødende indhold ud til brugerne. Det er utilstrækkeligt, kritiserede professor i filosofi ved Københavns Universitet Vincent Hendricks i den forbindelse. Med de lækkede dokumenter ser det nu ud til, at Facebook alligevel forsøger at tage ansvar for at moderere indhold på siden. Men indholdet af dokumenterne viser, at Facebook står i et vadested, hvor de ikke selv ved, hvilken slags virksomhed de er, mener Hendricks.

»De siger, at de ikke er et nyhedsfirma, men en teknologivirksomhed. Alligevel agerer de i nogle tilfælde som redaktører,« siger han med henvisning til, at Facebook i nogle tilfælde vil fjerne stødende indhold og i andre vil lade det blive, fordi det kan skabe »forståelse«.

»Det kommer til at virke tilfældigt. Det er en helt umulig opgave at moderere ud fra de her retningslinjer, når der er to milliarder brugere, og en moderator måske har ti minutter til at finde ud af, om noget skal blive på siden, eller om det skal modereres,« siger Vencent Hendricks.

Monicka Bickert, Facebooks leder af global politik, siger til Guardian, at det var vanskeligt at nå frem til konsensus om, hvad der kan tillades, fordi de har så mange brugere.

»Vi har et meget mangfoldigt globalt fællesskab, og folk har meget forskellige ideer om, hvad der er i orden at dele. Uanset, hvor man trækker stregen, vil der være gråzoner,« siger hun.

Ifølge Guardian viser et dokument, at Facebook modtager og gennemgår 6,5 millioner rapporter alene i kategorien »falske profiler« hver uge. Moderatorerne får to ugers træning og skal derudover basere deres beslutninger på manualer - og det er disse manualer, der nu er blevet lækket.

Guardian har offentliggjort nogle af dokumenterne, der indeholder konkrete retningslinjer. De viser blandt andet, at Facebook vil tillade brugere at live-streame selvskade, blandt andet fordi det kan hjælpe den, der sender live med adgang til værktøjer, som blandt andre rådgivningsorganisationen Livslinien mener kan redde liv. De værktøjer har Berlingske tidligere beskrevet.

Hævnporno er et af de emner, hvor Facebook tidligere har været i offentligheden med nye værktøjer for at stoppe spredningen af nøgenbilleder. Retningslinjerne for hævnporno er kort beskrevet i et powerpoint-slide, hvor der står, at det er mod Facebooks regler, hvis der deles billeder som hævnporno, når følgende tre betingelser er opfyldt:

1) Billedet skal være produceret i privat sammenhæng, 2) Personen på billedet er nøgen, halvnøgen eller seksuelt aktiv og 3) Manglende samtykke er bekræftet af: hævnfuld kontekst (kommentarer, overskift) eller uafhængige kilder (f.eks. mediedækning).

Læs et udsnit af de konkrete regler herunder, taget direkte fra de powerpoints, der altså er dem, som moderatorerne skal basere deres lynhurtige beslutninger på.

  • Grafisk vold

»Vi tillader ikke folk at dele billeder eller videoer, hvor mennesker eller dyr er døende eller sårede, hvis de også udtrykker sadisme«.

Facebook definerer sadisme som »den eksplicitte nydelse af smerte eller ydmygelse, som et levende væsen føler«, og nævner eksempler som »Jeg elsker at se, hvor meget smerte, han er i«.

Facebook skriver samtidig, at man ikke ser efter sadismen i selve billedet eller videoen, men efter udtryk for sadisme i verbale kommentarer eller i billedteksten.

Følgende er ikke sadisme i Facebooks definitioner:

»Han fik som fortjent«, »Det er hans egen skyld« og »Godt at se det svin blive hængt«.

Længere nede i powerpointet står der, at »videoer af voldelige dødsfald er foruroligende, men kan hjælpe til at skabe »awareness« (forståelse/bevidsthed, red.)«.  Derfor bliver bliver drab på mennesker gjort utilgængelige for alle under 18 år, autoafspilning bliver slået fra, og der bliver tilføjet en advarselsskærm. Men videoen bliver på siden.

Se mere fra powerpointet her. Det dokumenterer, at Facebook i nogle tilfælde vil lade voldeligt indhold blive på siden.

  • Voldelige udtalelser

»Vi går efter at have så meget fri tale som mulig men trækker grænsen ved indhold, der troværdigt kan skabe skade i den virkelighed verden.«

Sådan starter powerpointmanualen om »voldelige udtalelser«.

»Folk udtrykker ofte foragt eller uenighed ved at true eller kræve vold på generelt spottende eller useriøse måder. Vi går efter at forstyrre skade i den virkelige verden forårsaget af mennesker, der tilskynder eller koordinerer skade på andre mennesker eller genstande, ved at kræve, at bestemte detaljer skal være til stede, for at truslen bliver betraget som troværdig,« fortsætter den, og skaber dermed en sondring mellem troværdige og utroværdige trusler.

»Jeg ødelægger Facebooks kontor i Dublin«, betragtes som en troværdig trussel, der dermed skal fjernes.

»Lad os smadre tykke børn« og »spark en person med rødt hår« bliver derimod anset som utroværdige trusler og får lov til at blive på siden.

»Jeg håber nogen dræber dig« bliver heller ikke fjernet, hvorimod »jeg hader indvandrere, og jeg vil skyde dem alle«, betragtes som en troværdig trussel, og skal fjernes.

Du kan læse mere her - men vær opmærksom på meget grafisk, skriftligt indhold.

  • Dyremishandling og børnemishandling

Læs om reglerne for dyremishandling her, og ikke-seksuel børnemishandling her.

Prøv selv her på Guardian.com at lege Facebook-moderator.