Avsnitt #427·2020-05-13

#ensakidag 427 – Trots all AI: Facebook betalar $52M i kompensation för granskares PTSD

AI-genererat · ej JJ-verifierat

Faktaruta, 2026-update, Bedömning och Guldkorn är AI-genererad redaktionell kommentar - skild från JJ:s eget avsnitt.

Beskrivning · den här hjälpte jag AI att skriva // JJ

JJ väver ihop två Facebook-nyheter som vid första anblick inte hör ihop, men som båda handlar om en sak: den ofattbara skalan på allt som rör Facebook.

Den första är tung. Facebook har gått med på att betala 52 miljoner dollar till de granskare som suttit och rensat plattformen från det värsta vi människor postar. Övervåld, övergrepp, det vi ser flamma upp vid en dödsskjutning är bara en bråkdel av vad de tvingats titta på. Många drabbas av motsvarigheten till PTSD. Uppgörelsen gäller en tid innan Facebook hade några rutiner, och mycket av materialet hanterades av tredjepartsföretaget Cognizant. Drygt 11 000 moderatorer delar på beloppet, var och en får minst 1000 dollar, och upp till 50 000 beroende på skadan. Idag screenar man granskare och ger dem terapi varje vecka. Men priset, säger JJ, blir enormt just för att skalan är det.

Och där faller pusselbiten på plats. Det är därför Facebook jobbar så hårt med att låta AI ersätta och komplettera människorna, vars egentliga uppgift idag är att träna upp den AI:n. I kvartalsrapporten syns insatserna: över 50 miljoner coronarelaterade inlägg flaggade på ett kvartal, matchade mot 7500 artiklar från oberoende faktagranskare. Över 2,5 miljoner inlägg borttagna från Marketplace där folk försökt sälja ansiktsmasker. Och en talande siffra: när ett inlägg flaggas som misinformation väljer 95 procent att inte klicka vidare. Ett ganska stort förtroende för maskinens omdöme.

Mest fascinerande är JJ:s favoritkaninhål: att lära maskiner förstå memes. En oskyldig bild plus en oskyldig text kan tillsammans betyda något helt annat, och versionerna itererar i en andra, tredje, fjärde variant som är nästan identiska. Facebook har byggt en egen meme-generator för att känna igen dem. Men finliret är att skilja det elaka från det som vänder skämtet till något gott, precis som med en som skojar att du får covid via toalettpapper och en annan som rättar att det kan du inte.

Gräv lite i det själv, säger JJ, och fundera på hur svårt det är för en maskin att tolka ironi och sarkasm. Han erkänner ärligt att det snurrade för mycket i huvudet idag, och lovar nya tag i morgon.

Transkript · JJ:s egna ord

Faktaruta

AI-kommentarAI-genererat · ej JJ-verifierat

Företag / produkt: Meta / Facebook — content moderation via Cognizant (tredjepartsentreprenör). Facebook AI-system för hate speech, covid-19-misinformation och meme-detektion.
Teknik: Human-in-the-loop moderation: 11 250 kontraktanställda moderatorer (via Cognizant m.fl.) vars primära arbete var att träna AI-klassificerare. AI-baserad covid-19-misinformationsdetektering via matchning mot 7 500 faktagranskade artiklar. Meme-generator för syntetisk dataaugmentering av träningsset.
Tidslinje: 2017–2019: Class action-perioden — Cognizant-moderatorer utan psykosocialt stöd
Maj 2020 (episoddatum): Facebook föreslår 52M dollar-uppgörelse; 11 250 moderatorer täcks
Q1 2020: Facebook flaggar 50M covid-relaterade poster via AI; tar bort 2,5M marketplace-inlägg om ansiktsmasker
2020: Cognizant annonserar att man lämnar content moderation-affären
2024–2026: Meta ersätter allt mer human review med AI; avvecklar tredjepartsgranskare i USA (januari 2025)
Källor: https://techcrunch.com/2020/05/12/facebook-moderators-ptsd-settlement/ · https://topclassactions.com/lawsuit-settlements/employment-labor/facebook-reaches-52m-settlement-after-moderators-experience-ptsd/

2026 - vad vet vi nu

AI-kommentarAI-genererat · ej JJ-verifierat

Uppgörelsen bekräftades och genomfördes precis som JJ beskrev. Cognizant lämnade content moderation-affären 2020, vilket var ett direkt resultat av de här händelserna. JJ:s tes - att moderatorernas primäruppgift var att träna AI snarare än att moderera i sig - visade sig vara en korrekt och djupsynt iakttagelse: Meta accelererade AI-ersättning av mänsklig granskning, och i januari 2025 avvecklade Meta sitt program med externa faktagranskare i USA och ersatte det med ett community notes-liknande system. Meme-detekteringsproblemet JJ lyfter (bild + text = ny innebörd, ironi, iterationer) förblir en av de hårdaste nötterna för AI-baserad innehållsmoderering 2026.

Bedömning

AI-kommentarAI-genererat · ej JJ-verifierat

Träffsäkerhet

5/5

Tidlöshet

5/5

Historiskt värde

5/5

Källa-verifierad

Hårda påståenden i facit har stämts av mot källor.

JJ nämner att moderatorer idag (2020) huvudsakligen tränar AI - det stämmer som generell riktning men var en förenkling. Mänsklig moderering i realtid förekom parallellt och var fortfarande betydande. Uppgörelsen täckte faktiskt >11 000 moderatorer (JJ säger 11 250 vilket stämmer med Cognizant-delen, men totalt var det fler bolag inblandade).

Guldkorn

AI-kommentarAI-genererat · ej JJ-verifierat

”Den dolda logiken bakom Facebooks AI-satsning — varför PTSD-uppgörelsen och AI-rapporten hänger ihop”
”När vi har insett det och vi har reflekterat lite grann runt den problematiken då har vi liksom fått en pusselbit till till varför Facebook jobbar så aktivt med att försöka få AI att ersätta och komplettera de här granskarna. För de som sitter som granskare idag deras huvudsakliga arbete är egentligen att träna AI alltså att få AI att vara bättre lämpat för att detektera hate speech och övervåld och så vidare.”
”Om meme-detekteringsproblemet — varför det är svårare än det ser ut”
”Du kan ju ta en bild som i sig är helt oskyldig och så kan du ta en text som i sig är helt oskyldig men när du kombinerar den bilden och den texten. Eller lägger textskyltar över en video eller någonting så kan du förändra hela innebörden av det du kan gå ifrån att vara väldigt oskyldig till att vara väldigt dåligt helt enkelt.”
”Facebooks skalas effekt — när ett misslyckande av vård drabbar tiotusentals människor”
”När Facebook misslyckas med att ta hand om sina medarbetare så får det så här stora effekter både för att arbetet är sådant och skalan är skit på plattformen är så stor men också för att det är så många människor det handlar om och allting blir så stort.”

Läs mer som detta

AI-kommentarAI-genererat · ej JJ-verifierat

Läst baklänges

”Anders Bjarby har läst om hela arkivet baklänges och gjort varje avsnitt till en byggbar idé - med en ärlig efterhandsläsning och en färdig bygg-prompt.”

LÄS #427 BAKLÄNGES & BYGG NÅGOT UNIKT →

Ett fristående projekt av Anders Bjarby.