Avsnitt #345·2019-05-24

#ensakidag 345 – Facebooks AI raderar upp mot 99,9% av skräpet - innan du ens hinner se det

AI-genererat · ej JJ-verifierat

Faktaruta, 2026-update, Bedömning och Guldkorn är AI-genererad redaktionell kommentar - skild från JJ:s eget avsnitt.

Beskrivning · den här hjälpte jag AI att skriva // JJ

Facebook har släppt tredje upplagan av sin Community Standards Enforcement Report, och för en sann datanörd som JJ är det en fest att gräva i. En massiv datamängd som vuxit för varje utgåva, nu med helt nya mätpunkter, som hur många beslut som överklagas och hur mycket innehåll som återställs. Han plockar ut fyra poänger.

Den första är ren häpnad: hur i hela friden orkar man? Siffrorna är bisarra. Falska konton ligger på ungefär fem procent av de månatliga användarna, och det här kvartalet plockades 2,2 miljarder av dem bort, upp från 1,2 miljarder kvartalet innan. Inte för att man blivit bättre, man fångar redan 99,7 till 99,8 procent innan någon hinner anmäla, utan för att volymen som trycker på är så brutal. Samma sak med våldsamt och grafiskt innehåll, nästan en fördubbling, från 18,7 till 33,6 miljoner borttagna poster.

Den andra poängen handlar om hur AI:t blir bättre, ojämnt. På spam ligger man på närmare 99,9 procent, så nära hundra man kan komma, och kurvan har planat ut. På hatretorik har förmågan tredubblats på fem kvartal, från 23,6 till 65,4 procent. Och här gör JJ en klok utvikning, byggd på en graf han sett: AI och människa överlappar bara till en liten del. De där sista 0,1 procenten spam som slinker igenom tycker vi är uppenbart skräp, och dömer maskinen som dum. Men maskinen ser 99,9 procent vi aldrig skulle orka sålla. Sluta säga att maskinerna är korkade, är hans poäng, för då kunde de lika gärna säga det om oss.

Den tredje poängen är transparensen, och här blir JJ nästan rörd. Facebook lägger nu ut mötesanteckningarna från sina möten varannan vecka om community standards, och de är så detaljerade att det räcker att öppna ett dokument för att förstå komplexiteten. Ta nakenhet: för oss nordbor är en naken bastubild självklart okej, men på en global plattform blir det oändligt mycket svårare. Han skulle nästan vilja tvinga alla att sitta en timme i veckan och läsa det här, och sedan ta med sig ödmjukheten ut i alla andra diskussioner där vi förenklar.

Och det leder till den fjärde: medias rapportering. Alla lyfter de enkla siffrorna, som att 25 av 10 000 sedda inlägg innehåller något grafiskt som borde sorterats bort, istället för att gräva i komplexiteten, mötesanteckningarna, ändringsloggen. Dunning-Kruger hänger där i bakgrunden, säger JJ och pekar på t-shirten. Vi måste sluta förenkla komplicerade frågor. Gå in och läs rapporten, du har hela helgen på dig.

Transkript · JJ:s egna ord

Faktaruta

AI-kommentarAI-genererat · ej JJ-verifierat

Företag / produkt: Facebook / Meta – Community Standards Enforcement Report (tredje utgåvan, Q1 2019)
Teknik: AI-driven proaktiv innehållsmoderering – maskininlärning för detektion av spam, hat-tal, grafiskt våld och fejkkonton innan användaranmälan
Tidslinje: 2019-05-23: Facebook publicerar sin tredje Community Standards Enforcement Report
Q4 2018: 1,2 miljarder fejkkonton borttagna; hat-tal-AI identifierar 23,6% proaktivt
Q1 2019: 2,2 miljarder fejkkonton borttagna; hat-tal-AI uppe på 65,4% proaktiv identifiering
Q1 2019: Spam-AI identifierar 99,7–99,8% proaktivt; grafiskt våldsinnehåll: 98,9%
2025: Meta (fd Facebook) publicerar fortfarande halvårsvisa Transparency Reports via transparency.meta.com
Källor: https://transparency.meta.com/reports/community-standards-enforcement/ · https://www.facebook.com/MetaNewsroom/posts/our-community-standards-enforcement-report-for-q1-2025-is-out-now-and-we-saw-a-5/733821709159653/ · https://www.socialmediatoday.com/news/meta-outlines-latest-data-on-content-removals-and-fake-accounts/807727/

2026 - vad vet vi nu

AI-kommentarAI-genererat · ej JJ-verifierat

Rapportserien lever vidare under Meta-varumärket och publiceras alltjämt på transparency.meta.com. Volymerna är fortfarande svindlande: hat-talsdetektionen, som JJ noterade gick från 23,6% till 65,4% proaktiv identifiering 2018–2019, har sedan stigit vidare, och AI-modereringen av fejkkonton och spam håller storleksordningen 99%+ proaktiv träffbild. Vad som däremot förändrats radikalt är den politiska kontexten: i januari 2025 annonserade Zuckerberg att man avvecklar faktakollar-programmet och ersätter det med ett Community Notes-system à la X – en pivot mot ”mer frihet, färre misstag” som fått skarp kritik från medier och NGO:er. Rapporterna och changelogen finns kvar, men just den rörelse mot strukturerad öppenhet som JJ hyllade har delvis tonats ned. Datanörds-festen han firade 2019 stod sig; tron att radikal transparens var Facebooks bestående riktning gjorde det inte fullt ut.

Bedömning

AI-kommentarAI-genererat · ej JJ-verifierat

Träffsäkerhet

5/5

Tidlöshet

4/5

Historiskt värde

5/5

Källa-verifierad

Hårda påståenden i facit har stämts av mot källor.

JJ var närmast överoptimistisk om Facebooks transparenskultur som ett bestående mönster. Den riktning han beundrade – radikal öppenhet med mötesanteckningar och changelog – tonades gradvis ned. Att 2025 avveckla faktakollarna och pivota mot Community Notes är ett trendbrott mot den transparensmodell JJ hyllade. Inget han sa var fel 2019, men framtidens riktning pekade inte dit han hoppades.

Guldkorn

AI-kommentarAI-genererat · ej JJ-verifierat

”Om att förstå varför AI missar det som verkar uppenbart för en människa – ett av de bästa folkbildningsresonemanget om människa–maskin-komplementaritet från den här perioden.”
”vi kan inte titta på ett stycke innehåll och säga herregud vad maskinerna är dumma som inte begriper detta. För att maskinerna skulle i så fall titta på 99,9 gånger fler poster och säga herregud vad människorna är korkade som inte ser att detta är spam. Så det här behöver vi ha med oss tror jag.”
”Om att Facebooks mötesanteckningar ger unik insyn i plattformsbeslutens komplexitet – en distinkt inbjudan till alla som lättvindigt kritiserar content moderation.”
”jag skulle nästan vilja tvinga alla att sitta ner en timme i veckan och bara titta in i det här arbetet för att förstå den här komplexiteten och sen ta det med sig ut i alla andra diskussioner där vi förenklar saker och ting.”
”Om medias tendens att fokusera på felen snarare än skalan av det som faktiskt fungerar.”
”Vi är alltså nere på 0,002% av poster som slinker in och då är det det man lyfter fram och fokuserar på istället för att till exempel fokusera på komplexiteten i det här arbetet.”

Läs mer som detta

AI-kommentarAI-genererat · ej JJ-verifierat

Läst baklänges

”Anders Bjarby har läst om hela arkivet baklänges och gjort varje avsnitt till en byggbar idé - med en ärlig efterhandsläsning och en färdig bygg-prompt.”

LÄS #345 BAKLÄNGES & BYGG NÅGOT UNIKT →

Ett fristående projekt av Anders Bjarby.