#ensakidagdet levande arkivet
← Arkivet
Avsnitt #82··00:05:05

#ensakidag 82 – Facebook testar automatisk funktion för att stoppa hämndporr

Integritet & övervakningSociala medier & plattformar
AI-genererat · ej JJ-verifierat

Faktaruta, 2026-update, Bedömning och Guldkorn är AI-genererad redaktionell kommentar - skild från JJ:s eget avsnitt.

Lyssna / seSpotifyLjud

Beskrivning · den här hjälpte jag AI att skriva // JJ

Hämndporr får en att tvivla på mänskligheten - intima bilder, delade i förtroende, spridda vidare av en sur ex-partner eller en ren idiot. JJ ser det som han ser näthat i stort: problemet är sällan nätet, utan att människor är dumma mot varandra. Men det måste ändå lösas. En av 25 har drabbats, och det hade räckt med en på miljarden.

Lagen finns på olika håll - fem års fängelse i Israel, förbud i tolv amerikanska delstater, grovt förtal i Sverige som det faktiskt går att fälla för. Men juridiken har en inbyggd svaghet: när domen faller har skadan redan skett, bilden är redan ute. Därför har Facebook börjat jobba förebyggande. Anmäl en bild, och om de håller med skapas en digital signatur av den, så att den inte går att sprida igen - inte ens beskuren, inte ens i Messenger, Instagram eller WhatsApp. Spärrad genom hela systemet. Det är bra.

Men nu testar Facebook något ett steg längre, i Australien och tre länder till. Vill du inte vänta på den vanliga granskningen kan du själv mata in bilden i systemet - genom att skicka den till dig själv på Messenger. Ditt sätt att stoppa spridningen blir alltså att sprida den själv. Det skaver, och JJ sätter ord på varför.

För nu kan en användare, helt utan mänsklig granskning, spärra en bild från att spridas. Och om mekaniken kan stoppa övergreppsbilder, kan den i fel händer också stoppa det som borde spridas - bilder på tredjepartsövergrepp, journalistiskt material, visselblåsare. Ingen akut risk idag, men med en annan regim, ett annat synsätt eller en bugg ser det annorlunda ut. JJ uppskattar varje försök att använda tekniken för att göra gott. Men frågan han vill att vi bär med oss är var vi sätter gränsen för automatiken - och vilka bieffekterna kan bli.

Transkript · JJ:s egna ord

Faktaruta

AI-kommentarAI-genererat · ej JJ-verifierat
Företag / produkt
Meta (Facebook) – automatisk bildigenkänning / hashing-system för hämndporr, pilottestades i Australien 2017
Teknik
PhotoDNA-liknande digital hashing; bilderna tilldelas en unik signatur som blockerar vidare spridning plattformsövergripande (Facebook, Messenger, Instagram, WhatsApp)
Tidslinje
  • 2017: Facebook pilottestar systemet i Australien – offer kan pre-registrera bild via Messenger
  • 2017–2022: PhotoDNA industristandard för NCII-detektering
  • 2023: StopNCII.org lanserar klientsidig hashing – bilden lämnar aldrig offrets enhet
  • Maj 2026: USA:s TAKE IT DOWN Act träder i kraft – plattformar tar bort NCII inom 48 timmar

2026 - vad vet vi nu

AI-kommentarAI-genererat · ej JJ-verifierat

JJ:s kärnpoäng – att tekniska åtgärder mot hämndporr är nödvändiga men rymmer riskfyllda bieffekter kring censur och automatikens gränser – har visat sig tidlös. Plattformarnas hashingmodell är nu lagstadgad i USA via TAKE IT DOWN Act (maj 2026): plattformar måste ta bort NCII inom 48 timmar. Den klientsidig hashing som StopNCII.org introducerade löser delvis det etiska problem JJ pekade på 2017. Oron för missbruk av automatiken för censur är fortfarande relevant.

Bedömning

AI-kommentarAI-genererat · ej JJ-verifierat

Träffsäkerhet

5/5

Tidlöshet

5/5

Historiskt värde

4/5

JJ var tveksam till om det australienska pilotprojektet verkligen var rätt väg – ”det kanske finns något som skavar”. I efterhand är det tydligt att klientsidig hashing (StopNCII) löste just det problemet elegantare. Det var inte JJ som föreslog den lösningen.

Guldkorn

AI-kommentarAI-genererat · ej JJ-verifierat

  • ”JJ definierar problemet på ett sätt som kombinerar empati med teknisk precision”

    ”Det hade ju egentligen räckt om det var en på miljarden för att det skulle vara något som vi behövde satsa på att göra något åt.”

  • ”Den centrala spänningen i episoden – tekniken som skyddar kan också censurera”

    ”Det betyder ju kanske potentiellt att andra bilder kan stoppas också, alltså bilder som inte borde stoppas från spridning. Eller bilder som kanske visar på övergrepp av tredjepart eller bilder som har journalistiskt intresse, visselblåsarmaterial.”

Läs mer som detta

AI-kommentarAI-genererat · ej JJ-verifierat

Läst baklänges

”Anders Bjarby har läst om hela arkivet baklänges och gjort varje avsnitt till en byggbar idé - med en ärlig efterhandsläsning och en färdig bygg-prompt.”

LÄS #82 BAKLÄNGES & BYGG NÅGOT UNIKT →

Ett fristående projekt av Anders Bjarby.