Avsnitt #288·2019-02-18

#ensakidag 288 – Bilder på människor som inte finns, texter som är falska och hur vi pratar om AI

AI & maskininlärning Integritet & övervakning

AI-genererat · ej JJ-verifierat

Faktaruta, 2026-update, Bedömning och Guldkorn är AI-genererad redaktionell kommentar - skild från JJ:s eget avsnitt.

Beskrivning · den här hjälpte jag AI att skriva // JJ

Bilder på människor som inte är riktiga, och texter skrivna av maskiner som inte går att skilja från människors. JJ vill prata om AI, och om något som stör honom mer än tekniken själv: tonen vi möter den i.

Två saker hände i helgen. Det första: utvecklaren Phillip Wang, till vardags på Uber, hackade ihop sidan This Person Does Not Exist. Ladda om den och ett nytt, oftast helt verkligt ansikte dyker upp, i nio fall av tio utan en enda synlig artefakt, och varje bild är datorskapad i just den stunden. Det bygger på Generative Adversarial Networks, samma teknik som JJ tidigare beskrivit när man skapade hjärnbilder för att träna AI på att hitta cancer. Nvidia har gjort en lysande video om hur ansiktet byggs i tre lager, från grovt till finmaskigt, hudton och minsta detalj. Fotomodeller, säger han, lär bli bland de första jobb som utmanas av sådana här bilder.

Det andra: OpenAI har visat en algoritm som av ett par raders ingress du själv skriver bygger en hel, helt fiktiv text som fångar din ton och ditt skriftspråk. Inget i klass med dagens enkla textrobotar som klistrar ihop sportreferat ur färdiga fraser, det här är något helt annat, makalöst skickligt. Och det märkliga: OpenAI tycker algoritmen är så kraftfull att de inte vågar släppa den. Wangs sida kunde byggas för att Nvidias algoritmer fanns ute, men någon motsvarande ”this text was not written” går alltså inte att göra. Det finns mycket att fundera kring där.

Men det JJ verkligen vill att vi funderar på är fötterna vi startar samtalet på. Han ser folk i skolans värld som omedelbart problematiserar, hur ska vi nu rätta elevernas texter, istället för att fråga hur det här kunde utveckla lärandet. Och han blir än mer ledsen av hur diskussionen om OpenAI, en non-profit byggd av runt 60 forskare med ambitionen att allt ska vara öppet, kröntes till ”Elon Musks fruktansvärda algoritm som ska förstöra demokratin”, trots att Musk bara var en av många finansiärer och inte arbetat aktivt där på över ett år. Vi måste hjälpas åt, säger han, att hitta rätt i hur vi pratar om den nya tekniken. Vilken fot vi väljer avgör mer än vi tror.

Transkript · JJ:s egna ord

Faktaruta

AI-kommentarAI-genererat · ej JJ-verifierat

Företag / produkt: thispersondoesnotexist.com (Phillip Wang, Uber-utvecklare) — GAN-baserad ansiktsgenerator. OpenAI GPT-2 — stor språkmodell vars fulla version hölls tillbaka av säkerhetsskäl februari 2019
Teknik: Generative Adversarial Networks (GAN) / StyleGAN (Nvidia); GPT-2 autoregressive language model; deepfake-röst och video
Tidslinje: 18 december 2018: Nvidia publicerar StyleGAN-video som JJ refererar till
Februari 2019: Phil Wang lanserar thispersondoesnotexist.com baserat på Nvidias StyleGAN
14 februari 2019: OpenAI annonserar GPT-2 och håller tillbaka full modell av säkerhetsskäl
Maj 2019: OpenAI släpper 355M-parametersversion
November 2019: Full GPT-2 (1,5B) släpps — inga förutsagda katastrofer hade inträffat
2022: OpenAI lanserar ChatGPT baserat på GPT-3.5
2023: GPT-4 — kapaciteten JJ beskrev som oroande är nu konsumentsoftware för hundratals miljoner människor
2026: Bildgeneratorer (DALL-E, Midjourney, Sora) har gjort just det JJ förutsåg med fotomodeller
Källor: https://en.wikipedia.org/wiki/GPT-2 · https://slate.com/technology/2019/02/openai-gpt2-text-generating-algorithm-ai-dangerous.html · https://the-decoder.com/from-gpt-2-to-claude-mythos-the-return-of-ai-models-deemed-too-dangerous-to-release/

2026 - vad vet vi nu

AI-kommentarAI-genererat · ej JJ-verifierat

Det här avsnittet är ett av de mest profetiska i hela ensakidag-arkivet. Thispersondoesnotexist.com visade vad som kom: till 2026 genererar Midjourney, DALL-E 3 och Sora fotorealistiska ansikten och filmer på sekunder - och fotomodellyrket utmanas precis som JJ förutsåg. GPT-2, som OpenAI vägrade släppa av säkerhetsskäl, ser i backspegeln harmlöst ut bredvid GPT-4 och Claude 3.5 som idag används av hundratals miljoner. Skoldebatten JJ klagade på ('tänk om eleverna fuskar') dominerar fortfarande och är om möjligt mer polariserad 2026. OpenAI är inte längre non-profit i praktiken utan en av världens mest kapitaliserade techbolag, med Sam Altman i spetsen och Elon Musk i aktiv konflikt med dem via Grok/xAI - en av de mer ironiska utvecklingarna sedan avsnittet.

Bedömning

AI-kommentarAI-genererat · ej JJ-verifierat

Träffsäkerhet

5/5

Tidlöshet

5/5

Historiskt värde

5/5

Källa-verifierad

Hårda påståenden i facit har stämts av mot källor.

JJ frågade retoriskt varför skolpersoner fokuserar på fusk snarare än möjligheter. 2026 är det klart att frågorna om autenticitet, fusk och upphovsrätt är genuint svåra och inte bara moralpanik - JJ underskattade komplexiteten i de etiska frågorna något. OpenAIs transformation från öppen non-profit till slutet vinstbolag - som JJ framhöll som en kvalitet - är en ärlig miss i karaktärsbedömning.

Guldkorn

AI-kommentarAI-genererat · ej JJ-verifierat

”JJ:s frustration över diskursen — lika giltig 2026 som 2019”
”Jag har till exempel sett då människor som är aktiva i skolans värld som omedelbart liksom börjar fundera på hur det här kommer att leda till svårigheterna när man ska rätta skrivna texter från skolungdomarna därför att tänk om de har använt den här algoritmen istället för att börja tänka såhär okej hur skulle det här kunna utveckla utbildningen? Vilka nya krav och möjligheter skulle det här leverera till lärandet och så vidare. Jag blir bara lite ledsen över vilken fot vi startar diskussionerna på nu med det.”
”Den exakta förutsägelsen om fotomodellyrket — bekräftad av Midjourney, DALL-E och Sora”
”Det har jag sagt länge nu att fotomodeller är de första jobben som kommer att försvinna för att de blir utmanade av datorgenererade bilder och det här är ett exempel på detta.”
”Circle of concern vs circle of influence — JJ:s pedagogiska ramverk för teknikdiskussion”
”Vi måste hjälpas åt kära ni där ute, vi måste hjälpas åt att försöka hitta rätt i det här med hur vi diskuterar den nya tekniken och vad vi väljer att fokusera på och så vidare.”

Läs mer som detta

AI-kommentarAI-genererat · ej JJ-verifierat

Läst baklänges

”Anders Bjarby har läst om hela arkivet baklänges och gjort varje avsnitt till en byggbar idé - med en ärlig efterhandsläsning och en färdig bygg-prompt.”

LÄS #288 BAKLÄNGES & BYGG NÅGOT UNIKT →

Ett fristående projekt av Anders Bjarby.