#ensakidagdet levande arkivet
← Arkivet
Avsnitt #80··00:03:31

#ensakidag 80 – Oroväckande när AI tolkar en sköldpadda som ett maskingevär

AI & maskininlärningIntegritet & övervakning
AI-genererat · ej JJ-verifierat

Faktaruta, 2026-update, Bedömning och Guldkorn är AI-genererad redaktionell kommentar - skild från JJ:s eget avsnitt.

Lyssna / seSpotifyLjud

Beskrivning · den här hjälpte jag AI att skriva // JJ

JJ är nyförälskad i Face ID. Telefonen låser upp bara genom att han tittar på den - ljust eller mörkt, glasögon eller inte, inte ett enda misslyckande. ”Friktionslöst underbart.” Men just den fascinationen blir ingången till något mer oroväckande.

För maskinen känner inte igen ansikten som vi gör. Ett team studenter på MIT har slitit hårt med att lura Googles bildigenkänning och nått nära 100 procent fel: en 3D-printad sköldpadda tolkas så gott som alltid som ett maskingevär. Många rycker på axlarna - då kan ju ett gevär också läsas som en sköldpadda, illa för terroristerna. JJ vänder på det: de falska positiva är minst lika allvarliga, och man behöver inte ens dra terroristkortet för att inse att det här är värt att grunna länge på.

Och det går att göra med flit, eftersom det är matematik bakom. Kör algoritmen baklänges, hitta svagheten: en kattbild blir guacamole, ett mönster på glasögonbågarna gör att vem som helst läses som Tom Hanks. JJ pekar vidare mot bildigenkänningens ännu mer omskakande syskon - video som ser helt äkta ut men är total fejk, Obama som håller tal han aldrig hållit. Frågan om fake news ställs på sin yttersta spets.

Det fina är att forskningen sker öppet, och varje attack möts av bättre motmedel - mobilens superkänsliga kamerasensor kan till och med användas för att avslöja om någon ljuger, till och med på inspelat material. Så JJ:s uppmaning blir dubbel: leta efter vardagen där tekniken redan finns och förundras (Face ID), men leta också där den ännu inte finns men skulle göra nytta - och där ett fel, även ett positivt fel, skulle kunna göra stor skada.

Transkript · JJ:s egna ord

Faktaruta

AI-kommentarAI-genererat · ej JJ-verifierat
Företag / produkt
MIT LabSix (forskargrupp); Googles InceptionV3-bildklassificerare
Teknik
Adversariella exempel mot neurala nätverk; EOT-algoritmen för 3D-adversariella objekt
Tidslinje
  • November 2017: MIT LabSix publicerar – sköldpadda tolkas som maskingevär med >90% säkerhet av Googles AI
  • 2019: MIT News följer upp med djupare analys
  • 2020-2026: Adversariell robusthet aktivt forskningsfält

2026 - vad vet vi nu

AI-kommentarAI-genererat · ej JJ-verifierat

Profetiskt avsnitt. Deepfake-varningen, Obama som håller tal han aldrig hållit, var tidigt ute och är idag ett centralt samhällsproblem som rör val, bedrägerier och förtroende på djupet. Generativ AI gjorde syntetiska medier trivialt enkla att skapa på bara 5-6 år, långt snabbare än någon anade 2017. MIT-studenternas adversariella attacker (sköldpaddan som blir maskingevär) blev ett helt forskningsfält, och JJ:s ramverk om att varje attack möts av bättre motmedel håller exakt. Spekulationen om kamerabaserad lögndetektion föll dock platt, etiskt minerad och tekniskt opålitlig.

Bedömning

AI-kommentarAI-genererat · ej JJ-verifierat

Träffsäkerhet

5/5

Tidlöshet

5/5

Historiskt värde

4/5
Källa-verifierad

Hårda påståenden i facit har stämts av mot källor.

JJ antyder att kamerasensorn kan detektera lögn hos barn – en spekulativ tanke som inte fått genomslag. Lögndetektering via kamera är etiskt minerat och tekniskt opålitligt.

Guldkorn

AI-kommentarAI-genererat · ej JJ-verifierat

  • ”Balansen mellan skepticism och naivitet – fortfarande den rätta hållningen.”

    ”Vi som användare måste balansera på en fin linje här. Vi får inte bli överdrivet skeptiska men inte heller glömma bort att teknik som FaceID fortfarande har sina svagheter.”

  • ”Deepfake-varningen – 2017, men lika akut 2026.”

    ”En teknik där vi kan skapa video till exempel som ser helt äkta ut och känns helt äkta men som i själva verket är totalt fejk. Jag länkar till någon av sådana här videos där vi bland annat får se Obama hålla tal som man aldrig har hållit och det är helt magiskt och inte så lite otäckt och väldigt utmanande.”

Läs mer som detta

AI-kommentarAI-genererat · ej JJ-verifierat

Läst baklänges

”Anders Bjarby har läst om hela arkivet baklänges och gjort varje avsnitt till en byggbar idé - med en ärlig efterhandsläsning och en färdig bygg-prompt.”

LÄS #80 BAKLÄNGES & BYGG NÅGOT UNIKT →

Ett fristående projekt av Anders Bjarby.