Logga in

← Alla avsnitt

Falska bilder, videor och röster: artificiell intelligens och det som verkar verkligt

Maskinöversättning

Runt 13 år · Brukar läras ut i ⁨åk 7–9⁩ · Gratis

Lär dig

  1. Artificiell intelligens (AI) är en samling tekniker där ett program lär sig mönster utifrån väldigt många exempel och skapar nya kombinationer. Med den kan man skapa bilder, videor och röster som verkar verkliga utan att vara det, som scener som aldrig har inträffat; att använda dem för att vilseleda är desinformation. Det är bra att skilja på tre fall: helt genererat innehåll, verkligt innehåll som manipulerats, med ett utbytt ansikte eller en utbytt röst, och verkligt innehåll som tagits ur sitt sammanhang.

    fallvad det är
    helt genereratfanns aldrig
    verkligt, manipuleratverkligt men ändrat
    verkligt, ur sitt sammanhangverkligt men från en annan tid
    Tre fall
  2. Ibland syns fel: konstiga händer eller tänder, bokstäver som inte går att läsa, skuggor som inte stämmer, läppar som inte följer rösten eller ett ljud med märkliga pauser. Men programmen blir bättre och de felen rättas med tiden, så att inte se något fel bevisar inte att något är verkligt. Verktygen som säger sig kunna upptäcka innehåll gjort med AI misstar sig också.

    Det som fortfarande fungerar är stabila frågor om ursprunget till det du ser: vem lade upp det först och sedan när?, berättar andra oberoende källor om det?, stämmer platsen, datumet och personerna? En omvänd bildsökning ger besked om en tidigare version av bilden, inte om en AI har genererat den; om den inte hittar något bevisar det ingenting. Brådska får en att agera utan att tänka: inför ett brådskande ljudmeddelande från en bekant som ber om pengar ringer man upp personen på ett annat sätt eller frågar något som bara den personen vet.

    vem lade uppdet först?berättar andrakällor om det?stämmersammanhanget?fanns bildenredan?
    Fyra kontroller
  3. Det finns en motsatt risk: eftersom man vet att allt kan förfalskas kan någon säga att ett verkligt bevis är falskt för att slippa undan. Juristerna Robert Chesney och Danielle Citron kallade det 2019 för ”lögnarens dividend”.

    Att säga att något är gjort med AI är en bra vana, eftersom det undviker att vilseleda. EU:s AI-förordning, som antogs 2024, ställer framför allt krav på företag och yrkesverksamma att ange att bilder, videor eller ljud som genererats eller manipulerats och ser verkliga ut är just det, med undantag för konstnärliga eller satiriska verk; den börjar gälla i augusti 2026 och omfattar inte personligt bruk. Innan du använder någon annans ansikte eller röst är det bra att be om lov och fundera på skadan: att göra narr av någon gör personen illa och kan, beroende på land, vara brott. Om du inte kan kontrollera det, dela det inte, även om du varnar för att du tvivlar: det skulle fortsätta cirkulera och du skulle hjälpa till att sprida en vilseledning. Om du redan har delat det, varna för att stoppa det.

Lösta exempel

Exempel 1

Julia får ett påhittat röstmeddelande som låter som en bekant, ber om pengar med brådska och säger åt henne att inte ringa. Vad gör hon?

Ett röstmeddelande (påhittad utskrift)

”Det är jag. Jag är i knipa och behöver att du skickar pengar just nu. Berätta inte för någon och ring inte mig, snälla.”

Okänt nummer

  1. Hon märker brådskan och begäran om pengar.
  2. Hon litar inte på att rösten låter likadan: en röst kan imiteras.
  3. Hon ringer upp personen på ett annat sätt eller frågar något som bara den personen vet.

Hon kontrollerar på annat sätt innan hon gör något.

Se upp! Många tror att om rösten låter likadan måste det vara den personen.

Vanligt fel

Exempel 2

Totte ser ett påhittat inlägg med ett spektakulärt foto av en bro som brutits itu. Ingen annan berättar om händelsen och profilen skapades för två dagar sedan.

Ett inlägg (påhittad text)

Foto av en bro som brutits itu och, bakom den, en skylt med stadens namn med bokstäver som inte går att läsa. Bildtext: ”I går kväll, i vår stad. Dela direkt!”

Profil utan namn, skapad för två dagar sedan

  1. Han tittar på vem som lade upp det: en profil utan namn, ny.
  2. Han söker om andra oberoende källor berättar om händelsen: ingen.
  3. Det finns oläsliga bokstäver, men det är bara en ledtråd.

Han delar det inte: han kan inte kontrollera det.

Se upp! Många tror att ett mycket verklighetstroget foto måste vara äkta.

Vanligt fel

Exempel 3

Olle berättar om det påhittade fallet med en butik som förnekar en äkta inspelning genom att säga att den ”är gjord med AI”. Gunni frågar om man då ska misstro allt.

En nyhet (påhittad text)

Ägaren till en påhittad butik säger att en äkta inspelning, där hon erkänner att hon sålt produkter med utgånget datum, ”är gjord med AI”.

  1. Att veta att något kan förfalskas gör inte det äkta falskt.
  2. En inspelning kontrolleras med vem som spelade in den, när och andra källor.

Att något kan förfalskas bevisar inte att det är falskt.

Se upp! Många tror att om något kunde ha förfalskats går det inte längre att tro på något.

Vanligt fel

En utmaning att fundera på

Skriv tillsammans med en vuxen tre påhittade budskap: en helt genererad bild, en röst som ber om pengar med brådska och ett verkligt foto med ett annat datum. Be en klasskamrat berätta vad klasskamraten skulle kontrollera i vart och ett. Kom ihåg att synliga fel rättas med tiden, att inte se något fel inte bevisar något, att en omvänd bildsökning inte säger om en AI har genererat bilden och att man ber om lov innan man använder någons ansikte.

Öva

Rundor med 10 frågor. Välj nivå:

Ditt betyg i det här avsnittet:Inget betyg änGör en runda på nivån Grundnivå för att få betyg.