Advarer: – Gjør deg selv til kriminell

Mange har opplevd det samme som Taylor Swift. Slik vil regjeringen stoppe spredningen av deepfake-porno.

SNAKKIS: Verdens største popartist, Taylor Swift, har blitt offer for en deepfake-skandale. KI-minister Karianne Tung vil gjøre grep for å regulere teknologien i Norge. Foto: Jonas Been Henriksen / TV 2 og Valerie Macon / AFP / NTB
SNAKKIS: Verdens største popartist, Taylor Swift, har blitt offer for en deepfake-skandale. KI-minister Karianne Tung vil gjøre grep for å regulere teknologien i Norge. Foto: Jonas Been Henriksen / TV 2 og Valerie Macon / AFP / NTB

De siste ukene har de famøse bildene av superstjerne Taylor Swift blitt storpolitikk i USA. 

Da falske KI-redigerte pornografiske bilder (såkalte «deepfakes») av Swift gikk viralt kastet Microsoft, X (tidligere Twitter) og til og med Det hvite hus seg på.

– Dette er veldig urovekkende. Vi skal gjøre det vi kan for å takle dette problemet,  var budskapet fra presidentens stab.

SNAKKIS: Taylor Swift har fått støtte fra Det hvite hus etter bildene begynte å sirkulere på X. Foto: Suzanne Cordeiro / AFP / NTB
SNAKKIS: Taylor Swift har fått støtte fra Det hvite hus etter bildene begynte å sirkulere på X. Foto: Suzanne Cordeiro / AFP / NTB

– Klar til bruk

Taylor Swift har blitt ansikt for et problem som allerede har vært utbredt i lang tid. Og det blir bare verre og verre, ifølge ekspertene. 

– For bare noen år siden trengte man ganske dyrt datautstyr og kunnskap om programmering for å kunne bruke KI til å manipulere bilder eller videoer, sier Elisabeth Wetzer.

Hun er førsteamanuensis i maskinlæring ved UiT Norges arktiske universitet og har særlig ekspertise på bildeteknologi. 

EKSPERT: Elisabeth Wetzer jobber med kunstig intelligens ved Norges arktiske universitet i Tromsø. Foto: Peter Waites
EKSPERT: Elisabeth Wetzer jobber med kunstig intelligens ved Norges arktiske universitet i Tromsø. Foto: Peter Waites

– Men nå for tiden finnes det masse programvare som er klar til bruk for alle, sier Wetzer. 

Hun forteller at nærmest hvem som helst kunne klart å lage et falsk nakenbilde av noen, kun med PC-en eller mobilen. 

De kunstig intelligente programmene er trent opp på så mye porno at det er en smal sak å «lime» på realistiske pupper og kjønnsorganer på et bikinibilde. 

– Skikkelig dritt

Akkurat dette har vi sett flere eksempler av i Norge. 

I fjor sommer opplevde influenserne Linnea Løtvedt og Kristjana Vera Mjallardóttir at falske nakenbilder av dem ble spredt på nett. 

– Jeg syns dette er noe skikkelig dritt, sier digitaliserings- og forvaltningsminister Karianne O. Tung til TV 2. 

BEKYMRET: Digitaliserings- og forvaltningsminister Karianne Tung. Foto: Odd Arne Hartvigsen / TV 2
BEKYMRET: Digitaliserings- og forvaltningsminister Karianne Tung. Foto: Odd Arne Hartvigsen / TV 2

Hun ble nylig utnevnt av statsministeren til å ha ansvar for KI, og innføringen av lover knyttet til det. 

– Det er grusomt å få spredt falske eller private bilder av seg selv, enten om man er en kjendis eller en helt vanlig person, sier Tung. 

– Kriminelt

Ministeren forteller at dette er en av de store bekymringene hun har rundt utviklingen av KI. 

– Det finnes selvfølgelig mange muligheter med KI. Men «deepfake», desinformasjon og diskriminering er en utfordring, sier Tung. 

Ministeren understreker at spredning av uønskede deepfake-bilder er straffbart. Selv om det ikke faktisk er snakk om nakenbilder. 

– Hvis man mottar et sånt bilde og sprer det videre, så gjør man seg selv kriminell, sier Tung. 

– Det er misbruk av identiteten til virkelige personer som ikke har gitt samtykke til at det skal bli laget et sånt bilde. 

Trenger lover

Men til tross for dette, mangler vi et godt lovverk som beskytter oss mot for eksempel deepfake-porno, mener Inga Strümke, førsteamanuensis i kunstig intelligens ved NTNU. 

– Hvis vi ser at KI brukes til noe kjipt, som må vi lete i lovverket vårt og se hvilke eksisterende lover som gjelder, og hvordan de skal tolkes for KI. Men det er ikke spesifikt for KI, sier hun.

Derfor er det vanskelig å straffe, eller begrense spredningen av KI-porno. Strümke mener disse sakene understreker behovet for regulering av KI. 

EKSPERT: Førsteamanuensis ved NTNU, Inga Strümke har bedt om KI-regulering i flere år. Foto: Ditlev Eidsmo / TV 2
EKSPERT: Førsteamanuensis ved NTNU, Inga Strümke har bedt om KI-regulering i flere år. Foto: Ditlev Eidsmo / TV 2

Heldigvis er ting i ferd med å skje. 

EU kommer etter alle solemerker til å vedta en ny, stor lov for kunstig intelligens. Den blir verdens første av sitt slag. 

Og vår egen minister forteller at hun jobber hardt for å gjøre den til norsk lov også. 

– Vi jobber så raskt som mulig for at vi skal kunne gjøre dette samtidig som EU, sier Tung. 

Foreslår merking

Denne loven fatter veldig bredt, og vil ta for seg en rekke problemstillinger knyttet til utviklingen og bruken av mange forskjellige typer KI. 

Og ministeren håper at begrensingen av deepfake og KI-porno kan styrkes gjennom lovverket. 

– EU foreslår et krav om at det ved bruk av KI-systemet skal være en plikt til å opplyse om man er i kontakt med KI eller et menneske. 

Det kan blant annet være merking av KI-genererte bilder. 

– Er det et bilde som er generert av en maskin, så bør det vurderes å merke det, sier statsråden. 

Tung erkjenner at det kan bli vanskelig å sørge for at dette skjer overalt.

– Vi har alltid hatt utfordringer med bildemanipulasjon. Men det betyr ikke at vi skal være slappe i lovgivningen for det. Vi må kunne stille krav og forvente at folk gjør dette.

Hun mener særlig merking både kan beskytte den som blir misbrukt, og unngå manipulering av de som ser det, og kanskje tror det er ekte. 

– Vi har kommet dit at du ikke nødvendigvis kan stole på at et bilde du ser ikke er ekte. Det kan være KI-generert, og da er det viktig å være kritisk, sier Tung. 

– Utfordrer oss

Rune Fimreite, fagleder i Vest politidistrikts nettpatrulje, forteller at spredningen av slike falske nakenbilder er særlig utbredt blant unge i Norge.

– Men seksuell utpressing og spredning av ekte bilder er ganske utbredt, sier han. 

Fimreite tror det likevel kommer mer av det. Akkurat som andre typer KI-generert svindel og manipuleringsmidler. 

– Mange har jo ganske mange bilder av seg selv ute på offentlige profiler. Fra ferie eller hvor som helst. Så man har er godt utgangspunkt for å lage «deepfake», sier han. 

FØLGER MED: Nettpatruljens Rune Fimreite sier at KI skaper utfordringer for politiet. Foto: Politiet.
FØLGER MED: Nettpatruljens Rune Fimreite sier at KI skaper utfordringer for politiet. Foto: Politiet.

Politiets nettpatrulje jobber med å være til stede på nett. Fimreite erkjenner at jobben har blitt vanskeligere med KI-utviklingen. 

– Teknologien utfordrer oss. 

Han håper et lovverk gir politiet mer handlingsrom til å slå ned på svindel, manipulering og utpressing. 

– Det blir viktig for oss å få muligheten til å hente ut informasjon om hvor for eksempel falske bilder kommer fra, og hvem som står bak, sier han. 

– Så fort som mulig

Både Strümke og Wetzer ønsker en rask innføring av EU-lovverket velkommen.

– Vi kommer til å måtte forholde oss til dette uansett, siden vi er en del av EUs indre marked gjennom EØS-avtalen. Hvis vi venter, betyr det bare at det kommer til å ta lengre tid før vi har lover som er enkle å forholde seg til, sier Strümke. 

Men før den nye KI-loven kan bli vedtatt i Norge, må den først godkjennes av EØS-landene. Så skal den ut på høring, og så behandles i Stortinget. 

NY LOV: Når EU innfører et felles regelverk for kunstig intelligens, kan det også bli norsk lov. Foto: Dado Ruvic / Reuters / NTB
NY LOV: Når EU innfører et felles regelverk for kunstig intelligens, kan det også bli norsk lov. Foto: Dado Ruvic / Reuters / NTB

Men Tung lover at denne prosessen skal gå fortere enn normalt. 

– Jeg har ingen indikasjoner på at dette nødvendigvis kommer til å ta veldig lang tid. Målet er så fort som mulig, sier hun. 

– Vi er jo avhengig av at Island og Liechtenstein er enige med oss, og at EU gir oss lov til å innføre loven. Hvis de er det, kan det gå fort. Vi har en rekord på å innføre en lov på tre dager, legger Tung til.