Flere tilfeller av KI-genererte nakenbilder: – Det er skremmende
Den siste tiden har influensere advart om falske nakenbilder som florerer på nett. Teknologiekspert mener utviklingen går i en rasende fart.
Mandag gikk influenser Linnea Løtvedt (23) ut på sine sosiale plattformer for å informere sine følgere om at KI-genererte nakenbilder av henne var blitt spredt på nett.
Flere av «Bloggerne»-profilens følgere og andre influensere har blitt engasjert i saken etter at hun fortalte om de falske bildene.
En av de som selv har tatt til Instagram for å dele egen opplevelse av å få falske bilder spredt, er TikToker Kristjana Vera Mjallardóttir (22).
– Fikk panikk
TikTokeren har nemlig vært igjennom en lignende hendelse den Lødvedt har vært i gjennom.
I 2021 mottok hun meldinger på Instagram, hvor hun ble fortalt at flere hadde sett et nakenbilde av henne.
– Jeg fikk helt panikk og ble kjemperedd. Jeg visste ikke hva slags type bilde det kunne være eller hvor det kom fra, forteller hun til God kveld Norge.
– Skremmende
Etter litt fikk hun vite at det var en Snapchat-bruker som hadde delt de falske nakenbildene. Da hun fant brukeren og innså at de var falske, ble TikTokeren lettet.
– Orginalbildet ligger på Instagram, og der har jeg på bikini. Jeg ble lettet når jeg fant ut at det var et falskt bilde, men det var fortsatt utrolig skremmende, fordi folk som har sett bildet ikke nødvendigvis vet at det er falskt.
I etterkant av delingen av de KI-genererte bildene, fikk hun flere kommentarer på TikTok, hvor folk skrev at de hadde sett henne naken.
– Det var veldig ukomfortabelt, fordi jeg hadde null kontroll over bildet.
– Føler vi mister kontrollen
Mjallardóttir forteller at hun tok kontakt med politiet og fikk slettet Snapchat-brukeren, men beskriver hendelsen som skremmende. I tillegg synes hun det er leit at noen bruker teknologien på å spre falske nakenbilder.
– Jeg føler vi mister kontroll over teknologien, sier hun.
I likhet med TikTokeren kunne Løtvedt fortelle overfor God kveld Norge at hun reagerer på utviklingen. Influenseren er også kritisk til at det ikke eksisterer straffer for tilfeller av KI og deepfake.
– Dette mener jeg er noe som kommer til å utvikle seg raskt og noe Norge bør ta tak i, fortsetter hun.
– Kjempeenkelt
Teknologiekspert Hans-Petter Nygård Hansen forteller at det har blitt svært enkelt å generere bilder ved hjelp av kunstig intelligens.
– Det er kjempeenkelt. Før måtte du være «kjellernerd» på teknisk nivå. Nå trenger du egentlig bare litt fantasi og noen kroner i banken, forteller han.
Videre sier Hansen at det finnes verktøy hvor du enkelt kan laste opp et bilde av en person, for å så få vedkommende avkledd ved hjelp av et tastetrykk.
Eksperten forklarer at det finnes generative KI-tjenester for å lage ulike kropper. Her kan man også legge inn bilder av ekte personer, som får kroppen til å se ut som vedkommende sin.
– Kun basert på ett ansiktsbilde, så blir det seende helt ekte ut. Så kan man med et annet verktøy velge å kle personen helt av. Man kan også for eksempel lage en animasjon og putte personen inn i en pornografisk fremstilling, forklarer han.
– Vil ta oss med storm
Hansen forteller at den kunstige intelligensen utvikler seg raskt.
– Hvis du i dag ser nøye etter, så klarer du å se forskjellen på disse bildene, men om et par måneder så vil du kanskje ikke det.
Foredragsholderen bruker streiken blant skuespillerne i USA som et eksempel.
– Det er en grunn til at de streiker, fordi de som skuespillere frykter at de skal bli erstattet av kunstig intelligens. Dette her vil ta oss med storm. Det er skremmende, men det skal sies at teknologien kan brukes til fantastiske ting også.
Ulike tiltak bør på plass
EU jobber for øyeblikket med en reguleringsplan for utvikling og adoptering av kunstig intelligens, som etter planen skal være på plass til 2024. Selv om Norge ikke er medlem av EU, påvirkes vi i stor grad av EUs politikk.
Hansen mener det er viktig at myndighetene klarer å etterfølge brudd på reguleringene.
– Når vi snakker om retningslinjer, er det en selvfølge at vi gjør utviklerne ansvarlig for den tjenesten de har utviklet. Vi bør også ha retningslinjer som ansvarliggjør de som tar i bruk tjenestene.
Teknologieksperten mener også det er en sjanse for at utviklingen allerede har gått for langt før de nye reguleringene innføres.
– Teknologien løper ifra lovgivningen i et stadig raskere tempo. Da hjelper det ikke at vi ikke engang har en overordnet ansvarlig i regjeringen til å passe på at denne utviklingen går i riktig retning for oss fra et etisk og moralsk, men ikke minst fra personsvernsynspunkt.
– Vi har ingen digitaliseringsministere i dag, og vi har ingen som sitter med det fulle ansvaret fra et regjeringsståsted om hvem som skal håndtere det.
Kontakt politiet
Hansen vil råde personer som havner i lignende situasjoner som Løtvedt og Mjallardóttir å kontakte politiet.
– Selv om politiet stort sett henlegger slike saker, så vil jeg anbefale alle som blir utsatt for et brudd på eget personvern, personinformasjon, som blir utsatt for identitetstyveri eller misbruk av egen identitet, til å anmelde saken til politiet.
Ellers råder han til å ta eierskap over situasjonen, slik som de to influenserne har gjort i denne saken, hvor de har gått ut i media for å advare om de falske nakenbildene.
– Med de ressursene politiet har så er det jo begrenset hva de kan gjøre. Dette er kriminelt, dette er cyberkriminalitet og det vokser i et vanvittig omfang.
Videre forklarer Hansen at generativ kunstig intelligens vil føre til økt cyberkriminalitet.
Kripos har kommet med en ny rapport med anbefalinger, hvor de blant annet mener at myndighetene bør komme mer på banen.
Kan medføre straffeansvar
Leder for nettpatruljen i Oslo, Anne Katrin Storsveen Oppegaard, forteller til God kveld Norge at de ikke er kjent med å ha fått henvendelser eller anmeldelser av KI-genererte nakenbilder.
Videre understreker hun at dette er med forbehold om at nettpatruljen ikke har gått gjennom samtlige anmeldelser manuelt.
Hun har likevel en klar oppfordring:
– Vi vil oppfordre alle som opplever deling av nakenbilder, enten de er ekte, manipulert eller KI-generert, til å anmelde dette til politiet, da dette kan medføre straffeansvar etter paragraf 267a.
Paragraf 267a går på deling av krenkende bilder, og kan straffes med bot eller fengsel i opptil 1 år.