Facebook skal merke KI-bilder: – Stor nyhet

Snart skal du kunne se om bilder på Facebook er laget av mennesker eller maskiner. Men ekspertene er skeptiske til nyheten.

MERKBAR: Meta-sjef Mark Zuckerberg lanserte sine egne KI-avatarer i fjor høst. Nå kommer det nok en KI-nyhet fra teknologigiganten. Foto: Godofredo A. Vásquez
MERKBAR: Meta-sjef Mark Zuckerberg lanserte sine egne KI-avatarer i fjor høst. Nå kommer det nok en KI-nyhet fra teknologigiganten. Foto: Godofredo A. Vásquez

Har du fått opp bilder på Facebook eller Instagram i det siste som virker litt merkelige?

Det har i hvert fall undertegnede. 

Stadig mer innhold i feeden har ikke røtter i virkeligheten, og det krever et skarpt blikk for å oppdaget om bilder som dukker opp er et ekte fotografier, eller laget med kunstig intelligens (KI). 

FALSKE: Disse bildene er KI-generert og er hentet fra feeden til TV 2s journalist. Men ser de ikke veldig ekte ut, da? Foto: Skjermdump fra Facebook.
FALSKE: Disse bildene er KI-generert og er hentet fra feeden til TV 2s journalist. Men ser de ikke veldig ekte ut, da? Foto: Skjermdump fra Facebook.

Men dette kan det bli slutt på, sk al vi tro Facebook selv.

Meta, som eier og driver Facebook, Instagram og WhatsApp skal begynne å merke KI-generert innhold. 

Det opplyser selskapet i en pressemelding

– I løpet av de kommende månedene vil vi merke bilder som brukere poster på Facebook, Instagram og Threads, hvis vi oppdager at de er KI-generert, heter det i melding. 

Om kort tid skal vi altså kunne se om hvert bilde som dukker opp i feeden, kommer fra mennesker, eller maskiner. 

FORSLAG: Slik mener Meta at merkingen kan se ut. Brukere skal kunne klikke på en knapp og få mer info om hvor bildet kommer fra. Dette bildet er KI-generert. Foto: Meta.
FORSLAG: Slik mener Meta at merkingen kan se ut. Brukere skal kunne klikke på en knapp og få mer info om hvor bildet kommer fra. Dette bildet er KI-generert. Foto: Meta.

– Veldig god nyhet

Dette får vår egen Digitaliserings- og forvaltningsminister, Karianne Oldernes Tung (Ap) til å juble. 

– Dette er en veldig god, og stor nyhet! Jeg har fra dag en vært tydelig på at vi må vite hva som er laget av et menneske og hva som er produsert av en maskin, sier hun til TV 2.

BEGEISTRET: Digitaliserings- og forvaltningsminister Karianne O. Tung er glad for nyheten fra Meta. Foto: Odd Arne Hartvigsen / TV 2
BEGEISTRET: Digitaliserings- og forvaltningsminister Karianne O. Tung er glad for nyheten fra Meta. Foto: Odd Arne Hartvigsen / TV 2

Hun styrer regjeringens arbeid med kunstig intelligens i Norge, og mener merking er noe av det viktigste vi kan gjøre. 

– Vi er avhengig av å tro på det vi ser og hører. I det siste har det vært altfor mange grusomme eksempler på at noen vil lure oss. Enten det gjelder nyheter fra krigsområder, kjendisers privatliv eller i forbindelse med valgkamper. Merking av KI-generert innhold vil styrke tilliten til teknologien, sier Tung. 

LES OGSÅ: Tar grep etter KI-porno av superstjerna

Forskere skeptiske

Meta opplyser at de vil samarbeide med en rekke selskaper for å utvikle tekniske standarder for oppdaging og merking av KI-innhold. 

– Vi bygger denne evnen nå, skriver de i pressemeldingen.

Ideen er at bilder som er laget med de største KI-modellene på markedet skal inneholde et usynlig, digitalt vannmerke, som Facebook kan oppdage og merke. 

Førsteamanuensis i kunstig intelligens ved NTNU, Inga Strümke mener ideen er god i utgangspunktet. 

– Det er et problem i den moderne verden at Facebook ikke er et redaktørstyrt medium, men det er veldig mye samfunnsdebatt som foregår det. Meta har ikke tatt noe særlig ansvar for hva som ligger der, så det er kult hvis de skal ta det ansvaret nå, sier hun. 

EKSPERT: Inga Strümke er førsteamanuensis i KI ved NTNU. Foto: Ditlev Eidsmo / TV 2
EKSPERT: Inga Strümke er førsteamanuensis i KI ved NTNU. Foto: Ditlev Eidsmo / TV 2

Men Strümke er skeptisk til hvordan de faktisk skal klare å merke alt KI-generert innhold. 

– Jeg ser ikke hvordan dette skal være mulig, sier hun.

Samme byggesteiner

Hun forklarer at digitale bilder tatt med kamera, og bilder laget med KI, bygger på de samme byggesteinene. 

Piksler som inneholder verdier av røde, grønne og blå farger. 

– Hvordan skal man kunne lage et verktøy som alltid sier om disse pikslene er laget med en iPhones kamera, eller et dataprogram, spør hun. 

Hun tror Meta vil slite med å klare å skille alle KI-bilder fra ordinære, spesielt fordi KI-innhold bare blir bedre. 

Strümke får støtte fra Kristoffer Wickstrøm. 

Han er førsteamanuensis i KI ved UiT Norges arktiske universitet.

– Jeg tenker i utgangspunktet at dette er en bra ting. Å kunne si om noe man ser er sant eller ikke, er helt fundamentalt for at vi kan stole på hverandre, sier han. 

EKSPERT: Kristoffer Wickstrøm forsker på og underviser i KI i Tromsø. Foto: Harald Lykke Joakimsen/UiT
EKSPERT: Kristoffer Wickstrøm forsker på og underviser i KI i Tromsø. Foto: Harald Lykke Joakimsen/UiT

– Men så er spørsmålet, har dette egentlig noen verdi? 

Wickstrøm sier han er spent på hvordan Metas planer vil virke i praksis. Han understreker at å oppdage falske bilder er vanskelig. 

– Først og fremst PR

Samtidig tror han folk med onde hensikter ikke vil ha problemer med å omgå teknologien, hvis de ønsker. 

– La oss si jeg har lagd et falskt bilde, og har lyst til å lure noen. Hvis jeg finner en måte å knekke koden deres på, kan jeg jo få dette bildet merket som «ikke KI». Da oppnår de det motsatte enn de har tenkt, sier Wickstrøm.

Strümke mener nyheten først og fremst gir Meta god PR. Hun er også spent på hvordan dette vil virke i praksis. 

– Det blir litt for billig hvis de sier at de tar ansvar, og så later de som de skal gjøre noe de egentlig ikke klarer, sier hun. 

Jobber med norsk standard

Merking av innhold er uansett et hett tema innen kunstig intelligens. 

Statsråd Tung mener Metas grep vil ha en god, inspirerende effekt. 

– En lang rekke aktører merker allerede sitt KI-genererte innhold. Når Meta som en så stor og dominerende aktør nå også går foran, viser det retning for mange andre. Jeg mener dette bidrar til et taktskifte som bygger mer tillit, sier hun. 

Og det er ikke bare på Facebook og Instagram at du vil kunne få opplyst om det du ser er ekte eller ikke. 

– Vi har et prosjekt hvor vi jobber med å få implementert denne teknologien i norske mediebedrifter, sier Helge O. Svela. 

UTVIKLER: Helge O. Svela i Media City Bergen. Foto: MCB
UTVIKLER: Helge O. Svela i Media City Bergen. Foto: MCB

Han er daglig leder i Media City Bergen, og leder denne utviklingen. 

Tanken er den samme som hos Meta. Bilder skal inneholde et digitalt vannmerke. 

Det skal fortelle oss hvorvidt et bilde du ser på for eksempel tv2.no, er manipulert eller endret – eller generert med KI. 

– Dette vannmerket skal følge bilder fra de blir tatt, og helt til det når leserne. Man skal kunne se alt som har skjedd med bildet, enten det kommer fra et Sony-kamera, eller en KI-modell som Dall E, sier Svela. 

Han forteller at prosjektet er godt i gang, og at vi kan vente å se resultatet i norske medier snart. 

– De første implementasjonene kommer snart. I alle fall i løpet av året, sier Svela.