Snapchat My AI:

Sporene barn legger igjen bekymrer ekspert

Samtalene med «My AI» kan føre til skreddersydde annonser på Snapchat. Barnevakten frykter den virtuelle vennen blir en reklamemaskin for barna.

REKLAME: Madelen (t.v.) og Martine synes det er søtt at «My AI» alltid er hyggelig. Men data samles gjennom samtalen vil gi målrettet innhold og reklame. Foto: Ditlev Eidsmo / TV 2
REKLAME: Madelen (t.v.) og Martine synes det er søtt at «My AI» alltid er hyggelig. Men data samles gjennom samtalen vil gi målrettet innhold og reklame. Foto: Ditlev Eidsmo / TV 2

Samtalene med «My AI» på Snapchat blir oppbevart, og de kan brukes for å forbedre Snapchat sine produkter og personliggjøre opplevelsen, inkludert annonser.

Stiftelsen Barnevakten sier barn legger igjen mange spor i samtaler med den virtuelle vennen på Snapchat.

BRUKER: Barnevakten sier den kunstige vennen suger til seg opplysninger som barnet gir fra seg i samtalene og bruker dette til å gi mer skreddersydde svar i samtalene, og nå også reklame. Foto: Per Haugen / TV  2
BRUKER: Barnevakten sier den kunstige vennen suger til seg opplysninger som barnet gir fra seg i samtalene og bruker dette til å gi mer skreddersydde svar i samtalene, og nå også reklame. Foto: Per Haugen / TV 2

– Nå kan disse sporene brukes til å vise barna skreddersydd reklame. Derfor blir «My AI», en som virker som en venn, i praksis en reklamemaskin og en påvirker.

Det sier rådgiver og faglig leder Kjellaug Tonheim Tønnesen i Barnevakten.no.

Er bekymret for utviklingen

UTFORDRING: Kjellaug Tonheim Tønnesen i Stiftelsen Barnevakten sier kunstig intelligens vil fremover skape mange nye muligheter og utfordringer som vi bare aner starten på nå. Foto: Frode Hoff / TV 2
UTFORDRING: Kjellaug Tonheim Tønnesen i Stiftelsen Barnevakten sier kunstig intelligens vil fremover skape mange nye muligheter og utfordringer som vi bare aner starten på nå. Foto: Frode Hoff / TV 2

Selv om Snapchat har 13-års aldersgrense, brukes tjenesten også av langt yngre barn.

Barnevakten er bekymret for hvordan «My AI» påvirker barna.

– Man kan mene at dette ikke er verre enn hva Google driver med. Søker du etter «sykkel», vises det til tider et hav av reklame overalt i etterkant, sier Tønnesen.

Hun poengterer at man kanskje har et annet forhold til «My AI» enn for eksempel Google.

– Inne i «My AI», som føles ut som en venn, kan det hende at barn og unge i større grad har garden nede når reklamene vises og løsninger foreslås. Derfor får reklamene større effekt, sier Tønnesen til TV 2.

Mor bekymret

BRUKER AKTIVT: Snapchat er en del av hverdagen deres. Madelen (t.v.) og Martine leker med huskatten Mario (8). Foto: Ditlev Eidsmo / TV 2
BRUKER AKTIVT: Snapchat er en del av hverdagen deres. Madelen (t.v.) og Martine leker med huskatten Mario (8). Foto: Ditlev Eidsmo / TV 2

Tvillingsøstrene Madelen og Martine er tolv år gamle og bor i det lille tettstedet Tangen i Innlandet. De er ivrige brukere av «My AI», og mamma, Juliana Myra, har åpen dialog med barna om ny teknologi.

– Vi ser at det er problematisk med reklame rettet mot barn. Jentene har ved flere anledninger spurt «My AI» om forslag til både middag og lunsj, men aldri opplevd at det de har fått forslag om verken usunne valg eller spesifikke matvarer eller produkter, sier mamma Myra til TV 2.

Hun er bekymret over hvilke informasjon og data som lagres og brukes til reklame.

– Barn bør beskyttes mot denne type markedsføring. Det gjelder ikke bare Snapchat, men også andre type sosiale medium, sier hun.

FØLGER MED: Juliane Myra sier hun følger godt med på hvordan døtrene bruker sosiale medier. Foto: Ditlev Eidsmo / TV 2
FØLGER MED: Juliane Myra sier hun følger godt med på hvordan døtrene bruker sosiale medier. Foto: Ditlev Eidsmo / TV 2

Hun opplever markedsføring på TikTok som mer oppslukende.

– Reklamens makt er stor, men jeg har lite erfaring med at «My AI» bruker denne type reklame, og jeg ser heller ikke at dette er verstingen, sier Myra til TV 2.

Dette sier markedsføringsloven:

Det er ikke et generelt forbud mot å rette markedsføring til barn, men loven gir barn under 18 år et særlig vern mot markedsføring.

Det er det forbudt å rette direkte kjøpsoppfordringer til barn i reklamen, typisk «løp og kjøp». Loven har også et tydelig forbud mot skjult reklame.

Det kan være vanskeligere for barn å forstå hva som er markedsføring, spesielt når reklamen blandes med underholdning eller lek. I slike tilfeller er det viktig å være ekstra tydelig på hva som er reklame, i et språk som barn forstår.

Næringsdrivende må vise en spesiell varsomhet når de reklamerer på plattformer hvor barn og unge ferdes, selv om barna ikke er den tiltenkte målgruppen for reklamen.

Kilde: Forbrukertilsynet

– Ny form for påvirkning

Forbrukertilsynet har så langt ikke vurdert «My AI» etter reglene i markedsføringsloven.

– Men vi er kjent med at det har kommet reaksjoner på denne, sier seksjonssjef Nina Elise Dietzel til TV 2.

Ifølge henne begynner barn å bli godt kjent med «tradisjonelle» påvirkere, og at disse har stor påvirkningskraft gjennom sine kanaler.

Forbrukertilsynet ser at tjenesten «My AI» innebærer en ny form for påvirkning.

– Den presenterer seg som en venn som bryr seg om deg, og kan fort bli en som barna betror seg til og stoler på. Dialogen er også umiddelbar og foregår i et lukket rom, noe som kan forsterke effekten av det som blir sagt eller anbefalt fra «My AI», sier Dietzel.

MER FOKUS: Nina Elise Dietzel sier Forbrukertilsynet kommer til å ha oppmerksomhet på problemstillinger rundt bruk av AI og markedsføring fremover. Foto: Dag Jenssen / Forbrukertilsynet
MER FOKUS: Nina Elise Dietzel sier Forbrukertilsynet kommer til å ha oppmerksomhet på problemstillinger rundt bruk av AI og markedsføring fremover. Foto: Dag Jenssen / Forbrukertilsynet

Kan manipulere

Ifølge Datatilsynet har flere land i Europa startet undersøkelser og tilsyn av ChatGPT – en tjeneste i likhet med Snapchats «My AI».

Norge har valgt å ikke åpne egen sak, men bistår i arbeidet med europeiske kolleger.

– Det gir oss mulighet til å trekke på andres kunnskap, erfaringer og vurderinger av denne typen teknologi. Det kan bli aktuelt å åpne egne undersøkelser av tjenester som tilbyr dette på et senere tidspunkt, sier juridisk seniorrådgiver Trine Smedbold.

Datatilsynet har ikke informasjon om behandlingen av personopplysninger utover det Snapchat selv skriver, men svarer på et generelt grunnlag.

INGEN TILSYN: Trine Smedbold i Datatilsynet sier de ikke har hatt noen tilsynssaker som gjelder «My AI» på Snapchat, og de kan derfor ikke konkludere om personvernet er ivaretatt eller ikke. Foto: Ilja C. Hendel
INGEN TILSYN: Trine Smedbold i Datatilsynet sier de ikke har hatt noen tilsynssaker som gjelder «My AI» på Snapchat, og de kan derfor ikke konkludere om personvernet er ivaretatt eller ikke. Foto: Ilja C. Hendel

– Ettersom innholdet i chatboten kan brukes til å tilpasse annonser og innhold, kan slike tjenester potensielt brukes manipulativt. Dette er særlig kritisk for barn og andre sårbare grupper som ikke nødvendigvis forstår dette, sier Smedbold til TV 2.

Tidlig fase

Snapchat skriver til TV 2 at de jobber kontinuerlig for å tritt med lokale retningslinjer og krav.

– Ettersom utviklingen av kunstig intelligens går raskt, vil vi fortsette å tilpasse oss for å overholde lokale juridiske krav.

Ifølge Snapchat er de i en tidlig fase av å teste annonser i samtale med «My AI».

– Vi er forpliktet til å skape positive og alderstilpassede opplevelser for alle brukerne våre. Vi implementerer et nytt alderssignal ved å bruke en Snap-brukerens fødselsdato, slik at chatboten konsekvent vil ta hensyn til alderen deres, skriver Snapchat.

KAN FØLGE MED: Snapchat sier at de har lagt til utvidet sikkerhetstiltak for å hjelpe «My AI» med å gi alderstilpassede svar og vil koble den til familiesenteret deres, slik at foreldre kan følge med på hvordan barna bruker appen. Foto: Frode Sunde / TV 2
KAN FØLGE MED: Snapchat sier at de har lagt til utvidet sikkerhetstiltak for å hjelpe «My AI» med å gi alderstilpassede svar og vil koble den til familiesenteret deres, slik at foreldre kan følge med på hvordan barna bruker appen. Foto: Frode Sunde / TV 2

Ber regjeringen komme på banen

Barnevakten mener norske myndigheter må innføre reguleringer og tilsyn av kunstig intelligens, særlig overfor barn og unge.

– For å trygge barn og unge og grunnleggende samfunnsverdier, kan vi ikke bare vente på at EU skal gjøre tenkejobben for oss. Den norske regjeringen må på eget grunnlag sikre at barn er trygge i møte med kunstig intelligens, sier faglig leder Kjellaug Tonheim Tønnesen.