Sporene barn legger igjen bekymrer ekspert

Samtalene med «My AI» på Snapchat blir oppbevart, og de kan brukes for å forbedre Snapchat sine produkter og personliggjøre opplevelsen, inkludert annonser.

Stiftelsen Barnevakten sier barn legger igjen mange spor i samtaler med den virtuelle vennen på Snapchat.

– Nå kan disse sporene brukes til å vise barna skreddersydd reklame. Derfor blir «My AI», en som virker som en venn, i praksis en reklamemaskin og en påvirker.

Det sier rådgiver og faglig leder Kjellaug Tonheim Tønnesen i Barnevakten.no.

Er bekymret for utviklingen

Selv om Snapchat har 13-års aldersgrense, brukes tjenesten også av langt yngre barn.

Barnevakten er bekymret for hvordan «My AI» påvirker barna.

– Man kan mene at dette ikke er verre enn hva Google driver med. Søker du etter «sykkel», vises det til tider et hav av reklame overalt i etterkant, sier Tønnesen.

Hun poengterer at man kanskje har et annet forhold til «My AI» enn for eksempel Google.

– Inne i «My AI», som føles ut som en venn, kan det hende at barn og unge i større grad har garden nede når reklamene vises og løsninger foreslås. Derfor får reklamene større effekt, sier Tønnesen til TV 2.

Mor bekymret

Tvillingsøstrene Madelen og Martine er tolv år gamle og bor i det lille tettstedet Tangen i Innlandet. De er ivrige brukere av «My AI», og mamma, Juliana Myra, har åpen dialog med barna om ny teknologi.

– Vi ser at det er problematisk med reklame rettet mot barn. Jentene har ved flere anledninger spurt «My AI» om forslag til både middag og lunsj, men aldri opplevd at det de har fått forslag om verken usunne valg eller spesifikke matvarer eller produkter, sier mamma Myra til TV 2.

Hun er bekymret over hvilke informasjon og data som lagres og brukes til reklame.

– Barn bør beskyttes mot denne type markedsføring. Det gjelder ikke bare Snapchat, men også andre type sosiale medium, sier hun.

Hun opplever markedsføring på TikTok som mer oppslukende.

– Reklamens makt er stor, men jeg har lite erfaring med at «My AI» bruker denne type reklame, og jeg ser heller ikke at dette er verstingen, sier Myra til TV 2.

– Ny form for påvirkning

Forbrukertilsynet har så langt ikke vurdert «My AI» etter reglene i markedsføringsloven.

– Men vi er kjent med at det har kommet reaksjoner på denne, sier seksjonssjef Nina Elise Dietzel til TV 2.

Ifølge henne begynner barn å bli godt kjent med «tradisjonelle» påvirkere, og at disse har stor påvirkningskraft gjennom sine kanaler.

Forbrukertilsynet ser at tjenesten «My AI» innebærer en ny form for påvirkning.

– Den presenterer seg som en venn som bryr seg om deg, og kan fort bli en som barna betror seg til og stoler på. Dialogen er også umiddelbar og foregår i et lukket rom, noe som kan forsterke effekten av det som blir sagt eller anbefalt fra «My AI», sier Dietzel.

Kan manipulere

Ifølge Datatilsynet har flere land i Europa startet undersøkelser og tilsyn av ChatGPT – en tjeneste i likhet med Snapchats «My AI».

Norge har valgt å ikke åpne egen sak, men bistår i arbeidet med europeiske kolleger.

– Det gir oss mulighet til å trekke på andres kunnskap, erfaringer og vurderinger av denne typen teknologi. Det kan bli aktuelt å åpne egne undersøkelser av tjenester som tilbyr dette på et senere tidspunkt, sier juridisk seniorrådgiver Trine Smedbold.

Datatilsynet har ikke informasjon om behandlingen av personopplysninger utover det Snapchat selv skriver, men svarer på et generelt grunnlag.

– Ettersom innholdet i chatboten kan brukes til å tilpasse annonser og innhold, kan slike tjenester potensielt brukes manipulativt. Dette er særlig kritisk for barn og andre sårbare grupper som ikke nødvendigvis forstår dette, sier Smedbold til TV 2.

Tidlig fase

Snapchat skriver til TV 2 at de jobber kontinuerlig for å tritt med lokale retningslinjer og krav.

– Ettersom utviklingen av kunstig intelligens går raskt, vil vi fortsette å tilpasse oss for å overholde lokale juridiske krav.

Ifølge Snapchat er de i en tidlig fase av å teste annonser i samtale med «My AI».

– Vi er forpliktet til å skape positive og alderstilpassede opplevelser for alle brukerne våre. Vi implementerer et nytt alderssignal ved å bruke en Snap-brukerens fødselsdato, slik at chatboten konsekvent vil ta hensyn til alderen deres, skriver Snapchat.

Ber regjeringen komme på banen

Barnevakten mener norske myndigheter må innføre reguleringer og tilsyn av kunstig intelligens, særlig overfor barn og unge.

– For å trygge barn og unge og grunnleggende samfunnsverdier, kan vi ikke bare vente på at EU skal gjøre tenkejobben for oss. Den norske regjeringen må på eget grunnlag sikre at barn er trygge i møte med kunstig intelligens, sier faglig leder Kjellaug Tonheim Tønnesen.