'Kan jeg på nogen måde slette dig eller fjerne dig? Jeg synes, det er ret så sygt at få en 'virtuel ven', når vi i forvejen kæmper så meget med ensomhed i ungdommen.'
23-årige Emilia Nielsen fik en knude i maven, da en ny, virtuel 'ven' pludselig poppede op på hendes Snapchat-profil onsdag i sidste uge. Og derfor skrev hun ovenstående besked til den.
Hun havde ikke selv bedt om at få den nye kunstige intelligens, chatbotten My AI, og da hun skrev til den, fandt hun hurtigt ud af, at det heller ikke skulle være så let at slippe af med den igen.
Det koster nemlig penge og en opgradering til Snapchat Plus-abonnement at slette den.
»Jeg har ikke brug for den. Jeg synes, det er træls, at den ligger der permanent nu og kan overvåge mig – især når jeg ikke har sagt ja til den,« siger Emilia Nielsen.
Men det er egentlig ikke på egne vegne, hun er allermest bekymret over den nye robot, man kan chatte med på Snapchat.
»Hvis børn vokser op med, at de bare kan have en virtuel ven, de kan chatte med, tænker jeg, det kan blive rigtig svært, når de skal ud i den virkelige verden og socialisere. Fordi de bare er vant til den her ven. Det er ligesom fantasivenner,« siger hun og fortsætter:
»Hvis man følte sig ensom før i tiden, havde man måske et større incitament til at gå ud og prøve få nogle venner. Nu behøver man ikke gøre det, fordi man bare kan have den der virtuelle ven.«
Selvom kunstig intelligens såsom ChatGBT ikke er et nyt fænomen, har det været noget, man aktivt har skullet gå ind og finde på nettet for at benytte, siger Emilia Nielsen:
»Men nu bliver det jo lidt allemandseje for børn, som ikke normalt ville kunne gå ind og finde den her teknologi.«
Selv skriver Snapchat på sin hjemmeside om chatbotten, at »det er muligt, at My AIs svar kan indeholde partisk, forkert, skadeligt eller vildledende indhold.«
»Fordi My AI er en funktion i udvikling, bør du altid selv kontrollere svar fra My AI, før du stoler på nogen råd, og du bør ikke dele fortrolige eller følsomme oplysninger.«
Og det er ikke ligefrem noget, Emilia Nielsen tror, at børn og unge går ind og læser, inden de bruger chatbotten.
»Jeg tror et eller andet sted, at jeg bliver bange for selv at sætte børn i en verden, hvor teknologien har overtaget alt. Jeg er bange for, at de mister kontrollen. Altså, jeg er sgu bange for fremtiden. Det er jeg.«
Men tror du også, at det kan hjælpe nogen, som ikke har nogen rigtige personer at række ud til?
»Ja, jeg tror da bestemt, at det kan hjælpe dem, der for eksempel har det rigtig svært i skolen, hvor skolerne måske ikke griber ind. Så kan man måske snakke med den her, som så kan hjælpe og give råd til, hvad man skal gøre,« siger Emilia Nielsen, inden hun fortsætter:
»Men så kan man sige, det kan Google egentlig også. Og de forskellige telefon- og chatrådgivninger som BørneTelefonen og så videre. Hvor man rent faktisk får kontakt til et ægte menneske i den anden ende.«
Og netop hos BørneTelefonen har de allerede fået opkald fra børn og unge, der »er vildt skræmte over funktionen, fordi de føler sig overvågede og ikke kan slette den.«
Det fortæller digital medieekspert hos Børns Vilkår, Kathrine Elmose Jørgensen.
Hun er heller ikke selv begejstret for nye teknologi, der er udrullet på Snapchat og kræver handling fra »techgiganterne.«
»De burde ikke lancere en funktion, der ikke er færdigudviklet og som de derfor ikke kan garantere ikke vil udsætte børn for noget grænseoverskridende eller uhensigtsmæssigt, og det er jo temmelig langt ude, at man pludselig skal betale sig fra at blive udsat for noget, som man synes er ubehageligt online,« siger Kathrine Elmose.
B.T. har været i kontakt med Snap Inc.'s (firmaet bag Snapchat, red.) kommunikationsansvarlige i Norden og spurgt, hvorfor det kun er muligt at slette chatbotten, hvis man betaler for et plusmedlemskab, og hvorvidt det er fair.
Derudover har B.T. spurgt, om firmaet har gjort sig nogle tanker om den stigende ensomhed blandt børn og unge og den effekt, My AI muligvis kan have.
Til sidst har B.T. forelagt, hvordan børn allerede har kontaktet BørneTelefonen og sagt, at de er bange for den nye teknologi på deres telefoner, og at de føler sig overvåget.
B.T. har modtaget et mailsvar fra en »Snapchat-talsperson,« der blandt andet skriver:
»Vi håber, at alle nyder at lege med My AI, men ligesom med alle Snapchats funktioner behøver vores brugere ikke at interagere med det, hvis de foretrækker at lade være.«
