I et kvart århundrede har Peter Svarre beskæftiget sig professionelt med, hvad der sker, når teknologi rammer mennesker.
Og da han sidste uge så en ny virtuel 'ven' dukke op hos alle Snapchat-brugere, blev han bekymret.
»Jeg er far til to børn på seks og ni år, og de bruger Snapchat en gang imellem og leger med filtrene på egen hånd. Men med den her nye chatbot vil jeg ikke overlade appen til dem,« siger Peter Svarre.
Chatbotten, som Peter Svarre snakker om, hedder My AI og er udstyret med kunstig intelligens. Og den er altså ifølge Snapchat selv stadig »i udvikling«, ligesom »dens svar kan indeholde partisk, forkert, skadeligt eller vildledende indhold«, som skriver Snapchat på sin hjemmeside.
Det er blandt nogle af grundene til Peter Svarres bekymring. Og han er ikke den eneste, der er bekymret.
Tirsdag fortalte 23-årige Emilia Nielsen, at hun er bange for, den nye chatbot kommer til at skabe mere ensomhed blandt børn og unge.
Og det er ikke usandsynligt, mener eksperten.
»Vi har en tendens til at tro, at kunstig intelligens er virkelig. Vi har to minutter med den, og så begynder vi at sige 'tak' og 'undskyld' og andre ord, der ikke er nødvendige, når man snakker med maskiner,« siger Peter Svarre.
Især Snapchats målgruppe, som primært er børn og unge, frygter han, lettere vil komme til at tro, at der er et menneske bag.
»Man kunne forestille sig et scenarie, hvor nogle synes, det er federe at tale med den end deres venner,« lyder det fra Peter Svarre, der til daglig arbejder som digital strateg med ekspertise i kunstig intelligens og er forfatter til bøgerne 'Hvad skal vi med mennesker?' og 'Digital etik'.
Han kan godt se ideen i, at man som tech-virksomhed kigger på den her teknologi og forsøger at henvende det til unge mennesker.
Men han synes, Snapchat burde gøre det mere tydeligt, at det er en maskine, man taler med.
Chatbotten burde skrive en besked en gang imellem og minde brugerne om det, siger han.
»Jeg synes ikke, Snapchat har gjort det godt nok. Det er problematisk, at de slipper ting løs, før de rigtig har sat sig ind i, hvad der kan ske,« siger han.
Peter Svarre mener altså, at det er alt for tidligt, chatbotten er blevet lanceret. Særligt fordi det er sket uden nogen ordentlig forklaring eller introduktion, siger han:
»Generelt har jeg det sådan, at alle forsøg på at gøre robotter menneskeagtige er problematiske. De kan generere billeder, og de kan tale og skrive, som om de er mennesker.«
I virkeligheden har vi brug for, at maskinerne fortæller os, at selvom de lyder som mennesker, så er de det ikke, fastslår han:
»Og for Guds skyld. Lad være med at putte billeder på dem, altså give dem et ansigt.«
I Peter Svarres seneste bog 'Digital etik' er der en lang række spørgsmål, som han mener, at Snapchat burde have stillet sig selv.
»Det havde gjort deres løsning mere ansvarlig og bedre. Det er ikke, fordi det er vanvittigt svært. Det er bare, fordi de her teknologivirksomheder løber så stærkt, at de glemmer at stille sig selv de der spørgsmål.«
Nogle af de spørgsmål, AI-eksperten mener, altid bør stilles, er blandt andet: 'Overholder dine automatiserede systemer lovgivning og menneskerettigheder? 'Er dit automatiserede system gennemsigtigt, så brugeren kan se maskinrummet?' 'Er nogen i virksomheden klar til at træde til, når automatiseringen fejler?'
B.T. har forelagt Peter Svarres kritik over for Snap Inc.'s (firmaet bag Snapchat, red.) kommunikationsansvarlige i Norden.
B.T. har blandt andet spurgt, hvorvidt virksomheden synes, det er okay at lancere en funktion til børn og unge, der stadig er under udvikling, og hvis svar kan indeholde »partisk, forkert, skadeligt eller vildledende indhold«.
Derudover har B.T. spurgt, om Snapchat mener, at virksomheden ofte og tydeligt gør det klart over for brugerne, at det er en maskine, de taler med.
Til sidst har B.T. forelagt virksomheden Peter Svarres kritik af, at Snapchat burde have stillet sig selv nogle etiske spørgsmål før lancering og spurgt, om man har taget stilling til nogle af disse spørgsmål inden.
En talsperson fra Snap Inc. skriver følgende i en mail:
»My AI er en sjov AI-drevet chatbot, bygget på Chat GPT-teknologi, som lærer over tid. Hvis snapchattere oplever upassende eller forkerte svar, opfordrer vi dem til at rapportere det ved hjælp af vores værktøj i appen, så vi kan forbedre oplevelsen – enten gennem maskinlæring eller ved at programmere yderligere sikkerhedsforanstaltninger.«
»Som med alle Snapchat-funktioner sigter vi efter at være gennemsigtige med vores fællesskab. Vi viser folk en besked, før folk kan bruge My AI, som informerer dem om, at det er en sjov chatbot, og rådgiver om dens begrænsninger.«
