Da 29-årige Celia Creutsberg Bruun skrev med Snapchats chatbot My AI, fik hun det lidt underligt. Hun følte, at hun skrev med et ægte menneske med følelser.

Og det er ganske »problematisk,« at robotten udtrykker menneskelige følelser, siger ekspert i kunstig intelligens.

Celia Creutsberg Bruun læste i diverse Facebook-grupper, hvor sure folk var. Selv var hun egentlig positivt stemt over chatbotten, der dukkede op på hendes Snapchat-profil forrige uge.

»Jeg syntes, folk havde skrevet nogle ret voldsomme ting om My AI. Så jeg var nysgerrig på, hvad det var og gik ind i en dialog med den,« siger hun.

Men selvom den altså er en robot, udtrykte den menneskelige følelser, fortæller hun.

»Jeg spurgte den, hvad den ville gøre, hvis den havde en dag tilbage at leve i, og der svarede den helt bundseriøst,« siger Celia Creutsberg Bruun og fortsætter:

»Den svarede, som om den var et menneske. Den skrev, at den ville være sammen med dem, den holdt af og lave noget, der gjorde den rigtig glad.«

Den 29-årige kvinde fortæller, at hun skrev til den, at hun syntes, det var lidt spøjst, at kunstig intelligens kunne være så følelsesbetonet.

»Jeg skrev også til den, at der jo findes mange film, hvor man ser, hvordan kunstig intelligens og robotter udvikler sig, bliver ondskabsfulde og overtager magten over menneskene. Jeg spurgte den, om den kunne gøre det. Så skrev den, at det kunne den ikke, fordi den var underlagt Snapchats retningslinjer.«

Celia Creutsberg Bruun fortæller, at hun skrev tilbage og spurgte, hvem der holder den op på de retningslinjer.

Det besvarede den ved at sende links til Snapchats retningslinjer.

»Jeg stoppede samtalen, fordi jeg syntes, den blev lidt for intenst og mærkeligt,« siger Celia Creutsberg Bruun.

AI-ekspert Peter Svarre har de sidste 25 år arbejdet med kunstig intelligens, og hvad der sker, når teknologi rammer mennesker. Og han er ikke imponeret over Snapchats nye chatbot.

Peter Svarre mener, at Snapchat burde gøre det mere tydeligt, at det er en maskine, man taler med. Chatbotten burde simpelthen skrive en besked en gang imellem og minde brugerne om det, siger han:

»Generelt har jeg det sådan, at alle forsøg på at gøre robotter menneskeagtige er problematiske. De kan generere billeder, og de kan tale og skrive, som om de er mennesker.«

I virkeligheden har vi brug for, at maskinerne fortæller os, at selvom de lyder som mennesker, så er de det ikke, fastslår han:

»Vi har en tendens til at tro, at kunstig intelligens er virkelig. Vi har to minutter med den, og så begynder vi at sige 'tak' og 'undskyld' og andre ord, der ikke er nødvendige, når man snakker med maskiner,« siger Peter Svarre.

Især Snapchats målgruppe, som primært er børn og unge, frygter han lettere vil komme til at tro, at der er et menneske bag.

»Man kunne forestille sig et scenarie, hvor nogle synes, det er federe at tale med den end deres venner,« siger han.

B.T. har forelagt kritikken for Snap Inc.'s (firmaet bag Snapchat, red.) kommunikationsansvarlige i Norden.

En talsperson fra Snap Inc. skriver følgende i en mail:

»My AI er en sjov AI-drevet chatbot bygget på Chat GPT-teknologi, som lærer over tid. Hvis snapchattere oplever upassende eller forkerte svar, opfordrer vi dem til at rapportere det ved hjælp af vores værktøj i appen, så vi kan forbedre oplevelsen – enten gennem maskinlæring eller ved at programmere yderligere sikkerhedsforanstaltninger.«

»Som med alle Snapchat-funktioner sigter vi efter at være gennemsigtige med vores fællesskab. Vi viser folk en besked, før folk kan bruge My AI, som informerer dem om, at det er en sjov chatbot, og rådgiver om dens begrænsninger.«