Hvis du har lagt mærke til underligt indhold på din Facebook-profil med kendisser, der ser dukkeagtige ud, falske historiske begivenheder eller opslag med generisk indretningsinspiration, er du ikke den eneste.
Ekspert forklarer det sådan her:
»Det er en tsunami, der kommer ind over os. Man kan også kalde det digital forurening.«
Ordene kommer fra professor i kommunikation og digital transformation fra CBS, Mikkel Flyverbom, som påpeger, de underlige opslag ikke altid er helt ufarlige.
Han kender i høj grad til fænomenet fra det sociale medie X, hvor der blandt andet kommer indhold lavet af AI-værktøjet Grok. Et værktøj, X-ejer Elon Musk står bag, og som giver brugeren meget vide grænser for, hvad de kan producere.
»Helt overordnet kan man sige, at vi er gået ind i en fase, hvor det er blevet så nemt og uden de store økonomiske omkostninger at lave de her AI-genererede opslag, så man oplever en stor stigning i det indhold.«
»De problematikker, der følger med det AI-genererede indhold, er ret voldsomme,« siger Flyverbom.
For eksempel at tilliden mennesker imellem mindskes. Det gælder til myndigheder, politikere og også i de nære relationer.
Foruden risikoen for tilliden, er der også kriminelle scam-numre, der er påvirkning af mennesker ved eksempelvis valg, og der er al den falske information, som spredes.
»Faktisk undrer det mig, at firmaerne bag de sociale medier ikke er gået mere op i det her. Jeg vil mene, det er dem, der står først for, når det kommer til at tage skade,« siger Mikkel Flyverbom.
»Hvis folk oplever, at det hele er snyd og fup på Facebook, søger de jo bare andre steder hen.«
Hos Meta, selskabet bag Facebook og Instagram, erkender man nu, at noget skal gøres.
De arbejder på 'at fjerne og reducere spredningen af spam-lignende indhold for at sikre en positiv brugeroplevelse', lyder det fra Meta-talsperson Erin Logan ifølge det amerikanske medie CNN.
De vil give brugere kontrol over eget feed og opfordre AI-skabere til at lave højkvalitetsindhold, som lever op til sociale meide-krav.
Derudover sætter de ind overfor dem, der laver trafik med falsk indhold. Hvad end det er AI-lavet eller ej.
»I Danmark er vores tillid noget, vi værner meget om, men den her slags indhold kan gå ind og ændre vores måde at forholde os til verden på.«
Han forklarer, at det kan ramme høj som lav på forskellige måder.
»Det kan være unge kvinder, som bliver offer for deepfake porn, hvor deres ansigt sættes kunstigt ind i en video, og det kan være ældre, som bliver snydt af nogen, der udgiver sig for at være fra deres bank eller myndighederne for så at få udlevere store summer penge eksempelvis.«
På Georgetown og Stanford Universities i USA har man undersøgt 100 konti, som poster meget AI-genereret indhold.
Her fandt de, at en stor del netop var scams eller spam-indhold, men der var også nogle, der bare ophobede interaktioner og følgere. Det skriver det amerikanske medie NPR.
Selvom man ikke kender kræfterne bag, så kan sådanne konti bruges til på et senere tidspunkt at få en økonomisk gevinst ved at lede brugere til sites med reklamer eller til at påvirke deres politiske niveau.
Til CNN forklarer ekspert i AI, David Evan Harris, der har arbejdet med ansvarlig AI for Meta, at det er svært at spotte dem med dårlige intentioner.
En konto kan dele en masse uskyldigt indhold for at slippe forbi algoritmerne, men så en enkelt gang imellem poste noget – eventuelt AI-genereret -falsk information om en politiker op til et valg.
I artiklen fra det amerikanske medie kan man også læse, at indholdet ofte kommer fra sider, brugeren ikke følger. Så det kan man som almindelig bruger blandt andet være opmærksom på, når man vil spotte synderne.
Det AI-genererede eller spamagtige indhold kan nemlig være svært at genkende.
For at sikre sig, er der dog enkelte greb, man kan bruge. Heriblandt omvendt billedsøgning.
På bladet Digital foto lyder det desuden, at mennesker, hvis hud mærkeligt glat ud, også skal sætte alarmer i gang.
Desuden er der noget med billedkvaliteten, hvor man eksempelvis kan lægge mærke til, om ansigtsudtryk er udeladt i historiske billeder, eller at begivenheden afbilledet ikke kan være sand.
Fra Metas side lover man, at de i år kommer med en mærkning af AI-genereret indhold.
I den seneste udgave af B.T.s podcast Spar Kassen fortæller 'Løvens Hule'-investor Louise Herping Ellegaard om sin vilde rejse mod at blive millionær.
Lyt hos Apple Podcast, Spotify eller ved at trykke play herunder.