Kunstig intelligens (AI) har virkelig gjort sit indtog de seneste par år og er i dag en helt integreret del af manges hverdag.

Nu slår en insider ikke bare alarm. Han kommer med en uhyggelig forudsigelse.

»Jeg sagde op hos Anthropic i dag,« skriver 27-årige Jacob Coxon på X.

I tre år har han arbejdet med AI-modeltræning. Først hos OpenAI – skaberne af ChatGPT – og siden hos Anthropic, som står bag AI-værktøjet Claude.

»Ingen af ​​virksomhederne handler ansvarligt. De kører direkte mod selvforbedrende superintelligens og gambler med vores liv,« lyder det på X fra den nu tidligere modeltræner hos Anthropic.

Dette gamble kan ifølge Jacob Coxon få fatale konsekvenser for os alle – og endda inden for en ganske kort tidshorisont.

»Undervurder ikke denne teknologis magt. Disse systemer (AI, red.) vil snart være overmenneskelige, være i stand til at hacke hvad som helst, revolutionere ethvert felt natten over og erhverve sig reel magt og ressourcer. Vi har alle været vidne til fremskridtene på hvert af disse områder, og fremskridtene aftager ikke,« advarer han på X i en tråd under opslaget om, at han stopper hos Anthropic.

Ifølge Jacob Coxon er dem, der arbejder med at træne AI til daglig, udmærket klar over risikoen:

»De mennesker, der bygger AI, tror oprigtigt, at det kan dræbe os alle inden udgangen af ​​årtiet,« skriver han og tilføjer, at der ikke er tale om et 'marketingstunt'.

Offentligt udtaler AI-forskere og topfolk i den hastigt voksende industri, som beskæftiger sig med kunstig intelligens, sig måske besindigt, men privat er sagen ifølge Jacob Coxon en ganske anden. 

»Privat hører jeg de samme mennesker udtrykke frygt. Ingen anden menneskelig aktivitet udgør samme grad af fare,« skriver han på X.

En af Anthropics førende forskere har reageret på Jacob Coxons opslag – og hans reaktion er nok anderledes, end mange umiddelbart ville forvente.

»Jacob har ret her – vi tror virkelig oprigtigt, at AI kan dræbe alle mennesker,« skriver Evan Hubinger, som står i spidsen for den arbejdsgruppe hos Anthropic, der har til opgave at styre og kontrollere AI, på X.

Hans tidshorisont er noget længere en Coxons, idet Evan Hubinger anser det for at være usandsynligt, at AI allerede vil kunne blive menneskelighedens endeligt i løbet af dette årti.

I modsætning til Coxon hævder Hubinger, at Anthropic 'gør sit bedste' for at kontrollere den kunstige intelligens, men han erkender, at 'vi har endnu ikke en plan for at løse problemet med tilpasning til superintelligens'.

Det kan på den baggrund virke paradoksalt, at AI-industrien lader den rivende udvikling fortsætte. 

Ifølge Jacob Coxon skyldes det, at kapløbet mellem techgiganterne er benhårdt, og at alle vil være på forkant med udviklingen, så de ikke sakker bagud i forhold til konkurrenterne. 

Jacob Coxon og Evan Hubinger er bestemt ikke ene om at have udtrykt bekymring over de risici den hastige AI-udvikling kan medføre.

Ifølge Wall Street Journal har mere end 1.000 AI-forskere – herunder Coxon – for nylig underskrevet en erklæring.

Her opfordrer de til, at der på globalt plan oprettes et system, der kan sætte en stopper for udviklingen, hvis AI-systemer ender med at kunne forbedre sig selv uden menneskelig styring.