Med det tempo, som kunstig intelligens udvikler sig i, sætter vi alles liv på spil.

Det var den dybt alvorlige advarsel fra Jacob Coxon tidligere på ugen, da han meddelte, at han sagde sit job som forsker hos AI-virksomheden Anthropic op.

Siden da har flere techbosser meldt ud, at der er behov for at »sætte farten ned«, mens OpenAI-chef Sam Altman har opfordret USA og Kina, som er førende i AI-kapløbet, til at nå frem til en fælles aftale.

Coxons opsigelse og opsigtsvækkende advarsel er siden gået verden rundt.

Søndag fortæller han i et interview med BBC, at ansatte i AI-virksomheder er »oprigtigt bange« for den fart, som kunstig intelligens udvikler sig med.

»De mennesker, der arbejder i disse virksomheder, mener det helt alvorligt, når de efterspørger regulering, fordi de føler sig fanget i et kapløb. Og de frygter konsekvenserne af det kapløb,« siger Jacob Coxon til BBC.

Han fortæller samtidig, at flere af hans tidligere kolleger dagligt bekymrer sig om konsekvenserne af deres arbejde.

Andre skulle ifølge Coxon ligefrem have overvejet »at købe jord et eller andet sted«, fordi de frygter den ustabilitet, som de hastige fremskridt inden for kunstig intelligens kan føre med sig.

Efter Coxons opsigelse har flere fremtrædende stemmer i AI-industrien advaret om udviklingen.

Blandt dem er nobelprisvinder Geoffrey Hinton, der ofte bliver kaldt »Godfather of AI« (AIs gudfar, red.).

Til BBC har han sagt, at det »ikke er urimeligt« at anslå risikoen for, at kunstig intelligens ender med at slå alle mennesker ihjel, til 10 procent.