Kunstig intelligens (AI) kan udgøre en direkte trussel mod Kinas kommunistiske partis magtposition.

Sådan lyder det fra Chen Yixin, chef for Kinas Ministerium for Statssikkerhed, ifølge The New York Times. Avisen citerer det kinesiske magasin China Cyberspace.

Advarslen kommer, efter at debatten om kunstig intelligens de seneste dage har eskaleret. 

Yixin opfordrer til øget kontrol med kunstig intelligens fra partiets side og strengere tilsyn fra regeringens side. 

»Det handler om at tage disse nye, kraftfulde værktøjer alvorligt og indse, at der er mange sårbarheder, og at Kina er nødt til at handle hurtigere,« siger Chen Yixin ifølge mediet.

Ifølge sikkerhedschefen kan kunstig intelligens udgøre en trussel mod Kina på flere måder, som han opremser over for mediet. 

Nemlig underminering af kommunistpartiets sikkerhed, angreb på Kinas kritiske infrastruktur, lækage af følsomme oplysninger og mere intens militær konkurrence.

Debatten blev for alvor sat i gang af advarsler fra to Anthropic-ansatte om, at teknologien kan udgøre en trussel mod menneskeheden.

Lørdag skrev Anthropics topchef, Dario Amodei, at det er afgørende at træde på bremsen for ikke at risikere, at systemerne løber løbsk.

Og søndag bakkede OpenAI's topchef, Sam Altman, og xAI's topchef, Elon Musk, op om opfordringerne til at sætte farten ned i AI-udviklingen.

Anthropic-topchefen Amodei er i et indlæg på sin hjemmeside kommet med en tretrinsplan.

Han ønsker uafhængige tilsynsfolk i de førende AI-virksomheder, koordinering mellem virksomhederne om sikkerhedsstandarder og grænser for udviklingen samt internationalt samarbejde om at håndtere risici ved teknologien.

Tidligere på ugen meddelte AI-forskeren Jacob Coxon, at han havde opsagt sin stilling hos Anthropic. Som begrundelse for sin opsigelse sagde han, at »de mennesker, der bygger AI, oprigtigt tror, at det kan dræbe os allesammen inden slutningen af årtiet«.

Amodei nævner lørdag i sit indlæg flere måder, hvordan AI kan være farligt for mennesker.

Han mener blandt andet, at brug af AI til udvikling af biologiske våben bør forbydes, og han fremhæver også faren for, at autokratiske lande vil bruge kunstig intelligens militært. 

Generelt peger han også på risikoen for tab af menneskelig kontrol med AI-systemer, der kan forbedre sig selv.