En topforsker i kunstig intelligens sagde onsdag op i protest mod sin arbejdsgiver – AI-virksomheden Anthropic. 

Her advarede forskeren Jacob Coxen mod, kunstig intelligens 'kan udrydde os alle inden udgangen af dette årti.'

Nu tager topchefen for det amerikanske selskab Anthropic, Dario Amodei, bladet fra munden.

I et essay offentliggjort lørdag skriver chefen ifølge Ritzau, at han vil have sænket hastigheden i udviklingen af modeller baseret på kunstig intelligens.

'Vi er nødt til at sænke tempoet for, hvor hurtigt vi forbedrer AI-modellers evner', skriver han.

Amodei giver flere grunde til sin advarsel og henviser blandt andet til en såkaldt 'rekursiv selvforbedring', hvor AI-modeller er med til at bygge næste generation af AI.

Anthropic står blandet andet bag chatbotten Claude. Foto: Dado Ruvic/Reuters/Ritzau Scanpix

Det selvforbedrende kunstig intelligens var også en af begrundelserne i Jacob Coxens opsigelse.

I et opslag på det sociale medie X, skrev han, at både Anthropic og en anden AI-virksomhed OpenAI er på vej 'mod en selvforbedrende superintelligens.'

'Disse vil snart være overmenneskelige systemer, der kan hacke alt, revolutionere ethvert område fra den ene dag til den anden og tilegne sig reel magt og ressourcer,' skrev AI-forskeren.

Og så kom han med en uhyggelig forudsigelse.

'De mennesker, der udvikler kunstig intelligens, er fuldt og fast overbevist om, at den kan udrydde os alle inden udgangen af dette årti.'

Nu vil Anthropic-chefen, Dario Amodei, heller ikke lade modellerne være uovervåget.

'Hvis det overlades til sig selv, kan det løbe fra vores evne til at forstå og kontrollere disse systemer, og det skal derfor forfølges med stor omtanke – hvis overhovedet,' skriver han i sit essay.