Den seneste måned har AI-topbosser stået i kø for at advare om, at kunstig intelligens udvikles så hurtigt, at det risikerer at løbe løbsk.

Nu kommer endnu en topchef med et opråb, og han opfordrer til at implementere en »nødbremse«.

Denne gang er det Microsofts administrerende direktør, Satya Nadella, der i et opslag på X stemmer i.

For ifølge topbossen bør de avancerede AI-modeller bygges inden for begrænsede rammer, hvor en autoriseret person har magten til at trykke på den røde knap og lukke ned, hvis modellen bliver ukontrollerbar:

»Vi må gå ud fra, at en model er kompromitteret og begrænse den fra begyndelsen af. Tænk på det som en nødbremse,« skriver han.

Desuden lyder det, at det skal være muligt for mennesker at følge med i, hvad den kunstige intelligens rent faktisk foretager sig: 

»Enhver meningsfuld handling i en model skal efterlade et forfalskningssikkert og menneskeligt læsbart bevis. Hvis det ikke kan observeres, kan man ikke stole på det! Vi skal kunne genskabe, hvordan et resultat blev opnået, uden at være afhængige af, at modellen bekræfter det,« skriver Satya Nadella videre.

Microsoft-bossens opfordring kommer, efter en række AI-ledere den seneste måned har råbt op om risikoen ved kunstig intelligens.

Blandt andet har Open AI-direktøren, Sam Altman, og milliardæren Elon Musk opfordret til at sænke tempoet i udviklingen af AI.

Det skete, efter forskeren Jacob Coxen fra AI-virksomheden Anthropic i protest opsagde sin stilling, fordi han frygtede, at kunstig intelligens 'kan udrydde os alle inden udgangen af dette årti.'

Læs mere om det HER.