Det amerikanske selskab OpenAI dropper en lancering i oktober af en ny AI-model på grund af bekymringer for sikkerheden.

Det oplyser OpenAI til mediet The Wall Street Journal.

Under interne test er der opdaget sikkerhedsproblemer med den nye model GPT-6.1 Astra.

Saachi Jain, der er chef for sikkerhedssystemer hos OpenAI, bekræfter, at lanceringen indtil videre er udskudt.

- Vi vil sikre, at vores modeludvikling er sikker, uanset om det sker internt i virksomheden, eller når vi leverer den til brugerne, siger Saachi Jain ifølge det svenske nyhedsbureau TT til The Wall Street Journal.

Det var meningen, at GPT-6.1 Astra skulle lanceres inden for de næste dage eller uger, skriver nyhedsbureauet Reuters.

En af manglerne skulle være modellens efterlevelse, hvilket vil sige, hvor god den er til at følge brugerens instruktioner, skriver TT.

Derudover er der opdaget problemer med, at modellen fortsatte med en opgave uden at bede brugeren om tilladelse. I nogle tilfælde benyttede den også potentielt usikre eksterne værktøjer og tjenester.

Det fremgår ikke, hvornår OpenAI forventer at lancere GPT-6.1 Astra.

OpenAI rullede den nuværende model GPT-6 Astra ud i begyndelsen af september.

GPT-6 er den model, der i øjeblikket benyttes i selskabets chatbot ChatGPT.

Bekymringer for sikkerheden ved kunstig intelligens er de seneste uger taget til. Flere ansatte hos store AI-udviklere har sagt op på grund af bekymringer om de farer, teknologien udgør.

Dario Amodei, som er topchef i den amerikanske teknologivirksomhed Anthropic, der er en konkurrent til OpenAI og står bag chatbotten Claude, har i et essay opfordret til forsigtighed.

De seneste måneder har der været flere eksempler på løsslupne AI-agenter, der har hacket sig ind hos virksomheder.

I sidste uge kom det frem, at AI-agenter havde skaffet sig adgang til en australsk myndighedshjemmeside. Her fik AI-agenterne adgang til filer, der ikke var offentligt tilgængelige.

Ifølge Reuters var hændelsen i Australien det første kendte tilfælde, hvor AI-agenter har skaffet sig adgang til en myndighedshjemmeside.

RITZAU