AI-virksomheden Anthropic kommer med en dyster advarsel.

I et prospekt forud for børsnotering, advarer virksomheden efter sigende formelt deres investorer om, at deres teknologi kan udgøre 'eksistentielle risici for menneskeheden.'

Det skriver Financial Times og Reuters. 

I prospektet skulle Anthropic gennemgå flere risici forbundet med deres teknologi.

Det tæller ifølge Reuters blandt andet forsøg på at 'modstå nedlukning,' 'skjule eller manipulere information' og adfærd, der synes at ligne 'afpresning.'

'Vores udvikling af meget avancerede modeller, platforme og applikationer samt udvidelse af brugsmønster kan yderligere øge risikoen for, at vores modeller forårsager skade,' står der ifølge Reuters i prospektet.

Advarslen falder efter, at Anthropics administrerende direktør, Dario Amodei, ved FN's Sikkerhedsråd advarede om risiciene forbundet med brugen af kunstig intelligens.

»Hvis det håndteres dårligt, tror jeg endda, at kunstig intelligens kan udgøre en risiko for menneskeheden som helhed,« sagde han dengang. 

Sikkerhedsforsker ved Anthropic har desuden tidligere estimeret, at der er en sandsynlighed på mere end 10 procent, at AI inden for det næste årti kan slå mennesker ihjel.