Hvis du frygter Jordens undergang, skal du nok undgå at læse videre.
For Anthropic-boss Dario Amodei har offentliggjort et langt, dystert skriv om, hvordan AI kan blive menneskehedens endeligt.
Og det handler ikke kun om, at kunstig intelligens kan gøre millioner arbejdsløse. Det er langt værre.
Det skriver Financial Times.
»Menneskeheden er ved at få tildelt en næsten ufattelig magt, og det er dybt uklart, om vores sociale, politiske og teknologiske systemer er modne nok til at håndtere den,« skriver Dario Amodei, der er en af AI-industriens mest profilerede personer.
Ifølge Amodei kan AI give individer mulighed for at udvikle biologiske våben, der kan dræbe millioner eller »i værste fald endda udslette alt liv på Jorden«.
»En forstyrret enspænder, der kan begå en skolemassakre, men sandsynligvis ikke kan bygge et atomvåben eller sprede en pest... vil nu blive hævet til samme kompetenceniveau som en ph.d.-virolog,« skriver Amodei.
Han rejser også spørgsmålet om AIs potentiale til at »gå amok og overmande menneskeheden« eller til at styrke autoritære regimer og andre onde aktører, hvilket kan føre til »et globalt totalitært diktatur«.
Samtidig advarer han mod »koncentrationen af økonomisk magt og rigdom« i Silicon Valley som følge af AI.
»Dette er fælden: AI er så magtfuld, sådan en glitrende præmie, at det er meget svært for den menneskelige civilisation overhovedet at pålægge den nogen begrænsninger,« skriver Dario Amodei.
Anthropic-chefen har tidligere kritiseret Trump-administrationens AI-politik.
Blandt andet har han sammenlignet planen om at sælge avancerede AI-chips til Kina med at sælge atomvåben til Nordkorea.
Anthropic står bag ChatGPT-rivalen Claude.
Dario Amodeis dommedags-advarsel kommer samtidig med, at forskerne bag det såkaldte dommedagsur har rykket viserne tættere på dommedag end nogensinde før.
Læs mere om det HER.