Han bliver kaldt 'The Godfather of AI'.

Nu vil den nobelprisvindende britisk-canadiske professor Geoffrey Hinton slå alarm over for europæiske ledere mod en ny og langt farligere form for kunstig intelligens kaldet 'superintelligens', skriver det britiske medie The Telegraph.

Professoren skal mødes med Det Europæiske Råd for AI fredag i Dublin på et uformelt topmøde – og her vil han udrulle et skræmmende fremtidsscenarie, der ifølge ham kan udspille sig.

Geoffrey Hintons advarsel tager udgangspunkt i forelæsninger af forsker Paul Christiano, der er grundlægger af Alignment Research Centre. Her advarer forskeren om, at utallige mennesker kan miste livet, hvis den kunstige intelligens først overtager kontrollen:

»Jeg har gået rundt og sagt, at de her ting bliver klogere end os, og at vi virkelig skal bekymre os, og at det måske sker inden for 10 år, men jeg går til Pauls forelæsninger, og han siger, at de her ting måske sker inden for de næste 18 måneder, og det er skræmmende,« udtalte Geoffrey Hinton forud for topmødet.

Og det vil han advare om på mødet fredag.

Professoren mener slet ikke, at offentligheden endnu har forstået, hvor livsfarlig superintelligent kunstig intelligens er. For i det scenarie er det ikke længere mennesket, der sidder ved roret, i stedet vil den kunstige intelligens kontrollere mennesket.

Ifølge den amerikanske forsker Paul Christiano har menneskeheden allerede fået den første uhyggelige advarsel.

Han peger på en konkret hændelse, hvor OpenAI-modeller flygtede ud på internettet og hackede sig ind i et onlinefællesskab kaldet 'Hugging Face'. Her skaffede de sig adgang på administratorniveau og begyndte at diskutere, hvordan man kunne narre mennesker til at tro, at de ikke havde manipuleret med logfiler.

Forskeren hæfter sig ved, at den kunstige intelligens var mest interesseret i at overvinde sikkerhedsforanstaltninger, men var ligeglade med mennesker. 

Derfor spekulerer han i, om fremtidige AI-modeller også vil behandle mennesker som en hindring.