For nyligt beskrev South China Morning Post, hvordan den kinesiske stat har støttet brugen af hjerneovervågningsudstyr, der kan bygges direkte ind i de sikkerhedshjelme og hatte, som militærfolk, fabriksarbejdere og togførere anvender.

De data, som udstyret skaber, kan anvendes til at opfange forandringer i humøret, hvorved arbejdsgiverne bedre kan tilpasse arbejdsflowet, pauser og arbejdsopgaver for at forbedre produktiviteten og arbejdernes performance.

Det er også i Kina, at det nye Social Credit Score-system langsomt er ved at blive udrullet. Ved hjælp af masseovervågning, kunstig intelligens og ansigtsgenkendelse har man afprøvet et system i en provins, hvor flere millioner menneskers adfærd løbende er blevet vurderet, hvorved de tildeles eller fratrækkes point. Deres pointscore har så direkte indflydelse på, hvilke privilegier, de tildeles i samfundet. Eksempelvis fører en høj social score til, at man får højere båndbredde på ens internetforbindelse, adgang til lavere lånerenter, flere matches på datingsites, adgang til bedre skoler mm. Omvendt kan man med en lav score formenes adgang til indenrigsrejser med tog og fly, miste mulighed for forfremmelser, blive udstillet i offentlige gabestokke osv.

Omvendt har vi kunnet se i den anden ende af verden, at et firma som Cambridge Analytica ved hjælp af stjålne data fra Facebook har kunnet tjene styrtende med penge og efter alt at dømme har været stærkt medvirkende til at få Donald Trump til magten i USA. Samtidig med at Rusland – via de samme sociale medier – også påvirkede valget i USA. Senatshøringerne viste også, at ingen af senatorerne overhovedet formåede at kradse i overfladen hos Mark Zuckerberg, der reelt har langt mere magt, end de nogensinde vil kunne få.

Udviklingen i både øst og vest tyder på, at teknologi ikke længere kan betragtes som noget, der er neutralt. Vi kan ikke længere bare nøjes med at producere og sende teknologi ud i verden uden at tænke på, hvad det egentlig vil gøre ved mennesker. Det løb er ved at være kørt. Det er derfor på høje tide, at teknologiproducenter verden over begynder at få bygget nogle mere menneskelige principper ind i de produkter, de sender ud i verden. Ellers risikerer vi, at den rivende udvikling løber os over ende.

Og hvor er IT-branchens etiske råd, hvor man kan overveje de etiske konsekvenser af at producere bestemte teknologier? For skal man udvikle og sende teknologi ud i verden, bare fordi man kan? Kobler man eksempelvis minidroner med små sprængladninger sammen med kunstig intelligens, kan man udvikle dræberdroner, som ingen vil kunne forsvare sig imod. Det samme gør sig gældende for kunstig intelligens, der styrer våbensystemer. Eller genteknologi, der kan bruges til at lave designerbabyer fri for sygdomme og med tårnhøj intelligens.

På mange måder minder udviklingen i dag om noget, som vi tidligere i historien har oplevet. Nemlig, at de nationer, der først fik adgang til skibsfart, metal, krudt eller særlige våben klarede sig bedst. I dag er det teknologi, der bestemmer hvem, der klarer sig bedst.

Det store spørgsmål er, om den konkurrence overhovedet er en, som vi er interesseret i at være med i? Hvad er prisen for at være med helt fremme i det digitale kapløb? Hvad gør det ved os som samfund?

Nogle af konsekvenserne ses måske i nogle rekorder, som jeg for nyligt blev bekendt med, at vi har i Danmark: Vi er det land i verden, hvor flest småbørnsmødre er på arbejdsmarkedet. Det land, hvor flest børn bruger længst tid væk fra deres forældre i institutioner. Det land, der har den højeste skilsmissefrekvens. Samtidig har over 1 mio. danskere forhøjet stress niveau, 623.000 danskere har dårlig mental sundhed, hver 5. ung føler sig ensom – særligt unge kvinder.

Er det på tide, at vi sætter farten ned?