Den brittiske journalisten James O'Malley var på kultåget Peking-Shanghai förra månaden när han hörde ett oroande meddelande.

"Kära passagerare, människor som reser utan biljett, eller beter sig oordnat, eller rök i allmänna utrymmen, kommer att straffas enligt föreskrifter och beteendet kommer att registreras i individuella kreditupplysningssystem. För att undvika negativa personliga krediter, vänligen följ relevanta regler och hjälp med beställningar på tåget och på stationen."

Det var särskilt skrämmande för alla som var bekanta med George Orwells dystopiska klassiker, 1984 .

Verkligen, Det som störde James är Kinas brett diskuterade och hårt kritiserade sociala kreditsystem i Big Brother-stil. Men innan vi rycker till 1984 , låt oss få en mer omfattande översikt av systemet, inklusive några missförstådda eller mindre diskuterade aspekter.

Ett mått på trovärdighet

Systemet framställs av vissa medier som ett övervakningssystem för stora data som syftar till att övervaka, bedöma, och disciplinera medborgarnas sociala, politisk, och ekonomiskt beteende.

Det nämndes första gången 2014 i ett regeringsdokument (på kinesiska) utfärdat av statsrådet – det högsta verkställande organet för statsmakten i Folkrepubliken Kina. Dokumentet beskrev ett omnipotent socialt kreditsystem som skulle lanseras 2020, som syftar till att betygsätta allas "pålitlighet".

Den "kredit" som hänvisas till i det nervösa tågmeddelandet är översättningen av det kinesiska ordet "xinyong, ' som indikerar en persons ärlighet och pålitlighet.

Man tror att systemet innefattar en serie big data och AI-aktiverade processer som beräknar en individs beteende, från onlineköp till lydnad till trafiklagarna, betalning av räkningar i tid, eller ditt val av vänner.

Här är en dystopisk framtidsvision:Ett riktigt tillkännagivande som jag spelade in på kultåget Peking-Shanghai. (Jag har textat det så att du kan titta i tysthet.) pic.twitter.com/ZoRWtdcSMy

— James O'Malley (@Psythor) 29 oktober, 2018

Höga poäng ger sociala privilegier

Alla 1,35 miljarder kinesiska medborgare kommer att utsättas för systemet. Människor med höga poäng kommer att åtnjuta bättre sociala privilegier och ekonomiska fördelar. Låga poäng å andra sidan, kan få dig svartlistad från att komma åt vissa tjänster, som flyg eller tågresor – precis som James hörde på tåget.

Potentialen för missbruk och sannolikheten för felaktig hantering av personliga, privat data drar lätt till sig allmänhetens uppmärksamhet i dagens datakänsliga era.

Data i händerna på en auktoritär regering som Kina blir en självuppfyllande profetia, som livfullt illustrerar hur digital teknik hjälper auktoritära regimer att utöka sitt styre och upprätthålla sig själva genom att pressa sina medborgare att agera på vissa regeringsgodkända sätt (för högre sociala kreditpoäng i det här fallet).

Ett pågående arbete

Dock, många farhågor kring det sociala kreditsystemet är antingen felaktiga eller ensidiga.

För en sak, den kinesiska regeringen har ännu inte officiellt meddelat hur kreditsystemet kommer att fungera, Inklusive, förmodligen viktigast, hur algoritmisk kreditvärdering kommer att samlas och olika kvaliteter vägas mot varandra.

Vissa tenderar att överväga den högprofilerade "Sesame Credit" ("Zhima Xinyong" på kinesiska), ett privat kreditsystem som drivs av Ant Financial, ett företag knutet till den kinesiska e-handelsjätten Alibaba, som ett exempel på ett sådant massövervakningssystem.

Med sina 520 miljoner användare, Sesame Credit är säkerligen den nuvarande ledaren inom Kinas "sociala kredit"-industri. Fortfarande, det är i huvudsak att utvärdera inköpsvolym och priset på inköpta varor, snarare än innehållet i köpen. För att använda förklaringen från en Ant Financial taleskvinna, "Det är i grunden frekvensen som spelar roll, det är inte vad du köper som spelar roll."

Kokain eller kaka:systemet bryr sig inte om vad du köper

För att vara rakt på sak, Sesame Credit bryr sig inte om användaren köper kokain eller kaka; den vill helt enkelt sälja produkter. Din poäng kommer att öka så länge du köper något från Alibaba.

Som det visar sig, Sesame Credit är mer ett lojalitetsprogram än ett tillförlitligt mått på "xinyong" eller "kredit".

Att tro att Sesame Credit skulle fungera som en statligt godkänd "betaversion" av ett socialt kreditsystem riskerar att överdriva användningen av felaktig dataspårning och information för att ge belöningar och straff. Detta visar ytterligare på utmaningen att sammanställa nödvändiga och tillräckliga data som täcker alla aspekter av det sociala livet för att fungera som en användbar referens vid upprättandet av ett enda och panoptiskt system för sociala krediter i nationell skala.

För att använda Jamie Horsleys argument i Foreign Policy, "Kinas orwellska sociala kreditpoäng är inte verklig ... Det finns inget sådant som en nationell "social kreditpoäng".

Företag kommer också att betygsättas

Förutom de (negativa) politiska konsekvenserna av det pågående sociala kreditsystemet, vi bör också överväga de ekonomiska konsekvenserna av ett sådant system.

Enligt 2014 års regeringsdokument, ett av kreditsystemets initiativ är att betygsätta inte bara individer utan även organisationer och företag för att "främja ekonomisk tillväxt" och "ytterligare regeringens trovärdighet".

Den kinesiska regeringen har upplevt bristen på information om kommersiella krediter och konsumentkrediter under lång tid. People's Bank of China – centralbanken – driver landets enda officiella kreditvärderingssystem, och från och med 2017 betjänar den bara cirka 300 miljoner människor, eller mindre än 25 procent av den totala befolkningen i Kina.

Med andra ord, tre av fyra kinesiska medborgare saknar offentligt tillgängliga kredithistorik. Däremot, över 80 procent av den vuxna befolkningen i USA har en kreditpoäng, enligt Consumer Financial Protection Bureau's Office.

Systemet kan öka investeringar och upplåning

I nuvarande system, många kinesiska konsumenter – särskilt yngre generationer med högre köpkraft och konsumtionspotential – kämpar med att investera eller låna pengar från banken. Strikta regler på de flesta banker diskvalificerar majoriteten av högskole- och universitetsstudenter och nyutexaminerade från att ansöka om kreditkort.

Liknande, små och medelstora företag (SMF), som står för över 80 procent av jobben i landet, kämpar alltid för att få lån från Kinas finansiella institutioner, oavsett regeringens tryck.

Bristen på kreditinformation sätter pressen att låna ut pengar till små företag i direkt konflikt med försöken att minska risken i det finansiella systemet. Det i sin tur hindrar den inhemska konsumtionen, en oroande faktor mitt i Kinas avtagande ekonomi som skulle försämras ytterligare i det pågående handelskriget mellan USA och Kina.

Ett nationellt omfattande kreditsystem, i det här sammanhanget, skulle ge ansvariga låntagare tillgång till en kreditram. Det kommer inte bara att betjäna kinesiska bankirer, men har också konstruktiva effekter på den ekonomiska verkligheten för individer och företag och hela den kinesiska ekonomin på lång sikt.

Denna berättelse publiceras igen med tillstånd av ScienceNordic, den pålitliga källan till engelskspråkiga vetenskapliga nyheter från de nordiska länderna. Läs den ursprungliga historien här.