Jag deltog nyligen i ett stort möte för fakulteten för att diskutera doktoranders utvärdering, rekrytering och retention.

"Låt data driva dina mål, " upprepade en av talarna, mantraliknande – med genuin entusiasm och övertygelse – och jag kunde inte låta bli att rycka till.

Sloganen slog mig som symptomatisk för vad socialpsykologen Shoshana Zuboff har kallat en "coup des gens".

Om en statskupp betyder att ett politiskt system olagligt ersätts med ett annat, a coup des gens – "gens" som betyder "människor" på franska – kännetecknas av att människor tvingas ersätta abstrakta informationssystem.

I min senaste bok, "Terminaljaget, "Jag visar hur vi blir alltmer tvingade att interagera med datorteknik i alla aspekter av vårt dagliga liv. Bland många andra effekter, denna påtvingade interaktion tvingar oss att synkronisera våra kognitiva funktioner med datorns logik och mata den oändliga strömmar av data, gör oss mogna för ständig övervakning och exploatering.

Hantera flödena av "den nya oljan"

Data används nu av företag för att hjälpa dem att utvärdera, rang, välja eller avvisa potentiella kunder. Det kan användas för att mäta medicinsk risk, kreditvärdighet, psykisk hälsa, arbetsprestation, köpvanor, matpreferenser, stämningar, dejtingpreferenser och politiska åsikter.

Som EU:s konsumentkommissionär Meglena Kuneva uttryckte det, "personuppgifter är internets nya olja och den digitala världens nya valuta."

Det höga värdet på data har inlett vad den franske sociologen Paul Virilio kallar en "informationsfundamentalism" - en ideologi som upphöjer digital information som den ultimata goda och högsta makten till vilken alla måste överlämna sin vilja, tid och sunt förnuft.

För att fungera effektivt, de flesta institutioner måste på ett intelligent sätt hantera dessa svällande dataflöden. Dock, den tekniska förmågan att hantera stora mängder data leder inte nödvändigtvis till intelligent analys.

Tvärtom, konstaterar medievetenskapsforskaren Mark Andrejevic, "Vi har blivit underrättelseanalytiker som sorterar igenom mer data än vi kan ta till oss." Individer har helt enkelt inte hjärnkraften att sålla igenom de ständigt växande flöden av information som de behöver bearbeta och bryta för att fatta intelligenta beslut.

En allt större del av vårt dagliga liv kräver att vi inte bara behandlar "informationsbomberna" – e-postmeddelanden, meddelanden, senaste nyheterna och meddelanden – som slumpmässigt detonerar i våra dagliga liv. Det kräver också att vi hela tiden matar in information i systemet.

Tänk på det växande antalet kunskapsarbetare och yrkesverksamma inom olika sektorer av ekonomin som i huvudsak har blivit datainmatningsassistenter. Deras jobb består främst av att mata alltid mer information till en allt hungrigare digital organism, av skäl som verkar uppenbara men som sällan ifrågasätts.

Vi ser det i de detaljerade data som många offentliga skollärare nu förväntas skriva in om varje aspekt av sina elevers lärande. Vi ser det i det oändliga, och ofta bristfällig, undersökningar som professionella av alla slag ombeds att fylla i om sina dagliga uppgifter, framsteg och "tillfredsställelse".

Detta bedövande datainmatningsarbete ger kunskapsarbetare, alienerar dem och förråder en tragisk misskötsel av mänskligt kapital.

Den digitala trojanska hästen

Om uppgiftsskyldigheten upprätthålls öppet i arbetet, det är hemligt framkallat hemma. När vi i lugn och ro surfar på internet, konsultwebbplatser, klicka på länkar eller dela våra bilder, politik och preferenser, vi producerar också – ovilligt och omedvetet – gigantiska mängder information. Osynliga andra skördar sedan girigt, Lagra, organisera och sälja dessa data för social kontroll, övertalning och beteendemodifiering.

"På Google, du är vad du klickar på. På Facebook, du är vad du delar, " skriver Upworthy vd Eli Pariser.

Denna utvinning av digital information kan påverka verkliga människors liv. I sin omfattande analys av företagsövervakning i vardagen, Den digitala kulturforskaren Wolfe Christl varnar för att datautvinningsföretag använder personuppgifter för att automatiskt fatta beslut om människor som kan förvärra befintliga ojämlikheter.

Till exempel, Christl visar hur hälsoanalysföretag som GNS Healthcare samlar in enorma mängder data från genomik, sjukjournaler, labbdata och mobila hälsoenheter för att ge information om användare till sjukförsäkringsbolag. Dessa företag kan sedan avsevärt manipulera kostnaderna för sjukförsäkringar för olika kategorier av sökande.

Liknande, han påpekar att data som samlats in om någons känslomässiga stabilitet, lycka och sannolikhet att få ett barn kan påverka om de anställs, behållas eller befordras.

Med algoritmer som alltmer tränger undan människor i denna typ av beslutsfattande, medborgarnas öden bestäms i allt högre grad av informationssystem. Som Zuboff förklarar, det är en trend som reducerar människor till källor för datautvinning och mål för exploatering.

Den mest förbryllande aspekten av denna situation är inte själva övervakningskapaciteten, lika skrämmande som de är. Det är vår tysta underkastelse till en regim av konstant och avlägsen övervakning som – förutom i spionfilmer eller paranoida vanföreställningar – skulle ha ansetts som absurt för några decennier sedan.

Mer oroande, i en intervju 2017 på "60 Minutes, " tidigare Googles marknadschef Tristan Harris förklarade de lömska motiven för datainsamling:Teknikföretag försöker inte bara hitta information om användare för att sälja den till företag som vill pusha varor. De tävlar om att skapa den bästa "hjärnhackningen" "-program som samlar in den mest korrekta informationen om vad som får användare att ticka känslomässigt och vad som fångar deras uppmärksamhet.

Målet är att manipulera användarnas känslomässiga reaktioner – på distans och på neural nivå. I fel händer, den här typen av manipulation kan inte bara användas för att sälja saker till folk, men också att påverka sina politiska beslut. Enligt statsvetaren Collin Bennett, detta projekt är på god väg.

Tillträde beviljas ej

För att lägga förolämpning till skada, det är nästan omöjligt för användare att upptäcka vilken information om dem som samlas in, vem som samlar in den och vad de gör med den.

Varje svep på en smartphones skärm och varje meddelande som skrivs registreras som "signaler" som hjälper till att få insikt i en användares personlighet, intressen, humör och ekonomisk hälsa. Kreditpoängen för en användares Facebook-vänner kan till och med användas för att beräkna deras egen kreditvärdighet. På grund av den fullständiga anonymiteten för de byråer som samlar in och använder dessa uppgifter, det är orealistiskt att hoppas att man skulle kunna korrigera – och avvärja konsekvenserna av – de fel som oundvikligen dyker upp i någons "profil".

Det är jobbigt att känna sig ensidigt övervakad, maktlös och oinformerad. Enligt en studie, de som inser att deras integritet har exponerats utan deras samtycke upplever "känslomässiga, psykoanalytiska och kroppsliga svar som ibland är förkrossande djupgående."

Men denna övervakning är också en form av exploatering.

Trots allt, det är vi som producerar denna information. Det är vi som alltmer offrar vår tid för att läsa riktlinjer för webbplatsen, titta på instruktionsfilmer, fylla i digitala formulär, vidarebefordra information, upprätthålla digitala sociala nätverk och generera värdefull information om oss själva som andra kan använda.

Borde inte de som genererar detta värde ha mer kontroll över villkoren för dess produktion, försäljning, spridning och användning? Och om denna rätt inte kan beviljas på grund av oupplösliga tekniska svårigheter, borde inte samma nivå av transparens påtvingas dem som samlar in, sälja och använda den?

Regimen för algoritmen

Det växande beroendet av information, normaliseringen av övervakningen och den ökande användningen av informationssystem för att fatta viktiga beslut om medborgarnas liv uppgår till en "coup des gens".

Dock, demokrati kräver integritet, och frihet innebär skydd mot invasion, oavsett om det är fysiskt eller digitalt. I sin berömda avhandling om det fjärde tillägget, Högsta domstolens domare Brandeis hävdade att "rätten att vara låt vara" är "den rättighet som uppskattas mest av civiliserade män" och är "grundläggande för ett fritt och civilt samhälle".

Vuxna medborgare i ett demokratiskt samhälle bör ha rätt att bestämma vilken typ av information som samlas in om dem, vem som kan använda den informationen och hur de kan använda den. De bör ha rätt att verifiera att denna information är korrekt och, när det inte är det, att rätta till det. De borde ha rätten – och ansvaret – att ifrågasätta detta bulimiska beroende för data och dess slutliga syfte.

Som Dave Eggers skriver i sin roman "The Circle, " "Den ständiga jakten på data för att kvantifiera värdet av varje strävan är katastrofal för sann förståelse."

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.