Data kallas ofta 2000-talets olja.

Ju mer teknikföretag vet om sina användare, desto mer effektivt kan de styra dem till varor och tjänster som de sannolikt kommer att köpa. Ju mer företag vet om sina användare, desto mer konkurrenskraftiga är de på marknaden.

Skräddarsydd kapitalism är vad som har gjort Google, Facebook, Amazon och andra de rikaste företagen i världen. Detta vinstincitament har förvandlat storteknologi till ett konkurrenskraftigt område för massinsamling av underrättelser. Ju bättre och mer omfattande data, desto högre vinster blir.

Men den här affärsmodellen – vad jag anser vara spionmaskiner – har enorm potential att kränka medborgerliga friheter. Stor teknik används redan utomlands för att förstärka kraften hos repressiva regimer, som mitt och andras arbete har visat.

Även om det för närvarande inte är ett direkt hot mot USA:s demokrati, Jag oroar mig för att potentialen för framtida övergrepp finns så länge storteknologin i stort sett förblir oreglerad.

Big techs spionmaskiner

Aktuella nyheter är fulla av exempel på datamissbruk. I april, NBC News bröt en berättelse som beskriver hur Facebooks vd Mark Zuckerberg hade använt data som samlats in av plattformen för att stödja sina vänner och besegra sina rivaler.

Detta är inte Facebooks första privatlivs-PR-mardröm. Under 2018, dataföretaget Cambridge Analytica använde en Facebook-app för att samla in dataprofiler för över 87 miljoner människor, som senare användes för att distribuera riktad politisk reklam under val.

Facebook är inte ensamt om datainsamlingsboomen. Denna maj, det avslöjades att Snapchat-anställda använde appens data för att få platsdata, bilder och e-postadresser utan användarnas medgivande. En ny bok av den tidigare Harvard-affärsprofessorn Shoshana Zuboff går mycket detaljerat in på praxis för vad hon kallar "övervakningskapitalism". Zuboff skriver, "En gång sökte vi på Google. Nu, Google söker efter oss."

Övningen går utöver någons smak i musik eller vad de köper på Amazon. Appar skapade för att hjälpa människor genom psykisk ohälsa eller sluta röka säljer data till stora teknikföretag. Dessa användare kan vara potentiella mål för social stigmatisering eller riktad reklam som förvärrar hälsoproblem snarare än att lösa dem.

I december, de New York Times publicerade en exposé om vad man kan lära sig om någon som använder sin samlade data från appar och smartphones. Genom att blanda platsspårning med annat onlinebeteende, forskare kunde sätta ihop ett detaljerat porträtt av de mest intima detaljerna i användarnas liv, till exempel var deras barn går i skolan eller vem som fuskade på deras diet. De kunde till och med berätta vilket område av ett kärnkraftverk en person arbetade i - information som vanligtvis är hemligstämplad.

På grund av dessa uppenbarelser, data som big tech samlar in utgör ett nationellt säkerhetsproblem. En forskare med öppen källkod använde data från Strava, en träningsapp, att kartlägga amerikanska militärbaser runt om i världen när soldater spårade deras löpningar. Våra enheter berättar hela tiden för företag var vi är och vad vi gör. Det är inte alltid bra.

För de värsta scenarierna, titta utomlands

Big tech är en mycket oreglerad sektor av ekonomin. Befintliga regelverk har kämpat för att hänga med i en snabbt innovativ tekniksektor. I vissa scenarier, big techs kapacitet används av diktatorer för att skapa en dystopisk digital verklighet.

Autokratiska regeringar runt om i världen har redan börjat använda ny teknik för att kränka mänskliga rättigheter. Kina är ett utmärkt exempel. Kina integrerar AI, biometriska data och onlineaktivitet för att spåra och övervaka dissidenter och medlemmar av etniska minoritetsgrupper, som sedan skickas till omskolningsläger.

Från att jag undersökte hur Ryssland använder dessa plattformar för att hota demokratin, Jag är bekant med de värsta scenarierna för storteknologins kapacitet. Eftersom plattformarnas framgång bygger på att informationen blir viral, det mest framgångsrika innehållet kan också vara något av det mest splittrande. Ryssland tror att genom att sprida tillräckligt med falsk information om de mest inflammatoriska områdena i amerikansk politik, det kan så kaos i systemet. Big tech är den perfekta ingången för sådana kampanjer.

Om ryska attacker på sociala medier kombineras med AI-teknik, informationsattacker kan bli precisionsstyrda. Odåliga aktörer kunde samla de omfattande profiler som övervakningskapitalismen har sammanställt genom åren. Fake news skulle då inte längre tala till frågor utan till individer, tilltalande för det som får användaren att ändra sig.

Om ett monopolistiskt teknikföretag bestämde sig för att fullt ut omfamna sin förmåga att spionera på sina användare och utnyttja denna data till ett personligt eller politiskt syfte, konsekvenserna för demokratin kan bli katastrofala. Amerikaner fick ett smakprov på hur en påverkansattack ser ut under det amerikanska presidentvalet 2016. Så länge som stor teknik förblir i stort sett oreglerad, framtida påverkansattacker på amerikanska val kommer bara att bli mer potenta.

Stor teknik kommer ingenstans

En lösning på ytan på detta integritetsdilemma skulle vara att människor frikopplar sina onlineliv från dessa företag.

Till exempel, DuckDuckGo är en alternativ sökmotor som inte sammanställer användardata och lovar total integritet. En ny webbläsare, Modig, har lovat att betala tillbaka användarna för att sälja data till annonsörer.

Dock, dessa produkter är långt ifrån lika användbara för en tillfällig internetanvändare än Google. Att bara välja att inte använda Google är inte så enkelt.

Även om det finns många olika företag i fråga, de har alla nästan monopolistisk kontroll över sitt hörn av marknaden. Amazon dominerar online shopping. Facebook dominerar interaktion med vänner och saker. Google dominerar webbsurfandet.

Individer ställs alltså inför ett val:radikalt förändra sin livsstil och hur de interagerar med världen, eller fortsätta att vara målet för big techs spionmaskiner.

Tillsyn och reglering kan tyckas dramatiska och anti-tillväxt för tillfället, men jag tror att det är en nödvändig kontroll av storteknologin – innan den värsta av dess potential blir verklighet.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.