Tillbaka på 1990-talet – en livstid sedan i internettermer – publicerade den spanske sociologen Manuel Castells flera böcker som kartlade framväxten av informationsnätverk. Han förutspådde att i den nätverkande tidsåldern, mer värde skulle tjäna på att kontrollera informationsflöden än att kontrollera själva innehållet.

Med andra ord, de som positionerade sig som nätverkshubbar – routrar och informationsväxlare – skulle bli maktens gatekeepers i den digitala tidsåldern.

Med framväxten av internet-juggernauts Google, Facebook, Amazon och andra, denna insikt verkar uppenbar nu. Men under de senaste två decennierna, en fundamentalt ny affärsmodell uppstod som inte ens Castells hade förutsett – en där attrahera användare till digitala plattformar har företräde framför allt annat, inklusive vad användaren kan säga, do, eller köp på den plattformen.

Att samla information blev det dominerande kravet för tekniska jättar – villigt hjälpt av användare som först charmades av nyhet, sedan genom bekvämligheten och självuttrycket som erbjuds genom att vara online. Resultatet blev en explosion av information, som onlinebehemoths kan samla och använda för vinst.

Det här företagets omfattning gör att mycket av det är osynligt för den dagliga användaren. De stora plattformarna är nu så komplexa att deras inre funktioner har blivit ogenomskinliga även för deras ingenjörer och administratörer. Om systemet nu är så stort att inte ens de som arbetar inom det kan se hela bilden, vilket hopp har då tillsynsmyndigheter eller allmänheten?

Självklart, regeringar försöker slå tillbaka. GDPR-lagarna i Europa, ACCC Digital Platforms-rapporten i Australien, och DETOUR Act som infördes för den amerikanska kongressen i april – alla är betydande försök att få tillbaka någon byrå. På samma gång, det går upp för samhällen överallt att dessa ansträngningar, även om det är avgörande, är inte tillräckligt.

Gatekeepers regerar på högsta nivå

Om du tänker på internet som en gigantisk maskin för att dela och kopiera information, då blir det tydligt att systemen för att sortera den informationen är livsviktiga. Tänk inte bara på Googles sökverktyg, men också om hur Google och Amazon dominerar cloud computing – de i stort sett osynliga systemen som gör internet användbart.

Över tid, dessa plattformar har uppnått större och större kontroll över hur information flödar genom dem. Men det är en obekant typ av kontroll, alltmer involverar autonoma, självlärande system som är alltmer outgrundliga för människor.

Information gatekeeping är av största vikt, det är därför plattformar som Google, Amazon och Facebook har tagit överhöghet. Men det betyder inte att dessa plattformar nödvändigtvis behöver konkurrera eller samverka med varandra. Internet är verkligen enormt, ett faktum som har gjort det möjligt för varje plattform att bli kejsare av en växande nisch:Google för sökning, Facebook för sociala, Amazon för detaljhandeln, och så vidare. I varje domän, de spelade rollen som dominerande, störande, och innovatör, alla på samma gång.

Nu konkurrerar ingen med dem. Oavsett om du är en individ, företag, eller regeringen, om du behöver internet, du behöver deras tjänster. Den nätverksbundna tidsåldern är strukturella.

Algoritmer kör programmet

För att dessa plattformar ska hålla sig på topp, innovation är ett ständigt krav. Allt eftersom sorteringsjobbet blir allt större och mer komplext, vi ser utvecklingen av algoritmer så avancerade att deras mänskliga skapare har förlorat förmågan att förstå deras inre funktioner. Och om resultatet uppfyller uppgiften, systemets inre funktion anses vara av mindre betydelse.

Under tiden, raden av negativa effekter är obestridliga. Denna modiga nya maskinledda värld urholkar vår förmåga att identifiera, lokalisera, och lita på auktoritativ information, till förmån för hastighet.

Det är sant att patienten redan mådde dåligt; samhällen har urholkas av tre decennier av marknadsfundamentalism. Men som den amerikanske teknikhistorikern George Dyson nyligen varnade, självreplikerande kod finns nu ute i cyberekosystemet. Det som började som ett sätt för människor att locka andra till önskade beteenden hotar nu att förvandlas till inget mindre än manipulation av människor av maskiner.

Den digitala tidsåldern har stimulerat enorm tillväxt inom forskningsdiscipliner som socialpsykologi, beteendeekonomi, och neurovetenskap. De har gett häpnadsväckande insikter i mänsklig kognition och beteende, med potentiella användningsområden som är långt ifrån godartade.

Även om denna ansträngning hade grundats med de bästa avsikter, Det finns många olyckor när felbara människor ingriper i komplexa system med nystartade etiska och juridiska grunder. Kasta in elaka avsikter i mixen – valinblandning, informationskrigföring, onlineextremism – och utmaningarna bara ökar.

Om du fortfarande tänker på digital teknik som verktyg – vilket innebär att du, användaren, har full kontroll – du måste tänka om. Sanningen är att ingen riktigt vet vart självreplikerande digital kod tar oss. Du är feedbacken, inte instruktionen.

Regulatorer vet inte var de ska börja

En konsensus växer om att regulatoriska ingripanden är brådskande nödvändiga för att avvärja ytterligare sociala störningar, och att föra in demokratisk och juridisk tillsyn i praxisen för världens största monopol. Men, om Dyson har rätt, Anden är redan ute ur flaskan.

Fängslad av nyheten och bekvämligheten med livet online, vi har omedvetet låtit silicon valley genomföra en "kupp från ovan". Det är för länge sedan dags att ideologin som informerade denna kupp, och styr nu så mycket vardaglig mänsklig aktivitet, är utsatt för granskning.

Utmaningarna i den digitala informationsåldern sträcker sig bortom monopol och integritet. Denna teknik regim byggdes genom design utan bekymmer om exploatering. Dessa sårbarheter är omfattande och kommer att fortsätta att missbrukas, och nu när den här tekniken är så intimt en del av det dagliga livet, dess sanering bör fullföljas utan rädsla eller förmån.

Ändå kan lagstiftnings- och regleringsingripanden bara vara effektiva om industrin, regeringar och civilsamhället kombinerar för att bygga, genom design, en digital informationsålder värd namnet, vilket inte lämnar oss alla öppna för exploatering.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.