1998, Google började ödmjukt, formellt införlivad i ett garage i Menlo Park, tillhandahålla sökresultat från en server inrymd i legoklossar. Den hade ett enkelt mål:göra den dåligt indexerade World Wide Web tillgänglig för människor. Dess framgång baserades på en algoritm som analyserade länkstrukturen för själva internet för att utvärdera vilka webbsidor som är mest ansedda och användbara. Men grundarna Sergey Brin och Larry Page hade ett mycket mer ambitiöst mål:de ville organisera världens information.

Tjugo år senare, de har byggt ett företag som går långt bortom även det höga målet, förse både privatpersoner och företag med e-post, fildelning, webbhotell, hemautomation, smartphones och otaliga andra tjänster. Den lekfulla startup som började som en övervakare av webben har blivit verklighetens arkitekt, skapa och definiera vad dess miljarder användare hittar, ser, känner till eller till och med känner till.

Google kontrollerar mer än 90 procent av den globala sökmarknaden, driver både användare och företag att designa webbplatser som tilltalar företagets algoritmer. Om Google inte kan hitta en del information, den kunskapen finns helt enkelt inte för Google-användare. Om det inte finns på Google, finns det verkligen överhuvudtaget?

Intimitetsmaskinen

Trots sina miljarder besvarade sökfrågor, Google är inte bara en telefonsvarare. Google övervakar vilka svar folk klickar på, antar att de är mer relevanta och av högre värde, och returnera dem mer framträdande i framtida sökningar på det ämnet. Företaget övervakar också användaraktiviteter på sin e-post, affärsapplikationer, musik och mobila operativsystem, att använda dessa data som en del av en feedbackloop för att ge användarna mer av det de gillar.

All data som den samlar in är den verkliga källan till Googles dominans, göra företagets tjänster allt bättre på att ge användarna vad de vill ha. Genom autoslutförande och personlig filtrering av sökresultat, Google försöker förutse dina behov, ibland innan du ens har dem. Som Googles tidigare verkställande ordförande Eric Schmidt en gång uttryckte det, "Jag tror faktiskt att de flesta inte vill att Google ska svara på deras frågor. De vill att Google ska berätta för dem vad de ska göra härnäst."

Om tjugo år, med ytterligare två decennier av framsteg, Google kommer att bli ännu bättre, kanske närmar sig en vision som Brin uttryckte för flera år sedan:"Den perfekta sökmotorn skulle vara som Guds sinne." Folk kommer att lita på dessa verktyg, med sina avancerade artificiell intelligens-baserade algoritmer, inte bara för att veta saker utan för att hjälpa dem att tänka.

Sökfältet har redan blivit en plats där människor ställer personliga frågor, en slags bekännelse eller medvetandeström som är djupt avslöjande om vilka användare är, vad de tror och vad de vill. I framtiden, Google kommer att känna dig ännu mer intimt, kombinera sökresultat, surfhistorik och platsspårning med biofysisk hälsodata från bärbara enheter och andra källor som kan ge kraftfulla insikter om ditt sinnestillstånd.

En ny sorts sårbarhet

Det är inte långsökt att föreställa sig att i framtiden, Google kanske vet om en person är deprimerad, eller har cancer, innan den användaren inser det själv. Men även utöver det, Google kan ha den avgörande rollen i en ständigt skärpt anpassning mellan vad du tror att dina behov är, och vad Google säger att de är.

Utöver dess effekter på enskilda människor, Google samlar makt för att påverka samhället – kanske osynligt. Fiktion har en varning om hur det kan se ut:I filmen "Ex Machina, " ett entreprenörsgeni avslöjar hur han samlade råmaterialet från miljarder sökfrågor till ett artificiellt sinne som är mycket effektivt för att manipulera människor baserat på vad det lär sig om människors beteenden och fördomar.

Men den här situationen är inte riktigt fiktion. Så länge sedan som 2014, Forskare på Facebook visade ökänt hur lätt det är att manipulera användare med positiva eller negativa inlägg i sina nyhetsflöden. När människor ger algoritmer mer makt över deras dagliga liv, kommer de att märka hur maskinerna styr dem?

Att överleva den härliga framtiden

Huruvida Google i slutändan utövar denna makt beror på dess mänskliga ledare – och på det digitala samhälle som Google är så centralt för att bygga. Företaget satsar stort på maskinintelligens, engagerar sig för en mycket automatiserad framtid där mekanikerna och, kanske, de sanna insikterna i sökandet efter kunskap blir svåra eller omöjliga för människor att förstå.

Google blir gradvis en förlängning av individuella och kollektiva tankar. Det kommer att bli svårare att känna igen var människor slutar och Google börjar. Människor kommer att bli både bemyndigade av och beroende av tekniken – vilket kommer att vara lätt för alla att komma åt men svårt för människor att kontrollera.

Människor kommer att behöva hitta sätt att samarbeta med – och styra aktiviteterna för – allt mer sofistikerad maskinintelligens, snarare än att bara bli användare som blint följer spåren av svarta lådor som de inte längre förstår eller kontrollerar.

Baserat på våra studier av de komplexa relationerna mellan människor och teknologier, en avgörande nyckel till denna nya förståelse av algoritmer kommer att vara storytelling. Den mänskliga hjärnan är dålig på att förstå och bearbeta data – dvs. självklart, en maskins kärnstyrka. Att arbeta tillsammans, en ny människa-maskin-relation kommer att behöva bero på en unik mänsklig styrka – berättande. Människor kommer att fungera bäst med system som kan arbeta genom berättelser och förklara sina handlingar på ett sätt som människor kan förstå och modifiera.

Ju mer människor anförtror datorbaserade system att organisera kultur och samhälle, desto mer borde de kräva att dessa system fungerar enligt regler som människor kan förstå. Den dagen vi slutar att vara huvudförfattarna till berättelsen om mänskligheten är dagen då den slutar vara en berättelse om oss.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.