Varje aspekt av livet kan styras av artificiell intelligensalgoritmer - från att välja vilken väg du ska ta för din morgonpendling, att bestämma vem som ska ta en dejt, till komplexa rättsliga och rättsliga frågor, såsom förutsägande polisarbete.

Stora teknikföretag som Google och Facebook använder AI för att få insikter om deras gigantiska mängd detaljerade kunddata. Detta gör att de kan tjäna pengar på användarnas kollektiva preferenser genom metoder som mikroinriktning, en strategi som används av annonsörer för att begränsa specifika uppsättningar användare.

Parallellt, många människor litar nu på plattformar och algoritmer mer än sina egna regeringar och medborgarsamhälle. En studie från oktober 2018 föreslog att människor demonstrerade "algoritmuppskattning, "i den mån de skulle lita på råd mer när de tror att det är från en algoritm än från en människa.

Förr, teknologisexperter har oroat sig för en "digital klyfta" mellan dem som kunde komma åt datorer och internet och dem som inte kunde. Hushåll med mindre tillgång till digital teknik har en nackdel med förmågan att tjäna pengar och samla kompetens.

Men, när digitala enheter sprids, klyftan handlar inte längre bara om åtkomst. Hur hanterar människor informationsöverbelastning och mängden algoritmiska beslut som genomsyrar alla aspekter av deras liv?

De smartare användarna navigerar bort från enheter och blir medvetna om hur algoritmer påverkar deras liv. Under tiden, konsumenter som har mindre information förlitar sig ännu mer på algoritmer för att styra sina beslut.

Den hemliga såsen bakom artificiell intelligens

Huvudorsaken till den nya digitala klyftan, enligt min mening som någon som studerar informationssystem, är att så få människor förstår hur algoritmer fungerar. För en majoritet av användarna, algoritmer ses som en svart låda.

AI -algoritmer tar in data, anpassa dem till en matematisk modell och lägg ut en förutsägelse, allt från vilka låtar du kan tycka om till hur många år någon ska sitta i fängelse. Dessa modeller utvecklas och justeras baserat på tidigare data och framgångarna med tidigare modeller. De flesta människor - även ibland algoritmdesignerna själva - vet inte riktigt vad som finns i modellen.

Forskare har länge varit oroliga för algoritmisk rättvisa. Till exempel, Amazons AI-baserade rekryteringsverktyg visade sig avfärda kvinnliga kandidater. Amazons system extraherade selektivt implicit könsord - ord som män är mer benägna att använda i dagligt tal, som "exekverade" och "fångade".

Andra studier har visat att rättsliga algoritmer är rasistiska, döma fattiga svarta åtalade längre än andra.

Som en del av den nyligen godkända allmänna dataskyddsförordningen i Europeiska unionen, människor har "rätt till förklaring" av de kriterier som algoritmer använder i sina beslut. Denna lagstiftning behandlar processen med algoritmiskt beslutsfattande som en receptbok. Tanken går att om du förstår receptet, du kan förstå hur algoritmen påverkar ditt liv.

Under tiden, vissa AI -forskare har drivit fram algoritmer som är rättvisa, ansvarig och transparent, såväl som tolkningsbar, vilket innebär att de ska komma fram till sina beslut genom processer som människor kan förstå och lita på.

Vilken effekt kommer öppenhet att få? I en studie, eleverna betygsattes av en algoritm och erbjöds olika förklaringsnivåer om hur deras kamraters poäng justerades för att nå ett slutbetyg. Studenterna med mer transparenta förklaringar litade faktiskt mindre på algoritmen. Detta, på nytt, föreslår en digital klyfta:Algoritmisk medvetenhet leder inte till mer förtroende för systemet.

Men öppenhet är inget universalmedel. Även när en algoritms övergripande process skisseras, detaljerna kan fortfarande vara för komplexa för användarna att förstå. Öppenhet hjälper bara användare som är sofistikerade nog att förstå algoritmernas invecklingar.

Till exempel, under 2014, Ben Bernanke, den tidigare ordföranden för Federal Reserve, nekades inledningsvis en hypoteksfinansiering av ett automatiserat system. De flesta individer som ansöker om en sådan inteckning refinansierar skulle inte förstå hur algoritmer kan avgöra deras kreditvärdighet.

Välj bort det nya informationsekosystemet

Medan algoritmer påverkar så mycket av människors liv, bara en liten del av deltagarna är sofistikerade nog att fullt ut engagera sig i hur algoritmer påverkar deras liv.

Det finns inte mycket statistik om antalet personer som är algoritmmedvetna. Studier har funnit tecken på algoritmisk ångest, vilket leder till en djup maktbalans mellan plattformar som distribuerar algoritmer och de användare som är beroende av dem.

En studie av Facebook -användning visade att när deltagarna blev medvetna om Facebooks algoritm för att kurera nyhetsflöden, cirka 83% av deltagarna ändrade sitt beteende för att försöka dra nytta av algoritmen, medan cirka 10% minskade deras användning av Facebook.

En rapport från november 2018 från Pew Research Center visade att en stor majoritet av allmänheten hade betydande oro över användningen av algoritmer för särskilda användningsområden. Den fann att 66% tyckte att det inte var rättvist för algoritmer att beräkna personliga ekonomipoäng, medan 57% sa samma sak om automatiserad CV -screening.

En liten bråkdel av individer har viss kontroll över hur algoritmer använder sina personuppgifter. Till exempel, Hu-Manity-plattformen ger användarna möjlighet att styra hur mycket av deras data som samlas in. Online encyklopedi Everipedia erbjuder användarna möjligheten att vara en intressent i processen för att kurera, vilket innebär att användare också kan styra hur information aggregeras och presenteras för dem.

Dock, en stor majoritet av plattformarna ger varken sådan flexibilitet till sina slutanvändare eller rätten att välja hur algoritmen använder sina preferenser för att kurera deras nyhetsflöde eller att rekommendera dem innehåll. Om det finns alternativ, användare kanske inte känner till dem. Cirka 74% av Facebooks användare sa i en undersökning att de inte var medvetna om hur plattformen karaktäriserar deras personliga intressen.

Från min synvinkel, den nya digitala läskunnigheten använder inte en dator eller är på internet, men förstå och utvärdera konsekvenserna av en alltid ansluten livsstil.

Denna livsstil har en meningsfull inverkan på hur människor interagerar med andra; om deras förmåga att uppmärksamma ny information; och om komplexiteten i deras beslutsprocesser.

Ökande algoritmisk ångest kan också speglas av parallella förändringar i ekonomin. En liten grupp individer fångar vinsterna från automatisering, medan många arbetare befinner sig i en osäker situation.

Att välja bort algoritmisk kuration är en lyx - och kan en dag vara en symbol för välstånd som endast är få utvalda. Frågan är då vad de mätbara skadorna blir för dem på fel sida av den digitala klyftan.

Denna artikel publiceras från The Conversation under en Creative Commons -licens. Läs originalartikeln.