Alla som använder online shopping, sociala medier eller till och med e -post upplever frivilligt - men inte nödvändigtvis medvetet - påverkan av personlig teknik. "Profileringen" som leder till att annonser för vissa produkter förföljer dig över nätet kan vara en olägenhet. Men de senaste nyhetsberättelserna om Cambridge Analytica som köper personuppgifter från Facebook väcker djupare oro över människors autonomi, och säkerheten i demokratiska processer.

Anpassning formar människors upplevelser av politik, handel, personligt och socialt liv. Det är en kraftfull, teknologiskt aktiverad princip, som skördar information om våra val och preferenser för att skräddarsy vårt engagemang med objekt, institutioner, tjänster och varandra.

Självklart, detta kan hjälpa oss att fatta beslut om våra dagliga uppgifter snabbare - för att hjälpa oss att vara mer ”oss själva”. Anpassning tycks ofta stärka individer; för att hjälpa dem att känna sig kompetenta, i kontroll och säker på den smak och åsikter som skiljer oss från andra.

Men alltför ofta, det finns en "dubbel kant" till anpassning, som inte känns igen av användare - tills de konfronteras med dess effekter. Anpassning har väckt frågor om integritet, personligt ansvar och samtycke; det har destabiliserat maktförhållanden mellan designers, tillverkare och konsumenter; och det har stört diskursen mellan politiska partier och medborgare. Det har också potential att kompromissa med förståelsen av vad det innebär att vara en person, och en moralisk agent.

I kontroll, eller under kontroll?

I dag, möten med personalisering börjar från födseln. Smarta dummies som Pacif-i använder Bluetooth-teknik för att övervaka ett barns temperatur, och registrera när en förälder senast administrerade sin medicin, tillsammans med doseringen. Dessa uppgifter skickas till föräldrarnas telefoner, och kan delas med läkare. Senare i livet, personliga medicinska insatser kan använda genetisk analys för att optimera behandlingar, förutsäga framtida hälsoutfall och sannolikheten för framtida sjukdomar.

Att ha denna information kan tyckas vara bra:Pacifi-i ger föräldrar möjlighet att hålla ett öga på sitt barns hälsa, medan personlig medicin ger användarna chansen att anpassa sina vanor för att minimera uppkomsten av en sjukdom. Men dessa personliga insatser är kanske inte så välkomna om de berörda personerna hindras från att få sjukförsäkring, eftersom dessa detaljerade uppgifter avslöjades för ett försäkringsbolag.

Likaså, NHS:s personliga hälsobudget erbjuder en personlig strategi för socialvård, genom att fördela utgiftsval till patienter. Att styra sin egen vård kan hjälpa människor att känna sig bemyndigade. Men forskning från vår bok om anpassning visar att denna fördel kan vara ojämnt fördelad på klass och utbildning, och att kravet på att välja och hantera behandling kan innebära en större börda för patienter och deras familjer.

Ekokammareffekten i sociala medier kan hämma politisk diskurs genom personliga uppmaningar, som länkar oss bara till "människor som oss". Den självbekräftande upplevelsen av att gilla något på Facebook främjar vår känsla av att tillhöra och inkluderas. Men, på samma gång, Facebook - och faktiskt de företag som samlar in data från Facebook - kan också förutsäga identifierande egenskaper som vi valde att inte avslöja.

Innovationer inom produktionsteknik, till exempel 3D-utskrift, erbjuda konsumenterna en kombination av fysisk passform och personlighet. Vissa producenter ger till och med amputerade chansen att välja den slutliga finishen för sina protetiska lemmar. Nu för tiden, du kan inte bara anpassa kläder med öppna designplattformar, men också "låna" någon annans personlighet genom, till exempel, personifiera en berömd fotbollsspelares t-shirt. Men denna massanpassning destabiliserar förhållandet mellan producenter och konsumenter, vilket gör det svårare för tillverkare att planera för ökad efterfrågan och ökade försäljningar.

Anpassning för folket

Med de senaste digitala assistenterna och geniala plattformar som Apples Siri, Google Assistant och Amazon Echo, vi kan styra enheter med den mest personliga egenskapen - vår röst. Ändå har dessa virtuella personliga agenter sina egna röster, för, och det finns en risk att sådana system kan sluta med för mycket makt för att anpassa det de erbjuder oss.

Detta skulle begränsa användarnas alternativ - snarare än att utöka dem. Men ännu viktigare, om en maskin verkar för mycket som en person - om den är för sällskaplig - då finns det en risk att vi kan tänka oss att den är en agent som kan självständigt fatta beslut, när de faktiskt bara är verktyg för att genomföra våra egna agendor.

Under de senaste veckorna, många företag bestämde sig för att uppdatera sin integritets- och datadelningspolicy för att göra dem mer okomplicerade för sina användare att förstå eller hitta ett alternativ för att välja bort. Men dessa dokument förblir långa och komplexa, och inte alla kommer att kunna förstå dem. Det faktum att den brittiska informationskommissionären inte kunde komma åt Cambridge Analytica -filer innan Facebook visar att jättar på sociala medier har en övertag, om hur våra personuppgifter hanteras.

Facebook flyttade precis 1,5 miljarder användare från sitt internationella huvudkontor i Irland till Kalifornien för att undvika böter på upp till 4% av sin globala omsättning, om det bryter mot de nya dataskyddsreglerna som träder i kraft i Europa den 25 maj, 2018. Klart, vi är inte alla i detta tillsammans ännu. Allmänheten hålls i mörkret om hur data manipuleras för att påverka våra val, attityder och beteenden. Om personalisering ska vara en fördel - och inte en förbannelse - måste användarna ges en starkare röst, att påverka hur deras personuppgifter delas.

Denna artikel publicerades ursprungligen på The Conversation. Läs originalartikeln.