Mustafa älskar gott kaffe. På hans fritid, han bläddrar ofta i avancerade kaffemaskiner som han för närvarande inte har råd med men sparar till. En dag, resa till en väns bröllop utomlands, han får sitta bredvid en annan kompis på planet. När Mustafa klagar på hur mycket han betalade för sin biljett, det visar sig att hans vän betalade mindre än hälften av vad han betalade, trots att de bokade ungefär samtidigt.

Han undersöker möjliga orsaker till detta och drar slutsatsen att det måste vara relaterat till hans surfande av dyra kaffemaskiner och utrustning. Han är väldigt arg över detta och klagar till flygbolaget, som skickar honom en ljummen ursäkt som hänvisar till personliga prissättningsmodeller. Mustafa tycker att detta är orättvist men utmanar det inte. Att fortsätta vidare skulle kosta honom tid och pengar.

Den här historien - som är hypotetisk, men kan och förekommer – visar potentialen för människor att skadas av dataanvändning i den nuvarande "big data"-eran. Big data-analys innebär att man använder stora mängder data från många källor som är länkade och analyserade för att hitta mönster som hjälper till att förutsäga mänskligt beteende. Sådan analys, även när det är helt lagligt, kan skada människor.

Mustafa, till exempel, har sannolikt påverkats av personliga prissättningsmetoder där hans sökning efter exklusiva kaffemaskiner har använts för att göra vissa antaganden om hans betalningsvilja eller köpkraft. Detta kan i sin tur ha lett till hans högre prissatta flygbiljetter. Även om detta inte har resulterat i allvarlig skada i Mustafas fall, fall av allvarlig känslomässig och ekonomisk skada är, tyvärr, inte sällsynt, inklusive nekande av bolån för enskilda och risker för en persons allmänna kreditvärdighet baserat på associationer till andra individer. Detta kan hända om en individ delar några liknande egenskaper som andra individer som har dålig återbetalningshistorik.

Fall av känslomässig skada kan också förekomma. Tänk dig ett par som får reda på att de väntar ett efterlyst barn, men får missfall vid fem månader. Paret kan upptäcka att de fortsätter att få reklam från butiker som specialiserar sig på spädbarnsprodukter månader senare, firar vilket borde ha varit viktiga "milstolpar", orsakar nöd. Detta är ett annat hypotetiskt men fullt möjligt scenario.

Lagen – eller bristen på den

I många av dessa fall, eftersom den skadliga praktiken kanske inte har brutit mot några lagar, de som har skadats av dataanvändning har begränsade eller inga rättsliga möjligheter för dem. Vad hände med Mustafa, till exempel, var helt lagligt, eftersom det inte finns några gällande lagar som förbjuder personlig prissättning som sådan. Våra nuvarande rättssystem skyddar inte människor på ett tillfredsställande sätt från de skador som härrör från big data.

Det beror på att det är mycket svårt att spåra hur vår data länkas och används. Även om flygbolaget hade gjort något olagligt, såsom brutna dataskyddslagar, det skulle vara nästan omöjligt för Mustafa att ta reda på det. Människor som känner att de har skadats av dataanvändning kan kämpa för att visa hur deras data har använts för att orsaka denna skada, vilka uppgifter det rörde sig om eller vilken personuppgiftsansvarig som använde dem. Och så de kanske saknar bevisen de skulle behöva för att få en rättslig åtgärd.

Vidare, även om de visar hur något någon gjorde med deras data skadade dem, den särskilda användningen av kundinformation, för att justera prissättningen till exempel, kanske inte är olagligt.

Lika, skadan kan orsakas inte av ens egen data utan av användningen av andras data (tredje parts data). Till exempel, i Mustafas fall kan det vara så att andra personer som också var intresserade av dyra kaffemaskiner hade mycket höga inkomster, eller köpt dyra saker. Detta kan ha använts för att antyda att Mustafa också föll i denna kategori, vilket kan ha resulterat i högre priser för honom på andra produkter. En individ som skadas genom användning av tredje parts data har ofta inte rättsmedel enligt gällande dataskyddslagar.

Ett nytt system

För att hjälpa till att lösa sådana problem, vi hävdar att vi måste acceptera att vissa risker från dataanvändning inte kan förebyggas. Istället för att fokusera enbart på att försöka minimera eller undvika sådana risker, vi måste också hitta sätt att bättre stödja människor som lider skada av dataanvändning, till exempel genom att aktivt övervaka och reagera på skador orsakade av dataanvändning, inklusive laglig användning av data.

Vi tror att som en del av detta system, en ny typ av institution bör inrättas. Vi kallar dem skadebegränsande organ. Dessa skulle inrättas på nationell nivå, och personer som kände att de skadades av dataanvändning, men inte kvalificerade sig för rättsmedel, kan gå till dem för att rapportera den skada som de tror uppstod från dataanvändning. Till skillnad från traditionella botemedel, skadebegränsande organ skulle kunna ge stöd även i fall där inga lagar bryts. De skulle vara lätta för människor att använda, och flexibel, så att de kunde stödja människor där och hur de mest behöver det, ge individer mer makt och stärka det kollektiva ansvaret för dataanvändning.

Dessa föreslagna organ skulle samla in information om vilka typer av skador som uppstår:för närvarande finns det inga nationella eller internationella organ som systematiskt samlar in information om dataskador. De skulle också återkoppla information till beslutsfattare och dataanvändare för att hjälpa till att förbättra hur saker och ting görs. Och i fall där människor drabbas av ekonomiska skador men inte har tillgång till juridisk hjälp, de kan också ge ekonomiskt stöd.

Big data analytics prisas med rätta för de många nya möjligheter som den erbjuder. Men det kommer att vara oundvikligt att vissa människor kommer till skada. Som ett samhälle, vi måste möta denna sanning, och ge bättre hjälp till dem som lider skada, så att ingen som står för kostnaderna för dessa nya metoder lämnas ensam.

Denna artikel publiceras från The Conversation under en Creative Commons -licens. Läs originalartikeln.