Onlineaktivitet påverkas alltmer av algoritmiska rekommendationer baserade på data som samlats in om konsumentbeteende av företag som ofta är ovilliga att avslöja vilken data de samlar in eller hur de använder den.

Forskare vid University of Auckland har försökt ta reda på mer om hur dessa algoritmer fungerar genom att analysera användarvillkoren och integritetspolicyn för Spotify och Tinder. Forskningen, publicerad i Journal of the Royal Society of New Zealand , dirigerades av Dr. Fabio Morreale, School of Music, och Matt Bartlett och Gauri Prabhakar, School of Law.

De företag som samlar in och använder konsumentdata (vanligtvis för egen ekonomisk vinning) är särskilt resistenta mot akademisk granskning, fann forskarna. "Trots deras kraftfulla inflytande finns det få konkreta detaljer om exakt hur dessa algoritmer fungerar, så vi var tvungna att använda kreativa sätt för att ta reda på det", säger Dr. Morreale.

Teamet tittade på Tinders och Spotifys juridiska dokument eftersom båda plattformarna bygger på rekommendationsalgoritmer som uppmanar användare att antingen lyssna på specifika låtar eller romantiskt matcha en annan användare. "De har till stor del förbisetts jämfört med större teknikföretag som Facebook, Google, Tik Tok etc som har fått mer granskning", säger han. "Folk kanske tror att de är mer godartade, men de är fortfarande mycket inflytelserika."

Forskarna analyserade iterationer av de juridiska dokumenten under det senaste decenniet. Företag måste i allt högre grad låta användarna veta vilken data som samlas in, men längden och språket på de juridiska dokumenten kunde inte beskrivas som användarvänliga.

"De tenderar mot det legalistiska och vaga, vilket hämmar utomståendes förmåga att ordentligt granska företagens algoritmer och deras relation till användarna. Det gör det svårt för akademiska forskare och säkerligen för den genomsnittliga användaren", säger Dr Morreale. Deras forskning avslöjade flera insikter. Spotifys integritetspolicy visar till exempel att företaget samlar in mycket mer personlig information än det gjorde under de första åren, inklusive nya typer av data.

"I 2012 års upprepning av sin integritetspolicy inkluderade Spotifys datapraxis endast grundläggande information:låtarna som en användare spelar, spellistor som en användare skapar och grundläggande personlig information som användarens e-postadress, lösenord, ålder, kön och plats", säger Dr Morreale. Efter flera upprepningar av integritetspolicyn tillåter den befintliga 2021-policyn företaget att samla in användares foton, platsdata, röstdata, bakgrundsljud och andra typer av personlig information.

Utvecklingen i Spotifys användarvillkor säger nu också att "innehållet du tittar på, inklusive dess val och placering, kan påverkas av kommersiella överväganden, inklusive avtal med tredje part." Detta ger gott om utrymme för företaget att lagligt lyfta fram innehåll för en specifik användare baserat på ett kommersiellt avtal, säger Dr. Morreale.

"Spotify lovar att "spellistan är skapad just för dig, baserat på den musik du redan älskar", men Spotifys användarvillkor beskriver hur en algoritm kan påverkas av faktorer som är yttre för användaren, som kommersiella avtal med artister och etiketter."

"I sina rekommendationer (och spellistor, för den delen) kommer Spotify sannolikt också att pressa artister från bolag som äger Spotify-aktier - det här är konkurrensbegränsande, och vi borde veta om det."

Och förmodligen tvärtemot de flesta användares uppfattningar är dejtingappen Tinder "en stor algoritm", säger Matt Bartlett. "Tinder har tidigare uppgett att det matchade människor baserat på "önskvärda poäng" beräknade av en algoritm. Jag tror inte att användarna helt förstår eller vet om hur Tinders algoritm fungerar, och Tinder gör allt för att inte berätta för oss."

"Det är inte att säga att det här är en ond sak - problemet är att de inte är transparenta om hur matchningen sker. Enligt min mening bör användarvillkoren specificera det." Även om forskarna inte helt kunde identifiera hur plattformarnas algoritmer fungerar, visade deras forskning just det problemet – att företagen inte är transparenta om sin insamling av vår data eller hur de använder den.

"Med dessa kraftfulla digitala plattformar som har stort inflytande i det moderna samhället, förtjänar deras användare och samhället i stort mer klarhet om hur rekommendationsalgoritmer fungerar", säger Dr. Morreale. "Det är galet att vi inte kan ta reda på det; jag tror att vi i framtiden kommer att blicka tillbaka och se det här som vilda västern av storteknologi."