• Home
  • Kemi
  • Astronomien
  • Energi
  • Naturen
  • Biologi
  • Fysik
  • Elektronik
  • DuckDuckGos Gabe Weinberg om hur stora internetföretag trampar på vår integritet online

    Upphovsman:Wikipedia

    DuckDuckGo-grundaren Gabriel Weinberg är en av de digitala profeterna som varnar oss för hur Google, Goliat han har utmanat i 10 år med sin Paoli-baserade icke-spårande sökmotor, och andra jättar av information klämmer på den personliga integriteten och oberoende innehåll:"Om människor konsumerar alla frågans saker gratis på Facebook eller Google, det är ett förlorat förslag för dig."

    Kolla in vad som har hänt med FunnyOrDie.com, han sa, som "just meddelat uppsägningar för halva personalen. Facebook har tagit deras innehåll och, med det, deras publik, tvingar dem att betala för att placera sina egna nya videor. Och de fortsätter att öka priset; det är oöverkomligt dyrt. Ditt innehåll blir viralt, och du tjänar inga pengar."

    Men är det inte att klaga på att internet är en enhet för att berika teknikmoguler på offentliga bekostnad som att protestera mot framsteg? Är inte internetalgoritmerna som berättar vilka YouTube -videor vi ska titta på, vilka gamla klasskamrater att vänja sig på Facebook, och vilka kändisar bär coolare kläder på Instragram, baserat på matematik, demografi och logik?

    Det är värre än "skräp i, skräp ut, " säger Weinberg. Han berättar hur några av hans hjältar – undersökande reportrar, arbetar för gamla och nya nyhetsorganisationer – har hittat "betydande bias i algoritmerna."

    Se Kashmir Hills arbete för Gizmodo – hennes borttagning av "Internet of Things, " som visar hur företag samlar in och tolkar din data från enheter och tjänster du betalar för, i "The House that Spied on Me"; och hur Google använder sin makt för att avskaffa idéer som den inte gillar.

    Regeringen är inte redo att skydda oss, Weinberg säger:Kongressen tillät att det gamla förbudet mot din internetleverantör att sälja din webbläsarhistorik upphörde förra året. Så Verizon, Comcast och andra "Internetleverantörer kan nu samla in och sälja din data, på var du besöker. Mycket av det visar sig ha varit okrypterat. Hulu-program har varit okrypterade." Dina preferenser är lättare att spåra, lista och sälja.

    Så det är extra oroande hur till och med statliga myndigheter sätter personuppgifter i arbete, oavsett exakthet och integritetsproblem.

    Så här fungerar det:IT-entreprenörer/konsulter kommer in till statliga myndigheter "och säger, "Ditt gamla system är inte bra. Vi ska göra en bättre för dig, " säger Weinberg. "Algoritmerna är ofta inte komplicerade. Men de kan fortfarande vara partiska. Och varje gång blir det oavsiktliga konsekvenser."

    Är inte statliga tillämpningar av personuppgifter offentliga? Nej:"Eftersom de får algoritmen från ett företag, det är "proprietärt". Men det finns ett argument att de borde göras tillgängliga för allmänheten, enligt öppenhetslagar. Så nyhetsorganisationer och pro bono-advokater stämmer för att få algoritmerna, " Weinberg berättade för mig.

    Eller så kommer byrån att motivera en kostsam ny ansökan om behandling av personuppgifter, ordspråk, "'Detta är artificiell intelligens'." Som om det bara är en anledning att använda det nya verktyget. Men det är ett verktyg som någon sätter ihop med hjälp av begränsad information, förmodligen i hemlighet, med oavsiktliga men betydande konsekvenser, sätta vissa människor i underläge, och fördomsfulla resultat. Detta bör vara offentligt. "När du hör om det, du borde säga till dig själv, 'Kanske kan jag få det här avslöjat!' "

    Weinberg beundrar hur den ideella organisationen ProPublica använde lagförfrågningar om informationsfrihet (alias rätt att veta) för att visa hur domare i delstaten New York "köpte en algoritm för att hjälpa till med förslag till straffutmätning" som hade effekten av att koncentrera upplevd partiskhet, snarare än att göra straffmätningen olämplig. Weinberg säger att offentliga finansieringsprogram som använder liknande algoritmer på liknande sätt kan förankra stadsdelars ekonomiska karaktär. (För mer om hur dålig datavetenskap gör dålig offentlig politik, Weinberg rekommenderar Cathy O'Neils bok "Weapons of Math Destruction."

    Jag frågade om NeoGov, det digitala anställningssystemet som Pennsylvania och 25 andra stater ska använda för att ersätta det gamla systemet med statliga jobbprov. "Det låter mycket värt att kontrollera för oavsiktlig partiskhet, " säger Weinberg.

    Eller överväg den politiska effekten av YouTube:"Dess mål är att få användare att fortsätta titta på "relaterade" videor. Dessa tenderar att vara extrema, och upprörande och att driva tittarna mot extremt upprörande positioner. Även om det inte är avsett." Som Wired noterar här. Se även den senaste Guardian-artikeln med ex-Google-ingenjören Guillame Cashlots observationer om "hur YouTubes algoritm förvränger sanningen."

    Hur kopplar vi av sociala medier för att hitta vad den gamle futuristen Vance Packard kallade "dolda övertalare" och Columbia Law-professorn Tim Wu kallar Attention Merchants? "Julia Angwin var pionjär inom detta område av journalistik, " börjar på Wall Street Journal och går vidare till ProPublica, säger Weinberg. (Se Angwins utredning som spårar Googles informationsinsamling i Chrome-webbläsarens förmodade inkognitoläge.)

    Se även Angwins arbete för Wall Street Journal, med hjälp av Weinberg, som har gett bidrag för reportrar att anlita programmeringshjälp. "Vi hittade mycket "skräddarsy" som hände i inkognitosökningar, kring ämnen inklusive vapenkontroll, abort, klimatförändring. Det fanns "magiska nyckelord" som skulle lägga till ytterligare nyhetsartiklar som Google sa att du "tidigare sökte efter."

    "Det visade sig att 'Obama' var ett magiskt nyckelord och att 'Romney' inte var det. Det fanns miljontals extra Romney-idéer och föremål. Det var det omvända från vad som hände i valet mellan Trump och Clinton, "när Trumps videor fick mycket mer uppmärksamhet än Clintons videor eftersom de var djärvare och drog in fler tittare, se till att fler Trump-videor serveras till tittarna. "Oavsiktligt? Men effektivt."

    Angwin visade också hur "Amazon marknadsför sina egna produkter framför andra även om priset inte är lägre." Se även hennes ProPublica-serie om "maskinbias". Angwins rapportering, Weinberg säger, "har kickat igång mer av detta i andra organisationer." Liknande metoder kan användas/har använts för att visa, till exempel, vad som ser ut som rasisk partiskhet i försäkringar som citeras online. "Det finns också den här tanken att debitera människor olika priser baserat på deras data eller plats." Vilka baser gör bilförsäkringsbolag, resesidor, banker och återförsäljare använder för att citera vissa läsare högre priser, några lägre? Är det något så grovt som ett postnummer, lika tunn som en besökshistorik för shoppingwebbplatser?

    Det är filterbubblan, som den vänstra webbläsaren Eli Pariser kallade fenomenet i sin bok från 2011. "Det är inte balanserat, " säger Weinberg. "Du kan applicera detta på Netflix, Twitter, Youtube, Facebook, när det gäller den individualiserade filterbubblan och vad de i allmänhet främjar. Undersök sökresultaten. Jämför användare på olika platser och omständigheter. Fråga:Faller sökresultaten, inte rättvist, över politiska och rasistiska gränser?"

    Det kräver arbete, men det är inte komplicerat, tillägger Weinberg. "Detta är upprepningsbara studier. Den tekniska sidan av detta är inte alltför komplicerad. När du läser en, kontrollera de publicerade metoderna. De gör en "automatiserad genomsökning". En praktikant på grundutbildningen kunde köra siffrorna, vilken programmerare som helst. Kanske kommer de att låtsas att de är konsumenter som fyller i ett onlineansökningsformulär, och få offerter."

    Jag noterade hur professionella nyhetsorganisationer vanligtvis hindrar reportrar från att ljuga om sin identitet. Men, "vad är det för fel med att testa olika potentiella bostäder eller inkomster?" han frågade.

    "Någon kan alltid få data. Den svårare delen är att analysera data och se till att du inte drar en falsk slutsats. När du väl vet vad du letar efter, det är inte så svårt. Det finns många verktyg tillgängliga. Det är intressant, det är viktigt, att upprepa studier; det är som vetenskap, det kan tillämpas på många områden." Det som fungerar för att analysera Amazon kommer att fungera med din lokala återförsäljare, för. Och med stora finansiella företag — Allstate och Nationwide, Fidelity och BlackRock, Fanatiker mot Dick's.

    Weinberg vill sponsra mer professionell rapportering, inklusive Philly-centrerat arbete. "Jag är intresserad av att någon kallar dessa saker till uppgift. Jag är intresserad av det här området, Jag bor här. Jag är intresserad av all rapportering kring djup analys av vad teknikföretag gör. Relaterat till vad vi gör (på DuckDuckGo) eller inte. Jag tror att det är skadligt för alla."

    ©2018 The Philadelphia Inquirer
    Distribueras av Tribune Content Agency, LLC.




    © Vetenskap https://sv.scienceaq.com