• Home
  • Kemi
  • Astronomien
  • Energi
  • Naturen
  • Biologi
  • Fysik
  • Elektronik
  • Hur big tech utformar sina egna etiska regler för att undvika granskning och ansvarsskyldighet

    Dataetik är nu en sak célèbre.

    "Digital etik och integritet" sköt in i forsknings- och rådgivningsföretaget Gartners topp tio strategiska tekniktrender för 2019. Innan dess tog det knappt ett omnämnande.

    Under det senaste året har regeringar företag och tankesmedjor för policy och teknik har publicerat dataetiska guider. En hel kohort av expertdataetiker har magiskt materialiserats.

    Varför detta plötsliga intresse för dataetik? Vad är dataetik? Vems intressen är riktlinjerna utformade för att tjäna?

    För att förstå vad som händer, det är nödvändigt att ta ett steg tillbaka och titta på hur informationslandskapet har utvecklats.

    Bilden som framträder är en bransch som är immun mot de regulatoriska begränsningar som gäller för alla andra.

    Glansen har försvunnit

    Under de senaste åren har informationsindustrin tappat sin glans.

    Snowden-avslöjandena, Cambridge Analytica-skandalen, sociala medier möjliggör hattal, beväpningen av information och dess roll i att undergräva demokratiska institutioner har alla bidragit.

    Affärsmodellen som tjänar pengar på personlig information för att sälja reklam ses nu som ett faustiskt fynd – kanske är uppoffringen inte värt det, trots allt. Från 2017 till 2018 skedde en minskning med 6 % av Facebook-användare i USA på den lukrativa marknaden för 12-34 år.

    Dessa farhågor har lett till krav på reglering. Men dessa har kämpat för att få dragkraft mot den rådande regulatoriska ortodoxin för tekniksektorn. Detta går tillbaka till Al Gores fem principer för att möjliggöra vad som då märkligt kallades "den globala informationsmotorvägen".

    Princip tre var att regleringspolitiken skulle "skapa ett flexibelt regelverk som kan hålla jämna steg med snabba tekniska och marknadsförändringar." Detta var kod för ingen reglering, eller självreglering. I Australien var det känt som "light touch"-reglering.

    Big tech agerade ostraffat, till stor del befriad från den "gamla" ekonomins vardagliga bekymmer som konsumentskydd eller produktansvar eller konkurrenslagstiftning eller, särskilt, informationsintegritet.

    Cirklar närmare

    Europa antog aldrig helt denna laissez-faire-strategi. Informationssekretess har alltid stått högt på agendan, som kulminerade i 2018 års allmänna dataskyddsförordning (GDPR). Detta ger individer i Europeiska Unionen de mest omfattande dataskyddsrättigheterna i världen. Rättigheterna har extraterritoriell räckvidd, involvera regulatorisk tillsyn, och anställa civilrättsliga böter av iögonfallande storlek. Andra jurisdiktioner börjar följa efter.

    Parallellt, regulatorer från andra discipliner börjar cirkla. Antitrustregulatorer tittar på nytt på informationsmonopol och storteknikers användning av marknadsmakt för att begränsa konkurrensen.

    I Australien, ACCC har efterlyst en ny tillsynsmyndighet för att övervaka och undersöka effekten av algoritmer på rankning av nyheter och journalistiskt innehåll.

    UK Select Committee on Communications rapport om Regulating in a Digital World har rekommenderat en ny digital myndighet för att övervaka den "fragmenterade" regleringen av den digitala miljön kring tio regleringsprinciper, noterar att "[s]jälvreglering av onlineplattformar uppenbarligen misslyckas." Människorättsregulatorer undersöker algoritmernas roll för att skapa och befästa diskriminering.

    Data betyder pengar

    Big tech vill inte bli reglerad. Den vill inte att dess obegränsade möjlighet att samla in personlig information ska begränsas eller att skydd av GDPR-typ ska bli den globala normen. Personlig information är råmaterialet för de algoritmer som gör att den kan tjäna pengar på vår uppmärksamhet.

    För en industri som är stolt över att vara "störande, "Big techs största oro är att förebygga den skärpta regleringsmiljön för att undvika att själv störas. Dataetik är ett av de medel som den har utvecklat för att bekämpa reglering. Den gör det genom att tillägna sig de dygder som är förknippade med etik men genom att tömma dem på innehåll eller konsekvenser .

    Ta Googles principer för AI. (AI är artificiell intelligens). Dessa är:

    • vara samhällsnyttig
    • undvika att skapa eller förstärka orättvis partiskhet
    • byggas och testas för säkerhet
    • vara ansvarig inför människor
    • införliva integritetsdesignprinciper
    • upprätthålla höga krav på vetenskaplig excellens
    • göras tillgänglig för användning som överensstämmer med dessa principer.

    Dessa "principer" är slående lika de feel-good-predikningar som publiceras på Instagram som uppmanar oss att "vara goda mot varandra" eller att inte "låta solen gå ner över vår ilska, " och är ungefär lika användbara.

    Sätt på prov

    Låt oss testa en av Googles principer, "vara ansvarig inför människor."

    Det finns flera skikt av oklarhet här. Betyder det att Googles AI-algoritmer bör vara ansvariga inför "människor" i allmänhet, Googles "folk, " eller någon annans "folk" som en oberoende regulator?

    Om det senare, kommer Google att tillhandahålla algoritmen för analys, rätta eventuella fel, och betala ersättning för eventuell skada?

    Om Googles AI-algoritmer av misstag drar slutsatsen att jag är en terrorist och sedan vidarebefordrar denna information till nationella säkerhetsmyndigheter som använder informationen för att arrestera mig, håll mig incommunicado och förhör mig, kommer Google att stå till svars för sin vårdslöshet eller för att ha bidragit till mitt falska fängelse? Hur kommer det att vara ansvarigt? Om jag är missnöjd med Googles version av ansvarighet, till vem vädjar jag om rättvisa?

    Användbar etik innebär ansvarsskyldighet

    Etik handlar om de moraliska principer som påverkar hur individer fattar beslut och hur de lever sina liv.

    Etik har studerats och diskuterats i evigheter. Inom västerländska traditioner, Etiken spåras tillbaka till Sokrates. De inkluderar filosofiska positioner som deontologisk (pliktbaserad) etik, konsekvens, utilitarism och existentialism, för att bara nämna några. Inte överraskande, ingen av dessa ger samma svar på frågor om vad en individ måste göra under några särskilda omständigheter.

    "Tillämpad etik" syftar till att tillämpa etiska principer i verkliga situationer. Det finns många exempel.

    Offentlig sektors etik styrs av lag. Det får konsekvenser för dem som bryter mot dem, inklusive disciplinära åtgärder, uppsägning av anställning och ibland straffrättsliga påföljder. Att bli advokat, Jag var tvungen att tillhandahålla bevis för en domstol att jag är en "lämplig och ordentlig person". För att fortsätta träna, Jag är skyldig att följa de detaljerade kraven i Australian Solicitors Conduct Rules. Om jag bryter mot dem, det finns konsekvenser.

    Särdragen hos tillämpad etik är att de är specifika, det finns återkopplingsslingor, vägledning finns, de är inbäddade i organisations- och professionell kultur, det finns ordentlig tillsyn, det finns konsekvenser när de bryts och det finns oberoende verkställighetsmekanismer och verkliga rättsmedel. De är en del av en regleringsapparat och inte bara "må bra" uttalanden.

    Må bra, Dataetiska principer på hög nivå är inte lämpliga för syftet att reglera big tech. Tillämpad etik kan ha en roll att spela men eftersom de är yrkes- eller disciplinspecifika kan man inte lita på att de klarar allt, eller till och med de flesta, de tunga lyften.

    Skadorna kopplade till big tech kan bara åtgärdas genom korrekt reglering.

    Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.




    © Vetenskap https://sv.scienceaq.com