Apple Inc. och Goldman Sachs Group Inc., två av de mest kända företagen inom teknik och finans, fångas upp i en växande debatt om huruvida långivare oavsiktligt diskriminerar när de använder komplexa modeller för att avgöra hur amerikaner lånar pengar.

På lördag, Bloomberg rapporterade att en tillsynsmyndighet på Wall Street hade inlett en undersökning av Goldmans kreditkortspraxis efter att en viral tweet från en teknikentreprenör påstod att Apple-kortets algoritmer diskriminerade hans fru.

Nu uppmanar en annan högprofilerad användare av Apple-kortet – Apples medgrundare Steve Wozniak – regeringen att engagera sig, citerar överdrivet företags beroende av mystisk teknologi.

"Den här sortens orättvisor stör mig och går emot sanningsprincipen. Vi har ingen insyn i hur dessa företag sätter upp och fungerar, " sa Wozniak i en intervju på söndagen. "Vår regering är inte tillräckligt stark i frågor om reglering. Konsumenter kan bara representeras av regeringen eftersom de stora företagen bara representerar sig själva."

Wozniak sa att han kan låna 10 gånger så mycket som sin fru på deras Apple-kort trots att de delar bank- och andra kreditkortskonton, och att andra långivare behandlar dem lika.

"Algos har uppenbarligen brister, " sa Wozniak. "Ett stort antal människor skulle säga, "Vi älskar vår teknik men vi har inte längre kontroll." Jag tror att det är så."

Virala Tweets

Långivare har marknadsfört modellerna eftersom de är tänkta att jämna ut villkoren för olika låntagare genom att ta bort mänskliga fel och bara fokusera på data.

"Våra kreditbeslut baseras på en kunds kreditvärdighet och inte på faktorer som kön, lopp, ålder, sexuell läggning eller någon annan grund som är förbjuden enligt lag, " sa Goldmans talesman Andrew Williams efter att New York Department of Financial Services inlett en undersökning av bankens kortpraxis.

Utredningen inleddes som ett svar på en serie Twitter-inlägg från David Heinemeier Hansson som rasade mot Apple-kortet för att ha gett honom 20 gånger den kreditgräns som hans fru fick. Tweetarna, många av dem innehåller svordomar, fick omedelbart dragning online – och ett svar på Twitter från Wozniak.

Hansson avslöjade ingen specifik inkomstrelaterad information för paret men sa att de lämnade in gemensamma skattedeklarationer och att hans fru har en bättre kreditvärdighet än han. Wozniak sa att han och hans fru också lämnar in gemensamma returer och delar kreditkorts- och bankkonton.

"Avdelningen kommer att genomföra en utredning för att fastställa om New Yorks lag har brutits och säkerställa att alla konsumenter behandlas lika oavsett kön, sa en talesman för Linda Lacewell, föreståndaren för NY DFS. "Varje algoritm som avsiktligt eller inte resulterar i diskriminerande behandling av kvinnor eller någon annan skyddad klass av människor bryter mot New Yorks lag."

Det är den andra sådan åtgärden under de senaste veckorna från tillsynsmyndigheten, som öppnade en sond mot sjukvårdsjätten UnitedHealth Group Inc. efter att en studie fann en algoritm som gynnade vita patienter framför svarta patienter.

"Ny teknik kan inte lämna vissa konsumenter bakom sig eller befästa diskriminering, " sa Lacewell i ett uttalande på söndagen. Hon begärde också in klagomål från förolämpade konsumenter på Twitter.

Traditionella långivare ökar sin användning av maskiner för att bestämma vem som får hur mycket kredit som en del av en strategi för att minska kostnaderna och öka låneansökningarna. Under tiden, teknikföretag flyttar in på den finansiella tjänstesektorns gräsmatta, med företag som Amazon, Äpple, Facebook och Google hotar bankernas lukrativa affärsområden genom att erbjuda lån och betalningsalternativ.

Kongressens granskning

Algoritmerna har blivit föremål för granskning i kongressen. I juni, House Financial Services Committee hörde om exempel på algoritmiskt beslutsfattande där forskare har hittat fall av partiskhet riktad mot specifika grupper även när det inte fanns någon avsikt att diskriminera.

Vissa lagstiftare kräver redan ett federalt svar. Senator Elizabeth Warren, en Massachusetts-demokrat och utmanare att utmana president Donald Trump i valet 2020, sa till federala tillsynsmyndigheter i juni att regeringen "kommer att behöva vidta åtgärder för att säkerställa att antidiskrimineringslagar hänger med i innovation."

För Goldman, dess växande ambitioner för Main Street medför ökad granskning och en ny uppsättning utmaningar som den inte har stått inför tidigare. Apple Card är ett joint venture mellan Apple och den New York-baserade banken, som ansvarar för alla kreditbeslut på kortet. Den rullades ut tidigare i år - teknikjätten marknadsför den som "skapad av Apple, inte en bank" - och chefer på båda företagen hyllade det som den mest framgångsrika lanseringen någonsin.

Hansson sa att Goldman inte behandlar oavsiktlig partiskhet på allvar.

"Så fort det här blev en PR-fråga, de höjde omedelbart hennes kreditgräns utan att be om ytterligare dokumentation, " sa han om sin fru i en intervju i lördags. "Min tro är att det inte fanns någon skändlig person som ville diskriminera. Men det spelar ingen roll. Hur vet du att det inte finns något problem med maskininlärningsalgoritmen när ingen kan förklara hur detta beslut togs?"

©2019 Bloomberg News
Distribueras av Tribune Content Agency, LLC.