I denna söndag, 11 augusti, 2019, foto en iPhone visar apparna för Facebook och Messenger i New Orleans. Facebook säger att det betalade entreprenörer för att transkribera ljudklipp från användare av sin Messenger -tjänst. (AP Photo/Jenny Kane)
Facebook har betalat entreprenörer för att transkribera ljudklipp från användare av sin Messenger-tjänst, oro för sekretess för ett företag med en historia av sekretess bortfaller.
Övningen var, tills nyligen, vanligt i teknikbranschen. Företag säger att användningen av människor hjälper till att förbättra sina tjänster. Men användare är vanligtvis inte medvetna om att människor och inte bara datorer granskar ljud.
Transkriptioner gjorda av människor väcker större oro på grund av risken för oseriösa anställda eller entreprenörer som läcker detaljer. Övningen på Google framkom efter att några av dess nederländska språkutdrag läckt ut. Mer än 1, 000 inspelningar erhölls av den belgiska sändaren VRT NWS, som noterade att vissa innehöll känsliga personliga konversationer - liksom information som identifierade personen som talade.
"Vi känner att vi har viss kontroll över maskiner, sa Jamie Winterton, strategidirektör vid Arizona State University's Global Security Initiative. "Du har ingen kontroll över människor på det sättet. Det finns inget sätt när en människa vet något för att dra den informationen till papperskorgen."
Jeffrey Chester, verkställande direktör för Center for Digital Democracy privacy-advocacy group, sa att det är tillräckligt illa att Facebook använder artificiell intelligens som en del av sina dataövervakningsaktiviteter. Han sa att användningen av människor också är "ännu mer alarmerande."
Tim Bajarin, teknisk krönikör och president för Creative Strategies, sa att det är ett större problem när människor använder informationen utöver det avsedda syftet.
Facebook sa att ljudavsnitt som granskades av entreprenörer var maskerade för att inte avslöja någons identitet. Det sa att det stoppade träningen för en vecka sedan. Utvecklingen rapporterades tidigare av Bloomberg.
Google sa att det avbröt att göra detta över hela världen medan det undersöker de nederländska läckorna. Amazon sa att det fortfarande använder människor, men användare kan tacka nej, eller välja bort, av de mänskliga transkriptionerna. Publicerade rapporter säger att Apple också har använt människor, men har slutat. Apple svarade inte omedelbart på begäran om kommentar.
En rapport från den tekniska nyhetssajten Motherboard förra veckan sa att Microsoft också använder mänskliga transkriberare med några Skype-konversationer och kommandon som talas till Microsofts digitala assistent, Cortana. Microsoft sa i ett uttalande att det har skyddsåtgärder som att ta bort identifieringsdata och kräva sekretessavtal med entreprenörer och deras anställda. Ändå läckte detaljer till moderkortet.
I denna söndag, 11 augusti, 2019, foto en iPhone visar en Facebook -sida i New Orleans. Facebook säger att det betalade entreprenörer för att transkribera ljudklipp från användare av sin Messenger -tjänst. (AP Photo/Jenny Kane)
Efter moderkortrapporten, Microsoft sa att det "kan göra ett bättre jobb" och förklarar att människor lyssnar på konversationerna. Den uppdaterade sina vanliga frågor för Skype för att säga att användningen av översättningstjänsten "kan inkludera transkription av ljudinspelningar av Microsofts anställda och leverantörer."
Det är vettigt att använda mänskliga transkriberare för att träna system för artificiell intelligens, Sa Winterton. Men problemet är att företag leder människor att tro att endast maskiner lyssnar på ljud, orsakar felkommunikation och misstro, Hon sa.
"Att kommunicera till användare genom din integritetspolicy är lagligt men inte etiskt, " Hon sa.
Företagens integritetspolicy – vanligtvis lång, täta dokument - ofta tillåter användning av kunddata för att förbättra produkter och tjänster, men språket kan vara ogenomskinligt.
"Vi samlar in innehållet, kommunikation och annan information du tillhandahåller när du använder våra produkter, inklusive när du registrerar dig för ett konto, skapa eller dela innehåll, och meddela eller kommunicera med andra, "Facebooks dataanvändningspolicy lyder. Den nämner inte ljud eller röst specifikt eller använder transkriberare.
Bajarin sa att teknikföretag måste använda flera metoder för att förfina programvara för artificiell intelligens, eftersom digitala röstassistenter och röst-till-text-teknik fortfarande är nya. Men han sa att vara tydligare om det mänskliga engagemanget är "det minsta" företag kan göra.
"De borde vara väldigt tydliga med vad deras policy är och om konsumentbudskap eller vad det nu är kommer att synas, "sa han." Om människor är en del av processen för analys som måste anges också. "
Irländska dataskyddstillsynsmyndigheter säger att de söker mer information från Facebook för att bedöma efterlevnaden av europeiska dataregler. Byråns uttalande säger att den också har haft "pågående engagemang med Google, Apple och Microsoft "över frågan, även om Amazon inte nämndes.
Facebook är redan under granskning för en mängd andra sätt som det har missbrukat användardata. Det gick med på en böter på 5 miljarder dollar för att lösa en amerikansk Federal Trade Commission -undersökning av dess sekretesspraxis.
© 2019 Associated Press. Alla rättigheter förbehållna.