Kontroverser omger U.S. Census Bureaus nya åtgärder för att bevara integriteten, men en ny studie undersöker hur befintliga datafel kan utgöra ett ännu större problem för evidensbaserad policy. Hörnstenen i Census Bureaus uppdaterade integritetsåtgärder, differentiell integritet, kräver injicering av statistisk osäkerhet, eller brus, när känslig data delas. Forskare, politiker och aktivister har uttryckt oro över effekten av detta buller på avgörande användningar av folkräkningsdata. Ändå förbiser de flesta analyser av avvägningar kring differentiell integritet djupare osäkerheter i folkräkningsdata. I en ny studie undersökte forskare hur utbildningspolitik som använder folkräkningsdata felallokerar medel som ett resultat av statistisk osäkerhet.

Studien fann att felallokeringar på grund av buller som injiceras för integriteten kan vara små eller försumbara, jämfört med felallokeringar på grund av befintliga källor till datafel som felrapportering eller utebliven respons. Men studien finner också att enkla policyreformer kan hjälpa finansieringsformler att hantera ojämlik fördelning av osäkerhet från datafel och smidiga vägen för nya integritetsskydd, vilket erbjuder en väg för kompromiss mellan riktad policy, rättvisa och bättre integritetsskydd.

Studien, utförd av forskare vid Carnegie Mellon University (CMU) och publicerad i Science , fokuserar på avdelning I i lagen om elementär och sekundär utbildning, vilket ger ekonomiskt stöd till skoldistrikt med ett stort antal barn från låginkomstfamiljer för att hjälpa till att säkerställa att alla barn uppfyller statliga utbildningsstandarder. Federala medel tilldelas genom formler baserade främst på folkräkningsuppskattningar av fattigdom och kostnaden för utbildning i varje stat. År 2021 anslog den amerikanska regeringen mer än 16,5 miljarder USD i titel I-medel till mer än 13 000 skoldistrikt och andra lokala utbildningsorgan.

I den här studien använde forskarna en exakt simulering av tilldelningsprocessen för titel I för att jämföra de politiska effekterna av buller som injiceras för privatlivet med effekterna av befintlig statistisk osäkerhet. Specifikt jämförde de effekterna av kvantifierade datafel och av en möjlig differentiellt privat brusinsprutningsmekanism. Till exempel, av de 11,7 miljarder dollar i 2021 Titel I-medel som denna studie undersökte, tilldelades 1,06 miljarder dollar bort från vissa distrikt i en genomsnittlig körning av simuleringen på grund av datafel enbart. Denna siffra ökade med bara 50 miljoner dollar när forskarna injicerade buller för att ge ett relativt starkt integritetsskydd.

"Vi ägnade särskild uppmärksamhet åt hur titel I implicit koncentrerar de negativa effekterna av statistisk osäkerhet på marginaliserade grupper", förklarar Ryan Steed, en Ph.D. student vid CMU:s Heinz College, som ledde studien. "Att försvaga integritetsskyddet hjälper inte dessa grupper, och för dem kan det vara särskilt riskabelt att delta i en Census-undersökning."

Resultaten visar att felallokeringar på grund av statistisk osäkerhet särskilt missgynnar marginaliserade grupper (t.ex. svarta och asiatiska studenter; distrikt med en stor befolkning av latinamerikanska studenter). Huruvida en demografisk grupp förlorade finansieringen berodde på om dess medlemmar tenderade att bo i distrikt med hög eller låg fattigdom, inklusive de i tätare, vanligtvis urbana distrikt.

"Men vi identifierade också policyreformer som kan minska de olika effekterna av både datafel och sekretessmekanismer", konstaterar Steven Wu, biträdande professor vid CMU:s School of Computer Science. "Till exempel, att använda fleråriga medelvärden, snarare än uppskattningar från ett enskilt år, minskade både den totala felallokeringen och skillnaderna i resultat."

Bland studiens begränsningar påpekar författarna att deras studie inte tar hänsyn till systematiska underräkningar och många andra okvantifierade former av statistisk osäkerhet som påverkar fattigdomsberäkningar, inklusive tidigare åtgärder för att skydda integriteten såsom databyte.

"Våra resultat tyder på att effekterna av differentiell integritet i förhållande till andra felkällor i folkräkningsdata kan vara minimal", konstaterar Alessandro Acquisti, professor i informationsteknologi och offentlig politik vid CMU:s Heinz College, som var medförfattare till studien. "Att bara erkänna effekterna av datafel kan förbättra framtida policydesign för både finansieringsformler och undvika avslöjande." + Utforska vidare

Differentiell integritet det korrekta valet för 2020 års folkräkning i USA