Max Weiss hade aldrig för avsikt att hacka regeringen. Hans upptäckt av hur lätt det är att göra – som beskrivs i en ny uppsats han skrivit – kom av de bästa avsikterna.

Weiss, en statlig koncentrator från Cincinnati, gjorde opinionsbildning för statlig expansion och försvar av Medicaid förra sommaren, ett projekt som kombinerade hans intressen för offentlig politik och sjukvård. Samtidigt som man studerar hur olika påverkansgrupper kan påverka pågående lagstiftning, han lärde sig hur värdefulla sådana grupper tycker att den federala regeringens kommentarsperiod, när allmänheten bjuds in att väga in ny eller väntande lagstiftning via onlineformulär. Han insåg hur lätt det skulle vara att manipulera resultaten med hjälp av bots – datorprogram som genererar automatiserade svar – för att översvämma sajterna med falska svar för eller emot alla förslag.

21-åringen redogjorde för sina upptäckter i en ny Teknikvetenskap bit, "Deepfake Bot-inlämningar till federala offentliga kommentarerswebbplatser kan inte särskiljas från mänskliga bidrag."

"Vi spenderade mycket tid och energi på att få högkvalitativa kommentarer från väljare, " sa Weiss. "Jag ville se till att dessa federala myndigheter förstod de potentiella konsekvenserna av deras politik, och jag hade idén att jag kunde använda en bot och skicka in en massa falska kommentarer."

Han pausade, erkänner att det var fylligt att korrumpera processen:"Detta skulle vara dåligt för demokratin."

Men invånarna i Leverett House kunde inte skaka av sig tanken, och han började undersöka genomförbarheten av ett sådant system. Det visar sig att inlämning är lätt att automatisera. Federala myndigheter har ett visst utrymme att rabattera kommentarer som uppenbarligen är dubblerade eller irrelevanta. Men det typiska tekniska försvaret mot attack, inklusive CAPTCHAS, anomali upptäckt, och extern verifiering – som alla är integrerade i onlineaktivitet från bank till inloggning via e-post – var i stort sett frånvarande.

"De flesta av dessa webbplatser har egentligen bara en textruta för dina offentliga kommentarer och sedan en skicka-knapp, " han sa.

Under skrivandets gång Teknisk vetenskap papper, Weiss insåg att cybersäkerhetsexperter har slagit larm om federala webbsidors sårbarhet i flera år, men tidigare överträdelser hade använt relativt osofistikerade substitutionsmetoder. "År 2017, det fanns 22 miljoner kommentarer för FCC:s förslag om att upphäva nätneutralitet, "mindes han. "Och det visade sig att 96 procent av dessa var en del av duplicerade kampanjer."

Weiss använde AI-metoder för att generera en stor mängd unika djupfalska kommentarer om ett föreslaget Medicaid-avstående. Han skrev sedan ett program som automatiserade inlämningsprocessen, och körde den från en bärbar dator i hans sovsal under loppet av några dagar. Han lämnade in mer än 1, 000 falska kommentarer som utgjorde 55 procent av de totala bidragen och som av enkätsvarare befanns vara omöjliga att skilja från mänskliga kommentarer. Efteråt, han meddelade de federala centren för Medicare och Medicaid Services vilka kommentarer var en del av hans demonstration för att förhindra att de stör äkta offentlig kommentarsutvärdering.

Bland de mer läskiga avslöjandena var Weiss erkännande att han var framgångsrik utan att vara en expertkodare och utan specialutrustning. "Jag har lärt mig att koda under de senaste fyra åren, bara genom en rad personliga projekt och sommarjobb, och en klass, sa Weiss, som har gått några kurser på det nya programmet i teknikvetenskap. "Jag tror att en av de mycket viktiga resultaten från studien är att någon som jag, som är en mycket nybörjare kodare, kunde googla sig igenom att hacka regeringen.

"Jag har alltid varit väldigt intresserad av offentlig politik, sa Weiss, som också tycker om att skriva och framföra komedi. "Det mesta av mina statliga studier har varit inom hälsopolitik eller inom teknikpolitik eller teknik av allmänt intresse, så det här var bara en slags syntes av en massa olika saker som jag hade lärt mig i regeringsdepartementet och bara några personliga tekniska projekt som jag har gjort tidigare."

"Max gjorde banbrytande arbete, exakt den sortens verkliga arbete vi uppmuntrar våra elever att göra" i tekniska vetenskapsklasser, sa Latanya Sweeney, professor i regering och teknologi i residens och chef för Data Privacy Lab vid Institutet för kvantitativ samhällsvetenskap, som fungerar som chefredaktör för Teknikvetenskap.

"Tack vare Max arbete, flera grupper inom den federala regeringen gör nu aktivt förändringar för att bekämpa dessa typer av sårbarheter, " tillade hon.

Den här historien är publicerad med tillstånd av Harvard Gazette, Harvard Universitys officiella tidning. För ytterligare universitetsnyheter, besök Harvard.edu.