När datadrivna teknologier förändrar världen och artificiell intelligens väcker frågor om partiskhet, integritet och transparens, erbjuder Suresh Venkatasubramanian sin expertis för att hjälpa till att skapa skyddsräcken för att säkerställa att teknik utvecklas och distribueras på ett ansvarsfullt sätt.

"Vi måste skydda det amerikanska folket och se till att tekniken används på ett sätt som stärker våra högsta värderingar", säger Venkatasubramanian, professor i datavetenskap och datavetenskap vid Brown University.

Efter en nyligen avslutad 15-månaders utnämning som rådgivare till Vita husets kontor för vetenskap och teknik, återvände Venkatasubramanian till Washington, D.C. tisdagen den 4 oktober för avtäckningen av "A Blueprint for an AI Bill" of Rights:Making Automated Systems Work for the American People", under en ceremoni i Vita huset.

Venkatasubramanian sa att ritningen representerar kulmen på 14 månaders forskning och samarbete ledd av Office of Science and Technology Policy med partners över hela den federala regeringen, akademin, civilsamhället, den privata sektorn och samhällen runt om i landet. Samarbetet informerade om utvecklingen av den första nationella vägledningen någonsin fokuserad på användning och distribution av automatiserade tekniker som har potential att påverka människors rättigheter, möjligheter och tillgång till tjänster.

"Som en nation har vi gjort det här tidigare med konsumenternas integritet och patientens Bill of Rights, till exempel," sa Venkatasubramanian. "Medborgerliga rättigheter och medborgerliga friheter är en helig institution i vårt land... Alla större länder och block av länder i världen funderar på vad som krävs för att styra automatiserade system och ta hänsyn till partiskhet, men USA har inte, så detta är något som höll på att vänta länge."

Venkatasubramanian är en forskare och utbildare som är fördjupad i utvecklingen och effekten av teknik och artificiell intelligens. Möjligheten att ge råd nationellt anpassad inte bara till hans expertis, utan också hans oro över den etiska användningen av teknik och partiskhet inbäddad i utformningen av vissa AI-verktyg, som kan ingjuta tidigare fördomar och vidmakthålla diskriminering.

Med anledning av tillkännagivandet av AI Bill of Rights delade Venkatasubramanian, som är biträdande direktör för Browns Data Science Initiative, insikter och perspektiv på sin vistelse i Vita huset, hans humanistiska inställning till datavetenskap och vad han ser fram emot att åstadkomma på Brun under de kommande åren.

F:Varför är "skyddsräcken" kring utveckling och användning av AI en fråga av nationell betydelse?

Vi inser att det finns många potentiella fördelar med automatisering och datadriven teknik – alla dessa löften om vad som kan vara. Men vi ser också att löftena ofta tenderar att inte betala sig. Till exempel kan vi försöka bygga ett AI-system för att se till att vi inte kan diskriminera i det straffrättsliga systemet, men system som suger upp data från tidigare arresteringar är oåterkalleligt nedsmutsade av historien om rasistiska orättvisor i det straffrättsliga systemet. Och sedan implementerad i stor skala sprider sig denna fläck. All data som matas in i ett system kommer bara att förstärka fördomar i data, såvida det inte finns rigorösa och noggrant utformade skyddsräcken.

Dessa tekniska system påverkar våra medborgerliga rättigheter och medborgerliga friheter med avseende på allt:kredit, möjligheten att bli godkänd för en inteckning och egen mark, barnskydd, tillgång till förmåner, att bli anställd för jobb – alla möjligheter till avancemang. Där vi sätter dessa system på plats måste vi se till att de överensstämmer med de värderingar vi anser att de borde ha, och att de är byggda på ett sätt som är öppet och ansvarsfullt för allmänheten. Det är inget vi kan slå på i efterhand.

F:Som datavetare, varför är du orolig över teknikens inverkan på samhället?

Jag har studerat dessa frågor i nästan ett decennium och funderat på vad som kommer härnäst och hur världen kommer att se ut när algoritmer är allestädes närvarande. För tio år sedan var en oro som jag trodde att vi troligen skulle ha var om vi kan lita på att dessa system fungerar som de ska, och hur vi vet att dessa system är ansvariga inför allmänheten och våra representanter.

Oavsett om du gillar det eller inte, är tekniken här, och den påverkar redan allt som formar dig. Du anpassar – utan din vetskap – hur du lever och fungerar för att göra dig mer läsbar för tekniken. Du gör dig själv maskinläsbar, snarare än att göra maskiner läsbara för människor. Om vi ​​inte uppmärksammar detta kommer tekniken att styra hur vi lever som ett samhälle snarare än att samhället gör teknik som hjälper oss att blomstra och vara vårt sanna jag. Jag gillar inte att skrämma folk, men det är sant – och det är viktigt.

F:Är AI en bra sak eller en dålig sak?

Inte heller, egentligen. Det är inte tekniken som är bra eller dålig, AI eller inte. Det är effekterna – skadorna – som vi bör oroa oss för. Ett Excel-kalkylblad som producerar en poäng som begränsar någon till frihetsberövande innan han ställs inför rätta är lika dålig som ett sofistikerat AI-system som gör samma sak. Och en djupinlärningsalgoritm som kan hjälpa till med att förbättra skörden är fantastisk och underbar. Det är därför AI Bill of Rights fokuserar på påverkan – på människors rättigheter, möjligheter och tillgång till tjänster – snarare än själva tekniken, som förändras och utvecklas snabbt.

F:Vad kommer Blueprint för en AI Bill of Rights att göra?

Tänk på receptbelagda läkemedel till exempel. Du behöver inte oroa dig för att läkemedlet du tar inte har testats, eftersom FDA kommer inte att låta det komma ut på marknaden förrän det har genomgått rigorösa tester. På samma sätt är vi övertygade om att våra bilar kommer att fungera och att regelbundna återkallelser sker när National Highway Traffic Safety Administration upptäcker ett problem; och vi är övertygade om att våra plan fungerar och att varje ny typ av jetplan genomgår rigorösa tester innan de flygs. Vi har många exempel att hämta där vi inte låter ny teknik användas på människor utan att först kontrollera det. Vi kan se det som en vägledning för vad vi tycker är viktigt, och teknik påverkar alla.

Denna AI Bill of Rights är en plan som går utöver principer. Den ger praktiska råd till utvecklare, till civilsamhället, till förespråkare, till företag, till lokala myndigheter och till statliga myndigheter. Det finns olika hävstänger för att främja det:reglering, branschpraxis, vägledning om vad regeringar kommer att bygga eller inte. Här finns ingen silverkula, men alla spakar är inom räckhåll. Det kommer att krävas hela samhället för att främja detta arbete.

F:Hur påverkade din erfarenhet som rådgivare i Vita huset dig?

Det var livsförändrande. Min hjärna fungerar nu på ett sätt som jag inte kan – och inte vill – ångra. Jag funderar hela tiden på bryggorna mellan forskning och innovation, samhälle och politik. Som land och som forskare kommer vi fortfarande överens med detta. Under lång tid har vi tänkt på teknik som en sak vi använder för att göra livet bättre. Men vi är inte lika bekanta med teknik som något som förändrar vår värld. Att försöka utforma politik för ett helt land – och på vissa sätt hela världen, eftersom USA är en ledare – är utmanande eftersom det finns så många konkurrerande intressen som du måste balansera.

Under min tid i regeringen blev jag imponerad av hur komplexa och subtilt dessa frågor utvecklas inom olika domäner – vad som är vettigt när man tänker på hälsodiagnostiska verktyg inte riktigt fungerar om man tänker på verktyg som används i rättssalen. Jag har en djupare uppskattning för hur många engagerade människor det finns inom regeringen som vill göra skillnad och behöver hjälp och bandbredd för att göra det.

En sak som jag har insett under de år jag har arbetat i policyområden är att det är avgörande att hjälpa beslutsfattare att förstå att teknik inte är en svart låda – den är formbar och utvecklas, och den hjälper till att forma politiken på ett sätt som vi kanske inte förvänta. Val av teknikdesign är politiska val, på så många sätt. Att komma överens med hur teknik och politik påverkar varandra kräver mycket utbildning – både för teknologer och för beslutsfattare. + Utforska vidare

Vita huset avslöjar artificiell intelligens "Bill of Rights"