Barbara Grosz har en fantasi om att varje gång en datavetare loggar in för att skriva en algoritm eller bygga ett system, ett meddelande blinkar över skärmen som frågar, "Har du tänkt på de etiska konsekvenserna av det du gör?"

Tills den dagen kommer, Grosz, Higgins professor i naturvetenskap vid Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS), arbetar för att ingjuta i nästa generation av datavetare ett tänkesätt som tar hänsyn till de samhälleliga effekterna av deras arbete, och de etiska resonemang och kommunikationsförmåga för att göra det.

"Etik genomsyrar utformningen av nästan alla datorsystem eller algoritmer som går ut i världen, ", sa Grosz. "Vi vill utbilda våra elever att inte bara tänka på vilka system de skulle kunna bygga, men om de ska bygga dessa system och hur de ska utforma dessa system. "

I en tid då datavetenskapliga institutioner runt om i landet brottas med hur man ska få ut akademiker som förstår såväl etik som algoritmer, Harvard tar ett nytt tillvägagångssätt.

2015, Grosz designade en ny kurs som heter "Intelligenta system:Design och etiska utmaningar." En expert på artificiell intelligens och en pionjär inom naturlig språkbehandling, Grosz vände sig till kollegor från Harvards filosofiavdelning för att tillsammans undervisa i kursen. De inblandade i kursens tekniska innehåll en serie etiska gåtor i verkligheten och relevanta filosofiska teorier som var nödvändiga för att utvärdera dem. Detta tvingade eleverna att konfrontera frågor som, till skillnad från de flesta datavetenskapsproblem, har inget uppenbart rätt svar.

Studenterna svarade. Kursen lockade snabbt många följare och under det andra året tävlade 140 personer om 30 platser. Det fanns en efterfrågan på fler sådana kurser, inte bara från elevernas sida, men också av Grosz datavetenskapliga fakultets kollegor.

"Fakulteten tyckte att detta var intressant och viktigt, men de hade ingen expertis i etik för att lära ut det själva, " Hon sa.

Som svar, Grosz och medarbetaren Alison Simmons, Samuel H. Wolcott professor i filosofi, utvecklat en modell som bygger på expertis från filosofiavdelningen och integrerar den i en växande lista med mer än ett dussin datavetenskapliga kurser, från introduktionsprogrammering till teori på forskarnivå.

Enligt initiativet kallad Embedded Ethics, filosofi doktorander är parade med datavetenskapliga fakultetens medlemmar. Tillsammans, de går igenom kursmaterialet och beslutar om ett etiskt rikt ämne som naturligt kommer att uppstå ur innehållet. En doktorand identifierar avläsningar och utvecklar en fallstudie, aktiviteter, och uppdrag som ska förstärka materialet. Instruktörerna i datavetenskap och filosofi undervisar sida vid sida när Embedded EthiCS-materialet tas med till klassrummet.

Grosz och hennes filosofikollegor står i centrum för en rörelse som de hoppas kommer att spridas till datavetenskapsprogram runt om i landet. Harvards "distribuerade pedagogik" tillvägagångssätt skiljer sig från många universitetsprogram som behandlar etik genom att lägga till en fristående kurs, dvs. oftare än sällan, bara ett val för datavetenskap.

"Fristående kurser kan vara bra, men de kan skicka meddelandet att etik är något du tänker på efter att du har gjort ditt "riktiga" datavetenskapliga arbete, ", sa Simmons. "Vi vill skicka budskapet att etiska resonemang är en del av vad du gör som datavetare."

Att bädda in etik i hela läroplanen hjälper datavetenskapsstudenter att se hur etiska frågor kan uppstå från många sammanhang, frågor som sträcker sig från hur sociala nätverk underlättar spridningen av falsk information till censur till maskininlärningstekniker som möjliggör statistiska slutsatser i anställning och i det straffrättsliga systemet.

Kurser i artificiell intelligens och maskininlärning är självklara områden för etiska diskussioner, men Embedded EthiCS har också inbyggda moduler för mindre uppenbara parningar, till exempel tillämpad algebra.

"Vi vill verkligen få eleverna att vana att tänka:Hur kan en etisk fråga uppstå i det här eller det sammanhanget?" Simmons sa.

David Parkes, George F. Colony professor i datavetenskap, undervisar i en omfattande grundkurs i ämnen inom algoritmisk ekonomi. "Utan detta initiativ, Jag skulle ha kämpat för att skapa de rätta etiska frågorna relaterade till regler för matchning av marknader, eller välja mål för rekommendatorsystem, "sa han." Det har varit en ögonöppnande upplevelse att få eleverna att tänka noga kring etiska frågor. "

Grosz erkände att det kan vara en utmaning för datavetenskapliga fakulteter och deras studenter att linda sina huvuden kring ofta ogenomskinliga etiska problem.

"Dataforskare är vana vid att det finns sätt att bevisa att problemuppsättningar är korrekta eller att algoritmer är effektiva, ", sa hon. "Att hamna i en situation där olika värderingar leder till att det finns avvägningar och sätt att stödja olika "rätta slutsatser" är en utmanande tankeförändring. Men att få in dessa normativa frågor i datorsystemdesigners sinne är avgörande för samhället just nu."

Jeffrey Behrends, för närvarande en fellow-in-residence vid Harvards Edmond J. Safra Center for Ethics, har tillsammans med Grosz undervisat i design- och etikkursen. Behrends sa att upplevelsen avslöjade större harmoni mellan de två fälten än man kan förvänta sig.

"När elever som inte är bekanta med filosofi har introducerats för det, de inser att det inte är något mystiskt företag som är helt oberoende av andra sätt att tänka om världen, " sa han. "Många studenter som attraheras av datavetenskap attraheras också av några av filosofins metoder, eftersom vi betonar rigoröst tänkande. Vi betonar en metodik för att lösa problem som inte ser alltför olik från några av metoderna för att lösa problem inom datavetenskap."

Embedded EthiCS -modellen har väckt intresse från universitet - och företag - runt om i landet. Nyligen, experter från mer än 20 institutioner samlades på Harvard för en workshop om utmaningarna och bästa praxis för att integrera etik i datavetenskapens läroplaner. Mary Gray, en senior forskare vid Microsoft Research (och en stipendiat vid Harvards Berkman Klein Center for Internet and Society), som hjälpte till att sammankalla sammankomsten, sa att förutom oklanderliga tekniska kotletter, Arbetsgivare letar alltmer efter personer som förstår behovet av att skapa teknik som är tillgänglig och socialt ansvarsfull.

"Vår utmaning inom industrin är att hjälpa forskare och praktiker att inte se etik som en ruta som måste kontrolleras i slutet, utan snarare att tänka på dessa saker redan från början av ett projekt, " sa Gray.

Dessa bekymmer inspirerade nyligen Association for Computing Machinery (ACM), världens största vetenskapliga och pedagogiska datorsamhälle, att uppdatera sin etiska kod för första gången sedan 1992.

I hopp om att sprida Embedded EthiCS-konceptet brett över det datavetenskapliga landskapet, Grosz och kollegor har skrivit ett papper som ska publiceras i tidningen Kommunikation från ACM och lanserade en webbplats för att fungera som ett arkiv med öppen källkod för deras mest framgångsrika kursmoduler.

De föreställer sig ett kulturskifte som leder till en ny generation av etiskt inriktade datavetenskapare.

"I vår drömvärld, framgång kommer att leda till bättre informerade beslutsfattare och nya företagsmodeller för organisation som bygger in etik i alla stadier av design och företagsledarskap, " säger Behrends.

Experimentet har också lett till intressanta samtal utanför datavetenskapens område.

"Vi har gjort det här i samband med teknik, men att bädda in etik på detta sätt är viktigt för varje vetenskaplig disciplin som lägger ut saker i världen, " sa Grosz. "För att göra det, vi kommer att behöva växa en generation av filosofer som kommer att tänka på hur de kan ta filosofisk etik och normativt tänkande, och ta med det till all vetenskap och teknik. "

Noggrant utformade kursmoduler

I hjärtat av Embedded EthiCS-programmet är noggrant utformade, kursspecifika moduler, utvecklat i samarbete av fakulteten från datavetenskap och filosofi.

En modul som skapats för en kurs som lärs av professor Finale Doshi-Velez ber eleverna att brottas med frågor om hur maskininlärningsmodeller kan vara diskriminerande, och hur den diskrimineringen kan minskas. En inledande föreläsning beskriver en filosofisk ram för vad diskriminering är, inklusive begreppen olika behandling och påverkan. Eleverna lär sig hur eliminering av diskriminering i maskininlärning kräver mer än att bara minska bias i teknisk mening. Även att sätta en socialt bra uppgift kanske inte räcker för att minska diskrimineringen, eftersom maskininlärning bygger på prediktivt användbara korrelationer och dessa korrelationer ibland resulterar i ökad ojämlikhet mellan grupper.

Modulen belyser följderna och potentiella begränsningar av att använda en disparat effektdefinition för att identifiera diskriminering. Den introducerar också tekniskt datavetenskapligt arbete med diskriminering - statistiska rättvisekriterier. En övning i klassen fokuserar på ett fall där en algoritm som förutsäger framgång för arbetssökande till försäljningspositioner hos en stor återförsäljare resulterar i att färre afroamerikaner rekommenderas för tjänster än vita sökande.

En uppgift utanför klassen uppmanar eleverna att utgå från denna grund för att ta itu med ett konkret etiskt problem som arbetande datavetare står inför (det vill säga mjukvaruingenjörer som arbetar för Department of Labor). Uppgiften ger eleverna en möjlighet att tillämpa materialet på ett verkligt problem av det slag de kan möta i sin karriär, och ber dem att artikulera och försvara sin strategi för att lösa problemet.