1969, konstnärlig intelligenspionjär och nobelpristagare Herbert Simon föreslog en ny vetenskap, en som närmade sig studiet av konstgjorda föremål precis som man skulle studera naturliga föremål.

"Naturvetenskap är kunskap om naturobjekt och fenomen, "Simon skrev." Vi frågar om det inte också kan finnas "konstgjord" vetenskap - kunskap om artificiella föremål och fenomen. "

Nu, 50 år senare, ett team av forskare från Harvard, MIT, Stanford, University of California, San Diego, Google, Facebook, Microsoft, och andra institutioner förnyar den uppmaningen. I en ny tidning publicerad i tidningen Natur , forskarna föreslog en ny, tvärvetenskapligt område - maskinbeteende - som skulle studera artificiell intelligens genom biologins lins, ekonomi, psykologi, och andra beteende- och samhällsvetenskaper.

Intelligenta maskiner, forskarna argumenterar, kan inte längre bara ses som produkter från teknik och datavetenskap; snarare, de ska ses som en ny klass av aktörer med egna beteenden och ekologi.

Harvard John A. Paulson School of Engineering and Applied Sciences (SEAS) talade med David Parkes, George F. Colony-professor i datavetenskap och medförfattare till uppsatsen, om detta framväxande område och vad framtiden väntar för intelligenta maskiner.

Frågor och svar:David Parkes

SEAS:Så länge, studiet av artificiell intelligens och intelligenta maskiner har begränsats till datavetenskapens område, och forskarna som byggde maskinerna var samma som studerade deras beteende. Varför är det viktigt att utvidga studieområdet till att omfatta nya områden, inklusive beteende- och samhällsvetenskap?

PARKERINGAR:Först, en separation mellan konstruktörer och byggare av intelligenta maskiner och de som studerar hur de används (eller inte) kan ge en oberoende synvinkel när det gäller att utveckla och testa rätt uppsättningar av hypoteser om prestandan hos dessa tekniker. Det finns också pragmatiska skäl, genom att studiet av intelligenta maskiner blir en beteendevetenskap, kräver helt olika sakkunskap. En annan punkt är att system som utvecklats i ett laboratoriums trånga gränser kan bete sig väldigt annorlunda "i naturen, "när beteende blir en produkt av hur de används, inklusive de många sätt som skiljer sig från vad deras designers hade tänkt sig. Microsofts Tay-bot [som började lägga upp stötande tweets efter att troll ”lärt” hennes hatprat] är ett olyckligt men inte så unikt exempel.

SEAS:Hur kan områdena maskinbeteende och datavetenskap växa tillsammans och informera varandra framåt?

PARKES:Eftersom datavetenskap har kommit att få sådan inverkan, fältet har kommit att omfamna vad ekonomer kan kalla "positiv analys, "det vill säga analys som är baserad på empiriska och experimentella studier av utplacerade, beräkningssystem - uppbyggnaden av World Wide Web, spridning av information på sociala nätverk, eller hur interaktiva handledningssystem används, för att bara ge tre exempel. Intelligenta maskiner är en ny typ av artefakt som vi behöver studera och förstå, och vi måste göra detta på ett tvärvetenskapligt sätt som inkluderar datavetare som arbetar tillsammans med samhällsvetare, humanister, etikister, juridiska forskare, för att nämna några stycken. Mer allmänt, studien av maskinbeteende kommer att påverkas av framsteg inom datavetenskap, i att arbeta i stor skala med stora mängder olika typer av data, och för att utnyttja metoder för sannolikhetsinlärning och statistik för att reta ut orsak och verkan.

SEAS:Ditt arbete fokuserar på skärningspunkten mellan AI och ekonomi. Vilka frågor om maskinbeteende är du mest intresserad av att svara på?

PARKES:Jag är intresserad av ett forskningsprogram som studerar maskinbeteende inom den algoritmiska ekonomin, inklusive prisalgoritmer, rekommendatoralgoritmer, och rykte system, liksom i samband med blockchains. Vi kan redan se en väg mot automatisering av många av kärnbeståndsdelarna i det som utgör ett ekonomiskt system, och maskinbeteendeobjektivet är bra eftersom beteendet är framväxande, vilket betyder att det inte bara bygger på individuella interaktioner utan också på samhälleliga och ekonomiska krafter. Jag tycker att rekommendatorsystem som de som används av Amazon är särskilt intressanta och viktiga att studera eftersom det är där vi kommer att se taggiga frågor kring beteendeekonomi, algoritmisk marknadsföring, och etik ... Till exempel, är det okej för en intelligent rekommendatör att utnyttja "valuppsättningseffekter" för att öka intäkterna?

SEAS:Vad är valuppsättningseffekter?

PARKER:Jag visar dig en billig, måttlig kostnad, och dyr kaffemaskin och du väljer den måttligt prissatta. Men, om jag visar dig en måttlig, dyr, och uber-lyxmaskin, väljer du ...?

SEAS:Dyrt ett. Du tog upp privata företag som Amazon och Microsoft. Egna och black-box algoritmer måste utgöra en utmaning för att förstå maskinbeteende. Hur kan vi förstå varför en maskin beter sig som den gör när vi inte vet vad algoritmen är eller hur den fattar beslut?

PARKER:Roligt nog, algoritmerna behöver inte själva vara särskilt komplicerade. Algoritmerna för utbildning av ett djupinlärningssystem, som beskriver modellens arkitektur och hur en modell kommer att utbildas, kan vanligtvis uttryckas i bara tiotals rader kod (om än kod som sedan bygger ovanpå andra, kod på lägre nivå). Det är de utbildade modellerna som är komplexa och något obetydliga, anses ofta vara en "svart låda". Men det är inte hopplöst, och det finns många vettiga forskningsinriktningar - till exempel kräver enklare modeller, insisterar på en post hoc -förklaring av beteendet hos komplexa modeller, och med hjälp av visualisering och känslighetsanalyser för att försöka förstå hur dessa modeller fungerar och testa teorier om beteende.

SEAS:Artificiell intelligens spelar redan en så stor roll i våra liv. Vad är vikten av att etablera detta nya forskningsfält nu? Är du rädd att det startas för sent, när så mycket av grunden för AI redan har lagts?

PARKER:Jo, det är aldrig för sent, och vi är bara i början av den förändringsvåg som kommer från utvecklingen av intelligenta maskiner. Det är nödvändigt att gå medvetet framåt, med lämpliga nyfikenhetsmått, kreativitet, och ansvar, samtidigt med erkännandet att människor och maskiner kommer att fortsätta att bindas samman på nya och oväntade sätt. Det viktiga är erkännandet av behovet av vetenskapliga studier, och den här granskningsartikeln sammanför trådar i detta framväxande, tvärvetenskapligt område för maskinbeteende.

Denna berättelse publiceras med tillstånd av Harvard Gazette, Harvarduniversitetets officiella tidning. För ytterligare universitetsnyheter, besök Harvard.edu.