Ett nytt papper publicerat i AI -kommunikation ger en övergripande titt på utvecklingen av ett etiskt ramverk, uppförandekod, och värdebaserade designmetoder för AI-forskare och applikationsutvecklare i Europa. "Barcelonadeklarationen för korrekt utveckling och användning av artificiell intelligens i Europa" lanserades våren 2017 vid B-Debatt-evenemanget i Barcelona, för att stimulera till ytterligare diskussion mellan beslutsfattare, branschledare, forskare och applikationsutvecklare om AI:s möjligheter och risker i den nuvarande "gold rush" -miljön.

Förutom att dokumentera den fullständiga Barcelonadeklarationen, tidningen undersöker bakgrunden bakom den, fokuserar på säkerhet, pålitlighet, och etikfrågor och utvärderar framstegen med sina viktiga rekommendationer. Sponsrad av Biocat och l'Obra Social la Caixa, med stöd från ICREA, Institut de Biologia Evolutiva, och Institut d'Investigacio en Intelligencia Artificial, B-Debate samlade de bästa experterna i Europa för att diskutera strategier för att hantera risker och fördelar med AI. Evenemanget var unikt på grund av deltagande av europeiska utvecklare och forskare i en diskurs som tidigare dominerats av amerikanska och brittiska samhällsvetare, juridiska experter, och företagskonsultföretag. Barcelona -deklarationen undertecknades av de flesta deltagarna och är tillgänglig för signatur och diskussion på webben.

"Med tanke på det stora intresset för AI och ivrigheten att utveckla applikationer som påverkar människor i deras dagliga liv, det är viktigt att forsknings- och applikationsutvecklingsgemenskapen deltar i öppna diskussioner för att undvika orealistiska förväntningar, oavsiktliga konsekvenser, och användning som orsakar negativa biverkningar eller mänskligt lidande, "sa Luc Steels, Ph.D., ICREA forskningsprofessor, Katalanska institutionen för forskning och avancerade studier (ICREA) - IBE (UPF/CSIC), Barcelona, som tillsammans med sin medforskare Ramon Lopez de Mantaras, Ph.D., Forskningsprofessor vid spanska nationella forskningsrådet (CSIC) och direktör för Instituto de Investigación en Inteligencia Artificial (IIIA) - CSIC, Bellaterra, Barcelona, anordnade evenemanget i Barcelona.

Medan mest AI -aktivitet sker i USA och Kina, de senaste åtgärderna från Europeiska kommissionen och nationella regeringar tyder på att forskning och utveckling ökar i Europa, tillväxt som diskursen kring deklarationen hjälper till att forma. En lovande utveckling var den senaste tilldelningen inom det europeiska H2020 -ramprogrammet för skapandet av ett ekosystem och en plattform för att stimulera europeisk AI -forskning, som föreskrivs i deklarationen. Tidningen förnyar sin uppmaning till europeiska finansieringsorgan och företag att investera i utvecklingen av AI i en skala som är tillräcklig för utmaningen, och på ett sådant sätt att alla europeiska regioner och medborgare kan tjäna pengar.

B-debatten, Barcelonadeklarationen, och en snabbt växande litteratur väcker angelägna frågor som fortsätter att resonera:Är AI redo för storskalig distribution? AI används nu främst för kommersiella ändamål, men kan vi också använda AI för det allmänna bästa? Vilka applikationer bör vi uppmuntra? Hur kan de negativa effekterna vid implementering av AI åtgärdas? Vilka är de senaste tekniska genombrotten inom AI och hur påverkar de applikationer? Vilken roll ska AI spela i sociala medier? Vilka är de bästa metoderna för utveckling och distribution av AI?

"Även om snabba AI -framsteg förväntas med stor spänning, viss oro för framsteg är nödvändig och motiverad, "kommenterade Steels och Lopez de Mantaras." Den vanliga rädslan för att AI-distribution kommer att gå ur handen kan verka långsökt, men det finns redan oavsiktliga konsekvenser som kräver akut åtgärd. Till exempel, algoritmer inbäddade i webben och sociala medier påverkar vem som pratar med vem, hur information väljs och presenteras, och hur fakta/lögner förökar sig och konkurrerar i det offentliga rummet. AI bör (och kan) hjälpa till att stödja konsensusbildning snarare än att förstöra den. AI -system bör göra det mycket tydligt att de är artificiella snarare än mänskliga. Att lura människor borde aldrig vara ett mål för AI. "

Frågor undersöks också om tillförlitlighet och ansvarsskyldighet för AI-system baserade på djupinlärning som involverar regelstyrt beteende (t.ex. ekonomiskt beslutsfattande, personalavdelning, eller brottsbekämpning). Inbäddade fördomar kan förhindra att kvalificerade arbetssökande klarar screening eller leda till orättvisa villkorliga villkor. Autonoma AI -system ger olika problem. Behöver vi sätta gränser för autonoma vapen? Vem är ansvarig när något går fel med en självkörande bil?

"Barcelona -deklarationen har fastställt en ram för styrning för att integrera bästa praxis proaktivt, som en del av designprocessen. Vi tror att AI kan vara en kraft för samhällets bästa, men att det finns en tillräcklig fara för olämpliga, för tidig eller illvillig användning för att motivera behovet av att öka medvetenheten om AI:s begränsningar och för kollektiva åtgärder för att säkerställa att AI verkligen används för det allmänna bästa på ett säkert sätt, pålitlig, och ansvarsfulla sätt, "förklarade Steels och Lopez de Mantaras.

Även om AI -landskapet i Europa snabbt förändras genom alla dessa diskussioner och aktiviteter, utredarna drar slutsatsen att frågor som tas upp i deklarationen fortfarande är mycket relevanta, och förnya rekommendationer inom flera prioriterade områden:

• Det finns ett ännu större behov idag att klargöra vad vi menar med AI när vi diskuterar juridiska och etiska frågor. Det saknas skillnad mellan kunskapsbaserad AI, som modellerar mänsklig kunskap i beräkningsmässiga termer, eller dataorienterat lärande, allmänt känd som maskininlärning. De juridiska och etiska frågorna och tillämpningarna för båda metoderna är olika, men AI:s fulla potential kommer bara att realiseras med en kombination av dem.
• Frågan hur mycket autonomi som ska ges till ett AI -system är för många applikationer, som vapenteknik eller autonoma bilar, av primär betydelse. Ett tillvägagångssätt är att skapa regler för styrning och en rättslig ram som både är en riktlinje för utvecklare och en mekanism genom vilken de som påverkas negativt av tekniken kan söka upprättelse.
• Fokus måste flyttas från maskiner som ersätter mänskliga arbetare till att komplettera och utnyttja människor i att utföra uppgifter och fatta bättre beslut. Diskussionen om automatisering bör fokusera på arbetets förändrade karaktär, inte bara antalet jobb.
• Det finns en lång väg att gå för att på ett adekvat sätt stödja utvecklingen och distributionen av AI i Europa. Deklarationen har bidragit till att öka medvetenheten och har gett ytterligare impulser till regeringsinitiativ, men konkreta åtgärder och stabila finansieringstilldelningar som direkt påverkar AI -distribution, forskning, och utbildning i Europa är fortfarande sällsynt.