Université de Montréal, i samarbete med Fonds de recherche du Québec, presenterade idag Montréal-deklarationen för ansvarsfull utveckling av artificiell intelligens. Denna uppsättning etiska riktlinjer för utveckling av artificiell intelligens är kulmen på mer än ett års arbete, forskning och samråd med medborgare, experter, offentliga beslutsfattare och industriintressenter, civilsamhällets organisationer, och professionella beställningar.

Artificiell intelligens (AI) är en viktig form av vetenskapliga och tekniska framsteg som kan generera betydande sociala fördelar. Utvecklingen av AI, dock, innebär etiska utmaningar och sociala risker. Det åligger olika offentliga och privata intressenter och beslutsfattare, på det lokala, nationell och internationell nivå, att se till att utvecklingen och distributionen av AI är förenlig med skyddet och uppfyllandet av grundläggande mänskliga kapaciteter och mål.

"Université de Montréal har varit i centrum för många vetenskapliga genombrott inom artificiell intelligens, och jag är glad att ett stort nätverk av forskare och ledare från den vetenskapliga, Rättslig, ekonomiska och politiska sfärer har nu samlats kring de sociala och etiska utmaningarna relaterade till AI, "sade Université de Montréal -rektor Guy Breton." Jag uppmanar alla med intresse för ämnet att läsa texten i deklarationen och underteckna den, så att deras röst kan höras. "

Yoshua Bengio, en medlem av styrkommittén för Montréal Responsible AI Declaration, lade till:"Som vetenskapsman, Jag känner ett stort ansvar att se till att resultaten av min forskning och av utvecklingen över hela AI-spektrumet används till förmån för så många människor som möjligt. Genom att integrera principer för socialt ansvar i början av den tekniska utvecklingen i universitets- och industrilaboratorier, vi kan ha en verkligt positiv och konkret inverkan. Det är det som kännetecknar denna förklaring:den införlivar alla intressenter på området och samlar hela det civila samhället kring sunda principer."

Sade Remi Quirion, Quebecs chefsforskare:"Förutom att stödja utvecklingen av vetenskaplig expertis inom artificiell intelligens, det blev viktigt för Fonds de recherche du Québec att ta hänsyn till de etiska och samhälleliga aspekterna av framsteg inom detta forskningsområde. Med det i åtanke, Jag hälsar det arbete som ledde till lanseringen av Montrealdeklarationen för ansvarsfull utveckling av artificiell intelligens, utvecklats i samarbete med civilsamhället. Det nya internationella observatoriet om de samhälleliga effekterna av artificiell intelligens och digital teknik, meddelade igår, kommer säkert att grunda sig på principerna i deklarationen. "

10 principer

Ett centralt mål med deklarationen är att identifiera de etiska principer och värderingar som är tillämpliga på områdena digital teknik och AI som främjar människors och gruppers grundläggande intressen. Dessa principer är:

1. Välbefinnande:Utvecklingen och användningen av artificiell intelligenssystem (AIS) måste tillåta tillväxten av välbefinnandet för alla kännande varelser.
2. Respekt för autonomi:AIS måste utvecklas och användas med respekt för människors autonomi, och med målet att öka människors kontroll över sina liv och sin omgivning.
3. Skydd av integritet och intimitet:Integritet och intimitet måste skyddas från intrång från AIS och av datainsamlings- och arkiveringssystem.
4. Solidaritet:Utvecklingen av AIS måste vara förenlig med att upprätthålla solidaritetens band mellan människor och generationer.
5. Demokratiskt deltagande:AIS måste möta förståelsen, motiverings- och tillgänglighetskriterier, och måste underkastas demokratisk kontroll, debatt och kontroll.
6. Equity:Utvecklingen och användningen av AIS måste bidra till skapandet av ett rättvist och rättvist samhälle.
7. Mångfaldsinkludering:Utvecklingen och användningen av AIS måste vara förenlig med att upprätthålla social och kulturell mångfald, och får inte begränsa omfattningen av livsstilsval och personlig erfarenhet.
8. Försiktighet:Varje person som är involverad i AIS-utveckling måste vara försiktig genom att förutse, så långt som möjligt, de potentiella negativa konsekvenserna av AIS-användning, och genom att vidta lämpliga åtgärder för att undvika dem.
9. Ansvar:Utvecklingen och användningen av AIS får inte bidra till att minska människors ansvar när beslut ska fattas.
10. Hållbar utveckling:Utvecklingen och användningen av AIS måste utföras för att säkerställa en stark miljömässig hållbarhet på planeten.

8 rekommendationer

Baserat på dessa principer, rekommendationer har tagits fram i syfte att föreslå riktlinjer för att genomföra den digitala övergången inom deklarationens etiska ramar.

1. Organisation för oberoende medborgargranskning och samråd:En organisation som ägnar sig åt granskning av och forskning om användningar och sociala effekter av digital teknik och AI bör inrättas.
2. SIA revisions- och certifieringspolicy:En sammanhållen policy för granskning och certifiering av AIS som främjar ansvarsfull utbyggnad bör införas.
3. Empowerment och automation:Det bör finnas stöd för att stärka medborgarnas egenmakt inför digital teknik, i form av tillgång till utbildning som möjliggör förståelse, kritiskt tänkande, respekt, och ansvarighet, för att främja aktivt deltagande i ett hållbart digitalt samhälle.
4. Utbildning och etik:Utbildning av intressenter som berörs av designen, utveckling och användning av AIS bör tänkas om, med satsning på multidisciplinaritet och etik.
5. Inkluderande utveckling av AI:En sammanhängande strategi bör implementeras, utnyttja de olika befintliga institutionella resurserna, att främja inkluderande utveckling av AI och förhindra potentiella fördomar och diskriminering i samband med utveckling och distribution av AIS.
6. Skydd av demokratin:Att skydda demokratin mot manipulation av information för politiska ändamål, en inneslutningsstrategi krävs för att förhindra bedrägeri och politisk manipulation av medborgare via skadliga sociala plattformar och webbplatser, tillsammans med en strategi för att bekämpa politisk profilering, för att upprätthålla förutsättningarna för välfungerande demokratiska institutioner och informerade medborgare.
7. Internationell utveckling av AI:En icke-predatorisk modell för internationell utveckling bör antas som syftar till att inkludera de olika regionerna i världen utan att missbruka låg- och medelinkomstländer (LMIC).
8. Miljöavtryck:En offentlig/privat strategi bör genomföras för att säkerställa att utveckling och distribution av AIS och annan digital teknik är förenlig med robust miljömässig hållbarhet och främjar lösningar på miljökrisen.