Frågan om tekniken är bra eller dålig beror på hur den utvecklas och används. Ingenstans är det mer aktuellt än i tekniker som använder artificiell intelligens.

När den utvecklas och används på rätt sätt, artificiell intelligens (AI) har potentialen att förändra vårt sätt att leva, arbete, kommunicera och resa.

Ny AI-aktiverad medicinsk teknik utvecklas för att förbättra patientvården. Det finns övertygande indikationer på att autonoma fordon kommer att förbättra säkerheten och minska vägtullarna. Maskininlärning och automatisering effektiviserar arbetsflöden och gör att vi kan arbeta smartare.

Runt världen, AI-aktiverad teknik anammas alltmer av individer, regeringar, organisationer och institutioner. Men tillsammans med den stora potentialen att förbättra vår livskvalitet, utgör en risk för våra grundläggande mänskliga rättigheter och friheter.

Lämplig tillsyn, vägledning och förståelse för hur AI används och utvecklas i Australien måste prioriteras.

AI gone wild kan frammana bilder av The Terminator och Ex Machina-filmerna, men det är mycket enklare, grundläggande frågor som måste behandlas för närvarande, Till exempel:

• hur data används för att utveckla AI
• huruvida ett AI-system används rättvist
• i vilka situationer ska vi fortsätta att förlita oss på mänskligt beslutsfattande?

Vi har en AI-etisk plan

Det är därför, i samarbete med myndigheter och industri, vi har utvecklat ett etiskt ramverk för AI i Australien. Syftet är att katalysera diskussionen kring hur AI ska användas och utvecklas i Australien.

Det etiska ramverket tittar på olika fallstudier från hela världen för att diskutera hur AI har använts tidigare och vilka effekter det har haft. Fallstudierna hjälper oss att förstå var saker gick fel och hur vi undviker att upprepa tidigare misstag.

Vi tittade också på vad som gjordes runt om i världen för att ta itu med etiska problem kring AI-utveckling och användning.

Baserat på kärnfrågorna och effekterna av AI, åtta principer identifierades för att stödja den etiska användningen och utvecklingen av AI i Australien.

1. Genererar nettofördelar: AI-systemet måste generera fördelar för människor som är större än kostnaderna.
2. Gör ingen skada: Civila AI-system får inte utformas för att skada eller lura människor och bör implementeras på ett sätt som minimerar eventuella negativa resultat.
3. Regulativ och laglig efterlevnad: AI-systemet måste överensstämma med alla relevanta internationella, australisk lokal, statliga/territorium och federala myndigheters skyldigheter, förordningar och lagar.
4. Privat skydd: vilket system som helst, inklusive AI-system, måste se till att människors privata data skyddas och hålls konfidentiella och förhindra dataintrång som kan orsaka rykte, psykologisk, finansiell, yrkesskada eller annan skada.
5. Rättvisa: Utvecklingen eller användningen av AI-systemet får inte leda till orättvis diskriminering av individer, gemenskaper eller grupper. Detta kräver särskild uppmärksamhet för att säkerställa att "träningsdata" är fri från fördomar eller egenskaper som kan få algoritmen att uppträda orättvist.
6. Transparens och förklaring: Människor måste informeras när en algoritm används som påverkar dem och de ska få information om vilken information algoritmen använder för att fatta beslut.
7. Konkurrensbarhet: När en algoritm påverkar en person måste det finnas en effektiv process för att tillåta den personen att utmana användningen eller produktionen av algoritmen.
8. Ansvarighet: Människor och organisationer som ansvarar för att skapa och implementera AI-algoritmer bör vara identifierbara och ansvariga för effekterna av den algoritmen, även om effekterna är oavsiktliga.

Utöver kärnprinciperna identifieras olika verktygssatser i ramverket som skulle kunna användas för att stödja dessa principer. Dessa inkluderar konsekvensanalyser, löpande övervakning och offentligt samråd.

En plan, hur är det med handling?

Men principer och etiska mål kan bara gå så långt. Någon gång måste vi börja arbeta med att bestämma hur vi ska implementera och uppnå dem.

Det finns olika komplexiteter att tänka på när man diskuterar den etiska användningen och utvecklingen av AI. Teknikens stora räckvidd har potential att påverka alla aspekter av våra liv.

AI-applikationer används redan i alla hushåll, företag och regeringar, de flesta australiensare påverkas redan av dem.

Det finns ett akut behov av att undersöka effekterna som AI har på utsatta och på minoritetsgrupper, se till att vi skyddar dessa individer och samhällen från partiskhet, diskriminering och utnyttjande. (Kom ihåg Tay, den rasistiska chatboten?)

Det finns också det faktum att AI som används i Australien ofta kommer att utvecklas i andra länder, så hur säkerställer vi att den följer australiensiska standarder och förväntningar?

Du säger

Ramverket utforskar dessa frågor och utgör några av Australiens första steg på resan mot en positiv utveckling och användning av AI. Men verkliga framsteg kräver input från intressenter i hela regeringen, företag, akademin och samhället i stort.

Läs mer:Var försiktig med hur du behandlar dagens AI:det kan hämnas i framtiden

Det är därför diskussionsunderlaget om etiskt ramverk nu är öppet för allmänheten. Du har fram till 31 maj, 2019, att säga vad du tycker om Australiens digitala framtid.

Med ett proaktivt förhållningssätt till den etiska utvecklingen av AI, Australien kan göra mer än att bara mildra alla risker. Om vi ​​kan bygga AI för ett mer rättvist sätt, vi kan säkra en konkurrensfördel samt skydda australiensarnas rättigheter.

Emma Schleiger, Forskare, CSIRO och Stefan Hajkowicz, Senior rektor, Strategi och framsyn, Data61

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.

Den här artikeln är återpublicerad från The Conversation under en Creative Commons-licens. Läs originalartikeln.