Utvecklingen av ny teknik för artificiell intelligens (AI) är ofta föremål för partiskhet, och de resulterande systemen kan vara diskriminerande, vilket innebär att mer borde göras av beslutsfattare för att säkerställa att dess utveckling är demokratisk och socialt ansvarsfull.
Detta säger Dr Barbara Ribeiro från Manchester Institute of Innovation Research vid University of Manchester, i On AI and Robotics:Developing policy for the Fourth Industrial Revolution, en ny policyrapport om AI:s och robotiks roll i samhället, publiceras idag.
Dr. Ribeiro tillägger att investeringar i AI huvudsakligen kommer att betalas av skattebetalarna på lång sikt, Politiker måste se till att fördelarna med sådan teknik är rättvist fördelade över hela samhället.
Hon säger:"Att säkerställa social rättvisa i AI-utveckling är viktigt. AI-tekniker är beroende av big data och användningen av algoritmer, som påverkar beslutsfattande i det offentliga livet och i frågor som social välfärd, allmän säkerhet och stadsplanering."
"I dessa 'datadrivna' beslutsprocesser kan vissa sociala grupper vara uteslutna, antingen för att de saknar tillgång till enheter som är nödvändiga för att delta eller för att de valda datamängderna inte tar hänsyn till behoven, marginaliserade och missgynnade människors preferenser och intressen."
Om AI och robotik:Utveckling av policy för den fjärde industriella revolutionen är en omfattande rapport skriven, utvecklad och publicerad av Policy@Manchester med ledande experter och akademiker från hela universitetet.
Publikationen är utformad för att hjälpa arbetsgivare, regulatorer och beslutsfattare förstår de potentiella effekterna av AI inom områden som industri, sjukvård, forskning och internationell politik.
Dock, rapporten fokuserar inte bara på AI. Den tittar också på robotik, förklara skillnaderna och likheterna mellan de två separata områdena forskning och utveckling (FoU) och de utmaningar som beslutsfattare står inför med var och en.
Professor Anna Scaife, Meddirektör för universitetets Policy@Manchester-team, förklarar:"Även om utmaningarna som företag och beslutsfattare står inför med avseende på AI och robotsystem är lika på många sätt, detta är två helt separata teknologier – något som ofta missförstås, inte bara av allmänheten, men även politiker och arbetsgivare. Det här är något som måste åtgärdas."
Ett särskilt område som rapporten belyser där robotteknik kan ha en positiv inverkan är i världen av farliga arbetsmiljöer, en sådan kärnkraftsavveckling och sanering.
Professor Barry Lennox, Professor i tillämpad kontroll och chef för UOM Robotics Group, tillägger:"Överföringen av robotteknik till industrin, och i synnerhet kärnkraftsindustrin, kräver kulturella och samhälleliga förändringar samt tekniska framsteg.
"Det är verkligen viktigt att tillsynsmyndigheter är medvetna om vad robotteknik är och inte kan göra idag, samt att förstå vad tekniken kan göra under de kommande 5 åren."
Rapporten lyfter också fram vikten av big data och AI inom vården, till exempel i kampen mot antimikrobiell resistens (AMR).
Lord Jim O"Neill, Hedersprofessor i ekonomi vid University of Manchester och ordförande för Review on Antimicrobial Resistance förklarar:"Ett viktigt exempel på detta är den internationella ansträngningen att begränsa spridningen av antimikrobiell resistens (AMR). AMR Review gav 27 specifika rekommendationer som täcker 10 breda områden, som blev känt som de "10 budorden".
"Alla 10 är nödvändiga, och ingen är tillräcklig för sig själv, men om det finns någon som jag alltmer tror är en permanent spelförändrare, det är toppmodern diagnostik. Vi behöver ett "Google för läkare för att minska antalet överrecept."
Den mångsidiga karaktären hos AI och robotik får många experter att förutsäga att teknikerna kommer att ha en betydande inverkan på en mängd olika områden under de kommande åren. Policy@Manchester hoppas att rapporten On AI and Robotics kommer att bidra till att hjälpa beslutsfattare, Branschaktörer och tillsynsmyndigheter förstår bättre de olika problem som de kommer att möta när tekniken spelar en allt större roll i vår vardag.
