Forskare har föreslagit ett nytt internationellt ramverk för att hålla etik och mänskligt välbefinnande i framkant av vårt förhållande till teknik.

Från genterapi och AI-förutspådd sjukdom till självkörande bilar och 3-D-utskrift, tekniska framsteg kan förbättra hälsan, frigöra tid, och öka effektiviteten.

Men trots de bästa avsikterna från dess skapare, teknik kan leda till oavsiktliga konsekvenser för individuell integritet och autonomi.

Det finns för närvarande ingen internationellt överenskommen reglering om vem, till exempel, har tillgång till data som registrerats av svarta lådor i bilar, smarta TV-apparater och röstaktiverade personliga assistenter – och de senaste rönen har visat att teknik kan användas för att påverka röstningsbeteende.

Nu, Forskare från Imperial College London har föreslagit ett nytt regelverk med vilket regeringar kan minimera oavsiktliga konsekvenser av vårt förhållande till teknik. Kommentaren publiceras i Nature Machine Intelligence .

Gruppen forskare, ledd av Imperials professor Rafael Calvo, säga att deras förslag kan bidra till att säkerställa mänskliga intressen som etik, Integritet, och välbefinnande prioriteras i takt med att vårt förhållande till teknik växer.

De föreslår att man använder miljökonsekvensbedömningen, som utvärderar de troliga miljöeffekterna av ett föreslaget projekt eller utveckling, som en ritning. Bedömningen skulle ta hänsyn till de inbördes relaterade socioekonomiska, kulturella och mänskliga hälsoeffekter av en AI och teknik.

Det föreslagna ramverket, känd som Human Impact Assessment for Technology (HIAT), skulle utformas för att förutsäga och utvärdera den inverkan som ny digital teknik har på samhället och individens välbefinnande. Detta, de bråkar, bör fokusera på etiska överväganden som individuell integritet, välbefinnande och självständighet.

Bedömningen bör också beakta vilka parter som är ansvariga för att hantera data och upprätthålla etiska standarder, samt vem som är ansvarig när det går fel, säger forskarna.

Professor Calvo, från Imperials Dyson School of Design Engineering, sa:"Vi står inför en fjärde industriell revolution genom den snabba utvecklingen av AI och teknologi - men när vår relation med AI växer, så gör dess potential att störa våra liv. Ta, till exempel, bevis på att AI används av människor för att manipulera känslor, uppmärksamhet, och röstbeteende, såväl som juridiska, pedagogisk, och anställningsbeslut.

"Nu är det dags att sätta ihop ett ramverk för att säkerställa att vår relation med AI fortsätter att vara positiv."

Etiska gåtor

Ett HIAT-ramverk skulle hjälpa framväxande industrier att navigera i de etiska gåtor som går hand i hand med att använda AI och lagra stora mängder data.

Enligt kommentaren, frågor som internationellt överenskommen vägledning kan hjälpa till att besvara inkluderar:

• Vissa AI-assistenter kan ringa restauranger för en persons räkning och använda realistiskt mänskligt tal för att göra reservationer. I dessa fall, vilka skyldigheter ska det finnas för att göra människan som lyfter luren medveten om att den som ringer är en maskin snarare än en människa? Vilket samtycke måste erhållas för att spara data som samlats in från dessa konversationer?
• Vissa förare monterar svarta lådor på sina bilar som överför information till försäkringsbolagen om hur de kör. Denna information används för att beräkna försäkringspremier. I dessa fall, hur kan vi förhindra att de personuppgifter som samlas in och behandlas av AI (vart du går till och när) säljs till tredje part?
• Vissa polistjänster använder Body Worn Video (BWV) när de är i tjänst för att spela in video och ljud som senare kan användas under utredningar. Det har också gjorts nyligen försök med mjukvara för ansiktsigenkänning – men vem har tillgång till data som samlas in i dessa fall, och är regelverket tillräckligt robust för att skydda allmänhetens integritet?

Professor Calvo tillade:"Även om vi ofta drar nytta av tekniska framsteg, vi kan också lida etiskt, psykologiska och sociala kostnader.

"Konsekvensbedömningar är ett viktigt verktyg för att bädda in vissa värden och har framgångsrikt använts i många industrier inklusive gruvdrift, lantbruk, civilingenjör, och industriteknik.

"Också andra sektorer, såsom läkemedel, är vana vid att förnya sig inom starka regulatoriska miljöer, och det skulle vara lite förtroende för deras produkter utan detta ramverk.

"När AI mognar, vi behöver ramverk som HIAT för att ge medborgarna förtroende för att denna kraftfulla nya teknik kommer att vara till stor nytta för alla."