Google meddelade torsdag att det inte kommer att använda artificiell intelligens för vapen eller för att "orsaka eller direkt underlätta skada på människor, "som det presenterade en uppsättning principer för teknikerna.

VD Sundar Pichai, i ett blogginlägg som beskriver företagets policyer för artificiell intelligens, noterade att även om Google inte kommer att använda AI för vapen, "vi kommer att fortsätta vårt arbete med regeringar och militären på många andra områden" såsom cybersäkerhet, Träning, eller sök och räddning.

Nyheten kommer med att Google står inför ett uppståndelse från anställda och andra över ett kontrakt med den amerikanska militären, som den tekniska jätten i Kalifornien sa förra veckan inte skulle förnyas.

Pichai fastställde sju principer för Googles tillämpning av artificiell intelligens, eller avancerad dator som kan simulera intelligent mänskligt beteende.

Han sa att Google använder AI "för att hjälpa människor att ta itu med brådskande problem" såsom förutsägelse av skogsbränder, att hjälpa bönder, diagnostisera sjukdom eller förhindra blindhet.

"Vi inser att sådan kraftfull teknik väcker lika kraftfulla frågor om dess användning, "Sa Pichai i bloggen.

"Hur AI utvecklas och används kommer att ha en betydande inverkan på samhället under många år framöver. Som ledare inom AI, vi känner ett stort ansvar för att få det här rätt. "

Verkställande direktören sa att Googles AI -program skulle vara utformade för applikationer som är "socialt fördelaktiga" och "undviker att skapa eller förstärka orättvisa snedvridningar".

Han sade att principerna också krävde att AI -applikationer "byggdes och testades för säkerhet, "att vara" ansvarig för människor "och att" införliva principer för integritetsdesign. "

Google kommer att undvika att använda någon teknik "som orsakar eller sannolikt kommer att orsaka övergripande skada, "Skrev Pichai.

Det innebär att man undviker "vapen eller annan teknik vars huvudsakliga syfte eller genomförande är att orsaka eller direkt underlätta skada på människor" och system "som samlar in eller använder information för övervakning som bryter mot internationellt accepterade normer."

Google kommer också att förbjuda användning av all teknik "vars syfte strider mot allmänt accepterade principer för internationell rätt och mänskliga rättigheter, "Sa Pichai.

'En bra start'

Några inledande reaktioner på tillkännagivandet var positiva.

Electronic Frontier Foundation, vilket hade lett motstånd mot Googles Project Maven -kontrakt med Pentagon, kallade nyheten "en stor vinst för etiska AI -principer."

"Grattis till Googlarna och andra som har arbetat hårt för att övertala företaget att avbryta sitt arbete med Project Maven, "Sa EFF på Twitter.

Ryan Calo, juridikprofessor vid University of Washington och stipendiat vid Stanford Center for Internet &Society, twittrade, "Googles AI -etiska principer är mer skyldiga för (engelska filosofen Jeremy) Bentham och positivisterna än (tyska filosofen) Kant. Ändå, en bra start."

Calo tillade, "Det tydliga uttalandet att de inte kommer att underlätta våld eller totalitär övervakning är meningsfullt."

Flytten kommer bland växande oro för att automatiska eller robotiska system kan missbrukas och snurra ur kontroll, leder till kaos. På samma gång, Google har mött kritik om att det har försvunnit från de ursprungliga grundarnas motto om "var inte ond".

Flera teknikföretag har redan gått med på de allmänna principerna för att använda artificiell intelligens för gott, men Google verkade erbjuda en mer exakt uppsättning standarder.

Företaget, som redan är medlem i partnerskapet om artificiell intelligens inklusive dussintals teknikföretag som är engagerade i AI -principer, hade mött kritik för kontraktet med Pentagon på Project Maven, som använder maskininlärning och teknisk talang för att skilja människor och föremål i drönare.

Ställd inför en framställning undertecknad av tusentals anställda och kritik utanför företaget, Google indikerade att kontraktet på 10 miljoner dollar inte skulle förnyas, enligt medierapporter.

Men Google tros konkurrera mot andra teknikjättar som Amazon och Microsoft om lukrativa "cloud computing" -avtal med den amerikanska regeringen, inklusive för militära och underrättelsetjänster.

© 2018 AFP